AI 칩은 초저전력 장치에서 추론을 지원합니다.

런던 – GreenWaves의 차세대 초저전력 AI 가속기인 GAP9는 이전 제품인 GAP8보다 5배 적은 전력을 사용하면서 10배 더 큰 알고리즘을 처리합니다. 새로운 장치는 50mW의 전체 전력 소비에서 최대 50GOPS를 제공합니다. 이는 아키텍처 개선과 새로운 최첨단 FD-SOI(완전 공핍 실리콘 온 인슐레이터) 공정 기술의 조합 덕분입니다.

이전 세대 장치와 마찬가지로 GAP9은 배터리로 구동되는 소형 IoT 센서 노드와 같이 네트워크 맨 끝에 있는 시스템에서 AI 추론을 목표로 합니다. 예를 들어 GreenWaves의 수치에는 806μW/프레임/초의 전력 소비와 12ms 만에 0.25의 채널 스케일링으로 160 x 160 이미지에서 MobileNet V1을 실행하는 GAP9가 있습니다.

프랑스 그르노블에 기반을 둔 GreenWaves는 이미 초저전력 아키텍처였던 것의 전력 소비를 최소화하기 위해 GlobalFoundries의 22nm FDX FD-SOI 공정을 선택했습니다.

GreenWaves의 마케팅 부사장인 Martin Croome은 “GAP9의 경우 GAP8에 대한 고객 피드백을 사용하여 GAP8 아키텍처를 조정했지만 동시에 시장을 선도하는 반도체 공정으로 전환했습니다. "우리는 FD-SOI에서 바디 바이어싱 기능을 사용하여 더 낮은 전력 소비를 달성할 수 있습니다."

아키텍처 개선

GreenWaves는 GAP9에 대해 몇 가지 아키텍처 발전을 이루었습니다.

RISC-V 코어가 하나 더 추가되어 총 10개가 되었습니다. 하나의 코어는 패브릭 컨트롤러로 사용되며 특정 모드에서 저강도 컴퓨팅에도 사용됩니다. 나머지 9개는 공유 L1 데이터 영역이 있는 계산 클러스터를 구성합니다. 이 클러스터의 한 코어(새 코어)는 작업 그룹 마스터로 사용되어 메모리 이동을 계산하고 다른 8개 코어의 작업을 관리합니다.

내부 RAM은 1.6MB로 3배, 메모리 대역폭은 L1의 경우 41.6GB/초, L2의 경우 7.2GB/초로 증가했습니다.

"이 [메모리 대역폭]은 이제 MCU급 장치에 매우 중요합니다."라고 Croome은 말했습니다.

GreenWaves의 GAP9 초저전력 AI 칩 아키텍처는 이제 10개의 RISC-V 코어를 사용합니다(이미지:GreenWaves)

GAP9 아키텍처의 변경 사항에는 훨씬 더 높은 상위 주파수도 포함됩니다. 175MHz에서 클럭된 GAP8, GAP9는 400MHz 또는 그 근처에서 실행됩니다. 데이터를 수집할 수 있지만 전력 소비가 여전히 1mW 미만인 "도지" 상태를 포함하여 새로운 전력 상태도 추가되었습니다. 이 상태에서 프로세서는 빠르게 시작할 수 있는 LDO(낮은 드롭아웃 조정기)에서 실행할 수 있습니다. 이로 인해 GAP9의 첫 번째 명령 시간이 몇 마이크로초로 단축되었습니다(GAP8은 DC-DC 컨버터가 안정화되기를 기다리는 동안 약 700µs가 소요됨). 이 빠른 시작 기능은 음성과 같은 시간 기반 신호를 캡처할 때 유용합니다.

이제 10개의 코어 모두 '초정밀' 부동 소수점 숫자를 처리할 수 있습니다. IEEE 형식 16 및 32비트 부동 소수점과 벡터화를 지원하는 추가 8 및 16비트 형식. 이 기능은 부동 소수점이 필요한 알고리즘에 대한 에너지 요구 사항을 낮추는 데 사용할 수 있습니다. GAP9는 또한 깊은 수준의 양자화를 활용하는 응용 프로그램을 위해 벡터화된 4비트 및 2비트 연산을 지원합니다.

기타 새로운 기능으로는 양방향 다중 채널 오디오 인터페이스가 있습니다.

GAP9는 2021년에 대량 생산에 도달할 것으로 예상되며 2020년 상반기에 샘플이 제공될 예정입니다. Croome은 가격이 GAP8에 비해 50% 프리미엄이 될 것으로 예상한다고 말했습니다. 다른 시기, 전력 수치 및 가격대를 감안할 때 회사는 두 제품 모두 앞으로 시장을 찾을 것으로 예상합니다.