그린웨이브스(GreenWaves), 50mW 전력으로 50 GOPS 달성하는 초저전력 AI 가속기 GAP9 공개
런던 — 그린웨이브스(GreenWaves)가 이전 세대 GAP8 대비 전력 소비를 5분의 1로 줄이면서 신경망 워크로드를 10배 더 크게 처리하는 차세대 초저전력 AI 가속기 GAP9를 발표했다. 이 칩은 아키텍처 개선과 글로벌파운드리(GlobalFoundries)의 첨단 22nm FD-SOI 공정 덕분에 총 전력 소모 50mW로 최대 50 GOPS를 제공한다.
에지 AI 추론을 겨냥한 GAP9는 배터리 구동 IoT 센서 노드에서 탁월하다. 그린웨이브스는 채널 스케일링 팩터 0.25로 160×160픽셀 이미지에서 MobileNet V1을 단 12ms 만에 실행하며 프레임당 초당 806µW를 소비한다고 보고한다.
프랑스 그르노블에 본사를 둔 그린웨이브스는 이미 효율적인 아키텍처에서 전력 사용을 더욱 억제하기 위해 글로벌파운드리의 22nm FDX FD-SOI 공정을 선택했다.
"GAP9를 위해 고객 피드백을 활용해 GAP8 아키텍처를 개선하면서 시장 선도 반도체 공정으로 이동했습니다."라고 그린웨이브스의 마케팅 부사장 마틴 크룸(Martin Croome)은 말했다. "FD-SOI의 바디 바이어싱 기능을 활용해 더 낮은 전력 소비를 달성했습니다."
아키텍처 개선사항
GAP9는 몇 가지 주요 개선을 통합한다:
코어 수 및 분포: 10개의 RISC-V 코어가 칩을 구동한다. 한 코어는 패브릭 컨트롤러 및 저강도 연산 엔진으로 기능하고, 나머지 9개는 공유 L1 데이터 영역을 가진 연산 클러스터를 형성한다. 최신 코어는 태스크 그룹 마스터 역할을 하며 메모리 이동을 오케스트레이션하고 다른 8개 코어를 조정한다.
메모리 확장: 내부 RAM이 1.6MB로 3배 증가했고, 메모리 대역폭은 L1 41.6GB/s, L2 7.2GB/s로 향상되었다.
클록 속도: GAP8이 175MHz에서 동작한 반면 GAP9는 400MHz 근처에서 실행되어 상당한 성능 향상을 제공한다.
전력 상태 혁신: 데이터 획득 중 1mW 미만으로 소비를 유지하는 "도지(dozy)" 모드 등 새로운 상태로, 저강하 레귤레이터를 통한 빠른 웨이크업이 가능. 이는 GAP8의 DC-DC 컨버터 안정화로 인한 ~700µs 지연 대비 단 몇 마이크로초로 최초 명령어까지의 시간을 획기적으로 개선한다.
트랜스프레시전 부동소수점: 모든 10개 코어가 IEEE 16비트 및 32비트 부동소수점과 벡터화를 위한 추가 8비트 및 16비트 형식을 지원. 부동소수점 연산이 필요한 알고리즘의 에너지 요구를 줄이는 유연성 제공.
양자화 벡터화: 깊은 양자화를 활용하는 애플리케이션을 위한 벡터화된 4비트 및 2비트 연산 도입.
오디오 인터페이스: 양방향 멀티채널 오디오 인터페이스 포함으로 오디오 중심 IoT 배포에서의 유용성 확장.
그린웨이브스 GAP9 초저전력 AI 칩 아키텍처, 이제 10개 RISC-V 코어 사용 (이미지: 그린웨이브스)
GAP9는 2021년 양산 예정이며, 초기 샘플은 2020년 상반기에 예상된다. 크룸은 칩이 GAP8 대비 약 50% 가격 프리미엄을 가질 것이라고 언급했다. 높은 비용에도 불구하고 회사는 두 제품이 앞으로 별개의 시장 부문에 서비스할 것으로 예상한다.