AI 칩이 이미지 인식을 가속화합니다

VLSI 심포지엄 2020에서 발표된 프랑스 연구 기관 CEA-Leti 및 LIST의 개념 증명 칩은 저전력 IoT 노드와 AI 가속기를 통합하고 최대 15,000X 피크 투 유휴 전력 소비 감소. 노드는 와트당 초당 최대 1.3테라 작업(TOPS/W) 또는 기계 학습 작업의 경우 36GOPS를 제공합니다.

SamurAI라는 칩은 PIR 센서, 224×224 픽셀 흑백 카메라, FeRAM 및 저전력 라디오를 포함하는 기성 부품으로 점유 감지 시스템에서 테스트되었습니다. 일일 평균 시스템 전력 소비는 105µW였으며 SamurAI는 해당 예산의 26%를 소비했습니다. 시스템은 5초 간격으로 방을 점유하는 동안 하루에 8시간, 카메라는 초당 1프레임, 라디오는 하루에 10x를 사용했습니다.

사무AI 시스템

SamurAI는 2개의 온칩 서브시스템을 사용합니다. 하나는 207ns에서 시작할 수 있는 저전력 클록 없는 이벤트 구동 웨이크업 컨트롤러이고, 다른 하나는 딥 슬립 모드와 PNeuro AI 가속기를 갖춘 RISC-V CPU로 구성된 주문형 서브시스템입니다. 및 암호화 가속기.

이 이중 하위 시스템 체계는 15,000X 피크 대 유휴 전력 비율을 가능하게 합니다. 아래 그림은 다른 모드에서의 전력 소비를 보여줍니다. 유휴 모드는 6.4μW만 소비합니다. CPU와 AI 액셀러레이터 실행 시 소비 전력은 96mW입니다.

이 칩은 STMicro의 28nm FD-SOI(완전 공핍 실리콘 온 인슐레이터) 프로세스를 기반으로 하며 전력 수치는 바디 바이어싱 없이 제공됩니다. 실리콘은 4.5mm ² 입니다. 6개의 전환 가능한 전원 도메인이 있습니다.

전력 모드별 SamurAI 전력 소비 측정(모드는 LR:유휴, 웨이크업 컨트롤러(WuC) 전용, 웨이크업 컨트롤러 및 웨이크업 라디오(WuR), 웨이크업 컨트롤러 및 주변기기, CPU 실행(이미지:CEA-Leti)

AI 가속기

팀이 PNeuro라고 부르는 이 칩의 AI 가속기는 SIMD(Single Instruction, Multiple Data) 프로그래밍 가능 가속기입니다. 264kB 다중 뱅크 SRAM이 있는 32x 8비트 처리 요소의 2개 클러스터로 구성됩니다. 사이클당 최대 64개의 MAC(multiply-accumulate)를 수행할 수 있습니다. PNeuro 블록은 2.8GOPS/0.48V에서 1.3TOPS/W를 달성할 수 있습니다. 8비트 완전 연결 신경망 레이어의 경우 0.9V에서 최대 36 GOPS를 수행할 수 있습니다.

PNeuro 가속기를 사용하면 ML 계산에 컨트롤러 RISC-V 코어를 사용하는 것과 비교하여 시스템의 총 전력 소비가 2.3배 감소했습니다.

총 64개의 처리 요소가 있는 SamurAI의 2-클러스터 PNeuro 가속기(이미지:CEA-Leti)

PNeuro의 에너지 효율은 최대 1.3 TOPS/W이고 성능은 최대 36 GOPS입니다(이미지:CEA-Leti)

이 설계는 긴 "수면" 기간 사이에 산발적인 컴퓨팅 성능이 필요한 IoT 애플리케이션을 위한 것입니다. 클라우드에 연결하는 대신 노드가 AI 워크로드 자체를 처리할 수 있다면 더 빨리 완료할 수 있고 데이터가 시스템 외부에서 공유되지 않기 때문에 개인 정보 보호 문제가 없습니다. 여기에는 카메라 또는 기타 센서를 사용한 사람 감지 또는 장면 식별과 같은 애플리케이션이 포함될 수 있습니다.

>> 이 기사는 원래 다음 날짜에 게시되었습니다. 자매 사이트인 EE Times Europe.