Imec과 GlobalFoundries, 2900 TOPS/W 초고효율 프로세서-인-메모리 칩 공개

혁신적인 아날로그 컴퓨팅

Imec과 GlobalFoundries가 현재 상용 솔루션보다 약 2배 높은 2900 TOPS/W의 에너지 효율을 달성하는 프로세서-인-메모리 칩을 시연했다. 이 설계는 GlobalFoundries의 22nm 완전 고갈형 실리콘-온-인슐레이터(FD-SOI) 공정으로 제작된 SRAM 내부에서 아날로그 컴퓨팅을 활용한다.

Imec의 아날로그 인-메모리 컴퓨팅(AiMC)은 GlobalFoundries 고객에게 22FDX 플랫폼의 기능으로 제공될 예정이다.

측정용 PCB에 장착된 Imec의 AnIA 테스트 칩, 2900 TOPS/W 달성 (이미지: Imec)

아날로그 컴퓨팅 원리

아날로그 컴퓨팅, 즉 프로세서-인-메모리는 Mythic, Syntiant, Gyrfalcon 등의 상용 AI 가속기에서 이미 채택된 검증된 기술이다. 메모리와 프로세서 간 비용이 큰 데이터 이동을 없애기 위해 메모리 어레이 내부에서 직접 곱셈-누산 연산을 수행한다.

각 멤리스터 셀은 신경망 가중치에 비례하는 아날로그 전도도로 프로그래밍된다. 입력 활성화에 비례하는 전압이 셀을 구동하고, 결과 전류는 활성화와 가중치의 곱을 나타낸다. 각 비트라인의 전류 합은 신경망에 필요한 행렬-벡터 곱셈을 산출하며, 이는 아날로그-디지털 컨버터를 통해 읽어낼 수 있다.

"실제로는 ReRAM, MRAM, Flash, DRAM을 사용할 수 있으며, 우리의 목표는 각 애플리케이션에 최적의 옵션을 식별하고 기술을 미세 조정하는 것"이라고 Imec의 머신러닝 프로그램 디렉터 Diederik Verkest는 설명했다.

Imec의 AnIA 테스트 칩

GlobalFoundries의 22nm FD-SOI 기반으로 제작된 AnIA는 512k 셀 SRAM 어레이, 1024개의 DAC, 512개의 ADC를 4mm² 면적에 집적했다. 6비트 활성화(부호 비트 포함), 3진법 가중치, 6비트 출력으로 사이클당 약 50만 연산을 수행한다.

"0.8V와 0.6V의 다양한 공급 전압에서 정확도 저하 없이 행렬-벡터 곱셈 결과를 제공할 수 있다. 낮은 전압은 전력 소비를 극적으로 줄이는데, 이는 에너지 제약이 있는 엣지 추론에 필수적"이라고 Imec 머신러닝 그룹의 Ioannis Papistas는 말했다.

CIFAR-10 객체 인식 작업에서 AnIA의 정확도는 유사하게 양자화된 베이스라인 대비 1%포인트만 하락했다. 0.8V에서 23.5 TOPS로 1,050~1,500 TOPS/W, 0.6V에서 5.8 TOPS로 1,800~2,900 TOPS/W를 달성했다.

에너지 효율 비교: Imec AnIA vs 기타 AI 가속기 (클릭하여 확대) (이미지: Imec)

실험실에서 양산으로

"이 혁신은 주류 채택을 목표로 한다"고 GlobalFoundries 컴퓨팅 사업부 VP 겸 GM인 Hiren Majmudar는 말했다. "이미 검증된 실리콘으로 포스트-프로덕션 단계에 있는 파트너들이 있다. 아날로그 컴퓨팅 실리콘이 올해 말이나 내년 초 양산에 도달하고, 2022년 이전에는 대중 시장에 등장할 것으로 예상한다—잠재적으로는 더 빠를 수도 있다."

GlobalFoundries는 Imec의 AiMC 기술을 22FDX 플랫폼에 통합해 초저전력 AI 가속기를 구현한다. FD-SOI 공정은 0.5V까지 동작하며 1pA/µm의 대기 누설 전류를 지원한다. 22FDX+AiMC 기능은 현재 독일 드레스덴 Fab 1의 300mm 라인에서 개발 중이다.

Imec의 머신러닝 프로그램은 상시 작동 스마트 센서와 웨어러블을 위해 10,000 TOPS/W(100mW 미만에서 10 TOPS)를 목표로 한다. 향후 작업은 컴퓨팅 셀 축소와 차세대 플랫폼으로서 신흥 메모리 디바이스 탐구에 집중될 예정이다.