Innatera, 초저전력 에지 애플리케이션용 첫 뉴로모픽 AI 칩 공개

스파이킹 신경망(SNN)용 뉴로모픽 AI 가속기를 전문으로 하는 네덜란드 스타트업 Innatera가 첫 칩을 생산하고 성능을 벤치마킹했으며, 주요 아키텍처 세부사항을 공개했습니다.

또한 Cadence와 Synopsys의 공동 설립자인 Alberto Sangiovanni-Vincentelli가 이사회 의장으로 합류했다고 발표했습니다. 그는 현재 UC 버클리 교수로 수십 년의 업계 경험을 보유하고 있습니다.

Innatera의 칩은 오디오, 헬스, 레이더 애플리케이션을 위한 다양한 SNN을 가속화하도록 설계됨 (이미지: Innatera)

SNN의 독특한 연산 패러다임

기존 AI 모델과 달리 SNN은 뇌의 스파이킹 활동을 모방하여 전기 펄스의 정확한 타이밍을 이용해 패턴 인식을 수행합니다. 이 독특한 연산 패러다임 덕분에 SNN은 시계열 데이터를 효율적으로 처리하면서 최소한의 전력을 소모하는 전용 하드웨어를 필요로 합니다.

Prophesee 같은 많은 경쟁사가 이미지 및 비디오 스트림을 타겟으로 하는 반면, Innatera는 오디오(음성 인식), 헬스(바이탈 사인 모니터링), 레이더(노인 낙상 감지용 프라이버시 보존)에 집중합니다. 이들 영역은 연속적인 시계열 데이터에 의존하며 센서 노드에서 타이트한 전력 엔벨로프를 요구합니다.

Marco Jacobs (이미지: Innatera)

"우리 어레이는 시계열 데이터 처리에 탁월하며, 이는 오디오, 헬스, 레이더 애플리케이션의 핵심입니다."라고 마케팅 및 비즈니스 개발 VP인 Marco Jacobs는 말했습니다. "이러한 니즈를 효과적으로 해결하는 솔루션은 거의 없습니다."

압도적인 에너지 효율성

Innatera의 테스트에 따르면 각 스파이크 이벤트는 피코줄 미만(TSMC 28nm 공정에서 200fJ 미만)을 소비하여 생물학적 뉴런의 에너지 사용량에 근접합니다. CEO Sumeet Kumar에 따르면 일반적인 키워드 스포팅 작업은 추론당 500개 미만의 스파이크를 필요로 하여 서브 밀리와트 전력 소모를 달성합니다.

뉴런 발화 클러스터(점 그룹)가 음성에서 음소 감지를 나타냄. 입력 데이터에 노이즈가 더해져도 같은 클러스터가 대부분 유지되지만 식별이 더 어려워짐 (이미지: Innatera)

처리 아키텍처

Innatera의 프로세서는 스파이크 인코더와 디코더를 갖춘 대규모 병렬 뉴로-시냅틱 어레이를 사용하며, 연속 시간 다이내믹스를 보존하기 위해 아날로그/혼성 신호 도메인에서 동작합니다.

Innatera의 스파이킹 뉴럴 프로세서는 대규모 병렬 뉴로-시냅틱 어레이와 스파이크 인코더/디코더를 포함 (이미지: Innatera)

아키텍처는 프로그래머빌리티를 강조하여 유연한 뉴런 연결과 SDK를 통한 세밀한 스파이크 타이밍 조정을 가능하게 합니다. 이 유연성은 뇌의 복잡한 네트워크 토폴로지를 실리콘에서 재현하고 다양한 SNN 워크로드에 대한 성능을 최적화하는 데 필수적입니다.

뉴런과 시냅스는 초저전력 유지를 위해 아날로그 실리콘에 구현되며, 순수 디지털 회로에서 이산화하기 비용이 많이 드는 연속 시간 상태 유지를 가능하게 합니다. "아날로그 도메인은 자연스럽게 상태 정보를 보존하여 네트워크 토폴로지에 인코딩할 필요를 없애줍니다."라고 Kumar는 말했습니다.

Innatera 어레이의 컴퓨트 세그먼트. 뉴런들은 신중하게 매칭되도록 설계됨. 프로그래머블 시냅스는 다중 레벨 크로스바 구조로 배열됨. (검은 선/대시는 입력 및 출력 스파이크를 나타냄) (이미지: Innatera)

제작 변동성을 완화하기 위해 Innatera는 뉴런을 타이트하게 매칭된 세그먼트로 그룹화하여 어레이 전반에 걸친 결정론적 동작을 보장합니다. SDK의 소프트웨어가 잔여 미스매치를 보상하여 개발자가 저수준 캘리브레이션이 아닌 애플리케이션 로직에 집중할 수 있게 합니다.

애플리케이션 특화 포커스

델프트 공과대학에서 스핀아웃한 Innatera는 2020년 말까지 500만 유로(약 600만 달러)의 시드 펀딩을 확보했습니다. 이 회사는 이미 매출 고객과 협력하여 하드웨어로 전환하기 전에 성숙한 SNN 알고리즘을 제공해왔습니다.

"우리는 컴퓨팅 솔루션 회사입니다."라고 Kumar는 말했습니다. "하드웨어와 애플리케이션 특화 SNN 알고리즘을 결합한 턴키 솔루션을 제공합니다."

첫 번째 칩은 오디오, 헬스, 레이더 유스케이스에 대해 검증되었으며, 각 도메인에 맞춘 추가 최적화를 도입할 로드맵을 가지고 있습니다. "우리 아키텍처는 애플리케이션 전반에 걸쳐 광범위한 SNN을 지원하지만, 더 깊은 도메인 통합을 위해 하드웨어를 지속적으로 개선할 것입니다."라고 Kumar는 덧붙였습니다.

초기 칩 샘플은 2021년 말 전에 출하될 것으로 예상됩니다.

> 이 기사는 자매 사이트인 EE Times에 원래 게재되었습니다.

관련 콘텐츠:

• 저전력 에지 디바이스 타겟 AI 칩
• 도구 체인, 센서 보드로 AI 칩 생태계 강화
• 새로운 AI 가속 모듈로 에지 성능 향상
• 에지의 AI: 2021년 주목할 점
• MCU에서 AIoT 구현 방법

더 많은 Embedded 콘텐츠를 위해 Embedded 주간 이메일 뉴스레터를 구독하세요.