에이모티브(AImotive), 고성능 자동차 비전용 aiWare3P 신경망 가속기 IP 출시

헝가리 기반의 자동차 AI 솔루션 선도 기업 에이모티브(AImotive)가 aiWare3P 신경망(NN) 추론 엔진 지적 재산권(IP)을 주요 고객들에게 출하하기 시작했다. 작년 발표된 aiWare3P 코어는 고해상도 자동차 비전을 위한 목적 구축 가속기를 제공하며 ISO26262 ASIL A, B 이상 인증 요건을 완전히 준수한다.

이 IP는 시스템 온 칩(SoC)에 통합하거나 독립형 가속기로 배포할 수 있는 완전 합성 가능한 RTL 블록으로 제공된다. 저수준 마이크로아키텍처는 경쟁 GPU 기반 또는 SoC 솔루션보다 훨씬 적은 호스트 CPU 및 공유 메모리 리소스를 소비하여 실제 자동차 워크로드에 대해 더 낮은 레이턴시와 더 높은 결정론을 가능하게 한다.

차량 전자 플랫폼의 다양한 부분에서 사용되는 aiWare3P IP 같은 전용 NN 가속기 (출처: 에이모티브)

"대부분의 칩 벤더들은 생산으로 이어지지 않는 학술적 용어로 가속기를 논의합니다."라고 에이모티브의 수석 고문 토니-킹 스미스(Tony-King Smith)는 설명한다. "우리의 설계는 DSP와 네트워크-온-칩(NoC) 복잡성을 제거하고 오직 자동차 추론에만 집중합니다. 이는 입력에서 출력까지 초저 레이턴시를 제공하고 호스트 CPU를 다른 작업을 위해 자유롭게 합니다."

aiWare3P 코어는 2GHz에서 코어당 최대 16 TMAC/s(>32 TOPS)를 제공하며, 멀티코어 및 멀티칩 구성으로 50+ TMAC/s(>100 INT8 TOPS)에 도달한다. 이 수치는 L2, L2+, L3 자율주행에서 흔한 멀티 카메라 및 이종 센서 플랫폼을 지원한다.

AEC-Q100 확장 온도 사양으로 구축된 코어는 ASIL-B 이상 인증을 용이하게 하는 기능을 포함한다. 특허받은 그라운드업 설계는 높은 결정론적 데이터플로 관리와 다른 가속기보다 최대 100배 더 많은 온칩 메모리 대역폭을 제공하여 큰 HD 입력을 가진 복잡한 심층 신경망(DNN)에서 95% 지속 효율을 달성한다.

aiWare SDK는 크로노스 NNEF와 ONNX 형식을 지원하며, 저수준 DSP 또는 MCU 프로그래밍 없이 바이너리를 직접 컴파일한다. 최소 정확도 손실로 자동 FP32-to-INT8 양자화를 제공하고 DNN 성능 분석 도구 모음을 제공하여 엔지니어가 실험실 훈련 모델을 생산용 자동차 하드웨어로 원활하게 전환할 수 있게 한다.

aiWare 하드웨어 IP를 포함한 자동차 AI 가속기의 구성 요소 (출처: 에이모티브)

하드웨어 엔지니어링 수석 부사장 마르톤 페헤르(Marton Feher)는 "aiWare3P는 비전 기반 자동차 AI를 위한 신경망 가속에 대해 우리가 배운 모든 것을 통합합니다. 이제 L2/L2+/L3 AI의 대량 생산을 위한 업계에서 가장 효율적인 솔루션 중 하나입니다."라고 말했다.

고객들은 이미 aiWare3P를 생산 L2/L2+ 플랫폼에 배포하고 고급 이종 센서 융합을 탐색 중이다. 주목할 만한 파트너로는 아파치5 이미징 에지 프로세서에 코어를 통합하는 넥스트칩(Nextchip)과 센서 융합 기능을 공동 시연하는 온세미컨덕터(ON Semiconductor)가 있다.

에이모티브는 2020년 1분기에 업데이트된 벤치마크 결과를 발표할 예정이며, 합성 224×224 테스트가 아닌 현실적인 고해상도 카메라 입력을 강조하여 투명하고 애플리케이션 중심의 성능 데이터에 대한 약속을 강조한다.

호스트 CPU 개입 불필요

새로운 기능은 더 넓은 사전 최적화 임베디드 활성화 및 풀링 함수 포트폴리오를 지원하여 대부분의 NN 100%가 aiWare3P 코어 내에서 완전히 실행되도록 한다. 실시간 데이터 압축은 외부 메모리 대역폭 필요성을 줄이고, C-LAM 컨볼루션 엔진과 F-LAM 함수 엔진 간의 교차 결합은 중첩 및 인터리브 실행 효율을 향상시킨다.

타일 기반 마이크로아키텍처는 타이밍 제약을 완화하여 모든 공정 노드에서 물리적 구현을 단순화한다. 논리적 타일 기반 데이터 관리는 캐시, NoC, 또는 일반적으로 결정론과 실리콘 면적을 방해하는 다른 전력 집약적 멀티코어 접근 방식 없이 코어의 최대 16 TMAC/s로 워크로드를 확장한다.

aiWare3P용 RTL은 2020년 1월부터 모든 고객에게 제공되며, 개선된 컴파일러와 실시간 세분화된 하드웨어 분석 도구를 갖춘 업그레이드된 SDK와 함께 제공된다.