Arm은 애플리케이션 프로세서를 위한 신경 처리 IP 제공

Arm은 애플리케이션 프로세서에서 Cortex-A CPU 코어와 함께 사용하기에 적합한 microNPU(신경 처리 장치) IP의 새 버전을 만들었습니다. 리드 라이선스 NXP는 포즈 추정, 비디오의 다중 얼굴 인식 및 물체 감지, 기본 키워드 감지 이상의 음성 인식과 같은 AI 애플리케이션을 처리할 수 있는 향후 애플리케이션 프로세서 제품군에 이 IP를 사용할 계획입니다.

에토스-U65

2020년 2월 출시된 Arm의 기존 microNPU 제품인 Ethos-U55는 Cortex-M 코어와 함께 마이크로컨트롤러급 제품을 겨냥한 제품이다. 3~256개의 MAC(multiply-accumulate unit)을 사용하여 최대 0.5TOPS의 가속(1GHz에서 실행되는 16nm 또는 7nm와 같은 더 작은 형상 기반)을 제공합니다. Arm의 포트폴리오에는 각각 4, 2, 1 TOPS를 제공하는 Ethos-N77, N57 및 N37도 있습니다.

Ethos-U65는 Ethos-U55의 전력 효율성을 유지하면서 총 1개의 TOPS에 대해 사용 가능한 MAC(1GHz에서 최대 512개의 병렬 MAC)을 두 배로 늘리도록 설계되었습니다. 이 전력/성능 조합은 특히 애플리케이션 프로세서급 장치에서 Cortex-A 코어와 함께 사용하기 위한 것입니다. Arm에 따르면 ML 운영자에 대한 Ethos-U 라인의 기본 지원도 업데이트 및 확장되었습니다.

리드 라이선스 사용자

수석 기술 파트너(및 수석 라이선스 사용권자) NXP는 Ethos-U65의 정의된 시스템 수준 측면에서 Arm과 긴밀히 협력했으며 Ethos-U65 IP를 차세대 i.MX 애플리케이션 프로세서에 통합할 것이라고 말했습니다.

Cortex-A 및 Cortex-M 코어를 모두 사용하는 microNPU가 있는 애플리케이션 프로세서를 위해 NXP가 내놓은 아키텍처(이미지:NXP)

NXP가 AI 애플리케이션 프로세서에 대해 염두에 두고 있는 아키텍처는 Ethos-U65 microNPU가 Cortex-M 및 Cortex-A 코어와 나란히 배치될 것이라고 NXP의 AI/ML 하드웨어 수석 엔지니어인 Ben Eckermann이 설명했습니다. Cortex-A는 응용 프로그램을 실행하여 마이크 또는 카메라용 드라이버를 처리하고 NPU에 작업 부하를 제공합니다. microNPU와 Cortex-M은 머신 러닝 워크로드를 계산하고 Cortex-A에 답을 제시합니다.

“Ethos-U55와 마찬가지로 [Ethos-U65]는 시스템 근처 어딘가에 Cortex-M 프로세서에 의존합니다. 신경망에서 완전히 오프로드되는 것이 이해가 되지 않는 기계 학습 운영자가 있는 경우를 대비해 하드웨어에서"라고 Eckermann은 말했습니다. "거의 호출되지 않고 순전히 하드웨어로 구현되는 것을 정당화할 수 없는 많은 기계 학습 연산자가 있습니다."

Eckermann은 이 구성에서 Cortex-M이 제공하는 유연성 덕분에 어느 정도 미래에 대비할 수 있다고 말했습니다.

U65에는 U55보다 더 넓은 내부 시스템 버스가 제공되며 DRAM과 관련된 추가 버퍼링 및 대기 시간에 대처하도록 맞춤화되었습니다(Cortex-M 시스템은 일반적으로 SRAM을 사용하는 반면 애플리케이션 프로세서를 사용하는 시스템에서는 일반적임).

포트폴리오 채우기

NXP는 AI 지원 SoC 포트폴리오를 작성하고 있습니다.

회사가 이전에 발표한 i.MX 8M+ 애플리케이션 프로세서에는 듀얼 또는 쿼드 Cortex-A53 코어와 함께 NPU AI 가속기 블록이 있습니다. 이 제품에 포함된 NPU IP는 Arm이 아닙니다. 2.3 TOPS를 제공하는 Verisilicon 디자인으로 장면 분할, 라이브 비디오 얼굴 및 물체 인식 또는 음성 액센트 해석에 충분합니다. 스펙트럼 하단에서 Arm Ethos-U55 NPU가 있는 NXP의 마이크로컨트롤러는 사람 감지, 깨우기 단어 감지 및 비디오 잡음 제거를 처리할 수 있습니다.

Ethos-U65 지원 제품은 이 두 제품 범주 사이에 위치하여 다중 얼굴 인식, 보다 복잡한 음성 인식 또는 포즈 추정과 같은 AI 애플리케이션을 처리합니다. 따라서 이 카테고리의 모든 신제품은 i.MX 8M+와 겹치지 않을 것이라고 Eckermann은 말했습니다.

다양한 AI 애플리케이션(x축) 및 해당 NPU(이미지:NXP)에 필요한 컴퓨팅 양

>> 이 기사는 원래 다음 날짜에 게시되었습니다. 자매 사이트인 EE Times.