저비용 크로스오버 프로세서가 엔드포인트 추론을 지원합니다.

영국 브리스톨 — XMOS는 기계 학습을 위해 Xcore 프로세서 코어를 채택하여 AIoT 애플리케이션을 위한 크로스오버 프로세서를 만들었습니다. Xcore.ai는 $1부터 사용할 수 있습니다.

회사의 독점 코어 설계를 기반으로 구축된 3세대 제품인 Xcore.ai는 엔드포인트 장치에서 실시간 AI 추론 및 의사 결정을 위해 설계되었으며 신호 처리, 제어 및 통신 기능도 처리할 수 있습니다.

이 3세대 칩의 새로운 기능은 기계 학습 애플리케이션을 위한 벡터 파이프라인 기능입니다. 이진화된(1비트) 신경망을 지원하는 유일한 크로스오버 프로세서입니다. 이 신경망은 거래되는 성능 및 메모리 밀도에서 엄청난 개선을 제공하기 때문에 엔드포인트 애플리케이션에서 초저전력 AI의 중요성이 커지고 있습니다. 약간의 정확도 감소를 위해(Xcore.ai는 32비트, 16비트 및 8비트 숫자도 지원합니다).

Xcore.ai는 크로스오버 프로세서(이미지:XMOS)인 엔드포인트 애플리케이션을 위한 새로운 종류의 AI 가능 시스템 온 칩에 합류했습니다.

Xcore.ai는 크로스오버 프로세서인 AI 기능을 갖춘 새로운 종류의 엔드포인트 프로세서에 합류했습니다. NXP에서 만든 이 용어는 사용 편의성, 낮은 전력 소비 및 마이크로컨트롤러의 실시간 작동이 결합된 애플리케이션 프로세서의 성능을 갖춘 중요한 새로운 범주의 장치를 설명합니다.

“고객에게 '마이크로컨트롤러'에 대해 이야기하면 75센트 이하로 제공되는 Cortex-M0, M3 또는 M4 장치와 상대적으로 낮은 성능, 100MIPS 정도를 생각합니다. 그렇다면 'SoC'는 기가헤르츠에서 실행되는 쿼드 A53 코어가 있는 것일 수 있습니다. 수천 개의 MIPS가 필요한 특히 어려운 수학 문제인 음성 프로세서와 같이 중간에 큰 격차가 있습니다. 따라서 이 중간에 정말 크고 중요한 응용 프로그램 영역이 있는 큰 간격이 있으며 이름을 붙일 가치가 있습니다.”라고 XMOS의 CEO인 Mark Lippett가 EETimes와의 독점 인터뷰에서 말했습니다.

음성 인터페이스

회사가 이전에 발표한 2세대 제품인 XVF3510은 음성 인터페이스용 ASIC으로 2019년 7월에 출시되었지만 내부 실리콘은 펌웨어와 함께 제공되는 회사의 독점 Xcore 설계를 기반으로 합니다. XVF3510을 기반으로 하는 원거리 음성 솔루션을 위한 참조 설계는 Amazon의 Alexa 음성 서비스에 적합합니다.

음성 분야에서 XMOS의 역사를 고려할 때 Xcore.ai 칩이 처음에 키워드 감지 또는 사전 기능을 위해 AI가 필요한 음성 인터페이스 애플리케이션을 대상으로 하는 것은 놀라운 일이 아닙니다.

"절대적으로 분명히 합시다. 음성은 엔드포인트에서 가장 중요한 AI 워크로드이며 아마도 앞으로도 꽤 그럴 것입니다. 그러나 음성 인터페이스를 더 좋게 만들기 위해 장치가 더욱 다중 모드가 될 것입니다.”라고 Lippett은 말했습니다. 그들이 말하고 있습니다.

"오디오를 듣는 것뿐만 아니라 그 이상을 수행함으로써 사용자 경험을 개선할 수 있는 많은 기회가 있습니다."라고 그는 말했습니다.

IoT 장치에서 AI를 위한 많은 응용 프로그램은 끝점에서 처리를 수행해야 하는 개인 정보 보호, 보안 및 안전의 조합에 달려 있습니다. Lippett은 예를 들어 부엌에 어린이만 있는 경우 음성과 레이더를 사용하여 오븐을 끄는 가전 제품의 안전 기능에 대해 설명했습니다.

따라서 Xcore.ai는 음성 인터페이스 생성을 위해 제공되는 라이브러리와 함께 시장에 출시될 예정이지만 Lippett은 고객이 자체 시스템을 구축할 수 있는 여유 공간이 있다고 말했습니다. 카메라 입력을 위한 MIPI 인터페이스가 포함되어 있습니다.

Xcore 아키텍처

Xcore.ai 칩은 최대 3200 MIPS, 51.2 GMACC 및 1600 MFLOPS를 제공합니다. 1Mbyte의 임베디드 SRAM과 확장을 위한 저전력 DDR 인터페이스가 있습니다.

유사한 작동 주파수에서 실행되는 Xcore.ai와 거의 동일한 수준의 통합을 제공하는 Cortex-M7 장치에 비해 XMOS 자체 수치는 AI 처리 성능이 32배, DSP 성능이 15배라고 합니다.

"엔드포인트 세계에서는 가격 대비 성능이 있어야 하며 다른 하나 없이는 아무 의미가 없습니다."라고 Lippett가 말했습니다. “우리는 가격에 대해 매우 공격적이었습니다. 우리는 [볼륨으로] 이 부분에 대해 1달러까지 내릴 수 있습니다. 대체로 말해서 우리는 [동급 Cortex-M7 장치의] 비용의 약 절반이며 성능 면에서 완전히 압도당하고 있습니다."

Xcore는 메모리가 있는 타일에 배열된 논리적 코어를 기반으로 합니다.
ALU 및 벡터 단위(이미지:XMOS)

Xcore.ai는 XMOS의 독점 Xcore 아키텍처를 기반으로 합니다. Xcore 자체는 I/O, DSP, 제어 기능 또는 AI 가속에 사용할 수 있는 논리 코어라고 하는 빌딩 블록을 기반으로 합니다. 각 타일에는 8개의 논리적 코어가 있으며 각 Xcore.ai 칩에는 2개의 타일이 있으며 설계자는 각 기능에 할당할 코어 수를 선택할 수 있습니다. 각 타일에는 메모리, ALU 및 논리 코어가 액세스를 공유하는 벡터 장치도 포함됩니다.

Lippett은 "매우 중요한 점은 매우 예측 가능한 방식으로 [액세스를 공유]합니다. “이것이 Xcore의 특별한 점입니다. 처음에 우리는 소프트웨어 엔지니어에게 I/O 유연성을 제공하고자 했으며 마감일을 놓치면 하드웨어가 관대하지 않습니다. 따라서 Xcore는 멀티 코어입니다. 우리가 워크로드를 확장하고 작업을 매우 빠르게 수행하기를 원하기 때문이 아니라 우리는 그렇게 할 수 있습니다. 하지만 실제로는 애플리케이션의 특정 부분에 자체 리소스를 제공하여 필요합니다, 준비되었습니다. 이러한 종류의 타이밍 정확도를 제공하기 위해 처음부터 설계되었습니다."

다양한 기능(I/O, DSP, 제어, AI)을 펌웨어의 논리 코어에 매핑하면 완전히 소프트웨어로 작성된 '가상 SoC'를 생성할 수 있습니다. 아래 예에서 하나의 코어는 I ² 와 같이 일반적으로 하드웨어에서 수행되는 작업을 수행하고 있습니다. S, 나 ² C 및 LED 드라이버, 그리고 일부 코어는 신경망을 처리하고 다른 코어는 일반적으로 소프트웨어에서 수행되는 작업을 수행합니다. 소프트웨어에서 이 모든 것을 정의하는 것이 IoT 장치의 일시적인 요구 사항을 충족하는 것이 더 빠릅니다. Lippett은 개발 비용도 저렴하여 기업이 소규모 시장 부문에서도 경제적인 솔루션을 만들 수 있다고 말했습니다.

Xcore.ai 기기에 매핑된 예제 애플리케이션(이미지:XMOS)

“시장이 진화하는 것을 보는 방식은 시장이 더 다양한 기능을 요구하고 있으며 기업이 더 빨리 대응해야 한다는 것입니다.”라고 Lippett은 말했습니다. “어떤 세그먼트에도 [결국] 충분하지 않을 수 있는 매우 일반적인 플랫폼을 구축하지 않고 IoT에 2년 내기를 하는 것은 매우 어렵습니다. [Xcore.ai를 사용하면] 적은 설비 투자로 훨씬 더 빠르게 시장에 기기를 출시하고 소규모 시장에 더 적은 금액을 효과적으로 베팅하고 해당 시장을 경제적으로 만들 수 있습니다."

XMOS는 이 크로스오버 프로세서 공간으로 이동하는 대형 마이크로컨트롤러 제조업체와 어떻게 경쟁할까요?

“ARM 기반 SoC를 구축하는 것이 아닙니다! 그들이 그것을 정말 잘하기 때문입니다.”라고 Lippet이 말했습니다. “그들과 경쟁할 수 있는 유일한 방법은 아키텍처 측면에서 우위를 점하는 것뿐입니다. 이는 성능 측면에서 Xcore의 고유한 기능뿐 아니라 유연성에 관한 것입니다.”