에지 AI 가속화: 2024년을 이끌 전문 프로세서 총정리

AI 및 머신러닝 워크로드가 점점 더 에지로 이동함에 따라, 이러한 애플리케이션의 다양한 요구를 충족하기 위한 프로세서들이 속속 등장하고 있다. 기존 거대 기업부터 민첩한 스타트업까지, 각 솔루션은 특정 버티컬, 전력 범위, 가격대를 타겟으로 한다. 현재 시장을 선도하는 주요 프로세서들을 간략히 정리한다.

애플리케이션 프로세서

인텔 모비디우스 마이리어드 X (Intel Movidius Myriad X)

아일랜드 스타트업 모비디우스가 개발하고 2016년 인텔이 인수한 마이리어드 X는 전용 신경망 컴퓨트 엔진을 도입한 3세대 비전 프로세싱 유닛이다. 1 TOPS의 DNN(심층 신경망) 연산 성능을 제공하며, FP16과 INT8 정밀도를 지원하고, 지능형 메모리 패브릭과 긴밀하게 결합되어 데이터 전송 병목 현상을 해소한다. 16개의 독자적인 SHAVE 코어와 강화된 비전 가속기 제품군을 탑재했다. 인텔의 뉴럴 컴퓨트 스틱 2(Intel Neural Compute Stick 2)에서 사용 가능하며, 어떤 워크스테이션에서든 AI 및 컴퓨터 비전 워크로드를 신속하게 배포할 수 있는 플러그앤플레이 USB 평가 플랫폼이다.

NXP 세미컨덕터스 i.MX 8M Plus

i.MX 8M Plus는 베리실리콘(VeriSilicon)의 비반테 VIP8000(Vivante VIP8000) 전용 신경망 가속기를 탑재한 이종 애플리케이션 프로세서다. 멀티 객체 식별, 4만 단어 음성 인식, MobileNet v1 초당 500 이미지 처리 등의 추론 작업에 2.3 TOPS를 제공한다. 가속기 외에도 2GHz 쿼드코어 Arm Cortex-A53 서브시스템과 Cortex-M7 실시간 서브시스템을 내장했다. 비전 지원으로는 스테레오 또는 단일 12MP 카메라용 두 개의 고화질 이미지 신호 프로세서, 음성 전후처리용 800MHz HiFi4 DSP를 갖췄다.

NXP의 i.MX 8M Plus는 전용 신경망 가속기를 탑재한 회사의 첫 애플리케이션 프로세서로, IoT 시나리오에 맞춰졌다. (이미지: NXP Semiconductors)

XMOS xcore.ai

xcore.ai는 애플리케이션 프로세서급 성능과 마이크로컨트롤러급 실시간 효율성을 결합해 음성 제어 AIoT 기기를 타겟으로 한다. XMOS의 독자적인 Xcore 아키텍처 기반으로, 16개의 논리 코어가 I/O, DSP, 제어, AI 기능에 할당 가능해 사실상 소프트웨어 정의 SoC를 구현한다. 32비트, 16비트, 8비트, 1비트(이진화) 신경망을 지원하며, 3,200 MIPS, 51.2 GMACCs, 1,600 MFLOPS를 제공한다. 1MB 임베디드 SRAM과 저전력 DDR 인터페이스로 컴팩트하고 저지연 음성 처리 워크로드에 적합하다.

XMOS의 xcore.ai는 음성 중심 AI 워크로드를 위해 설계된 독자적이고 다재다능한 플랫폼이다. (이미지: XMOS)

자동차용 SoC

텍사스 인스트루먼트 TDA4VM

하신토 7(Jacinto 7) 시리즈의 일부인 TDA4VM은 통합 딥러닝 가속기를 탑재한 TI의 첫 SoC다. 가속기는 C7x DSP 코어와 커스텀 매트릭스 곱셈 가속기(MMA)를 기반으로 최대 8 TOPS를 달성한다. ADAS용으로 설계되어 8MP 전방 카메라 스트림 또는 다중 3MP 카메라와 레이더, 라이다, 초음파 입력을 처리할 수 있어 자율 주차 등 고급 운전자 지원 기능에 필요한 센서 융합을 가능하게 한다. 5~20W 전력 예산을 타겟으로 하며, 프리 프로덕션 개발 키트로 제공된다.

TI의 TDA4VM은 복잡한 자동차 ADAS 시스템을 구동하며, 단일 칩에서 인지와 센서 융합을 제공한다. (이미지: Texas Instruments Inc.)

GPU

엔비디아 젯슨 나노 (Nvidia Jetson Nano)

엔비디아의 젯슨 나노는 128코어 맥스웰 GPU와 쿼드코어 Arm Cortex-A57 CPU를 에지 기기에 제공한다. 0.5 TFLOPS 성능으로 고해상도 이미지 스트림에서 여러 신경망을 실행하면서 5W만 소비한다. 엔비디아의 신경망 가속 라이브러리 모음인 CUDA X를 통합하며, 비용 효율적인 개발 키트로 제공된다.

엔비디아의 젯슨 나노는 컴팩트하고 저전력 폼팩터로 에지에서 강력한 AI용 GPU를 제공한다. (이미지: Nvidia Corp.)

컨슈머 코프로세서

크네론 KL520 (Kneron KL520)

KL520은 스마트 홈, 보안 시스템, 모바일 기기의 이미지 처리 및 안면 인식을 위한 전용 신경망 프로세서다. 컨볼루션 신경망에 최적화되어 0.5W에서 0.3 TOPS(약 0.6 TOPS/W)를 제공하며 90% 이상의 MAC 효율을 달성한다. 재구성 가능한 아키텍처와 압축을 적용하는 컴파일러로 더 큰 모델을 칩 리소스 내에 맞출 수 있어 전력과 비용을 절감한다. AAEON M2AI-2280-520 가속기 카드에서 사용 가능하다.

크네론의 KL520은 효율적인 모바일 이미지 처리를 위해 재구성 가능한 설계와 압축 기법을 결합했다. (이미지: Kneron Inc.)

자이팔콘 라이트스피어 5801 (Gyrfalcon Lightspeeur 5801)

컨슈머 전자제품을 타겟으로 하는 라이트스피어 5801은 프로세서-인-메모리 아키텍처 덕분에 224mW에서 2.8 TOPS(약 12.6 TOPS/W), 4ms 지연시간이라는 탁월한 전력 효율을 달성한다. 10MB 온칩 메모리로 전체 모델을 수용하며, 클럭 속도를 50MHz~200MHz 사이에서 조정해 전력과 성능을 트레이드오프할 수 있다. LG Q70 중급 스마트폰에 탑재되어 카메라 효과 추론을 처리하며, USB 썸드라이브 개발 키트로도 제공된다.

초저전력

에타 컴퓨트 ECM3532 (Eta Compute ECM3532)

ECM3532는 상시 추론이 필요한 배터리 구동 또는 에너지 하베스팅 IoT 기기를 위해 설계되었다. Arm Cortex-M3 마이크로컨트롤러와 NXP CoolFlux DSP를 결합하고, 클록 사이클 단위로 전력을 최적화하는 독자적인 전압/주파수 스케일링 기법을 사용한다. 특히 음성 작업 같은 머신러닝 워크로드를 양쪽 코어 중 어디에서든 실행할 수 있다. 현재 샘플 제공 중이며, 양산은 2020년 2분기 예정이다.

신티언트 NDP100 (Syntiant NDP100)

NDP100은 엄격한 전력 예산 하에서 음성 명령 추론을 위해 설계된 프로세서-인-메모리 실리콘이다. 활성 전력 140µW 미만으로 키워드 스포팅, 웨이크 워드 감지, 화자 식별, 이벤트 분류를 지원한다. 이어버드, 보청기, 스마트워치, 리모컨 같은 핸즈프리 컨슈머 기기에 탑재되며 개발 키트가 제공된다.

신티언트의 NDP100은 컨슈머 IoT를 위한 초저전력 음성 처리를 제공한다. (이미지: Syntiant Corp.)

그린웨이브스 테크놀로지스 GAP9 (GreenWaves Technologies GAP9)

GAP9은 전력 효율에 맞춘 커스텀 명령어 세트를 가진 9개의 RISC-V 코어를 탑재한 초저전력 애플리케이션 프로세서다. 양방향 멀티채널 오디오 인터페이스와 1.6MB 내부 RAM을 포함한다. GAP9은 160×160 이미지에서 MobileNet V1을 12ms에 실행하면서 프레임당 806µW만 소모해 배터리 구동 이미지, 오디오, 진동 감지 애플리케이션에 이상적이다.