마이크로컨트롤러, AIoT 구현 위해 진화하다

AI와 IoT의 결합으로 AIoT가 탄생했습니다. 이는 신경망 압축과 최적화의 돌파구 덕분에 마이크로컨트롤러가 이제 정교한 머신러닝을 호스팅하는 확장 영역입니다. 최신 스마트폰 애플리케이션 프로세서들은 이미지 분석과 추천 엔진 같은 작업을 위해 정기적으로 AI 추론을 실행하며, 고성능 ML이 더 이상 슈퍼컴퓨터에 국한되지 않음을 보여줍니다.

수십억 개의 IoT 기기 생태계가 향후 몇 년 내 머신러닝 역량을 갖게 될 것 (이미지: NXP)

이러한 지능을 저전력 마이크로컨트롤러에 배포하면 혁신적인 유스케이스가 열립니다: 주변 소음을 억제하는 AI 구동 보청기, 사용자를 식별하고 개인화된 프로필을 적용하는 스마트 가전, 마이크로줄 전력 예산으로 수년간 동작하는 센서 노드. 엣지 추론은 지연시간을 줄이고, 데이터 보안을 강화하며, 사용자 프라이버시를 보호합니다.

하지만 마이크로컨트롤러에 ML을 내장하는 것은 여전히 도전적입니다. 제한된 SRAM과 플래시는 신경망 모델 크기를 제한하고, 계산 처리량은 겸손합니다. 모델 양자화와 프루닝의 급속한 발전, 벤더별 툴링과 결합되어 이 격차를 꾸준히 좁히고 있습니다.

TinyML 모멘텀 확보

업계의 급속한 확장은 TinyML Summit에 반영됩니다. 실리콘밸리 행사로 올해 27개 스폰서가 참여하여 작년 11개에서 증가했으며, 등록 슬롯이 몇 달 전에 마감되었습니다. 주최측은 글로벌 월간 디자인 중심 미트업의 회원 급증도 보고했습니다.

"우리는 TinyML로 구동되는 수조 개의 지능형 기기를 상상합니다. 각 기기는 감지, 분석, 자율적으로 행동하여 더 건강하고 지속 가능한 환경을 만듭니다."라고 TinyML 위원회 공동 의장인 Qualcomm의 Evgeni Gousev가 개회 기조연설에서 말했습니다.

그는 이 모멘텀을 더 에너지 효율적인 하드웨어, 정교해진 알고리즘, 성숙한 소프트웨어 스택에 기인한다고 보았으며, 기업 및 벤처 캐피탈 투자 증가, 스타트업 활동 증가, M&A 증가도 언급했습니다.

TinyML 위원회는 이제 기술이 검증되었다고 보며, 초기 AI 지원 마이크로컨트롤러 제품이 2~3년 내 시장에 진입할 것으로 예측하고, 진정한 변혁적 애플리케이션은 3~5년 내 나타날 것으로 봅니다.

중요한 이정표는 지난 봄 Google이 TensorFlow Lite for Microcontrollers를 공개한 때였습니다. 이는 킬로바이트 단위의 RAM만 있는 기기에 맞춘 경량 추론 엔진입니다. 핵심 런타임은 ARM Cortex-M3에서 단 16KB만 차지하며, 완전한 음성 키워드 탐지 모델은 22KB에 들어갑니다. 이 라이브러리는 추론만 지원하며 학습은 지원하지 않습니다.

주요 마이크로컨트롤러 벤더들, TinyML 주시

주요 마이크로컨트롤러 벤더들은 신경망 모델이 축소됨에 따라 제품 기회가 확대되므로 TinyML 진행 상황을 면밀히 추적합니다. 대부분 이미 ML 지원을 제공합니다. 예를 들어, STMicroelectronics는 자사의 STM32 ARM Cortex-M 제품군에서 신경망을 매핑하고 실행하는 확장 팩인 STM32Cube.AI를 제공합니다. Renesas는 모델을 e² Studio를 통해 C/C++ 호환 코드로 변환하는 e-AI 개발 환경을 제공합니다. NXP는 고객들이 로우엔드 Kinetis와 LPC MCU에 머신러닝을 배포하고, 하드웨어와 소프트웨어 모두를 통해 AI를 통합한다고 보고합니다. 특히 애플리케이션 프로세서와 마이크로컨트롤러를 연결하는 크로스오버 프로세서 내에서 그렇습니다.

Arm 중심 아키텍처

Arm은 Cortex-M 시리즈로 마이크로컨트롤러 시장을 지배합니다. 이 회사는 최근 ML 워크로드를 위해 설계된 Cortex-M55 코어를 도입했으며, 초저전력, 리소스 제약 환경을 겨냥한 Ethos-U55 AI 가속기와 짝을 이룹니다. 함께 사용하면 제스처 인식, 생체 인식, 음성 인식 같은 애플리케이션에 충분한 컴퓨트를 제공합니다.

함께 사용 시 Arm의 Cortex-M55와 Ethos-U55는 제스처 인식, 생체 인식, 음성 인식 같은 애플리케이션에 충분한 처리 능력 제공 (이미지: Arm)

그렇다면 작은 기업들은 Arm의 뿌리 깊은 생태계에 어떻게 차별화할 수 있을까요?

XMOS CEO Mark Lippett은 "Arm 기반 SoC를 또 만들어서는 Arm을 이길 수 없습니다. 그들은 그 분야에서 뛰어납니다. 유일한 방법은 아키텍처적 이점, 즉 성능과 유연성을 도입하는 것입니다."라고 말했습니다. 음성 인터페이스를 위한 크로스오버 프로세서인 XMOS의 Xcore.ai가 이 철학을 보여주지만, 마이크로컨트롤러와 직접 경쟁하지는 않습니다.

초저전력 칩에서의 전압 및 주파수 스케일링

TinyML Summit에서 Eta Compute는 상시 이미지 처리와 센서 융합을 100µW 전력 예산으로 가능한 초저전력 디바이스 ECM3532를 공개했습니다. ARM Cortex-M3 코어와 NXP CoolFlux DSP 코어를 통합했으며, 둘 중 하나 또는 둘 다 ML 워크로드를 처리할 수 있습니다. 이 칩의 핵심 혁신은 두 코어 모두에 대한 클럭 주파수와 전압의 연속적 스케일링으로, 위상 고정 루프의 필요성을 제거하고 전력 소비를 극적으로 줄입니다.

Eta Compute의 ECM3532는 Arm Cortex-M3 코어와 NXP CoolFlux DSP 코어를 사용. 머신러닝 워크로드는 둘 중 하나 또는 둘 다 처리 가능 (이미지: Eta Compute)

RISC-V 같은 새로운 경쟁자들이 등장하는 상황에서, 왜 Eta Compute는 ML 가속을 위해 Arm 코어를 선택했을까요?

Tewksbury는 EETimes에 "Arm의 생태계가 단순히 더 성숙합니다. 현재로서는 RISC-V보다 Arm으로 제품을 시장에 출시하기가 더 쉽습니다. 다만 이는 진화할 수 있습니다. RISC-V는 중국 시장에서 뛰어나지만, 우리는 Arm 생태계가 가장 강한 국내 및 유럽 고객을 타겟으로 합니다."라고 설명했습니다.

Tewksbury는 AIoT가 수많은 틈새 애플리케이션으로 구성된 광범위하고 파편화된 시장을 아우르며, 각각은 적은 볼륨을 생성하지만 총체적으로는 수십억 개의 디바이스를 포함할 수 있다고 강조했습니다. 그는 개발자가 각 유스케이스에 맞춘 솔루션 비용을 피해야 하며, 유연성과 사용 편의성이 따라서 중요하다고 강조했습니다. Arm의 생태계가 이를 제공합니다.

지난 10월, Arm은 고객이 ML 같은 특수 워크로드를 위한 커스텀 인스트럭션을 생성하도록 허용할 것이라고 발표했습니다. 이 기능이 향후 코어에 적용되면 전력 소비를 더욱 줄일 수 있습니다.

현재 M3 코어는 이 기능의 혜택을 볼 수 없지만, Tewksbury는 낙관적입니다: "절대적으로, 우리는 차세대 제품에서 Arm의 커스텀 인스트럭션 세트를 활용하여 전력 효율을 더 밀어붙일 계획입니다."

새로운 ISA 옵션: RISC-V

RISC-V의 오픈소스 ISA는 라이선스 비용을 제거하고 설계자가 독자 확장을 추가할 수 있게 합니다. 기업들은 코어를 특정 워크로드에 맞게 조정하여 필요에 따라 IP를 보호할 수 있습니다. 프랑스 스타트업 GreenWaves는 GAP8과 GAP9 칩에 RISC-V 코어를 사용합니다. 각각 8코어와 9코어 클러스터입니다. GAP9 아키텍처는 이제 10개의 RISC-V 코어를 통합합니다.

GreenWaves의 GAP9 초저전력 AI 칩 아키텍처는 이제 10개의 RISC-V 코어 사용 (이미지: GreenWaves)

GreenWaves VP Martin Croome은 EETimes에 RISC-V의 인스트럭션 레벨 구성 가능성이 결정적 이점이라고 말했습니다. 커스텀 확장은 ML과 신호 처리 작업에 상당한 전력 감소를 가능하게 합니다. 신생 기업에게 다른 아키텍처에서 그런 커스텀 코어를 만드는 것은 라이선스나 IP 비용이 폭증하므로 감당하기 어렵습니다.

커스텀 확장만으로도 미수정 RISC-V 코어 대비 에너지 효율에서 3.6배 개선을 이룹니다. Croome은 또한 구현 복잡성을 줄이고 결과적으로 전력 소모를 줄이는 RISC-V의 현대적이고 깔끔한 ISA를 칭찬했습니다. 각 코어의 실행에 대한 정밀한 제어는 에너지 효율을 극대화하는 데 필수적인데, RISC-V가 이를 용이하게 합니다.

Croome은 Arm이 같은 수준의 커스터마이징을 제공할 수 있다면 자연스러운 선택이 될 것이라고 인정했습니다. 하지만 Arm의 성숙한 소프트웨어 툴체인이 현재 RISC-V를 앞서며, 후자의 생태계도 급속히 성숙하고 있습니다.

요약하자면, 일부는 Arm의 지배력이 약화되고 있다고 보지만, 회사는 커스텀 확장을 활성화하고 처음부터 ML 지향 코어를 개발함으로써 대응하고 있습니다. Arm과 비Arm 솔루션 모두 이제 초저전력 AI에 사용 가능하며, TinyML 커뮤니티가 모델 크기를 계속 줄이고 프레임워크를 개선함에 따라 시장은 번창할 태세입니다.