마이크로컨트롤러에 AI 임베딩: TinyML 잠재력 개척

인공지능이 사물인터넷과 만나면 AIoT가 탄생한다—신경망 압축과 효율적 추론의 혁신을 활용하는 마이크로컨트롤러의 광활한 개척지다. 최신 스마트폰 애플리케이션 프로세서가 이미 이미지 인식과 추천 엔진 같은 정교한 AI 작업을 수행하지만, 유사한 기능을 배터리 구동의 작은 기기에 가져오면 새로운 가능성의 세계가 열린다.

AI로 배경 소음을 필터링하는 보청기, 사용자 얼굴을 인식하고 개인화 설정을 적용하는 스마트홈 가전, 코인셀 배터리로 수년간 동작하는 센서 노드—모두 로컬로 구동된다. 에지 처리는 낮은 지연시간, 더 강한 보안, 향상된 프라이버시를 제공하며 이는 극복하기 어려운 이점들이다.

Arm의 Cortex-M55와 Ethos-U55 가속기 조합이 제스처, 생체인식, 음성 인식 워크로드에 충분한 처리량을 제공한다 (이미지: Arm).

그러나 마이크로컨트롤러에 의미 있는 머신러닝을 배포하는 것은 비단길이 아니다. 제한된 메모리와 연산 리소스로 큰 모델 실행이 어렵지만, 데이터 사이언스 팀이 네트워크 풋프린트를 줄이고 벤더들이 하드웨어 인식 툴체인과 전용 IP 블록을 제공해 임베디드 AI의 제약을 충족시키고 있다.

TinyML의 급부상

TinyML의 급속한 성장은 확대되는 TinyML 서밋에서 확인된다. 실리콘밸리에서 열린 첫 서밋은 11개 스폰서를 유치했고, 두 번째 서밋은 27개 스폰서가 참여해 몇 주 전 매진됐다. 설계자들을 위한 글로벌 밋업도 참석자 수가 극적으로 증가했다.

"우리는 TinyML로 구동되는 수조 개의 지능형 기기가 자율적으로 감지, 분석, 행동해 더 건강하고 지속 가능한 환경을 만드는 시대에 진입하고 있다"고 퀄컴 시니어 디렉터 예브게니 구세프(Evgeni Gousev)는 TinyML 위원회 공동 의장 자격으로 최근 컨퍼런스에서 말했다. 구세프는 에너지 효율적 하드웨어, 간소화된 알고리즘, 성숙한 소프트웨어 생태계의 시너지가 기업 및 벤처 투자, 스타트업 활동, M&A의 엔진이라고 강조했다.

에타 컴퓨트(ETA Compute)의 ECM3532는 Arm Cortex-M3 코어와 NXP CoolFlux DSP 코어를 함께 사용해 머신러닝 워크로드를 어느 프로세서에서든 실행할 수 있다 (이미지: Eta Compute).

TinyML 위원회에 따르면 이 기술은 이제 검증되었으며, 마이크로컨트롤러 기반 AI 제품화가 2~3년 내 시장에 도달할 것으로 예상되며, 플래그십 '킬러' 애플리케이션은 3~5년 내 도착할 전망이다.

주요 이정표는 지난해 봄 구글이 마이크로컨트롤러용 TensorFlow Lite를 출시했을 때 왔다. 가벼운 런타임은 Arm Cortex-M3에서 단 16KB로, 음성 키워드 감지 같은 모델 추론을 지원하며 총 풋프린트 22KB를 요구한다. 학습은 지원하지 않는다.

대형 업체들의 대응

주요 마이크로컨트롤러 벤더들이 자사 AI 지원을 신속히 추진 중이다. ST마이크로일렉트로닉스는 STM32Cube.AI를 제공해 STM32 Cortex-M 패밀리에서 신경망 매핑과 실행을 지원한다. 르네사스 일렉트로닉스는 e² studio용 네이티브 C/C++ 코드로 모델을 변환하는 e-AI 개발 환경을 제공한다. NXP 세미컨덕터스는 하위 엔드 Kinetis와 LPC MCU에서 머신러닝 워크로드를 시연하고 애플리케이션 프로세서와 크로스오버 솔루션 전반으로 AI 생태계를 확장 중이다.

Arm 기반 지배력

Arm의 Cortex-M 시리즈는 여전히 마이크로컨트롤러 시장의 초석이다. 새로 발표된 Cortex-M55는 AI 워크로드를 위해 설계되었으며 Ethos-U55 가속기와 완벽하게 결합된다. 둘 다 초저전력 환경을 위해 설계됐다. 경쟁사들은 이제 Arm 기반 SoC 구축보다는 아키텍처 차별화에 집중하고 있다.

"거인들과 경쟁하려면 표준 Cortex-M을 넘어선 성능과 유연성인 아키텍처적 우위가 필요합니다."라고 XMOS CEO 마크 리펫(Mark Lippett)은 말했다. 음성 인터페이스를 타겟으로 하는 XMOS의 Xcore.ai 크로스오버 프로세서는 차별화된 코어가 틈새 애플리케이션을 개척할 수 있음을 보여주지만, 마이크로컨트롤러와 직접 경쟁하지는 않는다.

>> 자매 사이트 EE Times Europe에 원래 게재된 이 기사의 2페이지를 계속 읽으세요.