TinyML과 자동화 머신러닝으로 스마트 IoT 솔루션 구축하기

IoT는 콤팩트한 센서를 통해 환경과 기계를 지속적으로 모니터링할 수 있게 합니다. 센서 설계, 마이크로컨트롤러, 무선 프로토콜의 급속한 발전으로 IoT 플랫폼은 다양한 연결 옵션을 가진 저렴한 대량 생산 디바이스로 변모했습니다. 이러한 시스템의 저비용은 공공장소, 가정, 산업 장비 전반에 걸친 광범위한 배포를 견인합니다.

이 센서들은 24/7 물리적 데이터를 수집하여 거대한 스트림을 생성합니다. 예를 들어, 회전 기계의 가속도계와 자이로스코프는 진동과 각속도를 기록하고, 공기질 센서는 기체 오염물질을 추적하며, 베이비 모니터의 마이크는 끊임없이 소리를 듣습니다. 스마트워치는 심박수와 기타 생체 신호를 측정합니다. 자기장, 압력, 온도, 습도, 조도 센서도 설치된 곳 어디에서나 실시간 환경 통찰을 제공합니다.

머신러닝(ML) 알고리즘은 수동 분석으로는 불가능한 이 데이터의 패턴을 발견합니다. IoT와 결합된 ML은 저전력, 저지연, 경량 추론으로 알려진 tinyML 덕분에 웨어러블, 스마트 홈, 인더스트리 4.0 공장, 자동차 시스템, 머신 비전, 가전제품 등 새로운 스마트 애플리케이션의 물결을 이끌고 있습니다.

자동화 머신러닝과 TinyML

작은 마이크로컨트롤러(MCU)에 ML을 배포하면 몇 가지 주요 이점이 있습니다:

• 데이터 프라이버시 및 보안: 추론이 로컬에서 발생하여 데이터를 디바이스와 온프레미스에 유지
• 전력 절약: 데이터 전송을 최소화하거나 없애 에너지 소비를 크게 줄임
• 낮은 지연 시간과 높은 가용성: 로컬 추론은 네트워크 조건과 무관하게 밀리초 단위 응답 시간 제공

이미지 클릭으로 원본 크기 보기

그림 1: TinyML이 기존 IoT 디바이스에 고급 기능을 추가합니다 (출처: Qeexo)

자동화 머신러닝은 Qeexo AutoML 같은 플랫폼을 사용하여 센서 구성과 데이터 수집부터 모델 훈련과 배포까지 전체 워크플로를 간소화합니다. 이 시스템은 ARM Cortex-M0부터 M4 MCU 및 기타 제약된 환경을 위한 경량 고성능 모델을 구축합니다.

이미지 클릭으로 원본 크기 보기

그림 2: Qeexo AutoML 워크플로 (출처: Qeexo)

ARM® Cortex™ M0+ 아키텍처와 TinyML

IoT 성장은 더 작고 에너지 효율적인 MCU를 요구합니다. 48MHz로 동작하는 ARM Cortex-M0+ 칩은 I/O 핀당 7mA만 소비하여 64MHz로 동작하는 상위 Cortex-M4의 15mA 절반 수준이라 센서 보드에서 흔히 사용됩니다.

하지만 M0+ 아키텍처는 메모리와 연산 능력을 희생합니다. 32비트 고정소수점 연산만 지원하며, 포화 산술과 DSP 기능이 없습니다. 예를 들어, Arduino Nano 33 IoT(Cortex-M0+)는 256KB 플래시와 32KB SRAM을 제공하는 반면, Arduino Nano 33 BLE Sense(Cortex-M4)는 32비트 부동소수점, DSP, 포화 산술, 4배의 플래시와 8배의 SRAM을 제공합니다.

M0+에 ML을 배포할 때 세 가지 핵심 과제가 있습니다:

• 고정소수점 연산: 센서 기반 ML은 신호 처리, 특성 추출, 추론에 의존하는 경우가 많습니다. 비정상 스트림에서 통계적 및 주파수 특성(예: FFT)을 추출하는 것은 고품질 모델에 필수적이지만, 정밀도를 유지하면서 고정소수점 표현으로 수행하기는 어렵습니다.
• 낮은 메모리 용량: 256KB 플래시와 32KB SRAM은 모델 크기와 런타임 메모리를 제약합니다. 복잡한 결정 경계는 보통 깊은 트리나 많은 부스터를 요구하여 메모리 사용량을 늘립니다. 모델을 축소하면 성능이 저하되는 경우가 많습니다.
• 낮은 CPU 속도: 상용 배포에서는 밀리초 단위 지연 시간이 중요합니다. M0+의 48MHz 클럭은 64MHz M4보다 상당히 느려 추론 속도에 영향을 줍니다.

AutoML M0+ 프레임워크

Qeexo AutoML은 Cortex-M0+에 최적화된 완전한 고정소수점 파이프라인으로 이러한 장애물을 해결합니다. 이 워크플로는 센서 데이터, 특성 계산, 트리 기반 앙상블(GBM, RF, XGBoost)에 대한 추론을 콤팩트한 데이터 구조와 효율적인 추론 로직으로 처리합니다. 그림 3은 이 파이프라인을 보여줍니다.

이미지 클릭으로 원본 크기 보기

그림 3: Qeexo AutoML M0+ 추론 파이프라인 (출처: Qeexo)

이 플랫폼은 특허 출원 중인 모델 압축과 양자화를 적용하여 정확도 저하 없이 메모리 풋프린트를 줄입니다. 그림 4는 Cortex-M0+ 타겟을 위한 훈련 파이프라인을 자세히 보여줍니다.

이미지 클릭으로 원본 크기 보기

그림 4: Qeexo AutoML M0+ 훈련 파이프라인 (출처: Qeexo)

지능형 가지치기

처음부터 작은 모델을 구축하는 대신, Qeexo AutoML은 먼저 큰 앙상블을 훈련한 다음 가장 강력한 부스터를 선택적으로 유지합니다. 이 전략은 더 높은 성능과 더 큰 압축을 제공합니다. 그림 5는 압축된 모델이 전체 모델 크기의 약 1/10이면서 우수한 교차 검증 정확도를 제공함을 보여줍니다.

이미지 클릭으로 원본 크기 보기

그림 5: Qeexo AutoML 지능형 모델 가지치기 (출처: Qeexo)

앙상블 모델 양자화

Qeexo AutoML은 신경망에서 흔한 훈련 후 양자화를 앙상블 알고리즘으로 확장합니다. 이 특허받은 접근법은 모델 크기를 더욱 줄이고 MCU 수준의 지연 시간을 개선하면서 성능을 보존합니다. M0+ 파이프라인은 32비트 고정소수점 모델을 생성하며, 선택적 16비트 또는 8비트 양자화로 크기를 각각 절반 또는 1/4로 줄이고 추론을 2-3배 가속화합니다.

TinyML 활용 사례

1. 스마트 벽 조명: 벽에 가속도계와 자이로스코프를 부착하여 '노크'와 '쓸기' 제스처를 학습해 조명을 제어합니다. Qeexo AutoML은 몇 분 만에 실시간 제스처 모델을 구축하여 직관적인 터치 프리 상호작용을 가능하게 합니다.
2. 지능형 배송: AI 지원 박스가 원산지에서 목적지까지 화물 취급 방식을 감지하여 취급 지침 준수를 보장하고 파손을 줄입니다.
3. 스마트 주방 조리대: TinyML 모델이 주방 기기와 작업을 인식하여 상황 인식 자동화와 안전 기능을 제공합니다.
4. 기계 결함 감지: 산업 장비의 센서가 실시간으로 결함 패턴을 식별하여 사전 유지보수를 가능하게 하고 가동 중지 시간을 최소화합니다.
5. 이상 감지: 정상 작동 상태를 모델링하여 Qeexo AutoML이 편차를 식별합니다. 결함 데이터는 부족하지만 정상 데이터는 풍부한 환경에서 중요합니다.
6. 웨어러블 활동 인식: TinyML이 온디바이스 센서 데이터를 사용해 일상 활동을 분류하여 클라우드 의존성 없이 즉각적인 피드백을 제공합니다.