tinyML 및 자동화된 기계 학습으로 효과적인 IoT 애플리케이션 구축

IoT는 작은 센서를 사용하여 환경과 기계를 지속적으로 모니터링할 수 있습니다. 센서 기술, 마이크로컨트롤러 및 통신 프로토콜의 발전으로 인해 다양한 연결 옵션이 포함된 IoT 플랫폼을 저렴한 가격에 대량 생산할 수 있게 되었습니다. IoT 하드웨어의 저렴한 비용으로 인해 공공 장소, 주택 및 기계에 센서가 대규모로 배치되고 있습니다.

이러한 센서는 배포 환경과 관련된 물리적 속성을 연중무휴 24시간 모니터링하고 엄청난 양의 데이터를 생성합니다. 예를 들어, 회전하는 기계에 배치된 가속도계와 자이로스코프는 샤프트에 부착된 로터의 진동 패턴과 각속도를 지속적으로 기록합니다. 공기 품질 센서는 실내 또는 실외 공기 중 기체 오염 물질을 지속적으로 모니터링합니다. 베이비 모니터의 마이크는 항상 듣고 있습니다. 스마트 시계 내부의 센서는 중요한 건강 매개변수를 지속적으로 측정합니다. 마찬가지로, 자력계, 압력, 온도, 습도, 주변광 등과 같은 다양한 다른 센서가 배치되는 곳의 물리적 조건을 측정합니다.

머신 러닝(ML) 알고리즘을 사용하면 이 데이터에서 수동 분석 및 검사로는 이해할 수 없는 흥미로운 패턴을 발견할 수 있습니다. IoT 장치와 ML 알고리즘의 융합은 다양한 스마트 애플리케이션과 향상된 사용자 경험을 가능하게 하며, 이는 smallML과 같은 저전력, 저지연, 경량 기계 학습 추론으로 가능합니다. 웨어러블 기술, 스마트 홈, 스마트 공장(인더스트리 4.0), 자동차, 머신 비전 및 기타 스마트 소비자 전자 기기를 포함하되 이에 국한되지 않는 많은 산업 분야가 그림 1에 설명된 바와 같이 이러한 수렴에 의해 혁명을 일으키고 있습니다.

자동 머신 러닝이 포함된 tinyML

IoT 장치의 초소형 마이크로컨트롤러(MCU)에 배포된 ML 알고리즘은 다음과 같은 여러 이점으로 인해 특히 관심이 높습니다.

• 데이터 개인정보 보호 및 보안:ML 추론은 처리를 위해 데이터 스트림을 클라우드로 전송하는 대신 로컬 내장 마이크로컨트롤러에서 발생합니다. 데이터는 기기 내 및 사내에서 비공개로 안전하게 유지됩니다.
• 절전:tinyML 알고리즘은 데이터 전송이 없거나 거의 없기 때문에 훨씬 적은 전력을 소비합니다.
• 낮은 대기 시간 및 고가용성:추론이 로컬에서 수행되기 때문에 대기 시간은 밀리초 정도이며 네트워크 대기 시간 및 가용성에 영향을 받지 않습니다.

전체 크기 이미지를 보려면 클릭하세요.

그림 1:기존 IoT 기기에 고급 기능을 추가한 tinyML(출처:Qeexo)

센서 데이터를 사용하는 자동화된 기계 학습에는 그림 2에 설명된 단계가 포함됩니다. 이러한 단계 전에 대상 ML 애플리케이션에 대한 센서 구성 및 품질 데이터 수집이 완료됩니다. Qeexo AutoML과 같은 자동화된 기계 학습 플랫폼은 Arm Cortex-M0-M4 클래스 MCU 및 기타 제한된 환경을 위한 경량 고성능 기계 학습 모델을 구축하기 위한 전체 워크플로를 관리합니다.

전체 크기 이미지를 보려면 클릭하세요.

그림 2:Qeexo AutoML 워크플로(출처:Qeexo)

ARM® Cortex™ M0+ 아키텍처를 사용한 tinyML

IoT 기술의 확산과 센서의 대규모 배포 요구 사항은 마이크로 컨트롤러 아키텍처와 머신 러닝 컴퓨팅의 경계를 더욱 확장하고 있습니다. 예를 들어 48MHz에서 실행되는 Arm Cortex M0+ MCU는 낮은 전력 소비 프로필로 인해 IoT 애플리케이션용으로 설계된 센서 보드에 널리 사용됩니다. 64MHz에서 실행되고 15mA를 소비하는 Cortex M4 버전에 비해 I/O 핀당 7mA만 소비합니다.

Cortex-M0+ MCU 등급의 낮은 전력 소비로 인해 메모리 및 컴퓨팅 프로필이 감소합니다. M0+ MCU는 32비트 고정 소수점 수학 연산만 수행할 수 있고 포화 산술 지원이 없고 DSP 기능이 부족합니다. 이 MCU를 기반으로 하는 인기 있는 IoT 플랫폼 중 하나인 Arduino Nano 33 IoT에는 256KB 플래시와 32KB SRAM만 제공됩니다. 대조적으로 Cortex M4 아키텍처를 사용하는 인기 있는 센서 모듈인 Arduino Nano 33 BLE Sense는 32비트 부동 소수점 연산을 수행할 수 있으며 DSP 및 포화 산술 지원은 물론 플래시의 4배, SRAM의 8배입니다.

M0+에 기계 학습 알고리즘을 배포하는 것은 다음 세 가지 주요 과제로 인해 M4에 배포하는 것보다 훨씬 더 어렵습니다.

• 고정 소수점 계산: 센서 데이터를 사용한 일반적인 기계 학습에는 디지털 신호 처리, 특징 추출 및 추론 실행이 포함됩니다. 센서 신호에서 통계 및 주파수 기반(예:FFT 분석) 기능을 추출하는 것은 고성능 기계 학습 모델 개발에 중요합니다. 실제 물리적 현상을 나타내는 센서 데이터 스트림은 본질적으로 고정적이지 않습니다. 일반적으로 비정상 센서 신호에서 추출한 정보가 좋을수록 고성능 ML 모델을 개발할 수 있는 기회가 많아집니다. 상용 등급의 ​​정밀도와 성능을 유지하면서 고정 소수점 표현에서 수학 연산을 수행하는 것은 어렵습니다. 완전 고정 소수점 머신 러닝 파이프라인은 센서 데이터 표현으로 시작하여 분류/회귀 출력 생성을 위한 모델 추론까지 실행됩니다.

• 메모리 용량 부족: 256KB 플래시와 32KB SRAM은 머신 러닝 모델의 크기와 이러한 모델이 실행 중에 활용할 수 있는 런타임 메모리를 엄격하게 제한합니다. 실제 기계 학습 문제에는 많은 수의 매개변수가 있는 기계 학습 모델로 표현되는 복잡한 결정/분류 경계가 있는 경우가 많습니다. 트리 기반 앙상블 모델의 경우 이러한 복잡한 문제를 해결하면 깊은 트리와 많은 부스터가 생성되어 모델 크기와 런타임 메모리 모두에 영향을 미칠 수 있습니다. 모델 크기의 감소는 종종 모델 성능을 희생시키는 대가를 치르게 되며 일반적으로 가장 바람직한 절충 기준이 아닙니다.

• 낮은 CPU 속도: 상업적 배포를 위한 모델을 선택할 때 짧은 대기 시간은 항상 핵심 지표였습니다. 64MHz M4 아키텍처와 비교하여 48MHz M0+ 아키텍처에서 희생한 16MHz 클록 속도는 밀리초 수준의 대기 시간 측정과 관련하여 큰 차이를 만듭니다.

AutoML M0+ 프레임워크

이러한 문제를 해결하기 위해 개발된 Qeexo AutoML은 Arm Cortex M0+ 아키텍처에 고도로 최적화된 고정 소수점 머신 러닝 파이프라인을 제공합니다. 이 파이프라인에는 GBM(Gradient Boosting Machine), RF(Random Forest) 및 eXtreme Gradient Boosting( XGBoost) 알고리즘. Qeexo AutoML은 앙상블 모델 매개변수를 매우 효율적인 데이터 구조로 인코딩하고 해석 논리와 결합하여 M0+ 대상에 대해 매우 빠른 추론을 수행합니다. 그림 3은 Arm Cortex M0+ 임베디드 타겟을 위해 Qeexo가 개발한 고정 소수점 머신 러닝 파이프라인을 설명합니다.

전체 크기 이미지를 보려면 클릭하세요.

그림 3:Qeexo AutoML M0+ 추론 파이프라인(출처:Qeexo)

Qeexo AutoML은 특허 출원 중인 모델 압축 및 양자화를 수행하여 분류 성능을 손상시키지 않으면서 개발된 앙상블 모델의 메모리 공간을 더욱 줄입니다. 그림 4는 Cortex M0+ 임베디드 대상에 대한 Qeexo AutoML 교육 프로세스를 설명합니다.

전체 크기 이미지를 보려면 클릭하세요.

그림 4:Qeexo AutoML M0+ 교육 파이프라인(출처:Qeexo)

지능형 정리

지능형 가지치기를 통해 성능 손실 없이 모델을 압축할 수 있습니다. 간단히 말해서 Qeexo AutoML은 먼저 하이퍼 매개변수 최적화 프로그램에서 권장하는 전체 크기 앙상블 모델을 구축한 다음 가장 강력한 부스터만 지능적으로 선택합니다.

더 큰 모델을 성장시킨 다음 대상 배포를 위해 지능적으로 정리하는 이러한 접근 방식은 처음에 더 작은 모델을 구축하는 것보다 훨씬 더 효과적입니다. 더 큰 초기 모델은 고성능 부스터(또는 트리)를 선택할 수 있는 기회를 제공하여 궁극적으로 모델 성능을 향상시킵니다.

그림 5에서 볼 수 있듯이 압축 앙상블 모델은 약 1/10 입니다. 더 높은 교차 검증 성능을 가지면서 전체 모델의 크기. (X축은 앙상블 모델의 트리(또는 부스터) 수를 나타내고 y축은 교차 검증 성능을 나타냅니다.) Qeexo AutoML 지능형 가지치기 방법은 가장 강력한 부스터 20개만 선택하여 90% 압축합니다. 모델 크기입니다.

전체 크기 이미지를 보려면 클릭하세요.

그림 5:Qeexo AutoML 지능형 모델 정리(출처:Qeexo)

앙상블 모델 양자화

Qeexo AutoML은 앙상블 알고리즘의 훈련 후 양자화를 수행합니다. 훈련 후 양자화는 신경망 기반 모델을 위한 상용화된 기능이며 TensorFlow Lite와 같은 프레임워크에서 즉시 지원됩니다. 그러나 앙상블 모델의 양자화는 Qeexo의 특허 출원 중인 기술로 모델 성능 저하가 거의 또는 전혀 없이 MCU 수준 대기 시간을 개선하면서 모델 크기를 더욱 줄일 수 있습니다. Qeexo AutoML M0+ 파이프라인은 32비트 정밀도로 표현되는 고정 소수점 앙상블 모델을 생성합니다. 16비트 및 8비트 양자화에 대한 추가 옵션을 사용하면 모델을 각각 1/2 및 1/4로 줄이고 2~3배 속도를 높일 수 있습니다.

tinyML 사용 사례의 예

tinyML 애플리케이션 또는 사용 사례는 무엇입니까? 무한한 가능성이 있으며 여기에서 몇 가지를 강조합니다.

<올>

우리는 사용자가 탭하여 조명을 제어(ON/OFF 및 조명 강도 변경)할 수 있는 스마트한 AI 지원 벽을 만들고 싶습니다. ON/OFF 및 강도 제어와 관련된 손 제스처를 정의한 다음 벽 뒷면에 부착된 가속도계 및 자이로스코프 모듈을 사용하여 제스처 데이터를 수집하고 레이블을 지정할 수 있습니다. 이 레이블이 지정된 데이터를 통해 Qeexo AutoML은 AI 알고리즘을 사용하여 조명을 제어하기 위해 벽에서 "노크" 및 "닦기" 제스처를 감지하는 모델을 구축할 수 있습니다. 아래 영상에서 몇 분 안에 Qeexo AutoML이 개발한 프로토타입 스마트월을 볼 수 있습니다.

머신 러닝과 IoT를 사용하여 배송 지침에 따라 배송이 매우 신중하게 처리되도록 하고자 합니다. 아래 동영상에서 AI 지원 배송 상자가 출발지에서 목적지까지 배송이 어떻게 처리되었는지 감지할 수 있는 방법을 확인할 수 있습니다.

AI와 IoT의 융합은 스마트 주방 조리대도 만들 수 있습니다. 아래 동영상은 다양한 주방 가전 제품을 감지하기 위해 Qeexo AutoML이 구축한 모델을 보여줍니다.

머신 모니터링은 tinyML의 가장 유망한 사용 사례 중 하나입니다. 아래 동영상에서 여러 기계 오류 패턴이 감지되고 있습니다.

이상 감지는 머신 러닝의 이점을 활용하는 또 다른 시나리오입니다. 종종 산업 환경에서 다양한 오류에 대한 데이터를 수집하는 것은 어려운 반면 기계의 정상적인 작동 상태를 모니터링하는 것은 상대적으로 쉽습니다. Qeexo AutoML 알고리즘은 정상적인 작동 상태를 관찰하는 것만으로도 1부(아래), 2부, 3부, 4부에서와 같이 이상 감지를 위한 AI 시스템을 개발할 수 있습니다.

웨어러블에 내장된 센서를 사용한 활동 인식은 일상 생활에 도움이 되는 또 다른 사용 사례입니다. 아래 동영상은 몇 분 안에 Qeexo AutoML을 사용하여 활동 인식 솔루션을 구축하는 방법을 보여줍니다.