에지에서 머신 러닝의 접근성 향상

"에지 인텔리전스"는 새로운 하드웨어를 사용할 수 있게 됨에 따라 정식 데이터 과학 교육을 받지 않은 설계자도 액세스할 수 있게 되었습니다.

최근 몇 년 동안 연결된 장치와 사물 인터넷(IoT)은 가정, 자동차, 직장 등 우리의 일상 생활 어디에나 존재하게 되었습니다. 이러한 소형 장치 중 다수는 클라우드 서비스에 연결되어 있습니다. 예를 들어 능동적으로든 자동화된 백업 서비스를 통해든 오늘날 스마트폰이나 노트북을 사용하는 거의 모든 사람이 클라우드 기반 서비스를 사용합니다.

그러나 "엣지 인텔리전스"로 알려진 새로운 패러다임이 빠르게 변화하는 기술 환경에서 빠르게 견인력을 얻고 있습니다. 이 문서에서는 클라우드 기반 인텔리전스, 에지 인텔리전스, 모든 사람이 머신 러닝에 액세스할 수 있도록 하는 전문 사용자를 위한 가능한 사용 사례를 소개합니다.

그림 1. 클라우드 컴퓨팅에서 에지 컴퓨팅으로 전환하면 ML 지원 소프트웨어를 실행하는 수십억 개의 장치를 구축할 수 있는 가능성이 열립니다. NXP의 이미지 제공

주요 기계 학습 용어

클라우드 컴퓨팅

클라우드 컴퓨팅은 간단히 말해서 클라이언트가 필요할 때마다 원격 컴퓨팅 리소스를 사용할 수 있는 것입니다.

퍼블릭 클라우드 서비스의 경우, 클라우드 서비스 제공자는 하드웨어를 관리하고 서비스의 가용성이 특정 표준 및 고객 기대에 부합하는지 확인할 책임이 있습니다. 클라우드 서비스의 고객은 사용한 만큼만 비용을 지불하며 이러한 서비스의 고용은 일반적으로 대규모 작업에서만 실행 가능합니다.

에지 컴퓨팅

반면 에지 컴퓨팅은 클라우드와 클라이언트 네트워크 사이 어딘가에서 발생합니다.

에지 노드가 정확히 어디에 위치하는지에 대한 정의는 애플리케이션마다 다를 수 있지만 일반적으로 로컬 네트워크에 가깝습니다. 이러한 컴퓨팅 노드는 데이터 필터링 및 버퍼링과 같은 서비스를 제공하며 개인 정보 보호를 강화하고 안정성을 높이며 클라우드 서비스 비용과 대기 시간을 줄이는 데 도움이 됩니다.

최근에는 AI와 머신 러닝이 에지 컴퓨팅 노드를 보완하고 관련성이 있고 심층 분석을 위해 클라우드에 업로드해야 하는 데이터를 결정하는 데 도움이 되는 것이 더 일반적이 되었습니다.

머신 러닝(ML)

기계 학습(ML)은 광범위한 과학 분야이지만 최근에는 기계 학습 알고리즘을 논의할 때 신경망(종종 NN으로 축약됨)이 가장 주목받고 있습니다.

객체 추적 및 감시, 자동 음성 인식, 다중 얼굴 감지와 같은 다중 클래스 또는 복잡한 ML 애플리케이션에는 일반적으로 NN이 필요합니다. 많은 과학자들은 지난 10년 동안 NN 알고리즘을 개선하고 최적화하여 제한된 컴퓨팅 리소스를 가진 장치에서 실행할 수 있도록 열심히 노력했으며, 이는 엣지 컴퓨팅 패러다임의 인기와 실용성을 가속화하는 데 도움이 되었습니다.

이러한 알고리즘 중 하나는 Google에서 개발한 이미지 분류 알고리즘인 MobileNet입니다. 이 프로젝트는 고도로 정확한 신경망이 계산 능력이 상당히 제한된 기기에서 실제로 실행될 수 있음을 보여줍니다.

전문가 이상을 위한 머신 러닝

최근까지 머신 러닝은 주로 ML 및 딥 러닝 애플리케이션에 대한 깊은 이해를 가진 데이터 과학 전문가를 대상으로 했습니다. 일반적으로 개발 도구와 소프트웨어 제품군은 미숙하고 사용하기 어려웠습니다.

머신러닝과 에지컴퓨팅은 빠르게 확대되고 있으며 이러한 분야에 대한 관심은 매년 꾸준히 증가하고 있습니다. 현재 연구에 따르면 2025년까지 에지 장치의 98%가 기계 학습을 사용할 것입니다. 이 비율은 연구원들이 기계 학습 기능을 가질 것으로 예상하는 약 180~250억 개의 장치로 해석됩니다.

일반적으로 에지에서의 머신 러닝은 컴퓨터 비전, 음성 분석 및 비디오 처리에서 시퀀스 분석에 이르는 광범위한 응용 프로그램의 문을 엽니다.

가능한 애플리케이션에 대한 몇 가지 구체적인 예는 카메라와 결합된 지능형 도어록입니다. 이러한 장치는 방에 액세스하려는 사람을 자동으로 감지하고 적절한 경우 사람이 입장하도록 허용할 수 있습니다.

에지에서 ML 처리를 지원하는 최신 하드웨어 솔루션

앞서 논의한 신경망 알고리즘의 최적화 및 성능 개선으로 인해 많은 ML 애플리케이션이 이제 i.MX RT1170과 같은 크로스오버 MCU로 구동되는 임베디드 장치에서 실행할 수 있습니다. 2개의 프로세싱 코어(1GHz Arm Cortex M7 및 400MHz Arm Cortex-M4 코어)를 통해 개발자는 실시간 제약을 염두에 두고 호환 가능한 NN 구현을 실행할 수 있습니다.

듀얼 코어 설계로 인해 i.MX RT1170은 또한 여러 ML 모델을 병렬로 실행할 수 있습니다. 추가 내장형 암호화 엔진, 고급 보안 기능, 그래픽 및 멀티미디어 기능을 통해 i.MX RT1170은 다양한 애플리케이션에 적합합니다. 몇 가지 예로는 운전자 주의 산만 감지, 스마트 조명 스위치, 지능형 잠금 장치, 차량 관리 등이 있습니다.

그림 2. i.MX RT1170 크로스오버 MCU 제품군의 블록 다이어그램. NXP의 이미지 제공. 클릭하면 확대됩니다.

i.MX 8M Plus는 ML, 컴퓨터 비전, 고급 멀티미디어 응용 프로그램 및 높은 신뢰성의 산업 자동화에 중점을 둔 응용 프로그램 프로세서 제품군입니다. 이러한 장치는 스마트 장치 및 Industry 4.0 응용 프로그램의 요구 사항을 염두에 두고 설계되었으며 최대 2.3 TOPS 및 최대 4개의 Arm Cortex A53 프로세서 코어에서 작동하는 전용 NPU(신경 처리 장치)가 장착되어 있습니다.

그림 3. i.MX 8M Plus 블록 다이어그램. NXP의 이미지 제공. 클릭하면 확대됩니다.

내장된 이미지 신호 프로세서를 통해 개발자는 2개의 HD 카메라 센서 또는 단일 4K 카메라를 활용할 수 있습니다. 이러한 기능을 통해 i.MX 8M Plus 장치 제품군은 얼굴 인식, 물체 감지 및 기타 ML 작업과 같은 애플리케이션에 실행 가능합니다. 그 외에도 i.MX 8M Plus 제품군의 장치는 고급 2D 및 3D 그래픽 가속 기능, H.265를 포함한 비디오 인코딩 및 디코딩 지원과 같은 멀티미디어 기능, 8개의 PDM 마이크 입력과 함께 제공됩니다.

추가 저전력 800MHz Arm Cortex M7 코어가 패키지를 보완합니다. 이 전용 코어는 CAN FD 지원 및 TSN 기능이 있는 기가비트 이더넷 통신과 같은 강력한 네트워킹 기능을 필요로 하는 실시간 산업용 애플리케이션을 제공합니다.

eIQ 도구 환경

새로운 장치와 함께 개발자가 최신 ML 시스템을 구축할 수 있도록 하는 사용하기 쉽고 효율적이며 유능한 개발 에코시스템이 필요합니다. NXP의 포괄적인 eIQ ML 소프트웨어 개발 환경은 개발자가 ML 기반 애플리케이션을 만들 수 있도록 지원하도록 설계되었습니다.

eIQ 도구 환경에는 추론 엔진, 신경망 컴파일러, 최적화된 라이브러리가 포함되어 있어 NXP 마이크로컨트롤러, i.MX RT 크로스오버 MCU 및 i.MX SoC 제품군에서 ML 알고리즘을 사용할 수 있습니다. 개발자는 MCUXpresso IDE 및 Yocto BSP용 NXP SDK를 통해 필요한 ML 기술에 액세스할 수 있습니다.

곧 출시될 eIQ 툴킷은 액세스 가능한 GUI를 추가합니다. eIQ 포털 및 워크플로를 통해 모든 경험 수준의 개발자가 ML 애플리케이션을 만들 수 있습니다.

그림 4. BYOD 및 BYOM 워크플로와 eIQ 추론 엔진을 선택할 수 있는 eIQ 툴킷 및 eIQ 포털. eIQ 툴킷은 NXP 장치에 ML 애플리케이션을 배포할 때 모든 경험 수준의 개발자를 지원합니다. NXP의 이미지 제공.

개발자는 BYOM(Bring your own model)이라는 프로세스를 따르도록 선택할 수 있습니다. 여기에서 개발자는 클라우드 기반 도구를 사용하여 훈련된 모델을 구축한 다음 eIQ Toolkit 소프트웨어 환경으로 가져올 수 있습니다. 그런 다음 eIQ에서 적절한 추론 엔진을 선택하기만 하면 됩니다. 또는 개발자는 eIQ Portal GUI 기반 도구 또는 명령줄 인터페이스를 사용하여 데이터세트를 가져와서 선별하고 BYOD(bring your own data) 워크플로를 사용하여 eIQ Toolkit 내에서 모델을 교육할 수 있습니다.

모두를 위한 엣지에서의 머신 러닝

대부분의 현대 소비자는 클라우드 컴퓨팅에 익숙합니다. 그러나 최근 몇 년 동안 에지 컴퓨팅으로 알려진 새로운 패러다임에 대한 관심이 높아졌습니다.

이 패러다임에서는 모든 데이터가 클라우드에 업로드되지 않습니다. 대신 최종 사용자와 클라우드 사이 어딘가에 위치한 에지 노드가 추가적인 처리 능력을 제공합니다. 이 패러다임은 보안 및 개인 정보 보호 강화, 클라우드로의 데이터 전송 감소, 지연 시간 단축과 같은 많은 이점을 제공합니다.

최근에는 개발자가 머신 러닝 기능으로 이러한 에지 노드를 향상시키는 경우가 많습니다. 이렇게 하면 수집된 데이터를 분류하고 원치 않는 결과와 관련 없는 정보를 필터링하는 데 도움이 됩니다. 에지에 ML을 추가하면 운전자 주의 산만 감지, 스마트 조명 스위치, 지능형 잠금 장치, 차량 관리, 감시 및 분류 등과 같은 많은 애플리케이션을 사용할 수 있습니다.

ML 애플리케이션은 전통적으로 ML 및 딥 러닝 애플리케이션에 대한 깊은 이해를 가진 데이터 과학 전문가에 의해 독점적으로 설계되었습니다. NXP는 i.MX RT1170 및 i.MX 8M Plus와 같은 저렴하면서도 강력한 다양한 장치와 eIQ ML 소프트웨어 개발 환경을 제공하여 모든 설계자가 ML을 개방할 수 있도록 합니다. 이 하드웨어 및 소프트웨어는 개발자가 프로젝트의 규모에 관계없이 모든 경험 수준에서 미래 지향적인 ML 애플리케이션을 구축할 수 있도록 하는 것을 목표로 합니다.

업계 기사는 업계 파트너가 편집 콘텐츠에 적합하지 않은 방식으로 All About Circuits 독자와 유용한 뉴스, 메시지 및 기술을 공유할 수 있는 콘텐츠 형식입니다. 모든 산업 기사는 독자에게 유용한 뉴스, 기술 전문 지식 또는 이야기를 제공하기 위해 엄격한 편집 지침을 따릅니다. 업계 기사에 표현된 관점과 의견은 파트너의 것이며 반드시 All About Circuits 또는 해당 작성자의 의견은 아닙니다.