초저전력 시스템이 TinyML에 AI 희망을 고정시킵니다

캘리포니아주 SUNNYVALE – 약 200명의 엔지니어와 연구원으로 구성된 그룹이 TinyML이라고 부르는 초저전력 시스템에서 딥 러닝을 육성하기 위한 커뮤니티 형성에 대해 논의하기 위해 여기에 모였습니다. 프레젠테이션과 대화에서 그들은 새로운 차원의 시스템을 구현하기 위해 기술 분야에서 가장 빠르게 움직이는 분야의 아직 미성숙한 분야를 다루기 위해 공개적으로 고심했습니다.

Arm의 기계 학습 펠로우인 Ian Bratt는 토론을 시작하면서 "멋진 아이디어가 부족하지 않습니다."라고 말했습니다.

"4년 전만 해도 일이 점점 지루해지고 있었고 기계 학습이 새로운 부동 소수점 형식과 압축 기술과 함께 등장했습니다. 그러나 실제 시스템에서 이러한 아이디어를 사용하여 돈을 벌 수 있는 방법이 많이 부족합니다.”라고 Bratt가 말했습니다.

“소프트웨어 생태계는 완전히 서부입니다. 너무 파편화되어 있고 Amazon, Google, Facebook 및 기타 업체가 프레임워크를 추진하는 데 약간의 영역이 있습니다. 그러면 하드웨어 엔지니어가 어떻게 많은 사람들이 사용할 수 있는 것을 얻을 수 있습니까?”라고 그가 말했습니다.

STMicroelectronics의 엔지니어가 이에 동의했습니다.

“AI용 컴파일러가 최소 4개 있다는 것을 방금 깨달았습니다. 그리고 새 칩은 기존의 임베디드 설계자가 사용하지 않을 것입니다. 따라서 소프트웨어 인터페이스를 안정화하고 상호 운용성에 투자해야 합니다. 표준 위원회는 공통 인터페이스에 대해 작업해야 합니다.”라고 STM 엔지니어가 제안했습니다.

TinyML 그룹의 공동 의장이자 모바일 및 임베디드 환경을 대상으로 하는 프레임워크인 Google TensorFlow Lite의 기술 책임자인 Pete Warden은 소프트웨어 표준에는 너무 이르다고 말했습니다.

“우리는 운영과 아키텍처를 끊임없이 변경하는 연구원을 비난합니다. 그들은 여전히 ​​가중치, 압축, 형식 및 양자화에 대한 것을 발견하고 있습니다. 의미 체계는 계속 바뀌고 우리는 그것들을 따라잡아야 합니다.”라고 Warden은 말했습니다.

"앞으로 몇 년 동안 새로운 작업이나 활성화 기능을 처리하기 위해 범용 계산을 실행하지 않는 가속기의 미래는 없습니다. 왜냐하면 지금부터 2년 후에는 사람들이 다른 작업을 테이블에 가져올 가능성이 높기 때문입니다."라고 그는 덧붙였습니다. /P>

Microsoft AI 연구원도 이에 동의했습니다. “우리는 우리가 있어야 한다고 생각하는 곳에서 아주 멀리 떨어져 있고 1, 2년 안에 거기에 도달하지 못할 것입니다. 이것이 Microsoft가 Azure 클라우드 서비스를 가속화하기 위해 FPGA에 투자한 이유입니다. "하드웨어 혁신을 가능하게 하려면 올바른 추상화 계층을 구축해야 합니다. 오픈 소스 하드웨어 가속기가 있다면 도움이 될 것입니다."라고 그는 덧붙였습니다.

Bratt of Arm은 "컴플라이언스 표준이 첫 번째 단계일 수 있으므로 에지에서도 클라우드와 동일한 경험을 얻을 수 있습니다."라고 제안했습니다.

Naveen Verma는 "우리는 당신이 어떤 수준에 살고 있든 강력한 기능 사양이 필요합니다. 우리가 충분한 수준에 있다면 사람들에게 다른 레이어에 대한 진입점을 제공할 것이며 이 그룹은 그들을 정의하는 데 가장 적합한 그룹입니다"라고 말했습니다. AI 프로세서 인 메모리에 중점을 둔 연구를 하는 프린스턴 교수.