타이니ML: 엔지니어들 초저전력 AI 표준화 위해 뭉쳤다

서니베일, 캘리포니아 - 약 200명의 엔지니어와 연구자들이 타이니ML(TinyML) 커뮤니티 출범을 위해 모였습니다. 타이니ML은 딥러닝을 초저전력 시스템에 구현하는 신흥 분야입니다.

"혁신적 아이디어가 부족한 건 아닙니다." 세션을 연 Arm의 머신러닝 펠로우 이안 브랫(Ian Bratt)의 말입니다.

4년 전 진전이 정체되었으나, 새로운 부동소수점 포맷과 압축 기술 등장으로 열기가 재점화되었습니다. 하지만 최첨단 연구와 상용화 가능 솔루션 간에는 여전히 큰 격차가 존재한다고 브랫은 설명했습니다.

소프트웨어 생태계는 무법천지처럼 파편화되어 있으며, 아마존, 구글, 페이스북 등 거대 기업이 각자 프레임워크를 밀어붙이는 형국. 하드웨어 엔지니어의 과제는 널리 사용 가능한 제품을 제공하는 것이라고 덧붙였습니다.

ST마이크로일렉트로닉스 엔지니어도 공감했습니다. "최소 4개의 AI 컴파일러가 존재하고, 차세대 칩은 기존 임베디드 디자이너 툴킷 밖이 될 것임을 깨달았다. 소프트웨어 인터페이스 안정화와 표준위원회를 통한 상호운용성 투자가 필수적"이라고 말했습니다.

타이니ML 그룹 공동의장이자 텐서플로 라이트 기술 리드인 피트 워든(Pete Warden)은 소프트웨어 표준화가 아직 시기상조일 수 있다고 경고. "연구자들이 연산, 아키텍처, 가중치, 압축, 포맷, 양자화를 끊임없이 수정한다. 의미론이 유동적이라 보조를 맞춰야 한다"고 설명.

워든은 향후 몇 년 내 범용 연산을 실행해 새 연산이나 활성화 함수를 지원 못 하는 가속기는 구식이 될 것이라 경고. "2년 후면 새로운 연산이 등장할 가능성이 높다"고 덧붙였습니다.

마이크로소프트 AI 연구자도 동의. "아직 갈 길이 멀고 1~2년 내 도달 못 한다. 그래서 마이크로소프트가 애저 클라우드 가속용 FPGA에 투자한 것"이라며 "올바른 추상화 레이어 구축이 하드웨어 혁신에 필수적. 오픈소스 하드웨어 가속기가 진전을 앞당길 수 있다"고 말했습니다.

브랫은 준수 표준이 첫걸음일 수 있다고 제안. 연구자들이 일관된 에지-클라우드 경험을 갖도록 보장하는 것.

AI 프로세서-인-메모리 연구하는 프린스턴 교수 네이빈 버마(Naveen Verma)는 모든 수준에서 견고한 기능 명세 필요성 강조. "충분한 수준에서 명확한 스펙을 정의할 수 있다면 다른 레이어로의 경로가 열릴 것이고, 이 커뮤니티가 독보적으로 그 역할을 할 수 있다"고 말했습니다.