에지 AI 격상: 전례 없는 성능과 전력 효율성 실현

기술의 진화는 익숙한 이야기이며, 인공지능도 예외는 아닙니다. 각 세대의 AI 칩은 더 많은 MAC, 더 깊은 양자화, 추가 기능을 추가하며 모두 더 높은 TOPS/Watt를 추구합니다. 그러나 사용자 전문성이 성장함에 따라 요구사항은 단순한 사용성에서 비교할 수 없는 알고리즘 유연성, 최대 처리량, 최소 전력 소비로 이동하고 있습니다.

CEVA NeuPro 플랫폼을 통해 우리는 다양한 시장에 에지 AI 솔루션을 성공적으로 도입했습니다. 오늘날 사용자는 점진적 업그레이드를 넘어, 최첨단 기술을 10배 앞설 수 있는 혁신적 개선을 원합니다.

실제 영향 측정

TOPS/Watt는 편리한 벤치마크지만 실제 애플리케이션에서는 부족합니다. 시각적 추론의 경우 와트당 초당 프레임 수(FPS/W)가 훨씬 더 의미 있습니다. 자동차 안전 분야에서 예를 들어, 인식 엔진은 가능한 가장 낮은 전력 소비로 최소 100FPS를 처리해야 합니다. 지연은 안전한 정지와 사고의 차이를 의미하기 때문입니다. 이러한 성능을 달성하려면 기존 지표가 제안하는 것보다 훨씬 높은 FPS/W가 필요합니다.

시장 기회는 명확합니다. 자동차와 통신이 에지 AI 성장의 가장 큰 몫을 차지할 전망이며, 지능형 이미징이 이미 자동차를 지배하고 '다중 카메라' 트렌드가 휴대폰을 재편하고 있습니다. 최신 스마트폰 카메라는 노이즈 제거, 안정화, 초해상도를 위해 레거시 알고리즘을 신경망으로 대체하며, 엄격한 에너지 한도 내에서 60fps로 실행됩니다.

대도약을 위한 요구사항

아날로그 AI와 스파이킹 신경망이 흥미로운 가능성을 제시하지만, 제품 제조사는 오늘 양산 가능한 확장 가능한 솔루션이 필요합니다. 이는 방대한 알고리즘 잠재력을 남깁니다: 광범위한 양자화 옵션, Winograd 지원, 희소성 최적화, 다양한 비트 크기의 다양한 데이터 타입 처리, 병렬 벡터 처리, 데이터 압축, 행렬 분해, 트랜스포머 및 3D 컨볼루션 같은 차세대 아키텍처 지원. 이러한 기능은 레퍼런스 네트워크 대비 최대 50:1 가속을 제공할 수 있습니다.

행동 촉구

경험 많은 AI 개발자들은 이제 자신이 구축하는 데 정확히 무엇이 필요한지 알고 있습니다. 그들이 필요로 하는 것은 신뢰하는 모든 신경망 구성 요소와 최적화를 제공해 자신의 제품에 최적의 솔루션을 만들 수 있게 하는 플랫폼입니다.

이는 단순한 위시리스트가 아닙니다. 고급 에지 AI가 요구하는 획기적인 성능, 처리량, 저전력을 위한 로드맵입니다. 제조사는 더 이상 점진적 이득에 안주할 수 없습니다. 그들은 AI 가능성에 대한 깊은 이해와 일치하는 플랫폼을 기대합니다.

CEVA의 에지 AI 작업에 대해 더 알아보려면 여기를 클릭하세요.

Roni Sadeh는 오디오, 음성, 컴퓨터 비전을 위한 AI 관련 소프트웨어 및 하드웨어 솔루션에 중점을 둔 프로세서 및 가속기 설계 분야에서 20년 이상의 경험을 보유하고 있습니다. 그는 수백 TOPS까지 확장 가능한 차세대 AI 가속기를 개발하고 있습니다.

Roni는 Technion University에서 항공 공학 학사 학위를 받았습니다.