기술의 진화 단계는 낯익은 곳이며, 최근 몇 년간의 주력 기술인 AI도 다르지 않다. AI에서 새로운 세대는 더 많은 MAC, 여러 계층의 양자화, 이 기능, 저 기능을 추가하여 향상된 TOPS/Watt를 추구합니다.
우리는 이러한 환경 내에서 CEVA NeuPro 플랫폼을 통해 다양한 시장에 AI-at-edge 솔루션을 성공적으로 도입했습니다. 이제 사용자는 더 많은 것을 원하지만 때로는 진화만으로는 충분하지 않습니다.
처음에 사용자는 이 최신 AI 기술을 도입하는 데 도움이 되도록 사용 편의성을 강조했습니다. 그러나 고급 AI 기술에 대한 전문 지식이 깊어짐에 따라 제품을 차별화하고 현재의 최첨단 접근 방식을 훨씬 능가하는 모든 가능한 방법에 액세스하기를 원합니다. 진화를 통해 빨리 도착하는 것은 불가능합니다. 혁신적인 개선이 필요합니다. 그들이 원하는 것은 사용 편의성에서 최대 처리량과 최소 전력으로 최대한의 알고리즘 유연성으로 전환되었습니다.
TOPS/W는 좋은 마케팅 수치이지만 실제 애플리케이션에서 유용하기에는 너무 조잡합니다. 예를 들어 시각적 추론에서 와트당 초당 프레임 수(FPS/W)는 훨씬 더 의미 있는 메트릭입니다. 이러한 맥락에서 좋은 점수의 가치는 이해하기 쉽습니다. 보행자나 앞차, 뒤에서 지나가는 차를 감지하려면 빠른 대응이 필요합니다. 제동을 걸거나 방향을 틀 시간이 거의 없으며 두 가지 조치 모두 즉각적이지 않습니다. 추론 엔진은 차량 주변의 많은 센서/AI 시스템 중 하나일 뿐이기 때문에 가능한 가장 낮은 전력으로 최소 100FPS를 관리할 수 있어야 합니다. 경쟁력을 갖추려면 훨씬 더 높은 fps/W가 필요합니다.
시장 기회는 의심의 여지가 없습니다. 자동차 및 통신 애플리케이션은 이러한 성장에 가장 큰 기여를 할 것으로 예상되며 자동차에서 지능형 이미징은 계속해서 강력합니다. 덧붙여서, 휴대폰의 "많은 카메라" 트렌드도 마찬가지입니다. 실제로 이러한 카메라의 이미징 파이프라인은 노이즈 제거, 이미지 안정화, 초고해상도 및 기타 새로운 기능을 위한 신경망으로 기존 알고리즘을 대체하기 시작했으며 모두 매우 제한된 에너지 범위에서 60fps로 실행됩니다.
아날로그 AI 및 스파이크 신경망과 관련하여 몇 가지 흥미로운 일이 일어나고 있지만 제품 제조업체는 오늘날 대량으로 확장할 수 있다고 확신하는 것에서 너무 멀리 뛰어내리기를 원하지 않습니다. 이러한 제약 조건은 여전히 많은 알고리즘 잠재력을 남겼지만 이제 제품 빌더는 최소 전력으로 최대 성능을 짜낼 수 있는 훨씬 더 유연하게 이러한 모든 알고리즘에 액세스하기를 원합니다.
최적화 가능성 목록은 매우 깁니다. 광범위한 양자화 옵션, winograd 지원, 0으로 곱셈을 건너뛰는 희소성 최적화, 다양한 비트 크기에 걸친 활성화 및 가중치의 데이터 유형 다양성, 신경 곱셈과 병렬로 벡터 처리 기능, 가중치 및 활성화에 대한 로딩 시간을 줄이기 위한 데이터 압축, 매트릭스 분해 지원, 참조 네트워크를 통해 최대 50:1 가속 제공, 변환기 및 3D 컨볼루션 지원과 같은 차세대 NN 아키텍처.
이제 AI에 대한 더 많은 경험을 가진 제품 빌더는 구축하려는 대상과 구축 방법을 알고 있습니다. 그들이 필요로 하는 것은 그들이 이미 이해하고 있는 모든 신경망 구성요소 알고리즘을 제공하여 그들의 제품에 대한 최적의 솔루션을 구성하는 플랫폼입니다.
이것은 고급 에지 AI가 필요로 하는 진정한 획기적인 기능, 처리량 및 저전력을 제공하기 위한 알고리즘 및 최적화의 꿈 목록입니다. 근데 왜 꿈만? 고급 제품 빌더는 더 이상 AI의 점진적 개선에 만족하지 않습니다. 그들은 이제 가능성에 대한 이해가 크게 향상되는 플랫폼을 기대합니다.
Edge AI에서 CEVA의 작업에 대해 자세히 알아보려면 여기를 클릭하십시오.
<시간 />Roni Sadeh는 프로세서 및 가속기 설계 분야에서 20년 이상의 경험을 갖고 있으며 최근 몇 년 동안 오디오/음성/컴퓨터 비전 애플리케이션을 위한 AI 관련 SW 및 HW 솔루션에 중점을 두고 수백 개로 확장 가능한 차세대 AI 가속기를 설계했습니다. 탑.
Roni는 Technion University에서 항공 공학 학사 학위를 받았습니다.
사물 인터넷 기술
귀찮은 CAD 모델에 대해 걱정하지 않고 로봇 프로그램을 위한 모델을 만들고 싶으십니까? Solid Edge용 새 플러그인을 사용하면 RoboDK의 손쉬운 로봇 프로그래밍으로 동기식 기술의 힘을 얻을 수 있습니다. 누구나 좋아하는 CAD 프로그램이 있습니다. 내가 대학을 다닐 때 내 것은 Solid Edge였습니다. 그것은 제가 처음으로 배웠고 몇 년 동안 그것을 고수했습니다. Solid Edge는 다른 CAD 패키지에서 거의 제공하지 않는 동기식 기술인 모델링 유형을 제공합니다. 이 접근 방식의 팬이라면 로봇 프로그래
40년 이상 동안 누군가가 로봇을 생각할 때 그들은 공상과학 영화에 나오는 무언가를 생각했거나 공장에서 일해 온 로봇 팔을 생각했습니다. 이 산업용 로봇은 수십 년 동안 용접, 재료 취급 및 재료 제거에 사용되었지만 이제 새로운 로봇이 등장하고 있습니다. 새로운 로봇 시스템은 이러한 공장 사촌들로부터 기술을 파생하지만 공장 설정을 위해 만들어지는 것은 아닙니다. 새로운 로봇의 가장 큰 트렌드 중 하나는 서비스 로봇입니다. 이 로봇은 서비스 산업에서 작업을 수행하도록 프로그래밍되고 있습니다. 영화관의 키오스크, 식료품점의 셀프 계산
