에지 성능을 향상시키는 새로운 AI 가속 모듈

인공 지능(AI) 칩 제조업체 Hailo는 에지 장치를 강화하기 위한 M.2 및 Mini PCIe 고성능 AI 가속 모듈을 출시했습니다. Hailo-8 프로세서를 기반으로 하는 모듈은 다양한 에지 장치에 연결할 수 있어 AI 기능을 스마트 시티, 스마트 소매, 인더스트리 4.0 및 스마트 홈에 배포할 수 있습니다.

이 모듈을 통해 고객은 고성능 AI 기능을 에지 장치에 통합할 수 있으므로 다양한 딥 러닝 기반 애플리케이션을 고효율로 가속화하기 위한 최적화된 솔루션을 제공하여 표준 폼 팩터로 출시 시간을 최적화할 수 있습니다.

Hailo의 AI 가속 모듈은 Hailo의 데이터 흐름 컴파일러에서 지원하는 TensorFlow 및 ONNX와 같은 표준 프레임워크에 원활하게 통합됩니다. 고객은 신경망(NN)을 Hailo-8 프로세서로 빠르게 이식할 수 있습니다.

플러그인 솔루션은 업계에서 고성능과 비용 효율적인 에지 장치를 점점 더 많이 활용하고 있는 시기에 출시되었습니다. 예를 들어 팬이 없는 AI 에지 박스는 실외 배치에서 많은 카메라 또는 센서를 단일 지능형 처리 장치에 연결할 수 있기 때문에 수요가 많습니다. Hailo의 모듈은 초당 26개의 TOPS(Tera-Operations Per Second)와 3TOPS/W의 전력 효율성을 제공하는 Hailo-8 AI 프로세서를 사용하여 적절한 M.2 또는 Mini PCIe 소켓이 있는 기존 에지 장치에 연결하여 성능을 제공할 수 있습니다. 대기 시간을 줄이고 개인 정보를 개선하는 동시에.

여러 표준 NN 벤치마크에서 경쟁업체와 Hailo-8 평균 FPS(초당 프레임 수(FPS))를 비교한 결과(최신 발표된 수치 기준) Hailo의 AI 모듈이 Intel의 Myriad-X 모듈보다 26배, Google의 에지 TPU 모듈입니다.

Hailo의 CEO인 Orr Danon에 따르면 “업계 전반의 제조업체는 AI 기능을 에지 장치에 통합하는 것이 얼마나 중요한지 이해하고 있습니다. 간단히 말해서 AI가 없는 솔루션은 더 이상 경쟁할 수 없습니다. 우리의 새로운 Hailo-8 M.2 및 Mini PCIe 모듈은 전 세계 기업들이 시스템의 열적 제약을 유지하면서 짧은 시장 출시 시간으로 강력하고 비용 효율적이며 혁신적인 AI 기반 제품을 만들 수 있도록 지원합니다. Hailo 모듈의 고효율 및 최고 성능은 에지 시장의 진정한 판도를 바꿀 것입니다.”

Hailo-8 M.2 모듈은 PCB를 재설계할 필요 없이 실행하는 데 30와트의 전력만 필요한 24코어 미니서버인 차세대 Foxconn BOXiedge에 이미 통합되어 있습니다. 이 솔루션은 독립형 AI 추론 노드에 우수한 에너지 효율성을 제공하여 스마트 시티, 스마트 소매, 인더스트리 4.0 및 스마트 의료를 비롯한 애플리케이션에 이점을 제공합니다.

Gene Liu는 "Hailo의 M.2 AI 모듈을 BOXiedge에 통합함으로써 차세대 에지 컴퓨팅 장치에 혁명을 일으키고 있으며 전자 산업을 위한 혁신적이고 효율적이며 경쟁력 있는 제품을 만들려는 우리의 사명을 계속 지원할 수 있게 될 것"이라고 말했습니다. Foxconn Technology Group의 반도체 하위 그룹 부사장. “Hailo의 M.2 및 Mini PCIe 모듈은 고성능 Hailo-8 AI 칩과 함께 빠르게 진화하는 많은 산업이 매우 짧은 시간에 첨단 기술을 채택할 수 있도록 하여 차세대 고성능, 저전력, 더 스마트한 AI 기반 솔루션을 제공합니다.”