Nvidia GTC:임베디드 에지 AI를 위한 200 TOPS를 제공하는 새로운 Jetson 모듈

Nvidia GTC에서 발표한 Nvidia Jetson AGX Orin은 로봇 공학, 자율 기계, 의료 기기 및 기타 에지 임베디드 컴퓨팅을 위한 세계에서 가장 작고 강력하며 에너지 효율적인 AI 슈퍼컴퓨터입니다.

Nvidia Ampere 아키텍처를 기반으로 구축된 Jetson AGX Orin은 6배의 처리 능력을 제공하고 이전 버전인 Jetson AGX Xavier와 폼 팩터 및 핀 호환성을 유지합니다. GPU 지원 서버와 비슷하지만 손바닥에 들어오는 크기로 초당 200조 개의 작업을 처리합니다.

새로운 Jetson 컴퓨터는 전체 Nvidia AI 소프트웨어 스택을 가속화하여 개발자가 자연어 이해, 3D 인식 및 다중 센서 융합에서 에지 AI 및 로봇 공학 문제를 해결하는 데 필요한 가장 크고 복잡한 모델을 배포할 수 있도록 합니다.

Nvidia의 부사장 겸 임베디드 및 에지 컴퓨팅 총괄 책임자인 Deepu Talla는 "로봇 공학과 임베디드 컴퓨팅이 제조, 의료, 소매, 운송, 스마트 시티 및 기타 경제의 필수 부문을 변화시키면서 프로세싱에 대한 수요가 계속해서 급증하고 있습니다."라고 말했습니다. . "Jetson AGX Orin은 850,000명의 Jetson 개발자와 상용 제품을 구축하는 6,000개 이상의 회사가 한때 불가능해 보였던 자율 기계와 에지 AI 애플리케이션을 만들고 배포할 수 있도록 하여 이러한 요구 사항을 해결합니다."

Jetson AGX Orin은 Nvidia Ampere 아키텍처 GPU 및 Arm Cortex-A78AE CPU와 함께 차세대 딥 러닝 및 비전 가속기를 갖추고 있습니다. 고속 인터페이스, 더 빠른 메모리 대역폭 및 다중 모드 센서 지원은 여러 동시 AI 애플리케이션 파이프라인에 공급할 수 있는 기능을 제공합니다.

소프트웨어 및 생태계 지원
Jetson AGX Orin을 사용하는 고객은 클라우드 네이티브 개발 워크플로를 포함하여 애플리케이션 개발 및 최적화를 위해 CUDA-X 가속 컴퓨팅 스택, JetPack SDK 및 최신 Nvidia 도구를 활용할 수 있습니다. Nvidia NGC 카탈로그의 사전 훈련된 모델은 최적화되어 있으며 TAO 툴킷 및 고객 데이터 세트로 미세 조정할 준비가 되어 있습니다. 이를 통해 프로덕션 품질의 AI 배포에 소요되는 시간과 비용을 절감할 수 있으며 클라우드 네이티브 기술을 통해 제품 수명 내내 원활한 업데이트가 가능합니다.

Jetson 임베디드 컴퓨팅 파트너 에코시스템은 카메라 및 기타 다중 모드 센서, 캐리어 보드, 하드웨어 설계 서비스, AI 및 시스템 소프트웨어, 개발자 도구 및 맞춤형 소프트웨어 개발을 비롯한 광범위한 서비스 및 제품을 포함합니다.

TIRIAS Research의 수석 분석가인 Jim McGregor는 "AI의 발전에 힘입어 로봇 시장이 기하급수적으로 성장하고 있습니다. “Nvidia는 AI 분야에서 인정받는 리더이며 이 전문성을 지속적으로 활용하여 공통 도구와 신경망 모델을 활용하는 다양한 하드웨어 플랫폼을 포함하여 강력한 에코시스템과 완전한 종단 간 솔루션을 통해 로봇 공학을 발전시키고 있습니다. 새로운 Jetson 플랫폼은 Nvidia Ampere 아키텍처의 성능과 다용성을 제공하여 농업 및 제조에서 의료 및 스마트 도시에 이르는 광범위한 애플리케이션을 위한 자율 모바일 로봇의 더욱 발전을 가능하게 합니다.”

특정 사용 사례의 경우 소프트웨어 프레임워크에는 로봇 공학용 Omniverse의 Nvidia Isaac Sim, 의료용 Nvidia Clara Holoscan SDK, 자율 주행용 Nvidia DRIVE가 포함됩니다. 최신 Isaac 릴리스에는 ROS(로봇 운영 체제) 개발자 커뮤니티에 대한 상당한 지원이 포함되어 있습니다. Nvidia는 또한 합성 데이터 생성을 위한 새로운 Omniverse Replicator와 하드웨어 가속 소프트웨어 패키지인 Isaac GEM을 출시하여 ROS 개발자가 Jetson 플랫폼에서 고성능 AI 지원 로봇을 쉽게 구축할 수 있도록 지원합니다.

의료 기기, 기기의 실시간 감지
AGX Orin은 개발자가 에지에서 저지연 스트리밍 애플리케이션을 실행하는 소프트웨어 정의 의료 기기를 구축할 수 있도록 하는 의료 산업을 위한 새로운 컴퓨팅 플랫폼인 Nvidia Clara Holoscan을 지원합니다. 이 처리 능력은 물리학, 영상 및 시각화를 처리하고 의사를 위한 실시간 AI 의사 결정 지원을 가능하게 하는 로봇 수술, 내시경 및 진단 영상 시스템과 같은 장치에 필요합니다. Clara Holoscan은 개발자에게 보다 복잡한 작업을 데이터 센터로 전달하면서 기기에서 저지연 스트리밍 애플리케이션을 실행하는 AI 마이크로서비스를 생성할 수 있는 유연한 플랫폼을 제공합니다.

교통 AI 도우미
Jetson AGX Orin과 같은 Ampere 아키텍처로 구동되는 DRIVE AGX Orin은 운송 산업을 위한 플랫폼입니다. 새로 발표된 Nvidia DRIVE 컨시어지 및 DRIVE 운전사 뒤에 있는 고급 프로세서입니다. 두 AI 플랫폼은 각각 AI 도우미를 통해 차량 내부의 승객 경험을 재정의하고 안전한 자율 주행을 지원하는 데 전념합니다. 수많은 글로벌 자동차 및 트럭 제조업체, 신에너지 차량 스타트업 및 셔틀 회사가 차세대 지능형 소프트웨어 정의 모빌리티 솔루션에 고성능 AI 컴퓨팅을 사용하고 있습니다.

Jetson AGX Orin 모듈 및 개발자 키트는 2022년 1분기에 제공될 예정입니다.