NVIDIA, VMware와 협력하여 AI 경제 혁신

GPU 활용률을 높이면 AI 애플리케이션 구축 및 배포 비용이 크게 감소합니다.

오늘 VMworld 2019 컨퍼런스에서 NVIDIA와 VMware는 이제 GPU(그래픽 프로세서 장치)에 VMware 가상 머신을 배포할 수 있게 하겠다고 공동으로 발표했습니다.

이 이니셔티브의 일환으로 NVIDIA는 가상 GPU(vGPU) 소프트웨어를 이제 클라이언트 시스템에 대한 기존 지원 외에도 서버의 가상 머신에 배포할 수 있다고 발표했습니다. GPU용 NVIDIA Virtual Compute Server(vComputeServer) 소프트웨어도 VMware vSphere 플랫폼에 대한 지원을 추가하도록 확장됩니다. NVIDIA는 또한 VMware 플랫폼에서 사용할 수 있는 인공 지능(AI) 애플리케이션 구축을 위한 도구에 액세스하기 위한 허브를 만들기 위해 노력하고 있습니다.

참조: 인공 지능 준비의 3가지 핵심 구성 요소는 무엇입니까?

VMware는 이러한 NVIDIA 기술을 사용하여 VMware Cloud on AWS에서 vComputeServer 소프트웨어를 실행하는 NVIDIA T4 GPU로 가속화된 Amazon EC2 베어메탈 인스턴스로 구성된 클라우드 서비스를 제공하겠다고 약속했습니다.

종합적으로 이러한 발전은 GPU 활용도 향상에 중요한 의미를 가질 뿐만 아니라 데이터 과학자가 온프레미스 또는 클라우드에 있는 VMware 서버에서 실행되는 GPU에서 여러 워크로드를 집계할 수 있게 해준다고 NVIDIAGrid 제품 부사장인 John Fanelli는 말합니다.

인공 지능(AI) 응용 프로그램을 구축하기 위해 GPU를 사용하는 것에 대한 관심은 매우 높았지만 이러한 응용 프로그램을 구축하는 데 드는 비용은 종종 어마어마했습니다. 가상 머신이 없는 경우 이전에는 각 GPU가 한 번에 하나의 워크로드를 실행하는 데만 사용되었습니다. Fanelli는 GPU 활용률을 높임으로써 AI 애플리케이션을 구축하고 배포하는 비용을 상당히 줄일 수 있다고 말합니다.

이러한 비용으로 인해 조직이 인간 존재의 거의 모든 측면을 변화시킬 잠재력이 있는 AI 애플리케이션에 더 많은 투자를 하지 못하게 되었기 때문에 이는 매우 중요합니다.

Fanelli는 "AI는 우리 시대의 가장 강력한 기술입니다."라고 말합니다.

그러나 가상 머신에서 실행되는 AI 워크로드의 성능은 개별 속성에 따라 달라집니다. Fanelli는 많은 개발자가 NVIDIA CUDA 툴킷을 활용하여 AI 워크로드를 병렬로 실행함으로써 성능 문제를 보상할 수 있을 것이라고 말했습니다.

AI 애플리케이션을 효율적으로 구축하고 배포하는 것이 더 저렴해짐에 따라 앞으로 몇 개월 동안 시작될 AI 프로젝트의 수도 증가해야 합니다. 이 프로세스를 가속화하기 위해 VMware는 또한 고객이 가상 머신의 이동을 자동화하고 플랫폼 간의 데이터 전송을 가속화하는 VMware HCX 도구를 사용하여 로컬 데이터 센터에서 실행되는 GPU 인스턴스에서 클라우드로 워크로드를 마이그레이션할 수 있을 것이라고 말했습니다.

주로 클라우드에서 액세스하는 GPU는 GPU가 메모리 및 I/O오버헤드를 얼마나 효율적으로 관리하는지 때문에 AI 모델 교육에 선호되는 플랫폼이 되었습니다. 그러나 NVIDIA는 x86 서버 대신 이러한 AI 모델을 실행하는 데 필요한 추론 엔진을 실행하기 위해 GPU에 의존하는 혼합된 성공 사례를 만들어 왔습니다. 소프트웨어에 서버 가상 머신에 대한 지원을 추가하면 x86 플랫폼에 추론 엔진이 배포되는 것과 거의 동일한 방식으로 동일한 GPU 플랫폼에서 여러 추론 엔진을 실행하는 것이 훨씬 더 실현 가능해질 것입니다.

물론 추가 인프라 리소스에 대한 액세스 권한이 있다고 해서 AI의 성공이 반드시 보장되는 것은 아닙니다. 그러나 이러한 리소스는 AI 개발 프로세스에서 오류로 인한 비용을 줄이는 데 큰 도움이 될 것입니다.