NVIDIA와 VMware, GPU 가상화로 AI 비용 효율성 가속화 파트너십

GPU 활용률을 높여 AI 애플리케이션 구축 및 배포 비용을 대폭 절감합니다.

오늘 VMworld 2019 컨퍼런스에서 NVIDIA와 VMware는 VMware 가상 머신을 GPU(그래픽 프로세서)에서 배포할 수 있도록 공동으로 지원한다고 발표했습니다.

이 이니셔티브의 일환으로 NVIDIA는 가상 GPU(vGPU) 소프트웨어를 기존 클라이언트 시스템 지원에 더해 서버의 가상 머신에도 배포할 수 있게 했습니다. GPU용 NVIDIA Virtual Compute Server(vComputeServer) 소프트웨어도 VMware vSphere 플랫폼 지원을 추가하도록 확장되었습니다. NVIDIA는 또한 AI 애플리케이션 구축을 위한 도구에 접근하는 허브를 VMware 플랫폼에서 사용할 수 있도록 했습니다.

참고: AI 준비의 3가지 핵심 구성 요소는 무엇인가?

이러한 NVIDIA 기술을 사용하여 VMware는 NVIDIA T4 GPU에서 실행되는 vComputeServer 소프트웨어가 탑재된 Amazon EC2 베어 메탈 인스턴스로 구성된 클라우드 서비스를 VMware Cloud on AWS에서 제공하기로 했습니다.

이러한 발전은 GPU 활용도 향상에 중요한 의미를 가질 뿐만 아니라, 데이터 과학자들이 온프레미스나 클라우드에 있는 VMware 서버에서 실행되는 GPU에 여러 워크로드를 집계할 수 있게 한다고 NVIDIA Grid 제품 부문 부사장 존 파넬리(John Fanelli)는 말합니다.

AI 애플리케이션 구축을 위해 GPU를 활용하려는 관심이 엄청났지만, 해당 애플리케이션 구축 비용이 종종 너무 높았습니다. 가상 머신이 없으면 각 GPU는 이전에는 한 번에 하나의 워크로드만 실행하는 데 전용되었습니다. GPU 활용률을 높임으로써 AI 애플리케이션 구축 및 배포 비용이 크게 감소할 것이라고 파넬리는 말합니다.

이는 거의 모든 인간 삶의 측면을 변화시킬 잠재력을 가진 AI 애플리케이션에 기업이 더 많이 투자하는 것을 막았던 비용 장벽을 해소하기 때문에 중요합니다.

"AI는 우리 시대의 가장 강력한 기술입니다."라고 파넬리는 말합니다.

그러나 가상 머신에서 실행되는 AI 워크로드의 성능은 개별 특성에 따라 달라질 것이라고 파넬리는 말합니다. 많은 개발자가 NVIDIA CUDA 툴킷을 활용하여 AI 워크로드를 병렬로 실행함으로써 성능 문제를 보완할 수 있을 것이라고 파넬리는 덧붙였습니다.

AI 애플리케이션을 효율적으로 구축하고 배포하는 것이 더 저렴해짐에 따라, 향후 몇 달 동안 출시될 AI 프로젝트 수가 증가할 것입니다. 이 과정을 가속화하기 위해 VMware는 고객이 VMware HCX 도구를 사용하여 로컬 데이터 센터의 GPU 인스턴스에서 클라우드로 워크로드를 마이그레이션할 수 있다고 밝혔습니다. 이 도구는 가상 머신 이동을 자동화하고 플랫폼 간 데이터 전송을 가속화합니다.

클라우드에서 주로 접근하는 GPU는 메모리와 I/O 오버헤드를 효율적으로 관리하기 때문에 AI 모델 훈련을 위한 선호 플랫폼이 되었습니다. 그러나 NVIDIA는 x86 서버 대신 GPU를 사용하여 AI 모델을 실행하는 추론 엔진에도 의존해야 한다고 혼합된 성공으로 주장해 왔습니다. 서버 가상 머신 지원을 소프트웨어에 추가함으로써, 여러 추론 엔진을 x86 플랫폼에 배포하는 것과 거의 같은 방식으로 단일 GPU 플랫폼에서 실행하는 것이 훨씬 더 가능해질 것입니다.

물론 추가 인프라 리소스에 접근할 수 있다고 해서 AI 성공이 보장되는 것은 아닙니다. 하지만 이러한 리소스는 AI 개발 과정에서 실수의 비용을 줄이는 데 큰 도움이 될 것입니다.