엣지 AI: 처리 계층이 디바이스 레이어로 이동하는 이유

핵심 요약:

• 연결된 디바이스와 데이터 볼륨의 급증으로 속도, 성능, 데이터 보안을 위해 분산 컴퓨팅이 필수적이 되었습니다.
• 엔비디아(NVIDIA)와 VMware의 전략적 행보로 데이터 집약적인 AI 및 머신러닝 워크로드가 엣지에서 직접 실행 가능해졌습니다.
• 엣지 처리는 산업용 IoT부터 소비자 애플리케이션에 이르기까지 다양한 산업 전반에 실질적인 이점을 제공합니다.

전 세계적으로 수십억 개의 센서와 스마트 디바이스가 보급되면서 기존의 중앙 집중식 클라우드 아키텍처는 한계에 부딪혔습니다. 클라우드 컴퓨팅이 스타트업의 민첩성과 기업의 확장성을 혁신했지만, 고화질 비디오, 자율주행차, 실시간 물류 같은 새로운 워크로드는 초단위 지연 시간과 안전한 온프레미스 데이터 처리를 요구합니다.

"고객들은 너무 많은 처리를 클라우드에 오프로드하는 것이 더 이상 실행 가능하지 않다는 것을 깨닫고 있습니다."라고 NXP 반도체의 AI 기술 책임자 마르쿠스 레비(Markus Levy)는 최근 임베디드 AI 토론에서 말했습니다. "진정한 기회는 엣지에 있습니다."

MarketsandMarkets의 시장 데이터에 따르면 엣지 컴퓨팅 시장은 2020년 36억 달러에서 2025년 157억 달러로 성장할 것으로 예상되며, 이는 저지연, 고대역폭 처리 수요에 힘입어 4배 이상 확대되는 것입니다.

시장 움직임이 엣지 채택 가속화: 엔비디아

엔비디아의 2020년 9월 400억 달러 규모 Arm 인수는 GPU 가속 AI를 디바이스에 더 가깝게 가져오기 위한 이정표가 되었습니다. 엔비디아가 오랫동안 데이터센터 GPU 시장을 지배해온 반면, Arm은 애플, 퀄컴, 브로드컴 등에 공급되는 모바일 프로세서 시장에서 지배적인 위치를 차지하고 있어 엣지 AI를 위한 강력한 플랫폼을 제공합니다.

업계 리서치 기업의 분석가 제우스 케라발라(Zeus Kerravala)는 "AI를 GPU와 CPU로 구동되는 미래로 본다면, 엔비디아의 엔드투엔드 시스템 구축 능력이 급증했습니다. 특히 엣지 컴퓨팅 분야에서 그렇습니다."라고 언급했습니다.

규제 당국은 Arm의 광범위한 라이선싱 네트워크와 엔비디아의 모바일 CPU 시장 영향력 확대를 고려해 잠재적 독점 금지에 대한 우려로 이 거래를 면밀히 모니터링하고 있습니다.

스마트NIC: 인텔리전스를 엣지로 이동

VMworld 2020에서 VMware는 엔비디아와의 협업인 Project Monterey를 공개했습니다. 이는 스마트NIC와 엔비디아의 BlueField DPU를 활용해 엣지에서 AI 워크로드를 가속화합니다. 하이퍼바이저, 네트워킹, 보안, 스토리지 기능을 호스트 CPU에서 DPU로 오프로드함으로써 Monterey는 최대 30%의 CPU 사이클을 애플리케이션 로직에 할당합니다.

옴디아(Omdia)의 수석 분석가 알렉산더 해로웰(Alexander Harrowell)은 "계산을 데이터에 더 가깝게 이동하면 성능과 리소스 활용도가 향상된다는 추세는 명확합니다. 스마트NIC는 하이퍼바이저의 책임을 네트워크로 이동시켜 하버드 스타일 컴퓨팅 모델을 구현합니다."라고 관찰했습니다.

VMware의 수석 부사장 겸 CTO 그렉 라벤더(Greg Lavender)는 "스마트NIC의 Arm 코어로 I/O와 계산을 오프로드하면 CPU 리소스가 해방되어 애플리케이션에 추가 컴퓨팅과 메모리를 제공하고 더 빠르게 작동하게 합니다."라고 설명했습니다.

연결된 사물 생태계에서 이 변화는 실시간 AI를 가능하게 하여, 레비가 강조한 것처럼 수동적인 IoT 디바이스를 지능적이고 반응적인 시스템으로 전환합니다.

산업용 IoT에 대한 더 많은 보도는 12월 Industrial IoT World에 참여하세요.