AI를 위해 계속해서 프로세싱을 엣지까지 밀어붙이는 추세

이 문서의 주요 내용은 다음과 같습니다. <울>

연결된 장치가 증가함에 따라 장치 및 데이터 폭증을 수용하기 위한 새로운 처리 방식이 대두되었습니다.

수년 동안 조직은 온프레미스 데이터 센터에서 벗어나 클라우드에서 중앙 집중식 오프사이트 처리 아키텍처로 이동했습니다. 클라우드 컴퓨팅을 통해 스타트업은 데이터 센터 인프라에 대한 막대한 자본 지출이나 IT 관리에 대한 지속적인 비용 없이 비즈니스를 혁신하고 확장할 수 있었습니다. 이를 통해 대규모 조직은 주문형 리소스를 사용하여 신속하게 확장하고 민첩성을 유지할 수 있었습니다.

그러나 기업이 원격 모델, 비디오 집약적 통신 및 기타 프로세스로 이동함에 따라 데이터를 많이 사용하는 작업을 수용할 수 있는 에지 컴퓨팅 아키텍처가 필요합니다.

이러한 데이터 집약적 프로세스는 1초 미만 내에 ​​이루어져야 합니다. 자율 주행 자동차, 비디오 스트리밍 또는 경로에서 실시간으로 운송 트럭 추적을 생각하십시오. 클라우드로 왕복 데이터를 전송하고 디바이스로 다시 전송하는 데 너무 많은 시간이 걸립니다. 또한 비용이 추가되고 전송 데이터가 손상될 수 있습니다.

NXP Semiconductors의 AI 기술 책임자인 Markus Levy에 따르면 "고객은 많은 프로세싱을 클라우드로 전달하는 것을 원하지 않는다는 것을 깨닫고 엣지가 진정한 목표라고 생각합니다."라고 NXP Semiconductors의 AI 기술 책임자 임베디드 AI의 부상.

최근 몇 년 동안 에지 컴퓨팅 아키텍처는 데이터 및 장치의 확산과 이 데이터가 이동하는 속도를 수용하기 위해 전면으로 이동했습니다.

MarketsandMarkets 데이터에 따르면 엣지 컴퓨팅 시장은 2020년 36억 달러에서 2025년 157억 달러로 성장할 것으로 예상됩니다.

시장 움직임은 계속해서 프로세싱을 엣지로 밀어붙입니다:NVIDIA

GPU(그래픽 처리 장치) 시장의 거물인 NVIDIA와 가상화 공급업체인 VMware의 최근 움직임은 이러한 새로운 분산 처리 아키텍처를 지원하고 에지에서 번개처럼 빠른 처리를 위한 기반을 분명히 마련했습니다.

먼저, 예를 들어 NVIDIA는 9월에 Arm에 400억 달러를 지불할 계획이라고 발표했습니다. NVIDIA가 GPU로 데이터 센터를 지배했다면 Arm은 Apple, Qualcomm 등에 칩을 공급하면서 모바일 시장에서 거점을 잡았습니다.

제우스 케라발라(Zeus Kerravala)는 엔비디아에 대한 비디오 인터뷰에서 “미래가 AI라고 믿고 그것이 GPU와 CPU에 의해 구동된다고 믿는다면 이러한 엔드 투 엔드 시스템을 생성하는 NVIDIA의 능력이 훨씬 높아졌습니다.”라고 말했습니다. - AI에 대한 무기 거래 및 전망. "특히 엣지 컴퓨팅 시장에서 — [NVIDIA]가 그 모든 것을 해결할 것입니다."

Arm의 성공적인 라이선스 사업을 위태롭게 할 수 있는지 여부를 포함하여 NVIDIA-Arm 거래에 대한 규제 우려가 있습니다. Arm은 경쟁업체인 AMD 및 Intel 외에도 Apple, Qualcomm 및 Broadcom과 같은 거대 기업을 포함하는 파트너와 수백 개의 라이선스를 보유하고 있습니다. NVIDIA의 모바일 CPU 시장 통제에 대한 심각한 반독점 우려도 있습니다.

SmartNIC:처리를 에지로 이동

둘째, 9월 말 VMworld 2020 가상 컨퍼런스에서 VMware는 SmartNIC(또는 스마트 네트워크 인터페이스 카드) 기술과 NVIDIA의 DPU(데이터 처리 장치)를 통해 향상된 AI 성능을 제공하기 위해 Project Monterey를 발표했습니다. 프로젝트 몬터레이는 에지에서 AI 애플리케이션을 지원하기 위한 인프라를 강화하기 위해 NVIDIA를 비롯한 여러 회사와의 파트너십을 포함합니다.

Monterey는 하이퍼바이저, 네트워킹, 보안 및 스토리지 작업을 호스트 CPU에서 NVIDIA의 BlueField DPU로 오프로드합니다. 이 처리를 DPU 및 SmartNics로 이동하면 AI, 기계 학습 및 기타 데이터 중심 애플리케이션을 전달할 수 있습니다.

SmartNIC는 서버 CPU에서 애플리케이션이 아닌 작업을 실행하므로 서버에서 더 많은 애플리케이션을 더 빠르게 실행할 수 있습니다.

Omdia의 수석 분석가인 Alexander Harrowell은 "계산을 데이터에 더 가깝게 옮기는 것에 대한 일반적인 관심이 있었습니다."라고 말했습니다.

Harrowell은 "하이퍼바이저의 추상화를 호스트에서 네트워크로 이동하고 하이퍼바이저 자체가 수행하는 작업의 일부를 해당 카드로 오프로드합니다."라고 말했습니다. “당신이 지불한 처리 능력을 더 많이 사용할 수 있게 해줍니다. 따라서 여기에는 고전적인 Intel x86 모델에서 소위 Harvard 컴퓨팅 모델로의 전환에 대한 이야기가 있습니다.”

Harrowell은 분산 컴퓨팅을 향한 이러한 추세가 계속 빠르게 진행되어 AI 처리와 같은 더 복잡한 처리를 가능하게 할 것이라고 말했습니다.

VMware의 수석 부사장 겸 최고 기술 책임자인 Greg Lavender는 "I/O 작업을 Arm 코어로 오프로드하고 이러한 SmartNIC의 하드웨어 오프로드를 활용하면 처리 부담을 줄이고 최대 30%의 CPU를 … 애플리케이션에 다시 제공하여 추가 컴퓨팅 및 메모리 리소스의 이점을 얻을 수 있도록 합니다.

연결된 사물 시장의 경우 처리를 스택 아래로 이동하고 이러한 분산 에지 아키텍처로 이동하는 것은 빠른 응답 시간이 필요한 데이터 집약적 프로세스에 큰 이점이 될 것입니다.

NXP의 Levy는 "이제 엣지에서 AI를 수행할 수 있으므로 IoT를 실제 기능을 갖춘 것으로 바꿀 수 있습니다."라고 말했습니다.

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

Industrial IoT에 대한 자세한 내용은 이번 12월 Industrial IoT World에 참여하십시오.