Qualcomm은 최첨단 AI 제품을 준비합니다

Cloud AI 100 AI 가속기의 초기 발표로부터 거의 18개월 후 Qualcomm은 이 칩을 사용할 수 있는 솔루션 폼 팩터에 대한 몇 가지 추가 세부 정보와 해당 카드에 대한 몇 가지 성능 수치를 발표했습니다. 모바일 실리콘 대기업은 Cloud AI 100 최종 실리콘이 생산 중이며 2021년 상반기에 배송될 것이라고 밝혔습니다.

Cloud AI 100은 거의 18개월 전인 2019년 4월에 출시되었습니다. Qualcomm은 Snapdragon 라인으로 스마트폰 프로세서 시장을 장악하고 있지만, Qualcomm의 서버용 제품은 이전에 출시되지 않았습니다. 시작하다. 따라서 모바일 실리콘 제조업체는 Cloud AI 100을 에지 서버 시장으로 진출하는 방법으로 보고 있습니다.

Qualcomm의 Cloud AI 100은 엔터프라이즈 데이터 센터 및 5G 인프라를 포함한 니어 에지 애플리케이션을 대상으로 합니다(이미지:Qualcomm)

폼 팩터

Cloud AI 100 칩에 대한 많은 세부 정보가 아직 숨겨져 있지만 처음에는 세 가지 유형의 카드에서 사용할 수 있다는 것을 알고 있습니다. 15와트에서 50개 이상의 TOPS를 제공하는 듀얼 M.2 에지(DM.2e) 폼 팩터, 25와트에서 200TOPS로 구성된 듀얼 M.2(DM.2) 카드, PCIe 카드 이는 75와트에서 약 400 TOPS로 제공됩니다. (Qualcomm은 이것이 "원시" TOPS 수치, 이론적 최대값이며 실제 애플리케이션에서 달성할 수 있는 계산을 나타내지 않는다는 점에 주목했습니다.

Qualcomm은 저전력 프로세서 설계 기술을 모바일 공간에서 엣지 AI 가속기 시장으로 이전한 것으로 보입니다. Cloud AI 100 디자인은 Snapdragon 프로세서에서 발견되는 AI 가속 블록을 기반으로 하지 않지만 와트당 성능 수치는 인상적입니다. Qualcomm이 미디어 브리핑에서 보여준 슬라이드에는 Cloud AI 100의 PCIe 카드 버전이 업계에서 가장 인기 있는 많은 솔루션보다 성능이 우수하면서도 전력의 일부만 사용하는 그래프가 포함되어 있습니다. Qualcomm에 따르면 이는 다른 공급업체의 공개된 수치와 비교하여 측정된 성능 수치입니다.

더 큰 이미지를 보려면 클릭하세요.

Qualcomm의 수치에 따른 대중적인 AI 추론 하드웨어 대 전력 소비에 대한 초당 Resnet-50 AI 추론. Qualcomm의 카드는 전력 효율성과 관련하여 특히 우수한 성능을 보입니다. Nvidia A100을 제외한 그래프의 모든 포인트에 대한 배치 크기는 8입니다. (이미지:Qualcomm)

Qualcomm의 제품 관리 수석 이사인 John Kehrli는 "Qualcomm은 AI R&D의 오랜 유산을 가지고 있습니다. “실제로 우리는 모바일 측면에서 5세대 솔루션을 사용하고 있으며 11년 넘게 매우 활발한 R&D를 해왔습니다. 그래서 우리는 그 지식, 그 산업 전문성을 활용하지만 이것은 다른 AI 핵심이고 모바일과 같지 않지만 우리는 그 공간에서 활용하고 있습니다."

Cloud AI 100은 INT8, INT16, FP16 및 FP32를 지원하는 최대 16개의 AI 프로세서 코어가 있는 추론 가속기입니다. 7nm FinFET 공정 기술을 기반으로 합니다. 최대 144MB의 온다이 SRAM이 있습니다. 128MB는 코어 간에 공유되며 각 코어에는 추가 1MB가 있습니다. 이 카드는 최대 2.1GHz에서 실행되는 4x 64 LPDDR4x의 메모리 대역폭으로 카드 수준에서 최대 32GB의 DRAM을 지원합니다.

에지 애플리케이션

Cloud AI 100은 컴퓨터 비전, 음성, 자율 주행, 언어 번역 및 추천 시스템에 사용할 수 있습니다. 오늘 Qualcomm은 4가지 주요 시장에서 AI 추론을 위한 Cloud AI 100 실리콘을 포지셔닝하고 있습니다. 클라우드 외부의 데이터 센터, ADAS, 5G 에지 박스 및 5G 인프라입니다.

클라우드 에지 데이터 센터의 AI 추론은 광고를 제공하고 뉴스피드를 개인화하는 데 사용되는 추천 엔진부터 애플리케이션별 컴퓨팅 집약적인 AI 계산에 이르기까지 모든 것을 지원합니다.

Qualcomm이 "5G 에지 박스"라고 부르는 것은 온프레미스 임베디드 독립형 장치에 가깝습니다. 이들은 전신주 또는 기업에서 스마트 시티 인프라의 일부로 배포될 수 있으며 스마트 시티, 공공 안전 및 교통 관리 애플리케이션을 구동하는 데 사용할 수 있습니다.

Cloud AI 100의 파생 제품은 Qualcomm Snapdragon Ride 플랫폼에서 자율 주행을 위한 AI 처리를 강화하는 데 사용됩니다(이 파생 제품은 공통 아키텍처 및 소프트웨어 도구 체인을 공유합니다).

5G 인프라에서 Cloud AI 100의 응용 프로그램은 빔 형성과 같은 복잡한 알고리즘을 가속화하는 것이며, 이제 AI를 사용하여 5G 기지국을 효율적으로 관리합니다.

참조 디자인

Qualcomm은 또한 새로운 Cloud AI 100 개발 키트를 발표했습니다. 여기에는 호스트 프로세서인 Snapdragon 865 애플리케이션 및 비디오 프로세서(최대 24개의 풀 HD 비디오 디코딩 스트림을 지원하는 풀 비디오 파이프라인 제공, 고객을 위한 여유 공간 제공)와 함께 Cloud AI 100으로 구동되는 5G 에지 박스에 대한 참조 설계가 포함됩니다. 앱 개발). 레퍼런스 디자인은 또한 Snapdragon X55 5G 모뎀을 기반으로 하는 사전 인증된 5G 모듈을 사용합니다.

Kehrli는 "이것은 우리에게 매우 기대되는 미개발 기회입니다."라고 말했습니다. "[개발 키트의] 목표는 이 분야에 관심이 있는 고객이 상자에서 꺼내자마자 빠르고 쉽게 데모 앱을 실행하는 것입니다. 데모 앱은 미리 컴파일된 ResNet-50도 함께 제공됩니다."

Kehrli는 이와 같은 5G 에지 박스가 쇼핑몰의 보안 비디오 스트리밍 또는 제조 시설의 안전 애플리케이션을 위한 사내 분석을 수행할 수 있다고 말했습니다.

일정

Kehrli는 Cloud AI 100을 채택한 첫 번째 고객은 스마트 시티, 소매 및 제조 분야에서 가장 선두에 서게 될 것이라고 말했습니다.

그는 "첫 상용 배포가 데이터 센터 쪽보다 에지 쪽이 더 많을 것으로 예상합니다. 데이터 센터 쪽은 생산에 들어가는 데 훨씬 더 긴 주기가 필요한 곳입니다."라고 그는 말했습니다. "그렇다고 우리에게 상당한 견인력과 기회가 없다는 말은 아니지만 5G 에지 배포가 훨씬 더 빨라지고 사전 인증된 5G 모듈과 같은 것이 훨씬 더 쉬워질 것으로 기대합니다. 우리와 함께 일하는 많은 고객들은 기존의 모바일 고객이 아닙니다. 따라서 이미 사전 인증된 솔루션을 제공하면 신속하게 시장에 출시할 수 있습니다. 따라서 해당 공간의 [응용 프로그램]이 더 빨리 나타날 것입니다.”

Qualcomm Cloud AI 100의 최종 실리콘은 생산에 들어갔고 현재 여러 고객에게 샘플링 중이며 2021년 상반기에 배송될 예정입니다. 에지 개발 키트는 다음 달에 샘플링되지만 일부 고객에게만 제공됩니다.

>> 이 기사는 원래 다음 날짜에 게시되었습니다. 자매 사이트인 EE Times.