AI at the Edge는 여전히 기업이 아닌 소비자가 대부분입니다.

데이터 기반 경험은 풍부하고 몰입도가 높으며 즉각적인. 그러나 지연을 허용하지 않는 데이터 호그이기도 합니다.

드론을 통한 피자 배달, 교차로에서 교통 사고를 기록할 수 있는 비디오 카메라, 잠재적인 시스템 장애를 식별할 수 있는 화물 트럭을 생각해 보십시오.

이러한 종류의 빠르게 행동하는 활동에는 많은 데이터가 빠르게 필요합니다. 따라서 데이터가 클라우드를 오가는 동안 대기 시간을 유지할 수 없습니다. 왕복이 너무 오래 걸립니다. 대신, 이러한 데이터 집약적 프로세스 중 다수는 로컬라이즈된 상태로 유지되고 에지와 하드웨어 장치 또는 그 근처에서 처리되어야 합니다.

노스웨스턴 대학의 모한비르 소니 교수는 “애플과 마이크로소프트가 엣지로 이동하는 이유”에서 “자율주행차는 AI(인공지능) 알고리즘이 임박한 충돌을 예측할 때 비상 제동을 활성화하기 위해 10분의 1초도 기다릴 수 없다”고 말했다. "이러한 상황에서 AI는 네트워크 연결에 의존하지 않고 네트워크를 통해 방대한 양의 데이터를 앞뒤로 이동하지 않고도 더 빠르게 의사 결정을 내릴 수 있는 에지에 위치해야 합니다."

리서치 회사인 Omdia의 연구 이사인 Aditya Kaul은 "AI 에지 프로세서를 사용하면 클라우드에서 처리를 수행하는 대신 [기기] 자체에서 처리를 수행하거나 뒷방에 있는 서버에 피드할 수 있습니다. .

에지에서의 AI:기업 대 소비자 채택

머신 러닝 추론과 같은 작업을 수행하는 AI 칩의 능력은 최근 몇 년 동안 극적으로 확장되었습니다. 초당 10조 부동 소수점 계산에 해당하는 10테라플롭 이상의 성능을 제공하는 GPU(그래픽 처리 장치)를 생각해 보십시오. 최신 스마트폰에는 초당 10억 개의 부동 소수점 연산을 처리할 수 있는 GPU가 있습니다. 몇 년 전만 해도 이런 종류의 기기 내 처리는 불가능했습니다. 그러나 오늘날에는 스마트폰, 카메라, 드론과 같은 첨단 장치가 AI 작업 부하를 처리할 수 있습니다.

딥 러닝 칩셋 또는 GPU를 포함한 인공 지능 지원 실리콘의 등장으로 이것이 가능했습니다. 그리고 AI 칩셋 시장은 로켓처럼 날아올랐습니다.

딜로이트 보고서는 “[에지 AI 칩]은 몇 년 전만 해도 0에서 2020년 '신규' 매출로 25억 달러 이상을 벌어들일 것"이라며 "향후 몇 년 동안 20%의 성장률을 보일 것"이라고 말했다. 장치." [앞서 언급한 Deloitte 보고서의 "The Edge AI Industry Is Poised for Growth" 그림 참조]

Tractica 보고서 "Deep Learning Chipsets"에 따르면 AI 칩셋 시장은 2025년까지 726억 달러에 이를 것으로 예상됩니다.

전문가들에 따르면 소비자 시장이 길을 닦았다. 오늘날, 2020년에 소비자 기기 시장은 판매 수량과 달러 가치 측면에서 엣지 AI 칩 시장의 90%를 차지할 것으로 보입니다.

최근 딥 러닝 칩셋(Deep Learning Chipsets) 보고서를 발표한 분석 회사 Tractica의 수석 이사인 Aditya Kaul은 "스마트폰 시장은 이 분야의 선두에 있습니다."라고 말했습니다. 스마트폰은 여전히 ​​AI 칩셋 시장의 약 40~50%를 차지합니다.

그러나 Kaul은 에지에서의 AI 지원 처리가 산업 IoT 및 소매, 의료 및 제조와 같은 영역에서 기업에 오고 있다고 말했습니다. Kaul은 "이를 '엔터프라이즈급 AI 에지'라고 부를 수 있습니다."라고 말했습니다.

Kaul은 기업이 엣지에서 AI를 채택하는 원동력은 "사용 사례에 대한 명확성"이라고 말했습니다. 예를 들어, 제품 검사 및 프로세스 제어를 자동화하는 머신 비전은 산업 현장과 같은 영역에서 이전에 수동 프로세스의 품질과 효율성을 개선할 수 있습니다.

“사람들은 자동차 산업의 결함을 식별하기 위해 [산업 환경에서] 딥 러닝을 사용하기 시작했습니다. 예를 들어 조립 중에 도어, 핸들 또는 유리의 결함을 찾아낼 수 있습니다. 식품 및 음료 산업에서는 부패한 토마토를 식별하거나 비스킷 공장에서 올바른 모양이 아닌 비스킷을 식별할 수 있습니다.”라고 Kaul이 말했습니다.

그러나 품질 관리 외에도 업계에서는 머신 비전을 사용하여 새로운 경험을 촉진하고 있습니다. Kaul은 “소매는 이러한 일이 일어나는 대규모 부문입니다. 쇼핑객 분석을 위해 슈퍼마켓에서 사용하는 엔터프라이즈급 에지입니다. 그들은 어디에서 유휴 상태로 특정 제품을 보고 있습니까?

클라우드 컴퓨팅과 함께 작동하는 엣지의 AI

에지에서의 AI는 소프트웨어가 왕이었던 몇 년 후 하드웨어에 대한 관심을 다시 불러일으켰습니다.

하지만 에지에서의 AI는 저지연을 제공하는 것이며 분산 하드웨어는 클라우드의 도움 없이 처리를 가능하게 할 수 있습니다.

McKinsey 보고서는 "AI의 성장과 함께 소프트웨어가 가장 많은 기업과 투자자의 관심을 끌었던 몇 년 후 하드웨어가 다시 유행하고 있습니다."라고 "인공 지능:이제 행동해야 할 때"라고 밝혔습니다.

하드웨어는 또한 중앙 집중식 아키텍처가 대기 시간 및 데이터 보안 문제를 수반하는 분산형 컴퓨팅 아키텍처를 다시 유행시켰습니다.

Kaul은 "클라우드의 대기 시간에 의존하는 대신 바로 그곳에서 결정을 내리기를 원합니다."라고 말했습니다. "또한 타사 클라우드의 데이터를 원하지 않습니다. 보안 관점에서 데이터는 온프레미스에 있어야 합니다.”

궁극적으로 전문가들은 엣지의 AI가 기존 클라우드 컴퓨팅 아키텍처를 보완하는 아키텍처가 될 것이라고 제안합니다.

Sawhney는 "클라우드의 AI는 엣지의 AI와 시너지 효과를 낼 수 있습니다. “테슬라와 같은 AI 구동 차량을 생각해 보십시오. 엣지의 AI는 제동, 스티어링, 차선 변경과 같은 수많은 결정을 실시간으로 지원합니다. 밤에 차가 주차되고 Wi-Fi 네트워크에 연결되면 데이터가 클라우드에 업로드되어 알고리즘을 추가로 훈련합니다.”

에지에서 AI의 지속적인 성장에 대한 기대

AI 에지 칩 시장 성장의 대부분은 하드웨어 자체의 기능 향상에 기인합니다. 그러나 여기에는 산업이 AI에 접근하는 방식의 운영상의 변화도 포함됩니다.

실제로, 산업 제조와 같은 기존 산업은 이전에 인공 지능을 프로세스에 통합하는 것에 대해 주저했지만 이제는 가장자리에 있는 AI가 실제로 ROI의 핵심인 유익한 것으로 보고 있습니다. 그 결과 빅데이터 분석을 프로세스에 도입하고 이러한 프로세스의 정확성을 향상시키기 위해 알고리즘을 교육하며 품질 관리에서 결과를 확인하고 있습니다.

Kaul은 "이 모델이 정확할 수 있는 유일한 방법은 올바른 데이터로 모델을 훈련시키는 것입니다."라고 말했습니다. “2년 전만 해도 이 분야에서 훈련 데이터에 대해 물어보면 이상한 시선으로 쳐다보는 사람들이 많지 않았을 것입니다. 하지만 이제 더 많은 사람들이 AI가 어떻게 작동하는지 이해하게 되었습니다.”라고 그는 말했습니다.

Tractica는 이러한 성장이 계속될 것이며 "2021-2022년에 변곡점"이 있을 것이며 "AI 가속기, ASIC 칩으로의 빠른 움직임"이 있을 것이라고 예측했습니다.

그러나 Kaul은 성장이 측정될 것으로 기대한다고 강조했습니다.

Kaul은 "혁신 측면에서 이러한 공급업체와 시장 중 상당수는 정체 상태였습니다."라고 말했습니다. “지난 20, 30년 동안 많은 혁신이 없었습니다. 그래서 그들은 일반적으로 천천히 움직입니다. 그러나 산업 비전, 의료 비전 및 소매와 같은 일부 영역에서는 상황이 개선되고 있습니다. 아직 이르다. 하지만 상황이 나아지기 시작했습니다.”라고 그는 말했습니다.