에지 AI가 당연한 이유

딜로이트는 2020년에 7억 5천만 개 이상의 에지 AI 칩(원격 데이터 센터가 아닌 기기에서 기계 학습 작업을 수행하거나 가속화하는 전체 칩 또는 칩의 일부)이 판매되어 26억 달러의 매출을 기록할 것으로 예측합니다. 또한 엣지 AI 칩 시장은 전체 칩 시장보다 훨씬 빠르게 성장할 것입니다. 2024년까지 엣지 AI 칩의 판매량이 15억 개를 넘을 것으로 예상하고 있습니다. 이는 전체 반도체 산업에 대한 9% CAGR의 장기 예측인 2배 이상인 최소 20%의 복합 연간 단위 판매 성장률을 나타냅니다.

그림 1:인텔리전스가 포함될 수 있는 위치(이미지:Deloitte Insights)

이러한 에지 AI 칩은 고급 스마트폰, 태블릿, 스마트 스피커 및 웨어러블과 같은 점점 더 많은 소비자 기기에 적용될 것입니다. 또한 로봇, 카메라, 센서 및 사물 인터넷용 기타 장치와 같은 여러 기업 시장에서도 사용될 것입니다. 에지 AI 칩의 소비자 시장은 기업 시장보다 훨씬 크지만 2020년과 2024년 사이에 18%의 CAGR이 예상되며 더 천천히 성장할 것입니다. 같은 기간 동안 50%의 CAGR.

그림 2:엣지 AI 칩 시장(이미지:Deloitte Insights)

그럼에도 불구하고 올해 소비자 기기 시장은 판매량과 달러 가치 모두에서 엣지 AI 칩 시장의 90% 이상을 차지할 것으로 보입니다. 이러한 엣지 AI 칩의 대다수는 현재 사용 중인 모든 소비자 엣지 AI 칩의 70% 이상을 차지하는 고급 스마트폰에 들어갈 것입니다. 실제로 2020년뿐만 아니라 향후 몇 년 동안 AI 칩 성장은 주로 스마트폰에 의해 주도될 것입니다. 우리는 올해 15억 6천만 대 스마트폰 시장의 3분의 1 이상이 엣지 AI 칩을 포함할 것이라고 믿습니다.

극도로 프로세서 집약적인 요구 사항으로 인해 AI 계산은 거의 모든 장치가 로컬이 아닌 데이터 센터, 엔터프라이즈 코어 어플라이언스 또는 통신 에지 프로세서에서 원격으로 수행되었습니다. Edge AI 칩이 모든 것을 바꾸고 있습니다. 물리적으로 더 작고, 상대적으로 저렴하고, 훨씬 적은 전력을 사용하고, 훨씬 더 적은 열을 발생하므로 로봇과 같은 비소비자 장치뿐만 아니라 핸드헬드 장치에 통합할 수 있습니다. 이러한 장치가 프로세서 집약적인 AI 계산을 로컬에서 수행할 수 있도록 함으로써 에지 AI 칩은 대량의 데이터를 원격 위치로 보낼 필요성을 줄이거나 제거함으로써 사용성, 속도, 데이터 보안 및 개인 정보 보호 측면에서 이점을 제공합니다.

장치에서 처리를 유지하는 것이 개인 정보 및 보안 측면에서 더 좋습니다. 휴대폰을 떠나지 않는 개인 정보는 가로채거나 오용될 수 없습니다. 그리고 엣지 AI 칩이 전화기에 있으면 네트워크에 연결되어 있지 않아도 이 모든 작업을 수행할 수 있습니다.

물론 모든 AI 계산이 로컬에서 이루어져야 하는 것은 아닙니다. 일부 애플리케이션의 경우(예:장치의 에지 AI 칩이 처리하기에는 데이터가 너무 많은 경우) 원격 AI 어레이에서 처리할 데이터를 보내는 것이 적절하거나 선호될 수 있습니다. 사실, 대부분의 경우 AI는 일부는 기기에서, 일부는 클라우드에서 하이브리드 방식으로 수행됩니다. 주어진 상황에서 선호하는 조합은 정확히 어떤 종류의 AI 처리를 수행해야 하는지에 따라 달라집니다.

스마트폰에서 엣지 AI의 경제성

엣지 AI 칩을 사용하는 기기는 스마트폰만이 아니다. 태블릿, 웨어러블, 스마트 스피커와 같은 다른 장치 범주에도 포함됩니다. 단기적으로 이러한 비-스마트폰 기기는 스마트폰보다 엣지 AI 칩 판매에 미치는 영향이 훨씬 적을 것입니다. 시장이 성장하지 않거나(태블릿의 경우) 시장 규모가 너무 작아 실질적인 차이를 만들 수 없기 때문입니다( 예를 들어, 스마트 스피커와 웨어러블을 결합하면 2020년에 1억 2,500만 대가 판매될 것으로 예상됩니다. 많은 웨어러블과 스마트 스피커가 엣지 AI 칩에 의존하고 있기 때문에 이미 보급률이 높습니다.

현재 가장 비싼 스마트폰(가격 분포의 상위 3분의 1에 해당하는 스마트폰)만이 엣지 AI 칩을 사용할 가능성이 높습니다. 하지만 스마트폰에 AI 칩을 탑재하는 것이 소비자에게 너무 비싼 가격일 필요는 없습니다.

스마트폰의 엣지 AI 칩 콘텐츠에 대한 상당히 건전한 추정에 도달하는 것이 가능합니다. 현재까지 Samsung, Apple 및 Huawei의 전화 프로세서 이미지는 모든 기능이 보이는 노출된 실리콘 다이를 보여주므로 칩의 어느 부분이 어떤 기능에 사용되는지 식별할 수 있습니다. Samsung Exynos 9820용 칩의 다이 샷은 전체 칩 면적의 약 5%가 AI 프로세서 전용임을 보여줍니다. 전체 SoC 애플리케이션 프로세서에 대한 삼성의 비용은 미화 70.50달러로 추정되며, 이는 디스플레이 다음으로 휴대폰에서 두 번째로 비싼 구성 요소로, 기기의 총 BOM(Bill of Material)의 약 17%를 차지합니다. AI 부분의 비용이 다이 면적 기준으로 나머지 구성 요소와 동일하다고 가정하면 Exynos의 에지 AI 신경 처리 장치(NPU)는 칩 총 비용의 약 5%를 차지합니다. 환산하면 개당 약 3.50달러입니다.

그림 3:Samsung Exynos 9820용 칩의 다이 샷은 전체 칩 면적의 약 5%가 AI 프로세서 전용임을 보여줍니다. (이미지:ChipRebel, 주석:AnandTech)

마찬가지로 Apple의 A12 Bionic 칩은 다이 영역의 약 7%를 기계 학습에 할애합니다. 전체 프로세서에 대해 미화 72달러로 추정되는 이 비율은 엣지 AI 부분에 대해 미화 5.10달러의 비용을 의미합니다. 제조업체 비용이 US$52.50인 것으로 추정되는 Huawei Kirin 970 칩은 다이의 2.1%를 NPU에 할당하여 US$1.10의 비용을 제시합니다. (다이 영역은 칩의 총 비용 중 AI에 들어가는 비율을 측정하는 유일한 방법은 아닙니다. 그러나 Huawei에 따르면 Kirin 970의 NPU에는 1억 5천만 개의 트랜지스터가 있으며 이는 칩의 총 55억 개 트랜지스터의 2.7%에 해당합니다. NPU 비용이 약간 더 높은 US$1.42).

그림 4:Apple의 A12 Bionic 칩은 다이 영역의 약 7%를 기계 학습에 할애합니다. (이미지:TechInsights/AnandTech)

인용된 비용 범위는 넓지만 NPU의 비용은 칩당 평균 미화 3.50달러라고 가정하는 것이 합리적입니다. 5억 개의 스마트폰(태블릿, 스피커 및 웨어러블은 말할 것도 없고)을 곱하면 칩당 저렴한 가격에도 불구하고 큰 시장이 됩니다. 제조업체에 평균 3.50달러, 최소 1달러일 경우 스마트폰 처리 칩에 전용 에지 AI NPU를 추가하는 것은 쉬운 일처럼 보이기 시작합니다. 정상적인 가격 인상을 가정할 때 제조 비용에 US$1을 추가하면 최종 고객에게 US$2만 추가됩니다. 즉, NPU와 그에 따른 혜택(더 나은 카메라, 오프라인 음성 지원 등)을 1% 미만의 가격 인상으로 미화 250달러 스마트폰에 넣을 수 있습니다.

AI 칩 소싱:사내 또는 타사?

스마트폰 및 기타 장치를 제조하는 회사는 전화 모델 및 경우에 따라 지역과 같은 요인에 따라 결정을 내리면서 에지 AI 칩을 획득하는 접근 방식이 다양합니다. 일부는 2018년 스마트폰 SoC 시장의 약 60%를 점유한 Qualcomm 및 MediaTek과 같은 타사 공급업체로부터 애플리케이션 프로세서/모뎀 칩을 구입합니다.

Qualcomm과 MediaTek은 모두 다양한 가격으로 다양한 SoC를 제공합니다. 모든 제품에 에지 AI 칩이 포함되어 있는 것은 아니지만 고급 제품(Qualcomm의 Snapdragon 845 및 855 및 MediaTek의 Helio P60 포함)에는 일반적으로 포함됩니다. 한편, Apple은 외부 AP 칩을 전혀 사용하지 않습니다. Apple은 A11, A12, A13 Bionic 칩과 같은 자체 SoC 프로세서를 설계하고 사용하며 모두 에지 AI가 있습니다.

Samsung 및 Huawei와 같은 다른 장치 제조업체는 하이브리드 전략을 사용하여 상업 시장 실리콘 공급업체로부터 일부 SoC를 구매하고 나머지는 자체 칩(예:Samsung의 Exynos 9820 및 Huawei의 Kirin 970/980)을 사용합니다.

>> 이 2페이지 계속 읽기 원래 자매 사이트인 EE Times Europe에 게시된 기사입니다.