에지 AI 칩: 온디바이스 지능의 미래를 이끌다

딜로이트는 2020년에 7억 5천만 개 이상의 에지 AI 칩(머신러닝을 디바이스에서 직접 실행하거나 가속화하는 완전 또는 부분 프로세서)이 판매되어 26억 달러의 매출을 올릴 것으로 전망했습니다. 에지 AI 칩 부문은 전체 반도체 시장을 앞지를 것으로 보이며, 2024년까지 판매량이 15억 개를 넘어설 것으로 예상되어 연평균 성장률(CAGR)이 최소 20%로, 업계 전체의 장기 9% CAGR 전망치의 두 배 이상입니다.

그림 1: 지능이 내장될 수 있는 위치 (이미지: Deloitte Insights)

에지 AI 칩은 하이엔드 스마트폰, 태블릿, 스마트 스피커, 웨어러블 등 소비자 하드웨어뿐만 아니라 로봇, 보안 카메라, 산업용 센서 등 기업용 디바이스에도 확대 적용될 전망입니다. 소비자 부문이 지배적이지만 성장률은 2020~2024년 18% CAGR로 완만한 편입니다. 반면 기업 시장은 같은 기간 50% CAGR로 급성장할 것으로 예상됩니다.

그림 2: 에지 AI 칩 시장 개요 (이미지: Deloitte Insights)

2024년에도 소비자 시장이 에지 AI 칩 판매량과 매출의 90% 이상을 차지할 것으로 예상됩니다. 하이엔드 스마트폰이 소비자 에지 AI 칩의 70% 이상을 차지하며, 향후 몇 년간 성장은 주로 스마트폰 채택에 의해 주도될 것입니다. 올해 판매되는 15억 6천만 대 스마트폰 중 약 3분의 1이 이미 에지 AI 기능을 탑재했을 것으로 추정됩니다.

전통적으로 AI 워크로드는 막대한 연산 요구로 인해 데이터센터, 기업 코어, 통신 에지 프로세서에서 처리되었습니다. 에지 AI 칩은 이 패러다임을 바꿉니다. 이들은 소형, 비용 효율적, 전력 효율적이며 발열이 적어 핸드헬드 및 산업용 디바이스에서 로컬 처리를 가능하게 합니다. 이 변화는 대용량 데이터를 원격 서버로 전송할 필요를 줄이거나 없애, 더 빠른 응답 시간과 더 강력한 프라이버시 보장을 제공합니다.

로컬 처리는 민감한 데이터를 보호합니다. 디바이스를 떠나지 않는 정보는 가로채거나 악용될 수 없습니다. 게다가 스마트폰에 내장된 에지 AI 칩은 네트워크 연결 없이도 고급 작업을 수행할 수 있습니다.

그렇다고 모든 AI 작업이 로컬에서 처리되는 것이 최선은 아닙니다. 디바이스 용량을 초과하는 워크로드는 클라우드나 에지 어레이로 오프로드하는 것이 적절합니다. 실제로는 대부분의 애플리케이션이 온디바이스와 클라우드를 부분적으로 결합한 하이브리드 모델을 채택하며, 최적 분할은 특정 유스케이스에 따라 결정됩니다.

스마트폰에서 에지 AI의 경제성

스마트폰 외에도 태블릿, 웨어러블, 스마트 스피커도 에지 AI 칩을 탑재하지만 현재 시장 영향은 제한적입니다. 태블릿 판매는 정체되어 있고, 스마트 스피커와 웨어러블은 2020년 합계 1억 2,500만 대에 그칠 것으로 예상됩니다. 규모는 작지만 이들 카테고리에서 에지 AI 칩 침투율은 높습니다.

현재 에지 AI 칩은 주로 프리미엄 스마트폰(가격 상위 3분의 1)에 탑재됩니다. 그러나 AI 가속기 추가가 소비자 가격을 반드시 올리는 것은 아닙니다.

삼성, 애플, 화웨이의 다이샷을 분석해 AI 코어의 비용 기여도를 추정할 수 있습니다. 삼성 Exynos 9820의 경우 다이 면적의 약 5%가 AI 처리에 할당됩니다. 전체 SoC 가격이 70.50달러이므로 AI 부분은 이의 약 5%인 칩당 3.50달러 수준입니다.

그림 3: 삼성 Exynos 9820 다이 - 5% 면적이 AI 전용 (이미지: ChipRebel; 주석: AnandTech)

애플 A12 바이오닉은 다이 면적의 약 7%를 머신러닝에 할당합니다. 총 프로세서 비용 72달러 기준 AI 코어 비용은 약 5.10달러로 추정됩니다. 화웨이 기린 970은 52.50달러 비용 중 2.1% 면적을 NPU에 할당해 약 1.10달러로 추정됩니다(화웨이 발표로는 55억 트랜지스터 중 1억 5천만 개가 NPU로 2.7%, 비용은 약 1.42달러).

그림 4: 애플 A12 바이오닉 - 다이 면적 7%가 머신러닝 전용 (이미지: TechInsights/AnandTech)

추정치는 다양하지만 칩당 평균 3.50달러의 NPU 비용이 합리적입니다. 이를 5억 대 스마트폰에 적용하고 태블릿, 스피커, 웨어러블까지 고려하면 총 시장 규모는 상당합니다. 제조 원가 1~3달러로 에지 AI NPU 추가는 소비자 가격에서 1~2달러 상승에 불과하며, 250달러 폰 기준 1% 미만의 미미한 상승입니다.

AI 칩 조달: 내재화냐 서드파티냐

디바이스 제조사들은 제품 티어와 때로는 지역에 따라 에지 AI 칩 조달 경로를 달리합니다. 많은 업체가 퀄컴과 미디어텍 같은 서드파티 벤더에서 애플리케이션 프로세서/모뎀 SoC를 구매하는데, 이들이 2018년 스마트폰 SoC 시장의 약 60%를 점유했습니다. 모든 제품에 AI 코어가 있는 것은 아니지만, 퀄컴 스냅드래곤 845/855, 미디어텍 헬리오 P60 같은 하이엔드 모델에는 탑재되어 있습니다.

반면 애플은 A11, A12, A13 바이오닉 등 자체 SoC를 설계·생산하며 각각 에지 AI 기능을 포함합니다. 삼성과 화웨이는 하이브리드 전략을 취해 일부 SoC는 마켓에서 조달하고, 다른 모델에는 자사 칩(삼성 Exynos 9820, 화웨이 Kirin 970/980)을 사용합니다.

» 이 기사는 자매 사이트 EE Times Europe에 원문 게재된 2페이지부터 계속됩니다.