AI 칩의 급증, AI 소프트웨어의 스포트라이트 획득

기술 산업이 인공지능의 "르네상스"를 계속 선전하는 동안 인텔리전스에 따르면 주요 업체가 사내 솔루션을 구축하고 AI 소프트웨어에 집중하면서 AI 칩 스타트업의 수가 정체되기 시작했습니다.

기술 산업이 인공 지능의 "르네상스"를 계속 선전하는 동안 AI 칩 스타트업의 수는 정체되기 시작했습니다. AI 신생 기업은 한때 유망한 시장이었던 데이터 센터에 대한 진입 장벽이 높다는 것을 발견하고 있습니다. 아마도 엄청나게 그럴 것입니다. 그들의 문제는 현재 특정 요구 사항에 맞는 자체 AI 프로세서와 가속기를 개발 중인 Google, Amazon, Facebook과 같은 하이퍼스케일러에 있습니다.

분명히 말해서 머신 러닝(ML)은 계속 발전하고 있습니다. 신경망의 더 많은 변형이 나타납니다. AI는 모든 전자 시스템에 본질적으로 자리잡고 있습니다.

Arteris의 최고 운영 책임자인 Laurent Moll은 미래에는 "모든 사람이 SoC에 일종의 AI가 있을 것"이라고 예측합니다. Arteris의 비즈니스는 네트워크 온칩(NoC) IP 및 IP 개발 도구를 제공하여 SoC 통합을 지원하는 사업이기 때문에 Arteris에게는 좋은 소식입니다.

AI 칩 스타트업을 위해? 별로. 경쟁이 점점 더 치열해지고 있어 특정 AI 설계에 적합한 시장 부문을 개척해야 하는 과제가 복잡해지고 있습니다.

EE Times는 다음 달에 떠오르는 전자 및 반도체 스타트업의 연간 목록인 "Silicon 100"(2021 버전)을 공개할 예정입니다. 보고서의 저자인 Peter Clarke는 20년 동안 반도체 스타트업을 면밀히 추적해 왔습니다. 그는 GPU와 AI에 중점을 둔 전문 칩 스타트업의 수가 “예년과 비슷하다”고 말합니다. 그는 "업계가 '인공지능 피크'에 도달했다고 생각합니다."

한마디로 AI 칩 스타트업의 샐러드 시대는 끝났다고 할 수 있다.

Tirias Research의 수석 분석가인 Kevin Krewell은 AI 칩 신생 기업의 더 많은 인수를 예상합니다. “어쨌든 인텔이 너바나를 인수한 후 AI 스타트업 자금의 폭발적 증가가 일어났습니다. VC와 엔젤은 수익성 있는 출구 전략을 보았습니다.” 그는 “오늘날 업계가 장기적으로 지원할 수 있는 것보다 너무 많은 [AI] 스타트업이 있다. 아날로그 또는 광학과 관련된 더 이국적인 솔루션이 몇 개 더 나올 것이라고 확신합니다. [그러나] 결국 AI/ML 기능은 더 큰 SoC나 칩렛 설계에 포함될 것입니다.”

이러한 배경에서 EE Times 최근 Arteris에서 새로 임명된 최고 운영 책임자(COO)와 함께 했습니다. 한때 Arteris의 CTO였던 Moll은 Qualcomm에서 7년 이상을 보냈으며 가장 최근에는 Qualcomm의 엔지니어링 부사장으로 재직했습니다.

우리는 Moll에게 AI 칩 환경의 변화와 스타트업이 어디로 가고 있는지 물었습니다.

골드 러시

당연히 Moll은 AI에 대한 업계의 돌진을 그가 이제까지 본 것 중 "가장 큰 골드 러시 중 하나"라고 설명했습니다. 그러나 이러한 후기의 49ers는 더 이상 단순한 스타트업이나 소규모 회사가 아닙니다. Moll은 "오랜 기간 동안 실리콘을 만들어온 회사와 실리콘을 만들지 않은 많은 새로운 사람들"이 채굴자에 포함된다고 말했습니다. 모두가 "같은 경기장에서 뛰고" 있고 모두가 "핵심을 깨려고 노력하고 있습니다."

증가하는 개발자 기반과 다양한 애플리케이션은 Arteris의 이점으로 작용하지만 AI 칩 스타트업에게는 매우 다른 그림을 그립니다. 그들은 더 이상 유사하게 밝은 새로운 아이디어를 가진 동료 AI 스타트업과 경쟁하지 않습니다. 그러나 이제 그들은 큰 소년들과도 경쟁합니다. 하이퍼스케일러와 자동차 OEM은 시스템에 자체 칩을 사용할 수 있도록 AI 개발에 몰두하고 있습니다.

아직 확장 단계

Arteris의 Moll은 AI 칩 시장이 "모든 사람이 여전히 탐색 중"인 "아직 확장 단계"에 있다고 말했습니다. 그럼에도 불구하고 그는 데이터 센터 전면에 "약간의 질서"가 등장하는 것을 보고 있습니다. 이는 주로 하이퍼스케일러가 자체 AI 프로세서와 가속기를 개발하여 운명을 통제하고 있기 때문입니다.

하이퍼스케일러와 다른 AI 칩 설계자의 차이점은 한 가지 요인으로 요약됩니다. "그들은 데이터 세트를 소유하고 있습니다."라고 Moll은 말했습니다. 하이퍼스케일러는 데이터 세트를 다른 사람과 공유하지 않지만 독점 소프트웨어 스택을 개발하고 있습니다. "그리고 그들은 자신의 데이터 액세스에 훨씬 더 최적화된 실리콘을 만들 수 있다고 생각합니다."

한편, 소규모 AI 칩 신생 기업인 외부 공급업체는 "SoC를 구조화하는 새로운 방법, SRAM 및 DRAM을 사용하는 새로운 방법, 스태킹, 광학을 사용하는 새로운 방법을 개발"하고 있다고 Moll은 말했습니다. “비밀 소스를 만드는 방법에는 여러 가지가 있으며, 이를 통해 오늘날 기성 AI 칩이 할 수 있는 것보다 훨씬 더 나은 AI를 수행할 수 있습니다. 작은 사람들은 게임을 바꾸고 있으며 다른 사람들과 다르게 일을 하는 데 매우 똑똑합니다."

반면 하이퍼스케일러가 추구하는 AI 칩은 그다지 혁신적이지 않다. 하이퍼스케일러는 보다 전통적인 접근 방식을 사용할 수 있다고 Moll은 말했습니다. 좋은 예가 Google의 TPU입니다. "자세히 보면 아키텍처는 훌륭하지만 여러 면에서 혁신적이지는 않습니다." 그럼에도 불구하고 “구글이 하고자 하는 일에 매우 잘 작동합니다. 따라서 목적에 부합합니다.”

소규모 AI 신생 기업의 칩이 그렇게 새롭다면 하이퍼스케일러의 데이터 센터에 웜을 도입해야 하지 않을까요?

"아니, 아니야, 아니야." 몰이 말했다. "데이터 센터 시장에서 소규모 기업이 확장하거나 하이퍼스케일러가 제품을 구매할 가능성은 거의 없습니다." 그러나 그는 "하이퍼스케일러는 자신의 기술이 유용하고 원하는 작업에 적용할 수 있다는 것을 알게 되면 이러한 신생 기업 중 일부를 확실히 구매할 것"이라고 말했습니다.

Moll은 하이퍼스케일러의 사고 방식을 다음과 같이 설명했습니다. “나는 내 데이터세트가 무엇인지 압니다. 나는 좀 더 중심적인 아키텍처를 만드는 방법을 알고 있습니다. 누군가가 잘 작동하는 훌륭한 아이디어를 가지고 있다면 이 인력과 IP를 확보하고 우리 자신의 제품을 개선합시다.”

Tirias Research의 Krewell도 이에 동의했습니다. "하이퍼스칼라가 머신 러닝 칩을 사용하도록 하려면 엄청난 일을 해야 합니다." 예를 들어, Cerebras는 웨이퍼 크기의 칩으로 봉투를 밀었다고 Krewell은 말했습니다. "Nvidia는 유비쿼터스 소프트웨어와 확장성으로 인해 여전히 AI 개발 작업의 기본 플랫폼입니다."

가장자리는 어떻습니까?

Moll은 AI 칩 설계자에게 데이터 센터와 비교하여 "에지는 완전히 다른 이야기"라고 말했습니다. 엣지에 대한 최종 시장은 훨씬 더 넓은 범위의 솔루션에 대한 욕구와 함께 다재다능합니다. Moll은 "많은 사람들이 AI를 어디에 적용할지, 어떻게 구현해야 할지 여전히 고민하고 있습니다."라고 말했습니다.

전체 크기 이미지를 보려면 클릭하세요.

2025년에는 전체 반도체 시장의 19%가 AI/ML과 관련될 것입니다. (출처:Bernstein, Cisco, Gartner, IC Insights, IHS Markit, Machina Research, McKinsey Analysis — Compiled by Arteris)