AI 컴퓨팅을 위한 뉴로모픽 칩 사례 만들기

Apple CEO Tim Cook은 iPhone X를 소개하면서 "향후 10년 동안 기술의 길을 열 것"이라고 주장했습니다. 아직 말하기는 이르지만, 얼굴 인식에 사용되는 신경 엔진은 이러한 종류의 최초였습니다. 오늘날 심층 신경망은 현실이며 뉴로모픽은 AI에서 지속적인 발전을 이룰 수 있는 유일한 실용적인 방법인 것으로 보입니다.

Yole Développement(프랑스 리옹)에서 최근 발표한 보고서에 따르면 데이터 대역폭 제약과 계속 증가하는 계산 요구 사항에 직면하여 감지 및 컴퓨팅은 신경생물학적 아키텍처를 모방하여 스스로를 재창조해야 한다고 주장했습니다.

EE Times와의 인터뷰 , Yole의 이미징 수석 분석가인 Pierre Cambou는 뉴로모픽 센싱 및 컴퓨팅이 AI의 현재 문제 대부분을 해결하는 동시에 향후 수십 년 동안 새로운 애플리케이션 관점을 열 수 있다고 설명했습니다. "뉴로모픽 엔지니어링은 생체 모방을 향한 다음 단계이며 AI로의 발전을 주도합니다."

왜 지금?

수학자 앨런 튜링(Alan Turing)이 “기계는 생각할 수 있는가?”라는 질문을 던진 지 70년이 지났고, 캘리포니아 공과대학의 전기공학자인 카버 미드(Carver Mead)가 뉴로모픽 엔지니어링 개념을 도입한 지 30년이 지났습니다. 그러나 다음 10년 동안 연구자들은 학습 및 적응 능력이 두뇌와 같은 기계를 만드는 데 실질적인 성공을 거두지 못했습니다. 2006년 Georgia Tech가 현장 프로그래밍 가능한 신경 어레이를 발표하고 MIT 연구원들이 2011년에 새로운 정보에 반응하여 뇌의 뉴런이 적응하는 방식을 모방한 컴퓨터 칩을 발표했을 때 희망이 되살아났습니다.

전환점은 토론토 대학의 과학자 그룹이 "심층 컨볼루션 신경망을 사용한 ImageNet 분류"라는 논문을 발표한 것입니다. 8레이어 컨볼루션 신경망으로 구성된 AlexNet 아키텍처는 ImageNet 대회에서 120만 개의 고해상도 이미지를 1,000개 카테고리(예:고양이, 개) 중 하나로 분류할 수 있게 했습니다. "딥 러닝 접근 방식이 AI 분야에서 더욱 강력해지고 추진력을 얻기 시작한 것은 AlexNet의 개발과 함께였습니다."

피에르 캉부

대부분의 최신 딥 러닝 구현 기술은 무어의 법칙에 의존하며 "잘 작동합니다." 그러나 딥 러닝이 발전함에 따라 높은 계산 작업을 수행할 수 있는 칩에 대한 수요가 점점 더 많아질 것입니다. 무어의 법칙은 최근 둔화되고 있으며 Yole Développement를 비롯한 업계의 많은 사람들이 이것이 딥 러닝 진행을 지속할 수 없을 것이라고 믿게 만들었습니다. Cambou는 딥 러닝이 오늘날과 같이 계속 구현된다면 "실패할 것"이라고 믿는 사람들 중 하나입니다.

Cambou는 자신의 관점을 설명하기 위해 세 가지 주요 장애물을 언급했습니다. 첫 번째는 무어의 법칙의 경제학입니다. “극소수의 플레이어가 게임을 할 수 있으며 7nm를 넘어서는 세계에 하나 또는 두 개의 팹이 생길 것입니다. Google만이 할 수 있는 일이라면 혁신에 해가 된다고 생각합니다.”

둘째, 데이터 로드가 무어의 법칙보다 빠르게 증가하고 데이터 오버플로가 현재 메모리 기술을 제한 요소로 만듭니다. 셋째, 컴퓨팅 파워 요구사항의 기하급수적인 증가는 각 애플리케이션에 대한 열 장벽을 생성했습니다. “7nm 칩을 사용하면 대략 와트당 1테라플롭의 효율을 얻을 수 있습니다. Waymo에 전력을 공급하려면 1킬로와트가 필요할 것입니다. 즉, 1,000테라플롭이 필요합니다.”라고 Cambou가 말했습니다. 현재의 기술 패러다임은 약속을 이행할 수 없으며 솔루션은 뉴로모픽 하드웨어에 딥 러닝을 적용하고 훨씬 더 나은 에너지 효율성을 활용하는 것일 수 있습니다.

현재 상황을 더 넓게 보면 Cambou는 새로운 메모리 기술에서 파생된 이점을 활용하고 데이터 대역폭과 전력 효율성을 개선하는 파괴적인 접근 방식이 필요한 때라고 말했습니다. 그것이 바로 뉴로모픽 접근법입니다. "AI 스토리는 계속해서 발전할 것이며 다음 단계는 뉴로모픽 방향이라고 믿습니다."

최근 몇 년 동안 실리콘에 뉴런을 구현하여 인지 능력을 전달하는 뉴로모픽 하드웨어를 구축하려는 많은 노력이 있었습니다. Cambou의 경우 이것이 "뉴로모픽 접근 방식이 모든 올바른 상자를 체크하는 것"이며 훨씬 더 큰 효율성을 허용하는 방식입니다. “하드웨어는 신경망과 딥 러닝을 가능하게 했으며 우리는 이것이 뉴로모픽 AI의 다음 단계를 가능하게 할 것이라고 믿습니다. 그러면 우리는 AI에 대해 다시 꿈꿀 수 있고 AI 기반 애플리케이션에 대해 꿈꿀 수 있습니다.”

신용:Yole

뉴런 및 시냅스

뉴로모픽 하드웨어는 감지, 컴퓨팅 및 메모리 분야의 관심과 목표가 수렴되면서 연구실을 떠나고 있습니다. 합작 투자가 형성되고 전략적 제휴가 체결되고 유럽 연합의 인간 두뇌 프로젝트와 같은 10년에 걸친 연구 이니셔티브가 시작되고 있습니다.

2024년 이전에는 중요한 비즈니스가 없을 것으로 예상되지만 기회의 규모는 그 이후 수십 년 동안 상당할 수 있습니다. Yole에 따르면 모든 기술적인 문제가 향후 몇 년 안에 해결된다면 뉴로모픽 컴퓨팅 시장은 2024년 6900만 달러에서 2029년 50억 달러, 2034년 213억 달러로 성장할 수 있습니다. Intel, SK Hynix 뿐만 아니라 Brainchip, Nepes, Vicarious, General Vision 등의 스타트업

뉴로모픽 칩은 더 이상 이론이 아니라 사실입니다. 2017년 인텔은 130,000개의 뉴런으로 구성된 최초의 뉴로모픽 연구 칩인 Loihi를 출시했습니다. 7월에 Santa Clara 그룹은 64개의 Loihi 연구 칩으로 구성된 800만 뉴런 뉴로모픽 시스템(코드명 Pohoiki Beach)으로 새로운 이정표를 세웠습니다. 마찬가지로 IBM의 TrueNorth 뇌에서 영감을 받은 컴퓨터 칩에는 100만 개의 뉴런과 2억 5,600만 개의 시냅스가 있고 Brainchip의 Akida 뉴로모픽 시스템 온칩에는 120만 개의 뉴런과 100억 개의 시냅스가 있습니다.

“뉴런과 시냅스 측면에서 기준을 높일 하드웨어를 제공하기 위한 경쟁이 있습니다. 시냅스는 아마도 뉴런보다 더 중요할 것입니다.”라고 Cambou가 말했습니다. “Yole에서는 우리보다 두 단계 앞서 있습니다. 첫째, 부분적으로는 비동기식이고 부분적으로는 폰 노이만(Von Neumann)의 현재 접근 방식을 기반으로 구축될 응용 프로그램입니다.” 좋은 예는 Brainchip의 Akida와 Intel의 Loihi입니다. “그러면 아마도 향후 10년에서 15년 이내에 RRAM(저항성 랜덤 액세스 메모리)이 그 위에 놓이게 될 것입니다. 그러면 더 많은 시냅스가 생성될 수 있습니다.”

뉴로모픽 컴퓨팅 노력은 Micron, Western Digital 및 SK Hynix와 같은 메모리 플레이어에서 시작되지만 많은 사람들이 더 많은 단기 수익을 찾고 있으며 궁극적으로 뉴로모픽 연구에서 강력한 플레이어가 되지 못할 수 있습니다. "우리는 뉴로모픽을 핵심 기술로 선택한 소규모 플레이어를 살펴봐야 합니다."라고 Cambou가 말했습니다.

Weebit, Robosensing, Knowm, Memry 및 Symetrix와 같은 파괴적 메모리 스타트업은 비휘발성 메모리 기술과 뉴로모픽 컴퓨팅 칩 설계를 결합하고 있습니다. 그들은 Crossbar 및 Adesto와 같은 순수 플레이 메모리 스타트업과 함께 등장했지만 멤리스터(메모리 저항기) 접근 방식은 종종 순수 플레이 컴퓨팅 회사의 노력보다 더 장기적인 것으로 인식됩니다. Cambou는 "많은 메모리 플레이어가 시냅스를 모방하기 위해 RRAM과 상변화 메모리를 연구하고 있습니다. 또한 "MRAM[자기저항 랜덤 액세스 메모리]은 뉴로모픽 접근이 성공하는 데 도움이 될 새로운 메모리의 일부입니다."

신용:Yole

컴퓨팅 외에도 뉴로모픽 센싱 생태계가 등장했으며, 그 뿌리는 1991년 Institute of Neuroinformatics와 ETH Zurich의 Misha Mahowald가 Silicon Neuron을 발명한 데 있습니다. 전 세계적으로 10명 이상의 플레이어가 있습니다. 그 중 Prophesee, Samsung, Insightness, Inivation 및 Celepixel은 이벤트 기반 이미지 센서 및 카메라와 같은 즉시 사용 가능한 제품을 제공하고 있습니다. 영화 촬영에 사용되는 프레임 기반 접근 방식은 모션을 캡처할 수 없습니다.

"영화는 우리의 두뇌를 속이고 있지만 우리는 컴퓨터를 속일 수 없습니다"라고 Cambou는 말했습니다. “이를 수행하는 유일한 올바른 방법은 눈이 제공하는 것과 동일한 정보를 제공하는 것입니다. 이벤트 기반 카메라는 실시간으로 움직임을 이해하고 패턴을 이해하는 데 매우 강력합니다.” 보다 광범위하게, 청각, 영상 및 행동 센서는 "우리가 일반 지능이라고 부르는 모든 수준에 영향을 미칩니다."

패키지 반도체 수준에서 Yole은 뉴로모픽 센싱이 2024년 4300만 달러에서 2029년 20억 달러, 2034년 47억 달러로 성장할 것으로 예상하고 있습니다.

자동차뿐 아니라

Cambou는 자동차가 아마도 가장 확실한 시장일 것이라고 말했습니다. 그러나 초기 시장은 주로 로봇 및 실시간 인식을 위한 산업 및 모바일 시장입니다.

단기적으로 뉴로모픽 감지 및 컴퓨팅은 산업 기계의 상시 모니터링에 사용될 것입니다. 또한 물류, 식품 자동화 및 농업 분야에서도 중요한 역할을 할 것입니다. Cambou는 "딥 러닝에는 방대한 데이터 세트가 필요하지만 뉴로모픽은 몇 개의 이미지나 몇 단어만으로 매우 빠르게 학습하고 시간을 이해합니다."라고 말했습니다.

향후 10년 이내에 하이브리드 인메모리 컴퓨팅 칩의 가용성은 자동차 시장의 문을 열고 대중 시장의 자율 주행 기술을 필사적으로 기다리고 있습니다. "우리는 상호작용의 세계에 살고 있으며 뉴로모픽은 컴퓨터가 구조화되지 않은 환경을 이해할 수 있도록 하는 데 매우 강력할 것입니다."