진화하는 AI 요구 사항 분류

인공 지능(AI)의 도래는 대규모 데이터 센터, 자율 주행 차량 및 로봇과 같은 "중형" 시스템, 증가하는 모바일 장치, 가전 제품, 웨어러블, 그리고 아직 상상하지 못한 애플리케이션. 가장 중요한 것은 데이터 수집 및 분석에서 전례 없는 효율성과 속도를 달성하는 동시에 전력 소비 및 폼 팩터를 관리해야 한다는 것입니다.

하드웨어 영역에서 이를 위해서는 센서, 프로세서, 메모리, 상호 연결 및 패키징에 대한 혁신적인 사고와 새로운 패러다임이 필요합니다. Edge AI 및 기타 광범위한 추세의 맥락에서 검토할 기존 및 새로운 연구 노력에서 유망한 옵션이 구체화되기 시작했습니다. 앞으로 이러한 노력에서 실용적이고 제조 가능한 솔루션을 만들기 위해서는 학제간 사전 산업 협력이 필요할 것입니다.

컴퓨팅 기능과 전력 소비 요구 사항을 기반으로 애플리케이션을 비교하여 다가오는 AI 시장을 상상할 수 있습니다(그림 1). 웨어러블은 전력 제한이 가장 크고 (상대적으로) 컴퓨팅 요구 사항이 가장 낮습니다. 데이터 센터는 반대편 끝에 있으며 그 사이에는 스마트 기기, 증강 현실, 로봇, 자율 주행 차량이 있습니다.

<중앙>

그림 1. (출처:Leti)

대부분의 데이터 분석이 수집 시점에서 이루어지는 Edge AI는 왼쪽 애플리케이션에 적합합니다. 이것은 설명하기 쉽지만 매우 작은 패키지에 전례 없는 수준의 센서 및 프로세서 기능이 필요합니다. 센서는 인간의 눈과 귀에서 영감을 얻어 인지 및 로컬 지능을 기반으로 특성(예:다이내믹 레인지)을 변경하여 훨씬 더 적응력이 높아야 합니다.

한편, 대규모 애플리케이션은 전통적인 컴퓨팅 패러다임, 특히 시간과 에너지를 모두 소모하는 일정한 메모리 읽기/쓰기 주기에 부담을 줄 것입니다.

이러한 요구 사항을 염두에 두고 Leti는 스마트 센서 및 혁신적인 컴퓨팅 접근 방식에 대한 연구를 우선시했습니다.

한 가지 초점은 현대 컴퓨팅의 근본적인 문제입니다. 메모리와 프로세서 간에 데이터를 이동하는 것은 이제 시간과 에너지 소비 면에서 계산보다 훨씬 더 많은 비용이 듭니다. 데이터 전송 및 메모리 액세스는 시스템 에너지 사용량의 최대 90%를 차지하며 인공 신경망과 같은 응용 프로그램은 대규모 데이터베이스와 간단한 계산 작업에 의존하기 때문에 데이터 이동을 줄이는 것이 중요합니다.

물리적 링크를 줄이기 위해 프로세서에 메모리를 스태킹하는 것은 3D 회로에 대한 Leti의 오랜 연구 주제입니다. 우리는 또한 SRAM 내에서 덧셈, 뺄셈 및 부울 논리를 수행할 수 있는 새로운 메모리 디자인을 추구하고 있습니다. 면적 비용은 무시할 수 있으며 더 중요한 것은 데이터가 메모리를 떠나지 않는다는 것입니다. 이러한 인메모리 컴퓨팅(IMC) 프로세서는 신경망 및 암호화와 같은 애플리케이션에 대한 강력한 잠재력을 갖고 있으며 2020년대까지 동일한 주파수 및 에너지 예산을 유지하면서 AI 애플리케이션에서 기존 프로세서의 처리량을 100배 제공할 수 있다고 믿습니다.