블레이즈(Blaize), AI 워크로드용 그래프 스트리밍 프로세서(GSP) 공개

도쿄 — AI 가속기 기업 블레이즈(구 ThinCI)가 완전 프로그래머블한 그래프 스트리밍 프로세서(GSP)가 2020년 2분기 양산에 들어갈 것이라고 발표했다.

6년 차 스타트업인 블레이즈는 전력 소비와 벤치마크 데이터를 포함한 자세한 사양을 공개하지 않았다. 그러나 2018년 중반 테이프아웃된 테스트 칩이 리눅스 기반 인클로저에서 구동되었으며, 지난 1년간 전 세계 16개 파일럿 프로젝트에 현장 적용되었다고 CEO 겸 공동 설립자 디나카르 무나가라(Dinakar Munagala)는 밝혔다.

블레이즈는 GSP가 직접 그래프 처리를 실행하고, 온칩에서 태스크 그래프를 관리 및 실행하며, 태스크 레벨 병렬성을 가능하게 한다고 설명한다. 본질적으로 GSP는 GPU, CPU, DSP가 효율적으로 서비스하기 어려웠던 AI 워크로드를 해결한다.

업계 분석가들은 이 제안이 다른 AI 프로세서 벤더들의 익숙한 주장과 닮았다고 지적한다.

티리아스 리서치(Tirias Research)의 수석 분석가 케빈 크루웰(Kevin Krewell)은 "ThinCI에 대해 조금 알고 있지만 아키텍처 피치를 받은 적은 없다. 이름이 바뀐 건 다행이다"라고 말했다.

슬라이드 덱에 GSP 아키텍처에 대한 기술적 세부사항이 부족하여 분석가들 사이에서 좌절과 회의론을 불러일으켰다. 무나가라는 2020년 1분기에 포괄적인 정보 공개를 약속했다.

적격 벤더 리스트 진입

무나가라에 따르면 블레이즈의 희소식은 초기 도입 기업들이 이미 GSP를 사용하고 있다는 점이다. 지난 1년간 블레이즈는 GSP가 탑재된 데스크톱 유닛을 출하했다. 이 유닛은 전원 소켓에 꽂고 이더넷으로 연결할 수 있다. 데이터 사이언티스트, 소프트웨어 및 하드웨어 개발자들이 이미 GSP가 가능하게 하는 시스템 레벨 기능을 평가 중이다.

8,700만 달러 자금을 확보한 블레이즈는 덴소(Denso), 다임러(Daimler), 마그나(Magna) 등 초기 투자자와 파트너들의 지원을 받는다. "자동차 부문에서 몇 년간 매출을 내고 있다"고 무나가라는 말했다.

테이프아웃된 칩을 가진 많은 스타트업은 "이제 무엇을 할까?" 딜레마에 직면한다. 블레이즈의 VP 겸 전략적 비즈니스 개발 책임자 리처드 테릴(Richard Terrill)은 EE Times에 "우리는 1년 전에 이미 그 단계를 통과했다"고 말했다.

블레이즈는 현재 캘리포니아, 인도, 영국에 걸쳐 325명으로 늘어난 엔지니어링 팀을 강화하며 인프라 확장에 집중해 왔다. 새로운 시설로 이전 중이며 일본과 EMEA에서 필드 애플리케이션 엔지니어를 채용하고 있다. "모멘텀을 유지하고 있다"고 무나가라는 말했다.

블레이즈에게 GSP 비즈니스는 더 이상 스펙 시트 경쟁이 아니다. 고객이 실제 애플리케이션에서 GSP를 어떻게 사용할지 이해하고, 그 맥락에서 시스템 레벨 전력 소비를 측정하는 것이 핵심이다.

블레이즈는 물류 마무리, 자동차 인증 획득, 내부 프로세스와 문서가 인증 표준을 충족하도록 하는 데 바빴다. "이미 감사 프로세스를 완료했고 한 자동차 고객의 승인된 적격 벤더 리스트에 올랐다"고 무나가라는 말했다. 이 마일스톤은 검증된 수명을 가진 파트너를 선호하는 완성차 업체와 티어원 공급업체에게 중요하다.

블레이즈는 영국(킹스 랭글리와 리즈)에서 30명의 엔지니어를 고용하여 자동차 제품 개발에 집중하게 했다. 이 팀은 이전에 모빌아이(Mobileye)용 MIPS 기반 ASIC을 개발했던 MIPS 출신의 고도로 자격을 갖춘 인재들로 구성되어 깊은 도메인 전문성을 제공한다.

그래프 컴퓨팅

AI는 많은 신경망 유형을 아우르지만, "모든 신경망은 그래프 기반"이라고 무나가라는 설명했다. 이론적으로 이는 개발자가 단일 아키텍처에서 여러 신경망과 전체 워크플로를 구축할 수 있게 한다. 따라서 GSP의 마케팅 슬로건: "100% 그래프 네이티브(native)."

블레이즈만 그래프 컴퓨팅 공간에 있는 것은 아니다. 그래프코어(Graphcore), 미직(Mythic), 최근 폐쇄된 웨이브 컴퓨팅(Wave Computing) 등 경쟁사들도 AI 처리를 위한 데이터플로 그래프 최적화와 컴파일을 논의해 왔다.

테릴은 "그래프 컴퓨팅은 60년 이상의 역사를 가진다"고 지적했다.

무나가라에 따르면 블레이즈 GSP는 다른 그래프 기반 데이터플로 프로세서와 세 가지 방식으로 차별화된다. 첫째, GSP는 다양한 태스크를 처리할 수 있는 완전 프로그래머블하다. 둘째, "단일 클록 사이클에서" 동적으로 재프로그래밍 가능하다. 셋째, 스트리밍을 통합하여 레이턴시를 최소화한다. 데이터 스트리밍 메커니즘은 비연산 데이터 이동을 줄이거나 제거하여 상당한 효율성 배수를 제공한다.

GSP 아키텍처의 그래프 네이티브 설계는 외부 DRAM으로의 데이터 이동을 최소화한다. 초기 입력과 최종 출력만 외부 메모리를 필요로 하며, 중간 데이터는 온칩에 남아 메모리 대역폭과 전력 사용을 극적으로 줄인다.

블레이즈 시스템의 명시된 목표는 "가능한 최저 레이턴시, 메모리 요구사항 감소, 칩·보드·시스템 레벨에서의 에너지 수요 감소"이다.

블레이즈의 그래프 컴퓨팅 설계가 특허로 방어 가능한지 묻자 무나가라는 "우리 특허 포트폴리오에 자신 있다. 수년간의 집중 연구를 반영하는 다수의 등록 특허와 추가 출원 중인 특허를 보유하고 있다"고 답했다.