밉솔로지 제브라(Zebra), GPU AI 코드를 한 명령어로 FPGA 가속기로 변환

미래 지향적인 AI 소프트웨어 스타트업 밉솔로지(Mipsology)가 자일링스(Xilinx)와 협력하여 FPGA의 AI 워크로드 잠재력을 최대한 끌어냈습니다. 이들의 '제로-에포트(zero-effort)' 솔루션인 제브라(Zebra)는 기존 GPU 코드를 변환하여 밉솔로지의 커스텀 AI 컴퓨트 엔진에서 FPGA로 실행할 수 있게 합니다. 코드 변경이나 재훈련이 필요 없습니다.

오늘 자일링스는 최신 빌드의 알베오(Alveo) U50 데이터센터 가속기 카드에 제브라를 탑재하여 출하했으며, 박스 개봉 즉시 GPU-투-FPGA 변환을 제공합니다. 제브라는 이미 알베오 U200과 알베오 U250을 포함한 다른 자일링스 보드에서 추론을 가속화합니다.

최신 빌드의 자일링스 알베오 U50 데이터센터 가속기 카드에 밉솔로지의 제브라 소프트웨어가 탑재되어 GPU AI 코드를 FPGA에서 실행 가능 (이미지: 자일링스)

"제브라가 우리 알베오 카드에서 제공하는 가속은 CPU와 GPU를 능가합니다."라고 자일링스 마케팅 부사장 라민 로안은 말했습니다. "제브라와 함께 알베오 U50은 AI 워크로드의 유연성, 성능, 고처리량, 저지연 요구사항을 충족하여 모든 배포에 매력적인 선택이 됩니다."

플러그-앤-플레이 FPGA

역사적으로 FPGA는 비전문가에게 특히 프로그래밍이 복잡한 것으로 인식되어 왔습니다. 밉솔로지의 비전은 FPGA를 CPU나 GPU만큼 간단하게 사용할 수 있는 플러그-앤-플레이 플랫폼으로 만드는 것입니다. 목표는 사용자가 단 한 줄의 코드로 기존 가속기에서 FPGA로 전환할 수 있게 하는 것입니다.

"밉솔로지는 본질적으로 FPGA의 쿠다(CUDA)입니다."라고 CEO 루도빅 라르줄(Ludovic Larzul)은 EE Times와의 인터뷰에서 말했습니다. "우리는 AI 사용자가 하드웨어가 아닌 모델에 집중할 수 있도록 FPGA를 추상화하는 소프트웨어를 제공합니다."

중요하게도, 이 전환은 비전문가도 달성할 수 있습니다. 깊은 AI 전문 지식이나 FPGA 지식이 필요하지 않으며, 모델을 재훈련할 필요도 없습니다.

"사용 편의성이 가장 중요합니다. 많은 AI 프로젝트는 사내 AI나 FPGA 전문가가 없는 팀이 관리합니다."라고 라르줄은 설명했습니다. "그들은 다른 곳에서 신경망을 개발할 수 있고, 모델이 한번 훈련되면 재설계 없이 배포하기를 원합니다."

제브라의 스택. 기술은 데이터센터, 에지, 임베디드 유스 케이스를 아우릅니다 (이미지: 밉솔로지)

왜 비티스(Vitis)인가?

자일링스는 이미 데이터 과학자와 개발자에게 FPGA를 제공하기 위한 포괄적인 툴체인인 비티스(Vitis)를 제공합니다. 그렇다면 왜 서드파티와 파트너십을 맺을까요? 라르줄은 답이 단순하다고 말합니다: 성능과 단순성.

"우리는 더 잘합니다."라고 그는 말했습니다. "그리고 올바르게 합니다."

밉솔로지의 제브라는 비티스, XDNN, 자일링스의 신경망 가속기 엔진과 완전히 독립적입니다. 대신 고객의 기존 컨볼루션 신경망(CNN) 모델을 네이티브로 지원하는 전용 컴퓨트 엔진에서 실행됩니다. 대조적으로 XDNN은 능력이 있지만 커스텀 네트워크에 덜 적합하고 통합이 번거로울 수 있습니다.

"우리는 FPGA가 GPU와 정면으로 맞설 수 있도록 위치시키고 있으며, 성능, 비용, 사용성에서 그들과 대등합니다."라고 라르줄은 덧붙였습니다.

제브라의 스택 상세. 하드웨어 복잡성을 숨겨 FPGA를 GPU나 CPU로부터 매끄러운 전환으로 만듭니다 (이미지: 밉솔로지)

비용은 많은 고객의 주요 동인입니다. "그들은 네트워크 재설계 없이 더 낮은 하드웨어 비용을 원합니다."라고 라르줄은 말했습니다. "재훈련과 네트워크 수정을 제거함으로써 비반복 엔지니어링 비용을 줄입니다."

FPGA는 또한 우수한 신뢰성을 제공합니다. GPU보다 적은 실리콘 면적을 소비하고 더 낮은 온도에서 동작하므로 장기 유지보수 비용이 낮습니다. 이는 데이터센터 운영자에게 중요한 고려사항입니다.

"총소유비용은 보드 가격 이상을 포함합니다."라고 라르줄은 강조했습니다. "시스템을 운영 상태로 유지하는 것도 포함됩니다."

제브라는 성능 격차를 좁히도록 설계되었습니다. FPGA는 일반적으로 다른 가속기보다 초당 테라 연산(TOPS)이 적지만, 제브라의 컴퓨트 엔진은 효율을 극대화합니다. "우리 FPGA는 GPU보다 6배의 TOPS를 가지고도 초당 더 많은 이미지를 처리할 수 있습니다."라고 라르줄은 주장했습니다.

어떻게 달성됩니까? 구체적인 세부사항은 독점적이지만, 라르줄은 제브라가 가지치기(재훈련 없이 정확도 저하)를 피하고 8비트 미만의 극단적인 양자화를 피하여 모델 충실도를 보존한다고 언급했습니다.

CNN(이미지 및 비디오 작업에서 지배적) 외에도 제브라는 구글의 NLP 모델인 BERT를 지원하며, 이는 근본적인 수학적 구조를 공유합니다. 향후 릴리스는 LSTM과 RNN 아키텍처를 타겟으로 할 수 있지만, 이들은 추가적인 도전을 제시합니다.

제브라 뒤의 팀

2015년 설립된 밉솔로지는 프랑스에 약 30명의 R&D 엔지니어를 두고 있으며, 캘리포니아에 린 비즈니스 개발 팀을 두고 있습니다. 회사는 2019년 프랑스 정부 혁신 대회에서 200만 달러 상금을 포함해 700만 달러를 모금했습니다.

밉솔로지의 핵심 인재는 2012년 시놉시스(Synopsys)에 인수된 ASIC 에뮬레이션 기업 EVE에서 나왔습니다. EVE의 기술(수천 개의 상호 연결된 FPGA를 활용하여 ASIC 동작 복제)은 전 세계 주요 ASIC 공급업체에서 사용되었습니다.

12건의 특허 출원 중인 밉솔로지는 자일링스와 긴밀히 협력하며 웨스턴 디지털의 소형 폼팩터(SFF U.2) 및 어드밴텍의 베가-4001(Vega-4001)과 같은 서드파티 가속기 카드와 호환성을 유지합니다.

>> 이 기사는 원래 자매 사이트인 EE Times에 게시되었습니다.