RISC-V에 도메인 특화 가속기 통합: AI, AR/VR, 비전 워크로드를 위해

RISC-V 생태계가 처음 등장했을 때 주요 초점은 이전에는 독점 CPU ISA(명령어 집합 아키텍처)에 의존했던 심층 임베디드 시스템의 비용을 대폭 절감하는 것이었습니다. SoC가 핀펫 공정으로 마이그레이션되면서 높은 마스크 비용이 많은 설계자를 유한 상태 머신에서 RISC-V ISA 기반 프로그래머블 마이크로 시퀀서로 대체하도록 이끌었습니다. 이 변화는 초기 흥분을 불러일으켰고, 2014년부터 2018년까지 경량 RISC-V 코어의 상품화로 이어졌습니다.

아키텍처가 성숙해지면서 RISC-V는 실시간 고성능 애플리케이션, 특히 AI, AR/VR, 컴퓨터 비전을 위한 고도로 특화된 가속 엔진의 프론트엔드로 주목받게 되었습니다. RISC-V의 개방적 특성은 설계자가 ISA를 확장할 수 있게 해, 프로세서가 기존 메모리 맵 I/O 대신 저지연 코프로세서 인터페이스를 통해 가속기와 통신할 수 있게 합니다.

RISC-V 벡터 확장은 이러한 가속기가 커널 내부 루프의 중간 레이어를 처리할 수 있게 했습니다. 그러나 이를 위해서는 외부 가속기에서 내부 벡터 레지스터로 데이터를 전송하는 커스텀 로드 명령어 같은 목적별 확장이 필요했습니다.

이러한 애플리케이션은 효율성과 유연성의 균형을 맞춘 프로그래밍 모델을 요구합니다. 도메인 특화 가속기(본질적으로 대규모 승산기 어레이)는 효율성이 높지만 수행할 수 있는 연산과 데이터 이동 능력에 제약이 있습니다. 반면 x86 같은 범용 CPU는 최대한의 유연성을 제공하지만, 대부분의 설계가 감당할 수 없는 100W 이상의 전력 예산이 필요합니다.

RISC-V 표준 벡터 확장에 특화 커스텀 명령어를 보강하면 가속기의 이상적 파트너가 됩니다 (이미지: Andes Technology)

최적의 솔루션은 범용 CPU의 유연성과 작업 특화 가속기를 결합하는 것으로, 위 그림과 같습니다. RISC-V에서 성숙해가는 표준 벡터 확장에 맞춤형 커스텀 명령어를 보강하면 완벽한 파트너 역할을 합니다. 이 시너지는 지난 18개월 동안 도메인 특화 가속(DSA) 솔루션이 RISC-V 플랫폼으로 수렴되면서 명확해졌습니다.

이 비전을 실현하려면 가속기가 전용 리소스(메모리 포함)를 사용해 자체 명령어 세트를 실행해야 합니다. RISC-V 코어는 마이크로코드를 평탄화해 필요한 모든 제어 정보를 단일 명령어에 패킹해야 합니다. 이 명령어 세트는 프로세서의 스칼라 및 벡터 레지스터뿐만 아니라 가속기 자체의 제어 레지스터와 메모리도 인식해야 합니다.

가속기가 특수 데이터 재정렬이나 조작에 도움이 필요할 때, Andes 아키텍처는 벡터 처리 장치(VPU)를 사용해 복잡한 순열(시프팅, 개더링, 압축, 확장)을 처리합니다. 레이어 간 커널은 종종 복잡한 데이터 패턴을 포함하며, VPU가 필요한 유연성을 제공합니다. 가속기와 VPU가 모두 대규모 병렬 연산을 실행하므로 Andes는 계산 수요를 충족하기 위해 메모리 서브시스템 대역폭을 높이는 하드웨어(프리페칭, 논블로킹 트랜잭션, 아웃오브오더 리턴)를 도입했습니다.

Andes Technology의 첫 RISC-V 벡터 프로세서인 NX27V는 최신 V-확장 0.8 사양을 구현합니다. 8/16/32비트 정수 연산, 16/32비트 부동소수점 연산, Bfloat16, Int4 형식을 지원해 머신러닝 가중치의 스토리지와 전송 대역폭을 줄입니다. 벡터 사양의 유연성으로 설계자는 벡터 길이, 레지스터당 비트, SIMD 폭, 사이클당 처리 비트 등 핵심 파라미터를 구성할 수 있습니다.

NX27V는 512비트 벡터 길이를 제공하며 최대 8개 벡터 레지스터 체이닝으로 4096비트까지 확장 가능합니다. 다중 기능 유닛이 병렬 파이프라인에서 동작해 다양한 워크로드에 필요한 처리량을 유지합니다. 512비트 구성에서 7nm 공정 최악 조건 하 1GHz에 도달하며 0.3mm²만 차지합니다. 소프트웨어 개발을 위해 Andes는 컴파일러, 디버거, 벡터 라이브러리, 사이클 시뮬레이터, 중요 루프 분석 및 최적화를 위한 Clarity 시각화 도구를 제공합니다. 이 솔루션은 이미 얼리 액세스 프로그램을 통해 제공됩니다.

지난 15개월 동안 강력한 RISC-V 벡터 확장, 고대역폭 메모리 서브시스템, CPU 근처에 위치한 가속기를 결합한 고성능 컴퓨팅 수요가 급증했습니다. 이 트렌드는 RISC-V와 벡터 처리의 업계 전반적 채택을 가속화할 것입니다.

>> 이 기사는 자매 사이트 EE Times에 원문 게재되었습니다.