AI 도구, 인텔 자체 모델보다 칩 실행 속도 더 정확히 예측

머신러닝으로 프로세서 성능 예측 자동화

MIT 연구진이 주어진 컴퓨터 칩이 특정 코드를 실행하는 데 걸리는 시간을 예측하는 머신러닝 도구를 개발했습니다. 이 도구는 인텔의 자체 예측 모델보다 더 정확한 것으로 나타났습니다.

배경: 분석 모델링의 한계

프로세서가 어셈블리 명령어 블록을 실행하는 데 필요한 클럭 사이클 수를 결정하는 것은 성능 엔지니어와 컴파일러 설계자 모두에게 중요합니다. 하지만 현대 프로세서 아키텍처에서 이를 위한 분석 모델을 개발하는 것은 극도로 복잡한 작업이며, 각 프로세서 세대마다 처음부터 다시 수행해야 하고 오류가 발생하기 쉽습니다.

MIT의 해결책: 이테말(Ithemal), 바이하이브(BHive), 베말(Vemal)

연구진은 이 과정을 자동화해 기존의 수작업 도구보다 빠르고 쉽고 정확하게 만들었습니다. 세 편의 컨퍼런스 논문으로 발표되었습니다:

1. 이테말(Ithemal): 레이블이 붙은 기본 블록 데이터(컴퓨팅 명령어 블록)로 훈련된 신경망 모델입니다. 미처리 기본 블록이 주어지면 주어진 마이크로프로세서가 실행하는 데 걸리는 시간을 예측합니다.
2. 바이하이브(BHive): 이테말을 검증하기 위해 암호학, 컴파일러, 머신러닝, 그래픽스 등 다양한 분야의 기본 블록으로 벤치마크 스위트를 만들었습니다. 30만 개 이상의 블록을 수집해 오픈소스 데이터셋인 바이하이브에 담았습니다. 테스트 결과 이테말은 인텔 프로세서의 코드 실행 속도를 인텔 자체 성능 모델보다 더 정확히 예측했습니다.
3. 베말(Vemal): 특정 코드를 벡터로 변환해 병렬 컴퓨팅에 사용할 수 있게 하는 알고리즘을 자동으로 생성하는 방법입니다. 산업용 컴파일러(LLVM 포함)에서 사용되는 수작업 벡터화 알고리즘보다 뛰어난 성능을 보였습니다.

칩 문서 대신 데이터 활용

인텔은 칩 아키텍처에 대한 상세한 문서를 제공하지만, 전문 개발자만 이를 바탕으로 성능 모델을 만듭니다. 게다가 칩이 독점 기술이라 문서에 특정 정보가 누락되어 있습니다.

연구진은 신경망을 사용해 칩이 기본 블록 명령어(특정 명령 실행, 종료, 재부팅 등)를 수행하는 데 걸리는 평균 사이클 수를 측정했습니다. 신경망은 수백만 개의 블록을 자동으로 프로파일링하며 다양한 프로세서 아키텍처가 코드를 실행하는 방식을 점차 학습합니다. 즉, 칩 문서에 의존하지 않고 AI 모델로 데이터를 분석한 것입니다.

성능 비교 및 향후 과제

이테말은 미지의 기본 블록을 입력받아 주어진 프로세서가 해당 코드를 실행하는 데 걸리는 시간을 단일 숫자로 출력합니다. 테스트 결과 인텔의 예측 모델 오류율은 20%였던 반면, 이테말은 다양한 도메인의 기본 블록에서 10%의 오류율을 기록했습니다.

새로운 아키텍처에도 쉽게 훈련할 수 있습니다. 해당 칩에서 더 많은 데이터를 수집해 프로파일러를 거쳐 이테말을 훈련시키면 됩니다. 구글의 텐서 처리 장치(TPU) 등 어떤 프로세서 아키텍처든 학습 가능합니다.

다만 연구진은 이 모델이 어떻게 예측을 내리는지 아직 완전히 이해하지 못하고 있습니다. 머신러닝의 상당 부분이 블랙박스이기 때문입니다. 다음 연구에서는 이러한 모델을 해석하는 기법을 탐구할 계획입니다.