AI는 컴퓨터 칩이 코드를 실행하는 속도를 예측합니다

• 새로운 기계 학습 도구는 주어진 컴퓨터 칩이 특정 코드를 실행하는 데 걸리는 시간을 예측합니다.
• 인텔의 자체 예측 모델보다 정확합니다.

프로세서가 안정적인 상태에서 어셈블리 명령 블록을 실행하는 데 걸리는 클록 사이클 수를 결정하는 것은 성능 엔지니어와 컴파일러 디자이너 모두에게 중요합니다.

이를 위한 분석 모델을 개발하는 것은 매우 복잡한 작업입니다. 특히 작업이 오류가 발생하기 쉽고 각 프로세서 세대에 대해 처음부터 새로 수행해야 하는 최신 프로세서 아키텍처에서는 더욱 그렇습니다.

이제 MIT 연구원들은 이 프로세스를 자동화하는 기계 학습 도구를 구축하여 현재 정적 기계 코드 분석기 및 컴파일러 백엔드에서 사용되는 최첨단 필기 도구보다 빠르고 쉽고 정확합니다.

그들은 이 새로운 기계 학습 파이프라인을 3개의 회의 논문에서 설명했습니다.

1. Ithemal:신경망 모델은 레이블이 지정된 데이터의 기본 블록(컴퓨팅 명령어 블록)에 대해 학습됩니다. 그런 다음 주어진 마이크로프로세서가 처리되지 않은 기본 블록을 실행하는 데 걸리는 시간을 예측합니다.

2. BHive:Ithemal을 검증하기 위해 연구원들은 암호화, 컴파일러, 기계 학습 및 그래픽과 같은 다양한 분야의 기본 블록 벤치마크 제품군을 만들었습니다. 그들은 300,000개 이상의 블록을 수집하여 오픈 소스 데이터 세트인 BHive에 넣었습니다.

테스트 결과 Ithemal은 Intel이 자체적으로 개발한 성능 모델보다 Intel 프로세서가 코드를 얼마나 더 정확하게 실행할지 예측할 수 있었습니다.

3. Vemal:연구원들은 특정 코드를 벡터로 변환하여 병렬 컴퓨팅에 사용할 수 있도록 Vemal이라는 알고리즘을 자동으로 생성하는 새로운 방법을 구축했습니다.

Vemal은 LLVM 컴파일러를 포함하여 산업용 컴파일러에서 사용되는 손으로 만든 벡터화 알고리즘보다 성능이 뛰어납니다.

칩 문서 대신 데이터 사용

인텔은 칩 아키텍처를 설명하는 자세한 문서를 제공합니다. 그러나 특정 전문 개발자만이 이러한 아키텍처에서 코드 실행을 시뮬레이션하는 성능 모델을 만듭니다. 그리고 이러한 칩은 독점적이기 때문에 인텔은 문서에서 특정 정보를 생략합니다.

연구자들이 한 것은 신경망을 사용하여 칩이 기본 블록 명령(예:특정 명령 실행, 종료 및 재부팅)을 실행하는 데 걸리는 평균 사이클 수를 측정한 것입니다.

출처:MIT

신경망은 수백만 개의 블록을 자동으로 프로파일링하고 다양한 프로세서 아키텍처가 코드를 실행하는 방법을 점차 학습합니다. 간단히 말해서 연구원들은 칩 문서에 집중하지 않고 인공 지능 모델을 사용하여 데이터를 분석했습니다.

Ithemal은 보이지 않는 기본 블록을 입력으로 사용하고 주어진 프로세서가 해당 코드를 실행하는 데 걸리는 시간을 나타내는 단일 숫자를 생성합니다.

두 번째 논문에서 연구자들은 Ithemal이 기존의 손으로 만든 모델보다 성능이 더 우수함을 보여주었습니다. Intel의 예측 모델의 오류율은 20%인 반면 Ithemal의 오류율은 서로 다른 도메인의 다양한 기본 블록에서 10%였습니다.

모델은 새로운 아키텍처에 대해 쉽게 학습할 수 있습니다. 해당 칩에서 더 많은 데이터를 수집하고 프로파일러를 통해 실행하고 해당 정보를 활용하여 Ithemal을 학습시키기만 하면 됩니다. 그게 다야 이제 모델이 성능을 추정할 준비가 되었습니다. Google의 새로운 Tensor Processing Unit을 비롯한 모든 프로세서 아키텍처의 성능 속도를 학습할 수 있습니다.

읽기:Facebook에서 "SapFix" 빌드:코드를 디버그하는 AI 도구

그러나 연구원들은 머신 러닝의 많은 부분이 블랙박스이기 때문에 이 모델이 어떻게 예측을 하는지 아직 모릅니다. 다음 연구에서 그들은 이러한 모델을 해석할 수 있는 기술을 탐구하려고 할 것입니다.