AI, 복잡한 논문을 평이한 영어로 요약… MIT·카타르 연구진 'RUM' 네트워크 개발

논문 이해 돕는 AI 요약 도구 등장

연구 논문은 보통 전문적 접근법과 기술 용어로 가득 차 있어 과학적 배경이 없는 독자에게는 이해하기 매우 어렵습니다.

최근 MIT와 카타르 컴퓨팅 연구소 과학자들이 과학 저널을 읽고 몇 문장의 평이한 영어 요약을 제공하는 새로운 인공지능(AI) 모델을 개발했습니다.

이전 기술보다 훨씬 나은 결과를 내지만, 과학 작가와 편집자를 대체할 수는 없습니다. 그러나 이 AI는 작가들이 더 많은 저널을 스캔하고 그 내용을 파악하는 데 도움을 줄 수 있습니다.

연구팀은 원래 복잡한 소재에서 빛의 행동 등 특정 물리학 문제를 해결하기 위한 신경망 개발을 시도했습니다.

곧 같은 방법론이 음성 인식, 자연어 해석 등 다른 복잡한 계산 작업을 기존 머신러닝 방법보다 훨씬 효율적으로 처리하는 데 사용될 수 있음을 깨달았습니다.

실제 구현 내용: RUM(회전 기억 단위)

최근 몇 년간 순환 신경망(RNN)은 언어 모델링, 텍스트 요약, 챗봇 시스템 개발 등 다양한 작업을 다루는 표준 인공 신경망이 되었습니다.

긴 데이터 문자열에서 정보 연관 능력을 개선하기 위한 다양한 기법이 개발됐습니다. 가장 인기 있는 것은 LSTM(Long Short-Term Memory)과 GRU(Gated Recurrent Units)입니다. 하지만 여전히 인상적인 메모리 능력이나 합성 작업에서 효율적 회상을 보여주지 못합니다.

그래서 연구자들은 '회전 기억 단위(RUM, Rotational Unit of Memory)'라는 대안적 접근법을 개발했습니다. 기존 신경망이 행렬 곱셈 기반인 반면, RUM은 다차원 공간에서 벡터 회전 기반입니다.

참고: MIT Press Journals | doi:10.1162/tacl_a_00258 | MIT

RUM은 다차원 공간의 벡터(특정 방향을 가리키는 선)를 사용해 텍스트의 모든 단어를 표현합니다. 각 후속 단어는 이론적 공간(수천 차원 가능)에서 벡터를 특정 방향으로 돌립니다. 결과 벡터(또는 벡터 그룹)는 다시 연관된 단어 문자열로 변환됩니다.

전반적으로 RUM은 두 가지를 수행합니다: 복잡한 순차 역학을 기억하고 정보를 정확히 회상합니다. 또한 문자 수준 언어 모델링과 질문 답변에서 유망한 성능을 보입니다.

테스트 결과

연구자들은 이 시스템을 자신의 연구 논문을 포함한 수많은 과학 논문에서 테스트하고, 기존 LSTM·GRU 기반 신경망과 결과를 비교했습니다.

초록만 스캔하는 것이 아니라 논문 전체를 읽고 내용의 간단한 요약을 생성합니다. 이 시스템이 렌더링한 요약은 기술 용어와 반복 단어가 적었습니다. 우아한 문체는 아니지만 데이터의 핵심 포인트를 짚어냅니다.

직접 사용해보고 싶다면 코드와 데모가 깃허브(GitHub)에 공개돼 있습니다.