AI는 연구 논문을 읽고 평범한 영어 요약을 제공할 수 있습니다.

<울>

연구 논문은 일반적으로 전문적인 접근 방식과 기술적 용어로 채워져 있어 과학적 배경이 없는 독자가 이해하기가 매우 어렵습니다.

최근 MIT와 Qatar Computing Research Institute의 과학자들은 과학 저널을 읽고 몇 문장으로 간단한 영어 요약을 제공할 수 있는 새로운 인공 지능(AI) 모델을 고안했습니다.

이전 기술보다 훨씬 더 나은 결과를 제공하지만 확실히 과학 작가와 편집자를 대체할 수는 없습니다. 그러나 이 AI는 작가가 더 많은 수의 저널을 스캔하고 저널에 대한 아이디어를 얻는 데 도움이 될 수 있습니다.

연구팀은 원래 복잡한 공학 재료에서 빛이 어떻게 작용하는지와 같은 특정 물리학 문제를 해결하기 위해 신경망을 개발하려고 했습니다.

그들은 곧 동일한 방법론을 사용하여 기존의 머신 러닝 방법보다 훨씬 더 효율적인 방식으로 음성 인식 및 자연어 해석과 같은 다른 복잡한 계산 작업을 처리할 수 있다는 것을 깨달았습니다.

실제로 무엇을 했는가?

지난 몇 년 동안 RNN(Recurrent Neural Network)은 언어 모델링에서 텍스트 요약 및 챗봇 시스템 개발에 이르기까지 광범위한 작업을 처리하기 위한 표준 인공 신경망이 되었습니다.

긴 데이터 문자열에서 정보를 상호 연관시키는 기능을 개선하기 위해 다양한 기술이 개발되었습니다. 가장 널리 사용되는 것은 LSTM(장기 기억 장치) 및 GRU(게이트 순환 장치)입니다. 그러나 그들은 여전히 ​​인상적인 기억 능력이나 합성 작업에 대한 효율적인 회수를 보여주지 못합니다.

이것이 연구자들이 RUM(Rotational Unit of Memory)이라는 대체 접근 방식을 개발한 이유입니다. 행렬의 곱셈을 기반으로 하는 기존 신경망과 달리 RUM은 다차원 공간에서 회전하는 벡터를 기반으로 합니다.

참조:MIT 언론 저널 | doi:10.1162/tacl_a_00258 | MIT

다차원 공간(특정 방향을 가리키는 특정 선)에서 벡터를 사용하여 텍스트의 모든 단일 단어를 나타냅니다. 각 연속 단어는 수천 개의 차원을 포함할 수 있는 이론적인 공간에서 벡터를 특정 방향으로 전환합니다. 결과 벡터(또는 벡터 그룹)는 연결된 단어 문자열로 다시 변환됩니다.

전반적으로 RUM은 복잡한 순차 역학을 기억하고 정보를 정확하게 기억하는 두 가지 작업을 수행합니다. 또한 문자 수준의 언어 모델링 및 질문 답변에 대한 유망한 성능을 보여줍니다.

테스트

연구원들은 이러한 발견을 설명하는 자체 논문을 포함하여 수많은 과학 논문에서 이 시스템을 테스트하고 결과를 기존의 LSTM 및 GRU 기반 신경망과 비교했습니다.

초록을 스캔하는 대신 RUM은 전체 논문을 읽고 내용에 대한 간단한 요약을 생성합니다. 이 시스템에서 렌더링된 요약에는 덜 기술적인 용어와 반복적인 단어가 포함되어 있습니다. 세련된 산문은 아니지만 데이터의 핵심을 꿰뚫고 있습니다.

읽기:AI가 셰익스피어의 작품을 닮은 자체 시를 씁니다.

자신의 작업에 이 시스템을 사용해 볼 수 있습니다. 코드와 데모는 GitHub에서 사용할 수 있습니다.