AI, 의미 이해의 새 지평 열다: NLP의 다음 프론티어

AI는 다음 진화 단계로 의미론(semantics) 이해에 가까워지고 있습니다.

AI는 잘못된 명칭이라는 지적이 많습니다. 첫 글자인 '인공(Artificial)'은 맞습니다. 하지만 두 번째 단어인 '지능(Intelligence)'은 그렇지 않습니다. 의미론을 예로 들어보면, 문장, 단락, 책의 의미를 이해하는 인공 기술에 대해 지능적이거나 그렇지 않거나 할 것이 전혀 없습니다. 왜냐하면 그것은 그것에 엄청나게 서툴기 때문입니다.

하지만 이것이 곧 바뀔까요? 최근 법률 기술 기업 인클라우드카운슬(InCloudCounsel)의 머신러닝 디렉터 하다야트 세디키(Hadayat Seddiqi)와 이야기를 나눴습니다. 그는 AI가 의미론 이해에 도달하는 것이 진화의 다음 단계라고 봅니다. 우리는 물었습니다: "이 이정표에 언제쯤 도달할 가능성이 있을까요?"

SEO: 작가로서 글쓰기에 자부심을 갖고, 어휘를 적용해 반복 없이 아이디어를 표현하는 것을 좋아한다면, 아마도 SEO를 싫어할 것입니다. 복잡한 논증을 펼치고 싶고, 그것이 문장, 장, 기사, 심지어 책 전체로만 제대로 표현될 수 있다면, SEO는 그것을 두세네 단어로 둔한 논증으로 압축하게 만듭니다. 예: AI와 의미 이해. (우리가 뭘 했는지 보셨나요?)

AI가 의미론을 이해해(또 그랬죠) 훨씬 더 정교하고 지능적인 이해를 기반으로 검색 결과를 생성해 지루한 반복을 없앨 수 있다면 얼마나 좋을까요!

자연어 처리(NLP) 시장은 사실 2025년까지 223억 달러에 달할 것으로 예상되며, 이는 기술이 특히 우리가 소통하고 비즈니스하는 방식에서 얼마나 발전했는지를 보여줍니다.

현재 이 기술들은 조직 내에서 다양한 목적으로 사용되고 있습니다. 브랜드 평판 모니터링을 통한 감성 분석, 키워드 매칭이나 의미 모호성 해소를 통한 광고 배치 인사이트 제공, 규제 준수를 위한 제품 책임 방지 등에 활용됩니다.

이 경우, AI가 텍스트를 읽고 단어 간 관계인 의미론을 이해함으로써 조직이 위험을 추가로 완화하고 책임을 발견하도록 돕는 데 진정한 혁신적 힘이 있으며, 이는 NLP에 막대한 가치를 창출합니다.

그렇다면 AI의 의미론 이해 이야기에서 진화의 다음 단계는 무엇이며, 언제 이 이정표에 도달할까요?

세디키는 말합니다: "AI의 의미론 이해 달성은 여러 핵심 이정표를 필요로 합니다. 의미론 이해로 이끄는 반복적 진행 과정과 각 이정표가 의미하는 바를 생각하는 것이 도움이 됩니다."

"이전 이정표,"라고 세디키는 말합니다, "는 단어 벡터(Word Vectors)입니다: "대부분 사람들이 익숙한 일반적인 사용 사례인 컴퓨터의 검색 기능으로 이 이정표를 프레임해 보겠습니다. 누구나 Ctrl+F/Command+F로 시스템에서 무언가를 찾은 적 있습니다. 이는 키워드를 정확히 매칭해 찾습니다. 게다가 구글 같은 검색 엔진으로 정보를 찾으면 잠재적 오타를 해결하는 '맞춤법 검사' 구성요소가 포함됩니다.

"하지만 모양은 아주 다르게 생겼지만 의미가 비슷한 단어들은 어떨까요? 2013년경, AI 커뮤니티는 이를 모델링하는 효율적인 방법을 찾았는데 이를 '단어 벡터'라고 부릅니다. 왕(King) + 여자(Woman) = 여왕(Queen) 같은 재미있는 단어 대수도 가능합니다. 더 실용적으로는, 이제 검색을 의미적으로 관련된 단어로 확장할 수 있습니다."

AI 의미론 이해의 다가올 이정표

"단어 벡터는 게임 체인저였지만, 여전히 아이디어를 하나 또는 몇 개의 키워드로 표현해야 했습니다. 하지만 당신의 아이디어가 전체 문장으로 표현되어야 한다면 어떨까요? 그것이 지난해 연구의 큰 추진 덕분에 우리가 도달하고 있는 다음 이정표입니다.

"아이디어는 문장을 가져다가 문장(또는 생각) 벡터로 인코딩한 다음 유사한 문장 벡터를 찾는 것입니다. 잘 인코딩되면, 검색 기능은 완전히 다르게 보이는 문장들 중 같은 아이디어를 표현하는 것들을 찾을 수 있습니다.

"현재 연구 진전을 기반으로 이 기술이 향후 몇 년 내에 성숙할 것이라고 말하는 것은 불합리하지 않습니다.

미래 이정표: 문장을 넘어선 AI 이해

"이 기술의 진행 과정에서 명확한 계층 패턴이 나타나고 있습니다. 우리는 단어 수준에서 사용된 유사한 기법들을 확장해 문장 수준에서 아이디어를 이해하는 AI에 가까워지고 있습니다. 이는 AI가 단락, 전체 문서, 심지어 책 전체를 이해하는 흥미로운 응용 가능성을 엽니다.

"AI가 단어에서 문장 이해로 도약한 것은 사소하지 않았습니다. 그 능력은 주로 데이터셋 크기와 컴퓨팅 파워에 의해 제약되어 왔습니다. 더 큰 문제를 다루는 모델을 만들 우리의 능력은 지금까지 이 두 자원 제약에 달려 있음을 보여주었습니다.

"AI 하드웨어 발전으로 이러한 비용이 감소함에 따라, 더 큰 텍스트 컬렉션을 이해하는 모델에 더 가까워질 것입니다. 이는 오픈AI(OpenAI)의 GPT-2 모델로 어느 정도 입증되었습니다. 같은 문장 인코딩 모델 설계에 대량의 데이터를 사용하면, 이미 많은 문장에 걸친 고수준 개념을 이해하는 모델이 생성됩니다. 예를 들어 GPT-2는 놀라운 일관성으로 전체 뉴스 기사를 작성할 만큼 이해합니다."