자동화 챗봇이 인간처럼 대화하기 어려운 이유

자동화 챗봇, 과연 무엇일까요?

우리는 자동화 챗봇과 애증의 관계에 있습니다. 가지고 노는 건 좋아하지만, 챗봇이 우리 질문에 답하지 못하거나 요청을 처리하지 못하면 좌절합니다. 챗봇을 만드는 이들은 챗봇을 최대한 인간답게 만드는 도전을 즐기지만, 이를 달성하기 위해 수천 가지 조건부 순열을 작성하는 건 매우 고된 일입니다.

자동화 챗봇과의 상호작용을 인간처럼 만들고자 하는 이 공동의 열망이 자연어 처리(NLP)를 통한 봇 구동으로 이어졌습니다. 챗봇 뒤에 있는 머신러닝은 의사결정 트리 로직에 기반하며, 미리 정해진 입력과 출력의 시퀀스 교환입니다. 하지만 자연스러운 대화는 그렇지 않습니다.

자연스러운 대화 패턴의 왜곡

자연스러운 대화에서 인간과 자동화 챗봇은 차례대로 말을 주고받습니다(메시지 교환). 자연스러운 대화에서는 시각적 단서와 목소리 톤이 없어도, 말이 겹치는 데 의미가 있고, 차례 사이의 침묵에 의미가 있으며, 오해를 바로잡으려는 노력에 의미가 있습니다. 이러한 행동들은 차례를 갖는 것의 구성 요소이며, 자연스러운 대화에 내재되어 있습니다. 이들은 대화를 앞으로 나아가게 하고, 대화가 전개됨에 따라 그 의도를 드러내는 데 도움을 줍니다.

챗봇에서 디베이트 봇으로의 이동?

상호작용 패턴 면에서 이 챗봇들은 자연스러운 대화보다는 토론(Sacks et al, 1974)에서처럼 미리 할당된 차례를 주고받는 것과 더 공통점이 많습니다. 자동화 챗봇의 일이 '가져오기(go fetch)'라면, "안녕" 같은 사회적 인사말이 필요할까요? 챗봇을 인간화함으로써 우리는 잘못된 사용자 기대를 설정하게 되는 걸까요? 아니면 그냥 미소 띤 서비스일 뿐일까요?

챗봇이 채팅(chatting)을 하지 않을 수도 있다는 생각은 거의 철학적 질문을 던집니다. 봇이 왜 그렇게 인간다워야 하고, 어떤 역량으로? 챗봇을 자동화할 때 우리는 실제로 무엇을 자동화하는 걸까요?

차례 주고받기

더 정확하고 관련성 높은 응답을 제공하기 위해 자동화 챗봇은 구글의 대화형 검색과 유사하게 NLP를 활용합니다. 이는 더 지능적인 처리를 가져오지만 여전히 인간과 봇이 말을 주고받는 잘 조직된 차례에 크게 의존합니다. 즉, 한 번에 하나의 메시지나 잘 구성된 멀티 스택을 보냅니다. 챗봇과 인간 모두 멀티 스택을 보낼 수 있지만, 인간의 멀티 스택은 챗봇의 것보다 훨씬 더 파괴적입니다. 챗봇의 다음 응답을 무의미하거나 부적절하게 만들어, Q&A 매칭 같은 열악한 짝짓기 행동으로 이어져 사용자로서 좌절감을 느끼게 합니다.

자연스러운 대화가 짝지어진 행동들로 깔끔하게 하나씩 이어지지 않기 때문에, 우리는 단일 짝지어진 교환 세트가 아닌 전체로서 챗봇 상호작용을 분석하기 시작해야 합니다. 또한 인간이 이런 파괴적인 멀티 스택을 만들 때 '대화'를 더 잘 들을 수 있는 개입이 필요합니다.

침묵의 의미

인간-챗봇 상호작용을 관리하는 한 가지 방법은 애니메이션입니다. 로더 형태의 '…입력 중' 또는 '잠시만 기다려주세요'는 봇과 사용자 양쪽에 양방향 이점을 제공해 투명성을 관리하고 대화를 앞으로 나아가게 돕습니다. 대화에서 차례를 주장함으로써 문제적인 인간의 멀티 스택을 줄이려 시도합니다.

구글의 디자이너 아드리안 줌브루넨(Adrian Zumbrunnen)은 "애니메이션 없이는 대화도 없다"고 말했는데, 이는 상당 부분 사실입니다. 우리가 시간 지연을 긍정 또는 부정 응답과 연관 짓듯, 봇도 우리 응답 지연에서 같은 의미를 추론할 수 있을까요? 우리가 기술적 능력이 낮은지, 아니면 채팅 인터페이스의 어포던스를 이용해 생각할 시간을 버는지 이해하는 것은 수리 의도를 감지할 때 마주하는 흥미로운 과제입니다.

봇이 꼭 인간다워야 할까?

구글은 인간인 척하지 않습니다. 심지어 검색어 분석을 보면 우리는 구글에게 매우 인간적인 질문을 던집니다. 게다가 구글이 무관한 결과를 보여주거나 매칭되지 않으면, 우리는 검색어를 제대로 입력하지 못한 우리 자신을 탓합니다. '구글링'이 대화로 설정되지 않고 검색(retrieval)으로 설정되어 있기 때문에 우리는 더 관대합니다. 더 인간적으로 보이나 느껴지는 봇에 더 공감하고 기계적인 봇에 덜 공감하는 사실이 상호작용에서 반드시 단점은 아닙니다. 사용자 기대를 설정하는 데 도움이 되기 때문입니다.

잘못된 인터페이스?

자동화 챗봇을 구동하는 의사결정 트리는 조건부 제어문의 시퀀스에 기반하며, 어드벤처 게임 대화와 유사합니다.

밴더스내치(Bandersnatch)는 넷플릭스의 블랙 미러 시리즈 최신작으로 작년 말에 공개된 "자신의 모험을 선택하세요(Choose Your Own Adventure)" 영화로 자유 의지를 탐구합니다. 넷플릭스는 우리의 선택 궤적을 저장해 나중에 내러티브에 배치할 수 있는 "상태 추적(state tracking)"까지 개발했습니다. 밴더스내치는 250개 세그먼트로 구성된 분기 내러티브로, 트와인(Twine, 인터랙티브 픽션 작성을 위한 의사결정 트리 도구로 챗봇 의사결정 트리 설계에도 사용됨)으로 작성되었습니다. 그렇다면 영화처럼 챗봇도 어드벤처 게임 인터페이스의 친숙함과 UI 특성을 활용할 수 있지 않을까요?

현재 챗봇 인터페이스는 제한된 화면 크기, 제한된 단일 메시지 길이, 보통 화면 오른쪽 하단에 위치합니다. ICQ 같은 올드스쿨 메신저 서비스의 UI 유산을 이해하지만, 왜 아직 자동화 챗봇을 풀스크린으로 하지 않았을까요?

예측에서 관리로

자연스러운 대화가 인간-자동화 챗봇 상호작용에서 왜곡된다는 사실은, NLP의 지능에도 불구하고 자동화 챗봇과의 상호작용이 여전히 복합적인 평가를 받는 이유를 설명하는 데 도움이 됩니다. 부분적으로는 UI 어포던스 때문이고, 부분적으로는 자연스러운 대화에 참여하는 것이 무엇을 의미하는지에 대한 우리의 학습된 행동 때문입니다. 침묵, 차례 겹침, 대화 수리에는 의미가 있습니다.

자동화 챗봇 응답이 반드시 인간적일 필요는 없습니다. 단지 매우 인간적인 방식으로 관리되어야 할 뿐입니다.