AI와 비즈테크(Viztech): 더 안전한 온라인 콘텐츠의 새 시대

온라인 미디어 기업들은 극단주의 콘텐츠가 온라인에 게시되기 전에 차단하는 데 어려움을 겪고 있습니다. 위씨(WeSee) CEO 데이비드 풀턴(David Fulton)은 AI 기반 기술이 위험한 콘텐츠를 라이브되기 전에 탐지할 수 있다고 주장합니다.

정부 관계자들과 학자들은 온라인 테러 콘텐츠 급증을 억제하는 최선의 방법을 논의해왔습니다. 페이스북, 트위터, 유튜브 같은 플랫폼이 규제 압박에 직면한 가운데(독일 입법자들은 최근 주요 인터넷 기업에 '명백히 불법적인' 자료를 24시간 내 삭제하지 않으면 최대 5,700만 달러 벌금을 부과하는 법안을 통과시킴), 현재 조정 능력에 대한 신뢰는 낮습니다.

6월 하버드 대학은 유해 발언 온라인: 알고리즘과 인간 행동의 교차로(Harmful Speech Online: At the Intersection of Algorithms and Human Behaviour) 회의를 개최했습니다. 버크만 클라인 센터(Berkman Klein Center), 쇼렌스타인 센터(Shorenstein Center), 런던 소재 전략대화연구소(Institute for Strategic Dialogue)가 공동 주최한 이 행사는 유해 발언 문제의 증가와 이를 해결할 도구 간의 결정적 격차를 부각했습니다.

개회사는 극단주의 콘텐츠가 여론과 정치적 담론을 어떻게 형성하는지 강조하며, 효과적 대응을 방해하는 심각한 자원 및 연구 결핍을 지적했습니다.

자동 탐지: 시급한 요청

9월 영국, 프랑스, 이탈리아 지도자들이 뉴욕 유엔 총회에서 주요 인터넷 기업들과 만났습니다. 테레사 메이(Theresa May) 영국 총리는 2시간 내 테러 콘텐츠 탐지 및 삭제 실패 시 가파른 벌금이 부과될 수 있다고 경고했습니다. 이 기한은 중요합니다. 연구에 따르면 선전 콘텐츠의 3분의 2가 이 시간 내 공유되기 때문입니다. 이 시간 제한이 현실적인지 의문이 제기됩니다.

구글과 유튜브는 AI 기반 콘텐츠 식별 시스템 확충 계획을 발표했습니다. 그러나 문제는 지속됩니다. 최근 텔레그래프(Telegraph) 기사에 따르면 작년 8월부터 올해 5월까지 폭탄 제조 지침과 기타 극단주의 선전을 제공하는 54,000개 사이트가 활성화되어 있었으며, 모두 이슬람국가(IS) 지지자들과 연결되어 있었습니다.

시스코(Cisco) 예측에 따르면 2020년까지 웹에는 65조 장의 이미지와 6조 개의 비디오가 호스팅될 것이며, 이미지와 비디오 트래픽이 3년 내 전체 인터넷 트래픽의 80% 이상을 차지할 전망입니다. 이러한 볼륨을 극단주의 콘텐츠 관점에서 모니터링하는 것은 벅찬 과제입니다. 최첨단 인공지능이 이를 해결하는 데 도움을 줄 수 있습니다.

비즈테크(Viztech): 예측적 접근

AI 기반 시각 콘텐츠 분석의 선구적 플레이어인 비즈테크(Viztech)는 성인물, 폭력물과 함께 테러리스트 이미지를 게시 전에 탐지할 수 있는 정교한 필터를 개발했습니다. ISIS 깃발이나 알려진 극단주의 인물의 얼굴 같은 심볼을 인식함으로써 비즈테크 시스템은 사용자 상호작용 훨씬 이전에 실시간으로 콘텐츠를 플래그할 수 있습니다.

딥러닝 신경망 기반으로 구축된 이 기술은 인간 인지보다 최대 1,000배 빠른 속도로 작동하며, 비디오와 정지 이미지의 예측적 필터링과 정밀한 분류를 모두 제공합니다. 본질적으로 비즈테크는 사후 조정을 넘어 사전 예방으로 나아가 정부, 연구자, 플랫폼에 온라인 생태계를 보호할 강력한 도구를 제공합니다.

데이비드 풀턴, 위씨(WeSee) CEO