만물의 인터넷 실현: 안전과 프라이버시를 위한 AI 기반 제어

모든 것을 보고 아는 만물의 인터넷, 제어가 필요합니다: 어떻게 기술이 우리의 활동을 더 면밀히 들여다보게 하면서 프라이버시와 보안의 함정을 피할 수 있을까요? AI가 그 제어를 달성할 거의 유일한 길입니다.

기술이 당신이 사고 싶은 물건을 최저가로 찾을 수 있게 도와준다고 상상해 보세요. 기술이 당신이 걷다가 차에 치이는 것을 막아준다고 상상해 보세요. 기술이 자율주행차를 완전히 효과적이고 안전하게 만들고, 길을 잃거나 사람 또는 랜드마크를 알아보지 못하는 일을 불가능하게 만든다고 상상해 보세요. 이 모든 것이 우리가 이미 알고 사용하는 것을 활용하는 한 가지 이니셔티브로 가능하다고 상상해 보세요. 흥미롭지 않나요? 불가능한가요? 첫 번째 질문에는 '예', 두 번째 질문에는 '아니오'… 아마 그렇겠죠. 만물의 인터넷(Internet of Everything) 세계에 오신 것을 환영합니다.

"사물 인터넷(Internet of Things)" 개념은 케빈 애쉬튼(Kevin Ashton)의 MIT 성명을 통해 공식적으로 등장했습니다: "…사람들은 제한된 시간, 주의력, 정확성을 가지고 있습니다. 이 모든 것은 그들이 현실 세계의 사물에 대한 데이터를 포착하는 데 그다지 뛰어나지 않다는 것을 의미합니다. 우리 도움 없이 데이터를 수집하여 사물에 대해 알아야 할 모든 것을 아는 컴퓨터가 있다면, 우리는 모든 것을 추적하고 셀 수 있으며 낭비, 손실, 비용을 크게 줄일 수 있을 것입니다. 우리는 사물이 언제 교체, 수리, 리콜이 필요한지, 그리고 신선한지 또는 유통기한이 지났는지 알 수 있을 것입니다."

중요한 점은 이것이 오늘날 우리가 IoT라고 부르는 제한된 물건에 관한 것이 아니라, 모든 것을 보고 모든 것을 아는 보편적인 만물의 인터넷에 관한 것이라는 점입니다.

요즘 우리는 '많이 아는' 단계에 있지만 '모든 것을 아는' 단계는 아닙니다. 애플리케이션이 우리가 무엇을 사고 싶은지, 지금 어디에 있는지를 아는 것은 확실히 가능합니다. 우리 애플리케이션 근처 장소에서 우리가 원하는 물건의 가격을 찾아내는 것도 가능하지만, 꽤 사소한 이득을 위해 많은 복잡성과 비용이 들 것입니다. 내가 처음에 언급한 다른 것들을 할 수 있다면, 올바른 가게로 들어가는 것을 돕는 것은 저비용 추가 기능이 될 수 있지만, 우리는 아직 그것을 제대로 할 수 없습니다. 우리는 '알고(know)' 있지만 '보지(see)'는 못합니다.

이 '보고 아는(see-and-know)' 개념은 인간 중심의 인터넷과 애플리케이션의 장단점을 보여주기 때문에 중요합니다. 우리는 보고, 현실 세계에 대한 실시간 이해를 얻습니다. IoT 센서는… 글쎄요… 감지(sense)만 할 뿐입니다. 온도, 기압, 위치, 상대 속도를 아는 것이 도움이 될 수는 있지만, 내비게이션을 하려고 할 때 자동차 창밖을 내다보는 것과는 다릅니다. 1999년 애쉬튼이 발언했을 때, 우리는 현실 세계 데이터를 수집하기 위해 인간의 시각을 모방할 실용적인 방법이 없었습니다. AI와 함께 우리는 이제 '공간 컴퓨팅(spatial computing)'으로 그것을 갖게 되었고, 첫 문단에서 언급한 모든 것, 그리고 그 이상을 실현할 수 있게 되었습니다.

좋습니다, "이제 우리가 필요한 것을 갖게 되었다"면, 왜 오늘 그런 애플리케이션들이 없을까요? 나는 일종의 '보고 아는' 격차가 있다고 말했지만, 그것이 우리가 필요한 것을 가졌다는 개념과 모순되지 않나요? 그 멋진 미래를 열 거대한 기술적 진보가 없다면, 무엇이 열 것인가? 답: 기술이 문제가 아니라, 사회적 문제입니다.

"빅 브라더가 당신을 보고 있다"는 대규모 감시의 위험을 나타내는 구호입니다. 우리는 광범위한 비디오 배포로 거리의 범죄자를 식별할 수 있고, 같은 기술이 우리가 교통 속으로 뛰어드는 것을 경고할 수 있습니다. 하지만 같은 기술이 남을 스토킹하거나 염탐하고, 우리가 숨기고 싶은 비밀을 폭로하는 데 악용될 수도 있습니다. 평균적인 사람은 모든 것이 해킹될 수 있다고 생각하고, 많은 사람은 정부가 이미 우리를 염탐하려 한다고 생각하므로, 기업들이 전방위 감시 기술의 사용을 홍보하기를 꺼리는 것은 이해하기 어렵지 않습니다. 심지어 좁은 용도라도 마찬가지입니다.

좁은 용도란 무엇일까요? 내 지인 중 한 명은 꽤 유명한 노동 변호사입니다. 직장 사고 예방을 위한 비디오 모니터링 사용에 대해 물었더니, "모든 노조는 오용될까 봐 두려워하고, 모든 고용주는 부인하면서 오용하려 들 것"이라고 답했습니다. 또 다른 지인은 자율주행차의 안전한 운행을 돕기 위한 광범위한 비디오 모니터링이 프라이버시 옹호자들의 소송에 직면할 것이라고 말했습니다. 그들은 종종 있어서는 안 될 곳에 있는 군중의 지지를 받고 있습니다.

프라이버시는 우리 모두에게 중요합니다. 안전, 건강, 생명도 마찬가지입니다. 우리는 기술 발전 단계에서 이 가치들을 서로 어떻게 저울질할지 결정해야 할 시점에 도달했을지도 모릅니다. AI가 폭주할지 모른다는 두려움이 이런 우려의 예일까요? 저는 그렇다고 생각합니다. 그리고 AI가 일어나 우리를 멸종으로 위협하기 훨씬 전에, AI는 우리를 구하거나 노출시킬 수 있습니다. 우리는 AI에 가드레일을 만들라는 압력을 받아왔지만, 그 압력은 대체로 AI와 비디오가 결합하여 현실 세계(우리를 포함)를 기술이 감시하게 만드는 가장 광범위하고 영향력이 크며 즉각적인 능력을 피해 갔습니다.

이 문제의 명백한 답은 거버넌스, 즉 사용을 제한하고 그것을 강제하는 기술 규칙 세트입니다. 문제는 "명백한" 답이 그렇듯, 규칙을 정하는 것이 어렵고, 기술로 사용을 제한하는 것도 어렵고, 사람들이 그것을 믿게 만드는 것은 더 어렵다는 것입니다. 아시모프의 로봇 3원칙과 사람들이 어떻게 그것들을 우회하려 했는지에 초점을 맞춘 그의 수많은 이야기를 생각해 보세요. 20년 전, 한 연구소에서 사무실에 작은 카메라를 설치해 원격 커뮤니케이션을 하는 비디오 협업 실험을 했습니다. 직원의 절반이 출근하자마자 카메라를 가렸습니다. 예약된 화상 채팅이나 회의가 아닐 때 웹캠을 습관적으로 가리는 사람들을 저는 알고 있고, 여러분도 아마 아실 겁니다. 불이 켜지지 않았다고요? 누군가 해킹했을지도 모릅니다.

사회적 우려는 기술이 우리 삶의 방식과 밀접하게 통합하려는 시도와 필연적으로 충돌합니다. 우리는 그런 우려들을 설득력 있게 다루는 것이 기술이 우리 일과 삶을 더 발전시키는 데 필수적인 시점에 도달했습니까?

우리는 광범위하고, 보편적이지는 않지만, 비디오 감시 속에 살고 있습니다. 이번 주 산책하면서 지나친 집의 약 4분의 1에 초인종 카메라나 다른 카메라가 있었고, 상업 지역에는 더 많을 거라고 확신합니다. 사람들이 초인종이 마당에 있는 자신을 감시하고 있을까 걱정하는지 궁금합니다. AI가 일어나 자신들을 죽일까 걱정하는 사람보다 적을 겁니다. 그런데 초인종은 현실이고 포식적 AI는 아닙니다. 분명히 우리는 이런 사고방식을 떨쳐내고, 웹캠 가리는 것을 멈출 수 있습니다. 우리는 보편적인 비디오 감독에 편안해질 수 있을까요? 어쩌면 가능하겠지만, 거버넌스 딜레마의 해결책을 찾는 편이 더 나을 것입니다.

그것이 바로 AI로 가능할지도 모릅니다. 두 가지 이유 때문입니다.

AI가 더 강력하고 범위가 넓을수록, 그것이 어떻게 사용될 수 있는지 제약하기가 더 어려워집니다. 아무도 이에 이의를 제기하지 않을 것입니다. 그렇다면 특정한 주제에 집중된 전문가 AI 에이전트들이 제약하기 더 쉽다는 것이 사실일 것입니다. API를 보안하고 거버넌스할 수는 있지만, 대화형 관계를 어떻게 보안하고 거버넌스합니까? 우리는 다시 아시모프의 3원칙, 그중 두 번째인 복종으로 돌아옵니다. AI를 포함한 무언가에 자율성을 주면, 침입할 잠재력을 주는 것입니다. 우리의 AI 비디오 감시 맥락에서, AI에게 무언가를 찾으라고 요청하는 것보다, 특정한 것만 볼 수 있는 AI 에이전트를 만드는 것에서 더 큰 위험이 옵니다.

우리는 또한 전문가 AI 에이전트를 사용해 AI 애플리케이션을 거버넌스할 수 있습니다. 머신러닝 전반에 이미 '적대적 AI(adversarial AI)' 전략이 있어, 모델을 속이기 위한 데이터 조작을 탐지하는 데 쓰입니다. 같은 접근법을 AI 사용의 거버넌스에 적용할 수 있습니다. 특히 AI가 일반적인 질문에 응답하는 것이 아니라 특정한 결과만 전달하도록 설계된 경우라면 더욱 그렇습니다. 예를 들어, 안면 인식을 정부 범죄자 명부에 실제로 있는 얼굴로만 제한할 수 있습니다. 해킹될 수 있을까요? 물론입니다. 하지만 일반 스토커나 의심 많은 배우자가 할 수는 없습니다.

"만물의 인터넷"을 실현하는 것은 기술이 우리 업무에 힘을 실어주고 삶을 개선하는 방식을 계속 발전시키기 위해 필수적입니다. 기술과의 새로운 친밀함을 어떻게 창출할지 통제하고, 프라이버시와 보안의 함정을 피하면서 기술이 우리의 활동을 더 면밀히 들여다보게 하는 것은 만물의 인터넷을 실현하는 데 필수적이며, AI는 그 제어를 달성할 거의 유일한 길입니다. 그 AI 임무가 우리가 정책을 수립해 거버넌스해야 할 대상입니다. AI가 우리를 모두 멸종으로 몰아갈 위험은, AI가 우리의 구조에 오지 못할 위험보다 훨씬 작습니다.

뉴스레터 구독

편집자로부터 받은 편지함으로

아래에 이메일 주소를 입력하여 시작하세요.