만물인터넷 실현:안전 및 개인정보 보호를 위한 AI 기반 제어

모든 것을 보고 모든 것을 아는 보편적인 인터넷에는 제어가 필요합니다. 개인 정보 보호 및 보안 위험을 피하면서 기술이 우리의 활동을 면밀히 관찰할 수 있도록 하려면 어떻게 해야 할까요? AI는 이러한 제어를 달성할 수 있는 유일한 경로임이 거의 확실합니다.

기술이 당신이 사고 싶은 것을 가능한 최저 가격으로 찾는 데 도움이 될 수 있다고 가정해 보세요. 기술이 당신이 걷는 동안 차에 치이는 것을 방지할 수 있다고 가정해 보십시오. 기술이 자율주행차를 완전히 효과적이고 안전하게 만들 수 있고, 길을 잃거나 사람이나 랜드마크를 인식하지 못하는 일이 없도록 만들 수 있다고 가정해 보세요. 이 모든 것이 우리가 이미 알고 사용하는 것을 활용하는 일련의 계획에 의해 수행될 수 있다고 가정해 보십시오. 관심 있는? 불가능한? 첫 번째는 그렇습니다. 물론 두 번째는 아니오… 아마도요. 만물인터넷에 오신 것을 환영합니다.

"사물 인터넷"의 개념은 Kevin Ashton의 MIT 성명에서 공식적으로 제시되었습니다:"...사람들은 시간, 주의력, 정확성이 제한되어 있습니다. 이는 현실 세계의 사물에 대한 데이터를 잘 캡처하지 못한다는 것을 의미합니다. 사물에 대해 알아야 할 모든 것을 아는 컴퓨터가 있고 우리의 도움 없이 수집한 데이터를 사용하면 모든 것을 추적하고 계산할 수 있으며 낭비, 손실 및 비용을 크게 줄일 수 있습니다. 사물을 교체, 수리 또는 회수해야 할 시기와 신선 여부를 알 수 있습니다. 아니면 최고를 지나쳤거나.”

여기서 중요한 것은 오늘날 우리가 IoT라고 부르는 제한된 것에 관한 것이 아니라 모든 것을 보고 모든 것을 아는 보편적인 만물 인터넷에 관한 것이라고 생각합니다.

요즘 우리는 아는 것이 많지만 모든 것을 아는 것은 아닙니다. 우리가 무엇을 사고 싶은지, 현재 어디에 있는지 애플리케이션이 알도록 하는 것은 확실히 가능합니다. 애플리케이션 근처에서 우리가 원하는 물건의 가격을 아는 것, 즉 알아내는 것은 가능하지만, 이는 매우 미미한 이점일 수 있는 것에 비해 많은 복잡성과 비용을 의미합니다. 제가 개설한 다른 작업을 수행할 수 있다면 올바른 매장에 들어갈 수 있도록 돕는 것이 저비용 추가가 될 수 있지만 실제로는 그렇게 할 수 없습니다. 우리는 '안다'는 것은 있지만 '보는 것'은 없습니다.

보고 아는 이 내용은 인간이 주도하는 인터넷과 애플리케이션의 좋은 점과 나쁜 점을 보여주기 때문에 중요합니다. 우리는 현실 세계를 보고 실시간으로 이해하게 됩니다. IoT 센서…글쎄…감각 . 온도, 기압, 위치, 상대 속도를 아는 것은 도움이 될 수 있지만 길을 찾으려고 할 때 차창 밖을 내다보는 것과는 다릅니다. 1999년 Ashton이 발언을 했을 때 우리는 실제 데이터를 수집하기 위해 인간의 시각 감각을 모방할 수 있는 실용적인 방법이 없었습니다. 이제 AI를 통해 우리는 그것을 '공간 컴퓨팅'으로 갖게 되었고, 첫 번째 단락에서 언급한 모든 것, 그 이상을 실현할 수 있게 되었습니다.

좋아요, 만약 우리에게 필요한 것이 "지금 가지고 있다"면 오늘날 그 모든 응용 프로그램을 가지고 있지 않은 이유는 무엇입니까? 일종의 보고 아는 격차가 있다고 했는데, 그것은 우리가 필요한 것을 가지고 있다는 개념과 모순되지 않습니까? 그 멋진 미래를 열기 위해 우리가 찾아야 할 거대한 기술적 진보가 없다면, 무엇이 될까요? 답변:실제로 문제는 기술이 아니라 사회입니다.

'큰 형님이 지켜보고 있다'는 대규모 감시의 위험성을 일깨워주는 캐치프레이즈다. 우리는 광범위한 비디오 배포를 통해 거리를 걷는 범죄자를 식별할 수 있으며, 동일한 기술을 통해 교통에 진입하지 않도록 경고할 수 있습니다. 그러나 동일한 내용이 사람들이 다른 사람을 스토킹하고, 사람들을 염탐하고, 우리가 곧 숨겨두었던 일부 비밀을 폭로하는 데 도움이 될 수 있습니다. 보통 사람들은 모든 것이 해킹될 수 있다고 생각하고, 많은 사람들이 정부가 이미 우리를 감시하고 있다고 생각한다는 점을 고려하면, 기업들이 모든 것을 알고 있는 기술의 사용, 심지어 좁은 범위의 사용을 장려하는 것을 꺼리는 이유를 이해하는 것은 어렵지 않습니다.

용도가 좁은 것은? 제가 정기적으로 연락하는 사람 중 하나는 꽤 유명한 노동 변호사입니다. 나는 그녀에게 작업장 사고를 예방하기 위해 비디오 모니터링을 사용하는 것에 대해 물었고 그녀는 "모든 노동조합은 그것이 오용될까 봐 두려워할 것이고 모든 고용주는 그것을 오용하려고 성급히 거부할 것입니다."라고 말했습니다. 또 다른 담당자는 자율주행차의 안전한 사용을 촉진하기 위해 광범위한 비디오 모니터링을 수행하면 종종 자신이 있어야 할 곳에 있지 않은 군단의 지원을 받는 개인 정보 보호 옹호자들로부터 소송에 직면할 가능성이 거의 확실하다고 말했습니다.

개인 정보 보호는 우리 모두에게 중요합니다. 안전, 건강, 생명도 마찬가지입니다. 우리는 이러한 것들을 서로 균형을 맞추는 방법을 결정해야 하는 기술 진화의 단계에 도달하고 있을 수 있습니다. AI가 날뛰는 것에 대한 두려움이 이런 종류의 우려의 예입니까? 제 생각에는 그렇습니다. 그리고 저는 AI가 일어나서 우리를 멸종으로 위협하기 오래 전에 일어나서 우리를 구하거나 폭로할 수 있다고 생각합니다. 우리는 AI에 대한 가드레일을 만들어야 한다는 압력을 받아왔지만, 그러한 압력은 가장 광범위하고 영향력이 크며 가장 즉각적인 가드레일, 즉 AI와 비디오를 결합하여 우리 각자를 포함한 현실 세계를 기술로 감시할 수 있는 능력을 대부분 피했습니다.

이 문제에 대한 분명한 대답은 거버넌스, 즉 사용과 기술을 제한하여 이를 시행하는 일련의 규칙입니다. "명백한" 문제는 흔히 그렇듯이 규칙을 설정하는 것이 어렵고 기술을 통해 사용을 제한하는 것도 어렵고 아마도 사람들이 믿게 만드는 것도 어렵다는 것입니다. Asimov의 로봇 공학의 세 가지 법칙과 그의 이야기 중 얼마나 많은 부분이 사람들이 이를 해결하기 위해 어떻게 작업하는지에 초점을 맞추었는지 생각해 보세요. 20년 전, 한 연구실에서는 사람들이 원격으로 통신할 수 있도록 사무실에 작은 카메라를 사용하는 영상 협업 실험을 수행했습니다. 직원 중 절반이 사무실에 들어올 때 카메라를 가렸습니다. 예정된 화상 채팅이나 회의에 참석하지 않을 때 일상적으로 웹캠을 가리는 사람들을 알고 있으며 아마도 여러분도 그럴 것입니다. 그렇다면 불이 켜지지 않으면 어떻게 될까요? 누군가 해킹했을 수도 있습니다.

사회적 우려는 기술을 우리의 생활 방식과 긴밀하게 통합하려는 시도와 필연적으로 충돌합니다. 기술을 통해 우리의 업무와 삶이 더욱 향상되기 위해서는 이러한 우려 사항을 설득력 있게 처리하는 것이 필수적인 지점에 도달했습니까?

우리는 보편적이지는 않더라도 광범위한 영상 감시 시스템을 보유하고 있습니다. 이번 주 산책 중에 지나간 집의 약 4분의 1에서 초인종 카메라나 기타 카메라를 발견했는데, 상업 지역에는 훨씬 더 있을 것이라고 확신합니다. 마당에 있는 동안 초인종이 자신을 지켜보고 있다고 걱정하는 사람이 얼마나 될지 궁금합니다. AI가 일어나 그들을 죽이는 것에 대해 걱정하는 것보다 적다고 장담합니다. 그러나 초인종은 실제이고 약탈적인 AI는 그렇지 않습니다. 분명히 우리는 이러한 종류의 생각을 일축하고 웹캠을 가리는 것을 중단할 수 있습니다. 보편적인 비디오 감시에 익숙해질 수 있을까요? 어쩌면 거버넌스 딜레마에 대한 해결책을 찾을 수 있다면 더 좋을 것입니다.

AI를 사용하면 두 가지 이유가 있을 수 있습니다.

AI가 강력하고 범위가 넓을수록 사용 방법을 제한하기가 더 어려워집니다. 누구도 이에 동의하지 않을 것 같습니다. 이를 감안할 때, 주제에 초점을 맞춘 전문 AI 에이전트가 제한하기가 더 쉽다는 것은 사실입니다. API를 보호하고 관리할 수 있지만 대화 관계를 어떻게 보호하고 관리합니까? 다시 아시모프의 세 가지 법칙으로 돌아가 보겠습니다. 두 번째 법칙은 순종입니다. AI를 포함한 무언가에 자율성을 부여하면 침입할 가능성이 생깁니다. AI 영상 시청이라는 맥락에서 우리는 특정한 것만 찾을 수 있는 AI 에이전트를 만드는 것보다 AI에게 무언가를 찾도록 요청할 위험이 더 큽니다.

또한 전문 AI 에이전트를 사용하여 AI 애플리케이션을 관리할 수도 있습니다. 일반적으로 머신러닝에는 모델을 속이기 위한 데이터 조작을 탐지하는 "적대적 AI" 전략이 이미 있습니다. AI 사용 거버넌스에도 동일한 접근 방식을 적용할 수 있습니다. 특히 AI가 일반적인 질문에 응답하기보다는 특정 결과만 제공하도록 설계된 경우 더욱 그렇습니다. 예를 들어 얼굴 인식은 실제로 정부 범죄 기록에 등록된 얼굴로 제한될 수 있습니다. 해킹될 수도 있나요? 물론입니다. 하지만 평범한 스토커나 수상한 배우자의 경우는 아닙니다.

기술이 우리의 업무에 힘을 실어주고 우리의 삶을 개선하는 방법을 지속적으로 발전시키려면 "만물 인터넷"을 실현하는 것이 중요합니다. 기술과 새로운 수준의 친밀감을 형성하는 방법을 제어하고, 개인 정보 보호 및 보안 위험을 피하면서 기술이 우리 활동을 면밀히 관찰하도록 하는 것은 만물 인터넷을 실현하는 데 매우 중요하며, AI는 그러한 제어를 달성하는 유일한 경로임이 거의 확실합니다. AI 임무는 우리가 통치할 정책을 수립하는 데 필요한 것입니다. AI가 우리 모두를 멸종시킬 위험은 AI가 우리를 구하지 못할 위험보다 훨씬 작습니다.

뉴스레터를 구독하세요

편집자로부터 받은 편지함으로 바로 이동

아래에 이메일 주소를 입력하여 시작하세요.