알렉사 사태 후 IoT 대중 신뢰 회복: 프라이버시의 새로운 시대

대량 데이터 수집이 수년간 표준이었지만, 사용자들이 프라이버시 중심 도구와 서비스를 기록적인 숫자로 채택하면서 흐름이 바뀌기 시작했습니다.

불과 몇 년 전만 해도 스마트 홈 어시스턴트는 최신 '필수' 기술이었습니다. 기능이 제한적이었음에도 불구하고, 참신함과 비교적 낮은 가격대(휴일 전략적 할인)와 맞물려 소비자들에게 거의 거부할 수 없는 매력을 발휘했습니다. 갑자기 기술 기업들은 어떻게 처리해야 할지 모를 만큼 방대한 개인 정보에 접근하게 되었습니다. 실제로 작년 기준으로 전 세계 5억 가구 이상에 스마트 스피커가 설치되었습니다.

참고: 프라이버시, 주요 스마트 시티 프로젝트 지연의 핵심 이슈

최근에는 이러한 기기들이 대중의 외면을 받기 시작했습니다. 거의 매주 새로운 데이터 프라이버시 스캔들이 터지고, 그 결과 사람들이 누가 자신의 개인 정보에 접근하는지에 대해 더 관심을 갖기 시작했습니다. 많은 이들에게 항상 켜져 있고 항상 듣는 어시스턴트는 더 이상 그다지 매력적이지 않습니다.

기술 기업들은 대중의 신뢰를 잃었지만, 향후 머신러닝 발전을 고려하면 스마트 어시스턴트는 여전히 큰 잠재력을 가지고 있습니다. 앞으로는 스마트 스피커 제조사들이 자사 제품이 두 번째 기회를 받을 자격이 있음을 증명해야 하며, 이를 위한 최선의 방법은 사용자 프라이버시에 대한 접근 방식을 오랫동안 미뤄온 재검토입니다.

스마트 어시스턴트는 어떤 정보를 저장하는가?

수집되는 정확한 데이터는 디바이스 제조사와 녹음 기능에 따라 다릅니다(내장 카메라가 있는 장치는 비디오 클립을 녹화하거나 하루 중 다른 시간대의 주변 조도 수준을 보고할 수 있음). 그러나 현재로서는 오디오가 주요 문제입니다. 구체적으로 얼마나 녹음되는지, 왜 녹음되는지, 녹음된 내용이 회사 서버에 도달한 후 어떻게 처리되는지가 문제입니다.

음성 활성화 어시스턴트는 기술적으로 항상 듣고 있지만, 특정 트리거 단어를 듣기 전에는 요청을 처리하지 않습니다. 이러한 트리거는 일상 대화에서 더 쉽게 식별될 수 있도록 흔하지 않은 음절 시퀀스(예: "OK, Google", "Alexa")로 특별히 선택됩니다.

문제는 알고리즘이 완벽하지 않다는 것입니다. 결과적으로 스마트 어시스턴트는 트리거 단어를 잘못 듣고 소유자 모르게 오디오 녹음을 시작할 수 있습니다. 알고리즘이 트리거 단어가 말해졌는지 확신하지 못하면 오디오 클립을 회사 검증 직원에게 보내 최종 결정을 내리게 합니다. 이론적으로 이러한 감독은 거짓 양성을 줄이는 데 도움이 되지만, 실제로는 언제든 사람들이 당신의 집에서 불과 몇 분 전에 일어난 일을 엿들을 수 있음을 의미합니다.

데이터의 여정은 거기서 끝나지 않습니다. 녹음은 전사되고(직원이 주석을 달 수도 있음) 두 버전 모두 회사의 서버에 저장됩니다(로컬 디바이스에 저장된 대화를 삭제하더라도 무기한 보관). 요청을 한 경우, 어시스턴트가 응답으로 수행한 행동도 기록될 수 있습니다.

스마트 어시스턴트 대신 개별적으로 IoT 디바이스를 관리하는 것이 더 안전한가?

가정적으로, 스마트 전구, 소켓, 온도조절기를 각각의 앱으로 제어하면 스마트 어시스턴트가 다른 디바이스에 대한 데이터를 수집하는 것을 막을 수 있습니다. 하지만 이러한 디바이스들도 어떤 형태의 정보를 수집할 가능성이 높고, 잘 알려지지 않은 브랜드는 상세한 프라이버시 정보를 공개하지 않을 가능성이 높아 어느 옵션이 더 안전한지 확실히 알기 어렵습니다.

스마트 전구 제조사가 실시간으로 사용 습관에 대한 기본 정보(전구 색상, 현재 색상 강도, 켜짐/꺼짐 여부)를 볼 수 있다고 가정해봅시다. 텍사스 대학교 샌안토니오 연구진에 따르면, 이는 당신이 듣는 노래를 식별하기에 충분합니다(음악에 반응해 색이 변하는 전구라고 가정). 이 실험은 범위가 제한적이었지만, 수백만 시간의 음성 데이터를 가진 수십억 달러 기업이 이를 재현한다면 마이크 없이도 당신의 대화를 엿들을 수 있습니다.

비교적 단순한 스마트 소켓도 정보를 수집합니다. 가장 널리 알려진 모델 중 하나는 45일치 데이터를 기록합니다. 일일 사용량, 와이파이 연결 강도, kWh당 전기 요금, 대기 모드 지속 시간 등이 포함됩니다. 이는 당신이 고용되었는지, 함께 사는 사람이 몇 명인지, (여러 스마트 소켓이 있다면) 집의 대략적인 레이아웃을 합리적으로 추측하기에 충분한 정보입니다. 이 특정 모델에는 제조사가 향후 추가 센서에 사용할 수 있다고 제안하는 마이크로 USB 포트도 포함되어 있습니다.

기술 거대 기업들은 프라이버시 접근 방식을 재고해야 합니다

대중이 스마트 어시스턴트를 계속 수용하려면 자신의 프라이버시가 존중받는다고 느껴야 합니다. 조직들은 기기에 카메라 커버를 추가하는 등 작은 조치를 취하기 시작했지만, 이러한 제스처는 핵심을 놓치고 있습니다. 사람들은 디바이스가 무엇을 볼지 걱정하는 것이 아니라, 그것이 감시하고 있다는 사실 자체를 우려합니다.

기술 자체가 문제는 아닙니다. 음성 활성화 어시스턴트는 이동성이나 시력이 제한된 사람들에게 특히 매우 유용할 수 있습니다. 대신, 이러한 디바이스를 만드는 기업들이 사용자 프라이버시와 단순히 양립할 수 없는 '모든 것을 수집하라'는 사고방식을 가지고 있다는 것이 문제입니다. 아래에 제시된 3단계 프라이버시 우선 접근 방식을 채택함으로써 기술 거대 기업들은 사용자 우려를 의미 있게 해소할 수 있습니다. 이는 기존 고객의 지속적인 서비스 이용을 보장하고, 일부는 신제품 출시 시 업그레이드하도록 장려할 수도 있습니다.

1. 비밀주의 폐기

사람들은 문제 많은 프라이버시 정책에 너무 익숙해져 자동으로 수락합니다. 어차피 이미 돈을 주고 산 기기를 쓰지 않는 것이 대안이니까요. 앞으로 스마트 어시스턴트는 특정 작업에 엄격히 필요한 데이터만 수집해야 하며, 이 정보는 목적을 다한 후(로컬과 제조사 기록 모두에서) 삭제되어야 합니다. 사용자는 휴대폰 앱에서처럼 동의하지 않는 기능에 대해서는 옵트아웃할 수 있어야 합니다.

실제로 어떻게 작동할까요? 특정 식당으로 가는 길을 알고 싶다고 가정해봅시다. 어시스턴트는 현재 위치와 목적지만 알면 됩니다. 대중교통 정보를 찾기 위해 예정 이동 시간을 물을 수도 있지만, 이는 필수 데이터가 아니며 사용자가 자발적으로 제공하는 경우에만 고려되어야 합니다. 사용자가 도착하면 목적지 데이터는 더 이상 필요하지 않으며 안전하게 폐기될 수 있습니다(사용자가 주소록에 위치를 추가하지 않는 한).

위 예시에서 사용자는 최소한의 정보 제공으로 목적지에 문제없이 도착했습니다. 반면 현재 디바이스로 시도하면 스마트 어시스턴트는 어디로 가는지뿐만 아니라 어떤 종류의 시설인지, 얼마나 자주 가는지, 동네 다른 사람들에게 얼마나 인기 있는지까지 알 수 있습니다. 이 기능은 사용자 경험을 개선하는 데 쓰이지 않고 광고 프로필을 구축하는 데 사용되므로, 사용자에게 눈에 띄는 영향 없이 폐기할 수 있습니다.

2. 사용자가 자신의 데이터를 관리할 도구 제공

간단히 말해, 프라이버시를 중시하는 사용자를 처벌해서는 안 됩니다. 사람들이 진정으로 개인 정보 제공에 동의하려면 먼저 이것이 무엇을 의미하는지 이해해야 합니다. 기업들은 더 이상 수십 페이지의 법률 용어로 데이터 수집 정책을 모호하게 해서는 안 됩니다. 고객은 정확히 어떤 종류의 정보가 기록되는지 볼 수 있어야 합니다. 더 중요하게는, 이 정보가 메타데이터나 익명화된 데이터셋에 대한 반쪽짜리 진술 없이 쉽게 이해할 수 있는 형식이어야 합니다. 사용자는 각 데이터가 왜 기록되는지, 원한다면 어떻게 삭제할 수 있는지도 알 수 있어야 합니다.

요즘 특정 회사가 자신에 대해 보유한 데이터를 알아내는 데 몇 주가 걸릴 수 있습니다. 어떤 웹사이트는 이 과정을 더 쉽게 만들지만, 여전히 하위 메뉴 미로에서 적절한 옵션을 찾은 후 몇 시간은 기다려야 합니다.

왜 개인 정보 조회가 최대한 단순하지 않아야 할까요? 사용자는 스스로 회사가 자신의 데이터에 접근할 자격이 있는지 결정할 수 있어야 합니다. 미래에는 자신의 데이터를 조회하는 것이 훨씬 쉬워져야 하지만, 거기서 멈추지 말아야 합니다.

예를 들어, 현재 대부분의 스마트 어시스턴트는 사용자가 음성 녹음을 자동으로 삭제하거나 오디오 클립이 수동 검증을 위해 회부된 빈도 같은 상세 통계를 볼 수 있게 하지 않습니다. 이들은 특별히 고급 기능은 아니지만, 대중의 신뢰를 회복하고 투명하고 프라이버시를 중시하는 기술 기업이라는 평판을 구축하는 데 큰 도움이 될 것입니다.

3. 제3자 개입 최소화

가장 잘 알려진 스마트 어시스턴트들은 수년간 운영되어 왔습니다. 집단적으로 이들은 누구보다 광범위한 음성 데이터에 접근하며, 모든 종류의 언어와 억양이 포함되어 있습니다. 수백만 달러 투자와 수년간의 알고리즘 미세 조정 후에도 직원들이 여전히 트리거 단어 사용 여부를 확인하기 위해 수동으로 개입해야 한다면, 기업들은 현재 방식이 작동하지 않는다는 것을 인정해야 할지도 모릅니다.

사용자가 누가 듣는지 걱정하지 않게 하면서 거짓 양성을 줄일 다른 방법들이 많이 있습니다. 예를 들어, 어시스턴트가 작동하는 시간을 제한하면 배경 소음이 트리거 단어로 잘못 식별될 가능성을 줄일 수 있습니다. 많은 스마트 스피커는 이미 사용자가 매일 특정 시간에 음악 재생 같은 맞춤 루틴을 만들 수 있게 합니다. 이 기술은 거의 확실히 '조용한 시간'(예: 이른 새벽)으로 확장될 수 있으며, 이때 어시스턴트는 음성 명령에 단순히 응답하지 않습니다.

일부 서비스는 최근 개별 음성 인식을 채택해 어시스턴트가 특정 사람에게만 응답하게 했습니다. 그러나 이는 사용자 편의를 극대화하기 위해 몇 가지 문구만으로 어시스턴트를 훈련시킵니다. 이로 인해 단순히 권한이 있는 사용자와 비슷한 억양이나 톤을 가진 사람의 명령을 받아들이는 상황이 발생할 수 있습니다. 반면 더 많은 훈련 문구는 어시스턴트가 한 사람의 목소리를 진정으로 독특하게 만드는 요소를 파고들게 하여 허용 입력 범위를 줄이고, 결과적으로 거짓 양성 수를 줄이는 데 도움이 됩니다.

마지막으로, 비정상적으로 많은 거짓 양성이 발생하는 가정의 어시스턴트는 하루 중 여러 시간대에 배경 소음을 녹음하는 기능을 제공할 수 있습니다. 이를 통해 특정 가정에 맞게 음성 인식 모델을 조정하여 교통 소음, 비행기 소음, 비가청 주파수 같은 환경 요인에 의해 트리거될 가능성을 낮출 수 있습니다.

현재 데이터 수집 관행은 지속될 수 없습니다

사람들이 스마트 홈 어시스턴트에 대해 가진 유일한 진짜 문제는 자신이 감시당하고 있다고 느끼는 것입니다. 문제는 그들이 옳다는 것입니다. 대량 데이터 수집이 수년간 표준이었지만, 사용자들이 프라이버시 중심 도구와 서비스를 기록적인 숫자로 채택하면서 흐름이 바뀌기 시작했습니다. 스마트 어시스턴트는 엄청난 잠재력을 가지고 있지만, 궁극적으로 창조자들이 이 새로운 사용자 우선 태도에 적응하지 못한다면 뒤처질 위험이 있습니다.