자율주행차 딜레마: 보행자 vs 탑승자 누구 살려야 하나… MIT '모럴 머신' 4000만 응답 분석

AI 도덕적 의사결정, 문화·경제 따라 달라져

우리는 기계가 손실 최소화뿐 아니라 피할 수 없는 손실 분배도 맡는 시대로 진입합니다. 손해 분배(기계가 창출하는 웰빙 포함)는 보통 트레이드오프 생성하며, 그 해결은 도덕 영역에 속합니다.

자율주행차가 충돌 직전인데 모두 살리는 경로 평가 못 하는 상황 고려해보세요. 이런 경우 차량은 도로 위 서로 다른 사람들 간 손해 위험 공정 분배 결정해야 합니다. 이런 도덕 딜레마는 로봇 법칙이나 인간 윤리 원칙으로 해결 못 합니다.

2014년 MIT 연구자들이 '모럴 머신(Moral Machine)' 실험 설계해 AI 탑재 기계(자율주행차 등) 도덕적 결정에 인간 관점 수집했습니다. 지금까지 전 세계 4,000만 이상 응답 수집. 다양한 문화 집단 윤리적 우선순위 귀중한 통찰 제공합니다.

모럴 머신은 사람들이 자율주행차가 우선시해야 할 것 결정하는 13가지 시나리오 테스트합니다:

연구진 모든 응답 분석해 인간 윤리가 지리적 위치, 경제, 문화 기반으로 어떻게 다른지 밝혔습니다.

각국 선호도 다르단 사실 발견. 예: 일본·중국 같은 집합주의 문화권 사람들은 노인 살리기 젊은이보다 선호. 반면 개인주의 문화 국가들 노인 살리기 덜 선호.

참고: Nature | DOI:10.1038/s41586-018-0637-6 | Moral Machine

마찬가지로 미국·영국 같은 개인주의 문화권 사람들은 다른 선택 동일할 때 더 많은 생명 살리기 경향. 제도 약한 개발도상국 사람들 무단횡단 보행자 합법 횡단 보행자보다 더 관대.

높은 지위 인물 살리기 선호는 동아시아 국가(일본, 대만, 사우디아라비아, 인도네시아)에서 훨씬 덜 두드러지고, 남부 국가(중남미, 프랑스)에서 훨씬 높음.

서구·동아시아 국가들 남부 국가들보다 인간 반려동물보다 살리기 선호 훨씬 높음.

큰 표본 크기에도 연구 한계 많습니다. 예: 캐릭터 운명 불확실성 고려 안 함. 모든 캐릭터 100% 확실성으로 어린이·성인 인식, 생사 결과 100% 확실성으로 추정.

가상 관계 요소(배우자, 친척 등) 응답자와 캐릭터 사이 도입 안 함. 이런 가정 비현실적지만 실험 다루기 쉽게 위해 필요했습니다.

보편적 합의 도달 못 할 수 있지만, 이 결과로 기술 기업과 자동차 제조사 다양한 설계·정책 결정 윤리에 대중 반응 더 잘 이해할 수 있습니다.

산업기술