자율 운전 차량이 보행자와 승객 중 누구를 죽여야 합니까?

• 연구원들은 인공 지능이 내리는 도덕적 결정에 대한 인간의 관점을 수집하기 위한 실험을 설계합니다.
• 그들은 수백만 건의 인간 반응을 분석하고 문화에 따라 윤리가 얼마나 다양한지 밝혀냈습니다.

우리는 기계가 피해를 최소화할 뿐만 아니라 제거할 수 없는 피해를 분산시키는 역할을 하는 시대에 들어서고 있습니다. 손상의 분배(기계가 만드는 웰빙 뿐만 아니라)는 일반적으로 타협을 낳고, 그 해결은 도덕적 영역에 속합니다.

자율 차량이 곧 충돌하고 모든 사람을 구할 수 있는 경로를 평가할 수 없는 상황을 생각해 보십시오. 이러한 경우 차량은 도로 위의 다양한 사람들에게 피해 위험을 공정하게 분배하는 방법을 결정해야 합니다. 이러한 도덕적 딜레마는 로봇의 법칙이나 인간의 윤리 원칙으로는 해결할 수 없습니다.

2014년 MIT 연구원들은 자율주행 자동차와 같은 AI가 장착된 기계가 내리는 도덕적 결정에 대한 인간의 관점을 수집하기 위해 Moral Machine이라는 실험을 설계했습니다. 지금까지 이 실험은 전 세계에서 4천만 개 이상의 응답을 받았습니다. 이것은 다양한 문화의 집단적 윤리적 우선순위에 대한 귀중한 통찰력을 제공합니다.

Moral Machine은 사람들이 자율 주행 차량의 우선 순위를 결정하는 13가지 시나리오를 테스트합니다.

<울>

더 적은 수보다 더 많은 생명

여자보다 남자

애완동물보다 인간

노인보다 젊음

낮은 것보다 높은 사회적 지위

건강에 해로운 것보다 적합함

위법자에 대한 준행자

연구원들은 모든 응답을 분석하고 지리적 위치, 경제 및 문화에 따라 인간 윤리가 어떻게 다른지 밝혀냈습니다.

국가마다 선호도가 다르다는 것을 발견했습니다. 예를 들어, 일본과 중국과 같은 집단주의 문화의 사람들은 젊은이보다 노인을 아끼는 경향이 더 큽니다. 반면에 개인주의적인 문화가 더 많은 국가에서는 오래된 문화를 보존할 가능성이 적습니다.

참조:자연 | DOI:10.1038/s41586-018-0637-6 | 도덕적 기계

유사하게, 미국과 영국과 같은 개인주의 문화의 사람들은 다른 모든 선택권이 주어지면 더 많은 생명을 구하는 경향이 있습니다. 제도가 취약한 개발도상국의 사람들은 무단 횡단을 하는 보행자보다 합법적으로 횡단하는 보행자를 더 관대합니다.

더 높은 지위의 캐릭터를 아끼는 선호도는 동부 국가(일본, 대만, 사우디 아라비아, 인도네시아)의 경우 훨씬 덜 두드러지고 남부 국가(중남미, 프랑스)의 경우 훨씬 더 높습니다.

서부와 동부 국가는 남부 국가에 비해 애완 동물보다 인간을 아끼는 데 훨씬 더 높은 선호도를 보입니다.

제한 사항

많은 표본 크기에도 불구하고 본 연구는 많은 제한점을 가지고 있다. 예를 들어, 연구자들은 등장인물의 운명에 대한 불확실성을 고려하지 않았습니다. 모든 캐릭터는 100% 확신으로 어린이와 성인으로 인식되었으며, 그들의 삶과 죽음 결과는 100% 확신으로 추정되었습니다.

또한 응답자와 등장인물 사이에 가상의 관계 요인(예:배우자 및 친척)을 도입하지 않았습니다. 이러한 가정은 매우 비현실적이었지만 실험을 다루기 쉽게 유지하는 데 필요했습니다.

읽기:자율 주행 차량은 피부가 검은 보행자를 감지하기 어렵습니다.

우리는 보편적인 합의에 도달하지 못할 수도 있지만 이러한 결과는 기술 회사와 자동차 제조업체에서 대중이 다양한 디자인 및 정책 결정에 대한 윤리에 어떻게 반응하는지 더 잘 이해하는 데 사용할 수 있습니다.