자율주행 차량은 피부가 어두운 보행자를 감지하기 어렵다

• 자율주행 자동차는 피부가 검은 사람을 감지하는 데 5% 덜 정확합니다.
• 이는 대부분의 물체 감지 알고리즘이 백인 이미지가 포함된 데이터세트에서 대부분 훈련되었기 때문에 발생합니다.

기계 학습 모델은 일상 생활 전반에 걸쳐 집을 찾기 시작했습니다. 특히 자율주행 분야는 지난 10년 동안 '가능할지도 모른다'에서 '현재 상용화'로 바뀌었습니다.

그러나 이러한 자동화 시스템의 발전은 최근 몇 년 동안 자율주행차에 대한 많은 우려를 불러 일으켰고 우려의 목록이 더 길어진 것 같습니다. 그들의 안전과 도로의 장애물에 대처하는 능력에 대한 걱정과 함께 자율 주행 차량이 유색인종에게 해를 끼칠 수 있는지에 대한 걱정도 필요합니다.

이제 Georgia Institute of Technology의 연구원들은 자율 주행 시스템에 사용되는 알고리즘이 피부색이 어두운 보행자를 감지하는 데 5% 덜 정확하다는 결론을 내린 연구를 수행했습니다.

특정 인구 통계 그룹의 오류율이 다른 그룹보다 높음

연구팀은 자율주행차에 주로 사용되는 최첨단 물체 감지 모델의 정확도 조사를 시작했다. 그들은 이 모델이 다양한 인구통계학적 그룹의 사람들을 정확히 어떻게 감지하는지 알고 싶었습니다.

그들은 보행자 사진이 포함된 방대한 데이터 세트를 분석하고 피부색에 따라 사람들을 나눴습니다. 그런 다음 그들은 그러한 모델이 밝은 피부 그룹의 사람들뿐만 아니라 어두운 피부 그룹의 사람들의 존재를 얼마나 자주 정확하게 식별했는지 살펴보았습니다.

참조:arXiv:1902.11097 | 조지아 공과대학

연구원들은 이러한 모델이 어두운 피부 그룹을 감지할 때 평균 5% 덜 정확하다는 것을 발견했습니다. 이러한 불일치는 보행자의 시야가 자주 가려지는 시야와 사진의 시간과 같은 몇 가지 중요한 매개변수를 조정한 후에도 동일하게 유지되었습니다.

이 연구는 공개적으로 사용 가능한 데이터 세트에서 훈련된 연구 목적으로 사용되는 모델만 고려합니다. 상업용 자율주행차가 실제로 사용하고 있는 모델은 분석하지 않았다. 그러나 결과가 매우 중요하다는 의미는 아닙니다. 이와 같은 연구는 실제 결함과 위험에 대한 강력한 통찰력을 제공합니다.

편향적/인종차별적 알고리즘 이면의 이유

누군가가 편향된 알고리즘에 대한 보고서를 발표한 것은 이번이 처음이 아닙니다. 작년에 한 연구에서는 거대 기술 기업(Microsoft, IBM, Megvii)이 개발한 3가지 얼굴 인식 시스템이 피부가 밝은 사람보다 피부가 어두운 사람의 성별을 더 자주 오인할 가능성이 있음이 밝혀졌습니다.

이미지 제공:Iyad Rahwan

인공 지능 모델, 특히 머신 러닝 및 딥 러닝 알고리즘은 제공된 교육 데이터 세트에서 학습하기 때문에 다양한 데이터를 제공하지 않으면 이러한 모델이 배포될 때 정확하게 작동하지 않습니다. 현실 세계.

자율주행차도 마찬가지입니다. 물체 감지 알고리즘은 대부분 백인 이미지가 포함된 데이터 세트에서 훈련되었습니다. 또한 이러한 알고리즘은 제한된 데이터 세트(검은 피부색을 가진 사람들)에서 학습하는 데 큰 비중을 두지 않았습니다.

읽기:자율 주행 차량을 위한 새로운 AI는 보행자 움직임을 예측할 수 있습니다.

연구원들은 인종적으로 다양한 예를 포함하고 훈련 중에 제한된 예를 더 강조함으로써 이러한 모델을 개선할 수 있다고 믿습니다.