다양한 데이터와 윤리적 관행이 책임 있는 AI 엔지니어링을 주도하는 방법

Karen Panetta는 엔지니어링 과정을 통해 안면 인식 시스템의 중요한 편견을 파악하고 인간 복지를 보호하는 투명한 기술을 옹호하게 되었습니다.

작성자:

• Esther Shittu, 뉴스 작가
• Shaun Sutner, 수석 뉴스 디렉터

게시일:2025년 7월 1일

Karen Panetta의 공학 학위 취득 경로는 그녀의 쇼핑 습관이 탄탄한 금융 경력에 의해 유지되어야 한다는 아버지의 조언에서 시작되었습니다.

컴퓨터를 만들고 CPU를 설계하는 데 시간을 보낸 후 Tufts University의 IEEE 펠로우이자 대학원 엔지니어링 교육 학장은 학계에 진출하려고 했습니다. 그러나 그녀는 공학계에 큰 문제가 있음을 깨달았다.

Informa TechTarget의 Targeting AI 팟캐스트 최신 에피소드에서 Panetta는 "그들은 '우리는 여성을 위한 멘토로 당신을 고용합니다'라고 말했습니다. 그런데 제가 첫 수업을 들었을 때 여성은 한 명도 없었습니다."라고 회상했습니다. "이것이 바로 제가 공학에 대한 포용적인 청중을 모으는 우연한 멘토, 지지자, 챔피언이 된 방법입니다."

그 열정은 나중에 그녀가 인신매매로부터 어린이들을 구출하는 일을 시작하면서 AI 기술로 옮겨졌습니다.

파네타는 "안면 인식을 위해 훈련된 모든 데이터 세트가 양쪽 귀가 모두 보이는 상태로 직접 촬영된 것을 확인했다"고 말했다. "데이터베이스는 대부분 유색인종 및 범죄인 데이터베이스에서 가져온 것입니다. 그러니까 바로 거기에 편견이 있는 것 같았습니다."

이에 대해 파네타와 그녀의 팀은 3~78세의 전 세계 사람들로 구성된 다양한 데이터베이스를 만들었습니다. 이미지에는 선글라스, 마스크 또는 다양한 머리 회전 등 다양한 시나리오에 있는 사람들의 모습이 담겨 있습니다.

파네타는 "매우 깨끗한 데이터로 훈련된 AI는 현실 세계에서 작동하지 않을 것"이라고 말했다. "실제 세계는 AI로 자동 번역되지 않습니다."

파네타는 AI 기술이 윤리적이어야 한다고 덧붙였습니다. 즉, 사람이나 생계에 해를 끼치지 않아야 한다는 뜻입니다.

"윤리적 AI에 대해 이야기할 때 우리는 이를 수집하는 방법, 국민의 권리, 이를 어떻게 사용할 것인지에 대해 이야기합니다."라고 그녀는 말했습니다.

한편, 책임 있는 AI는 AI 시스템이 그러한 결정을 내린 이유를 설명할 수 있는 것이라고 그녀는 말했습니다.

Esther Shittu는 AI 소프트웨어 및 시스템을 다루는 Informa TechTarget 뉴스 작가이자 팟캐스트 진행자입니다. Shaun Sutner는 Informa TechTarget 정보 관리팀의 수석 뉴스 디렉터로 AI, 분석 및 데이터 관리 기술, 대형 기술 및 연방 규정에 대한 보도를 주도하고 있습니다. 그는 뉴스 경력이 30년 이상인 베테랑 언론인이다. 그들은 함께 Targeting AI 팟캐스트를 다룹니다.

AI 기술에 대해 자세히 알아보기

• 11가지 실제 에이전트 AI 사례 및 사용 사례

  작성자:메리 프랫

• 맞춤화, 협업을 위한 IBM의 엔터프라이즈 AI 비전

  작성자:Esther Shittu

• Black Girls Code CEO는 AI의 다양성에는 모든 사람이 포함된다고 말합니다

  작성자:Esther Shittu

• Cerebras가 Nvidia와의 경쟁에 접근하는 방식

  작성자:Esther Shittu