다양한 데이터와 윤리적 관행이 책임감 있는 AI 엔지니어링을 이끄는 방법

캐런 파네타(Karen Panetta)의 엔지니어링 여정은 안면 인식 시스템의 치명적 편향을 발견하고 인간의 복지를 보호하는 투명한 기술을 옹호하게 만들었습니다.

작성자

• 에스더 시투(Esther Shittu), 뉴스 라이터
• 숀 서트너(Shaun Sutner), 선임 뉴스 디렉터

게시일: 2025년 7월 1일

캐런 파네타의 엔지니어링 학위 길은 쇼핑 습관을 탄탄한 금융 커리어로 유지하라는 아버지 조언에서 시작되었습니다.

컴퓨터 제작과 CPU 설계에 시간을 보낸 후, IEEE 펠로우이자 터프츠 대학교(Tufts University) 대학원 공학 교육 학장인 그녀는 학계로 가고자 했습니다. 그러나 공학 분야에 큰 문제가 있음을 깨달았습니다.

"'여성 멘토로 고용하겠다'고 했는데 첫 수업에 가보니 여학생이 한 명도 없었습니다." 파네타가 인포마 테크타겟의 타게팅 AI 팟캐스트 최신 에피소드에서 회상했습니다. "그렇게 제가 우연히 멘토, 지지자, 포용적 청중을 공학에 데려오려는 챔피언이 되었습니다."

그 열정은 이후 아이들을 인신매매에서 구출하는 작업을 시작하며 AI 기술로 이어졌습니다.

"기존 안면 인식 훈련 데이터셋이 모두 정면 사진에 양쪽 귀가 보이는 형태였습니다." 파네타가 말했습니다. "데이터베이스는 주로 유색인종과 범죄자 데이터베이스에서 가져온 것이었습니다. 그래서 '좋아, 여기 편향이 있네.'라고 생각했습니다."

이에 파네타와 팀은 전 세계 3~78세 다양한 사람들의 데이터베이스를 만들었습니다. 이미지에는 선글라스, 마스크, 다양한 머리 회전 등 다양한 시나리오의 사람들이 포함되었습니다.

"매우 깨끗한 데이터로 훈련된 AI는 실제 세계에서 작동하지 않습니다." 파네타가 말했습니다. "현실 세계가 자동으로 AI로 번역되지 않습니다."

파네타는 AI 기술이 윤리적이어야 한다고 덧붙였습니다. 즉, 사람이나 생계를 해치지 않아야 합니다.

"윤리적 AI를 말할 때 우리는 어떻게 수집하는지, 사람들의 권리는 무엇인지, 어떻게 사용할지에 대해 말하는 것입니다."라고 그녀는 말했습니다.

한편 책임감 있는 AI는 AI 시스템이 특정 결정을 내린 이유를 설명할 수 있는 것이라고 그녀는 말했습니다.

에스더 시투는 인포마 테크타겟 뉴스 라이터이자 팟캐스트 호스트로 AI 소프트웨어와 시스템을 다룹니다. 숀 서트너는 인포마 테크타겟 정보 관리 팀 선임 뉴스 디렉터로 AI, 분석, 데이터 관리 기술, 빅테크 및 연방 규제 보도를 이끕니다. 30년 이상의 뉴스 경력을 가진 베테랑 저널리스트입니다. 둘이 함께 타게팅 AI 팟캐스트를 다룹니다.

AI 기술 심층 탐구

• 실제 에이전틱 AI 사례 및 사용 사례 11가지

  작성자: 메리 프랫(Mary Pratt)

• IBM의 기업 AI 비전: 맞춤화, 협업

  작성자: 에스더 시투(Esther Shittu)

• 블랙 걸스 코드 CEO "AI 다양성은 모두를 포함한다"

  작성자: 에스더 시투(Esther Shittu)

• 세레브라스가 엔비디아 경쟁에 접근하는 방식

  작성자: 에스더 시투(Esther Shittu)

몽고DB(MongoDB), 고급 벡터 검색으로 생성형 AI 통합 가속화 아일라 네트웍스, 1,500만 커넥티드 디바이스 달성으로 글로벌 IoT 클라우드 플랫폼 입지 강화