아마존의 AI 채용비서, 여성차별 논란으로 결국 폐기

입력 : ㅣ 수정 : 2018-10-11 14:28

폰트 확대 폰트 축소 프린트하기
AI 채용 시스템 개발 기업, 아마존 사례를 교훈 삼아야
아마존의 기업로고 연합뉴스

▲ 아마존의 기업로고
연합뉴스

아마존이 개발 중인 인공지능(AI) 채용시스템이 결국 ‘여성 차별’ 논란으로 폐기된 것으로 알려졌다.


아마존은 자체 개발한 AI 채용 시스템을 점검한 결과, ‘여성’을 차별하는 문제점을 안고 있는 것으로 확인돼 결국 이를 폐기하기로 했다고 로이터통신이 10일(현지시간) 전했다. 골드만삭스 등 외국 기업뿐 아니라 국내에서도 채용에 AI를 활용하려는 움직임이 일고 있는 만큼 아마존의 실패 사례를 교훈으로 삼아야 한다는 지적이 나온다.

예를 들어 이력서에 ‘여성 체스 동아리’처럼 ‘여성’이란 단어가 포함된 문구가 있으면 감점되는 식이다. 또 여자 대학을 졸업한 지원자 2명의 점수가 깎인 사례도 있었다. 반면 해당 AI는 ‘실행하다’ ‘포착하다’ 등 남성 기술자들의 이력서에 자주 쓰이는 동사를 유리하게 인식하는 것으로도 알려졌다.

이는 AI가 축적된 데이터를 학습해 작동하는 방식이기 때문에 발생할 수 있는 오류였다. 이 시스템은 지난 10년간 회사에 제출된 이력서 패턴을 익혀 이를 바탕으로 지원자들을 심사했다. 그런데 AI는 남성 우위인 기술산업 업계의 현실을 그대로 학습한 것이다.

익명의 제보자에 따르면 임원진의 결정에 따라 AI 채용시스템 개발팀은 지난해 초 해산됐다. 아마존 측이 추후 특정 용어에 관해 불이익을 주지 못하도록 프로그램을 재정비하긴 했지만, AI가 또 다른 경로로 지원자를 차별할 수 있을지 모른다는 이유에서다.

니하르 샤 카네기멜론대 교수는 “AI 알고리즘이 공정하게 작동하는지, 또 실제 해석할 수 있고 설명 가능한지 확실히 알려면 아직 멀었다”고 지적했다.

워싱턴 한준규 특파원 hihi@seoul.co.kr
페이스북 트위터 카카오스토리 밴드 블로그

/

서울Eye - 포토더보기