뷰페이지

[유용하 기자의 사이언스 톡] AI 판사가 더 공정할까

[유용하 기자의 사이언스 톡] AI 판사가 더 공정할까

유용하 기자
유용하 기자
입력 2018-01-23 22:30
업데이트 2018-01-24 00:56
  • 글씨 크기 조절
  • 프린트
  • 공유하기
  • 댓글
    14
인공지능(AI) 기술은 정말 빠르게 발전하고 있습니다. 지난해 말에는 구글의 딥마인드에서 개발한 AI ‘알파고 제로’가 등장해 사람들을 깜짝 놀라게 했습니다.

2016년 이세돌 9단과의 대국에서 압승을 거둔 ‘알파고 리’를 비롯해 많은 AI들은 기존의 수많은 데이터들을 바탕으로 딥러닝 기술로 능력치를 높입니다. 그렇지만 알파고 제로는 바둑이나 체스, 장기의 기본 규칙만 알고 인공신경망 기술을 활용해 스스로 게임의 이치를 터득한 뒤 기존의 알파고들과 게임한 결과 차례로 격파해 나갔다고 합니다.
이미지 확대
사이언스 제공
사이언스 제공
이 때문에 일부에서는 조만간 강(强)인공지능이 등장하는 것 아니냐는 우려까지 나오고 있습니다. 그렇지만 전문가들은 강인공지능은 아직 요원한 이야기라고 하니 아직까지는 걱정할 필요가 없을 것 같기도 합니다.

하루가 다르게 변하는 AI 기술 소식을 들으면서 사람들은 정치적 문제가 걸려 있거나 판단이 쉽지 않은 범죄 사실에 대한 판결을 내릴 때 ‘인공지능 판사’를 도입하면 더 공정하지 않을까라고 말하곤 합니다.

●AI도 인종적 편견 갖고 판단 내려

살인죄로 유죄 판결을 받은 양극성 장애를 가진 여성에게 몇 년의 징역을 선고해야 할까, 이전에 경범죄를 저지른 범죄 경력도 없다면 재판 중 보석 신청을 받아들여야 할까 등 쉽게 판단을 내릴 수 없는 문제들이 미국 전역 판사들의 책상에 쌓여 있다고 합니다. 이 때문에 판결을 내릴 때 인공지능의 도움을 받는 것은 어떨까 하는 목소리가 미국 내에서도 높아지는 것 같습니다.

그렇다면 과연 일반인들이 생각하는 것처럼 ‘인공지능 판사’의 판결이 인간이 내리는 결정보다 나을까요. 결론부터 말씀드리면 “인공지능 판사가 사람이 내리는 결정보다 결코 낫지 않다”입니다.

미국 다트머스대 컴퓨터과학과 연구팀은 미국 법무부에서 활용하는 범죄자 재범 가능성 판단 알고리즘 프로그램인 ‘콤파스’가 내린 결정과 사람이 내린 결정을 비교해 봤습니다. 콤파스는 현재 미국 법원에서 범죄자의 보석금 액수나 형량 등의 판단을 내릴 때 활용되고 있는 AI입니다.

연구팀은 플로리다주 브로워드카운티에서 재판을 기다리고 있는 약 1만명의 범죄자 중 무작위로 1000명을 선택해 콤파스가 판단했던 재범 확률 점수와 향후 2년 동안 체포 기록을 확인했습니다. 그다음 400명의 일반인들에게 콤파스에 입력된 똑같은 정보를 제공하고 재범 가능성을 판단하도록 한 뒤 비교해 본 것입니다.

결과는 사람들이 생각하는 것과 많이 달랐습니다. 사람이 내린 예측 정확도는 67%였고, 인공지능인 콤파스가 내린 예측의 정확도는 65.2%였습니다. 미세한 차이이기는 하지만 사람의 결정이 더 정확했다는 것입니다. 또 다른 실험을 통해 인공지능 역시 사람처럼 흑백 인종적 편견을 갖고 판단을 내린다는 사실을 확인하기도 했습니다. 이들의 연구 결과는 기초과학 및 공학분야 국제학술지 ‘사이언스 어드밴시스’ 1월 17일자에 실렸습니다.

사실 2016년 비영리 탐사보도 매체인 ‘프로푸블리카’에서 콤파스가 백인보다 흑인 범죄자에게 더 과도한 형량과 판결을 내린다고 폭로해 논란이 되기도 했습니다. 이번 실험은 인공지능의 ‘공평무사’를 기대하는 사람들에게 그렇지 않다는 사실을 다시 한번 확인해 준 것이라고 할 수 있습니다.

●AI 기술의 발전 방향 더 지켜봐야

인공지능 기술 역시 사람이 만든 것이니만큼 그 판단 역시 결코 ‘중립적’일 수는 없을 것이라고 생각됩니다. 인공지능의 미래에 대해 무조건 낙관적인 생각을 갖고 있다가 만약 인공지능이 내린 판단이 자신들이 원하는 방향이 아닐 때 뒤늦게 기술에 문제가 있다고 비난하기보다는 지금은 기술의 발전 방향을 차분히 지켜봐야 할 때가 아닌가 싶습니다.

edmondy@seoul.co.kr
2018-01-24 23면

많이 본 뉴스

  • 4.10 총선
저출생 왜 점점 심해질까?
저출생 문제가 시간이 갈수록 심화하고 있습니다. ‘인구 소멸’이라는 우려까지 나옵니다. 저출생이 심화하는 이유가 무엇이라고 생각하시나요.
자녀 양육 경제적 부담과 지원 부족
취업·고용 불안정 등 소득 불안
집값 등 과도한 주거 비용
출산·육아 등 여성의 경력단절
기타
광고삭제
위로