탑승자보다 보행자, 노인보다 아이 택했다

#트롤리 전차가 시속 100㎞의 속도로 궤도를 달리고 있다. 궤도 앞쪽에는 5명의 인부가 귀마개를 하고 작업을 하고 있어서 전차가 다가오는 소리를 듣지 못하는 상황. 전차를 멈추는 것이 최선이지만 브레이크가 고장났다. 그나마 다행인 것은 선로를 바꿀 수 있는 레버는 작동시킬 수 있다. 문제는 바뀌는 선로에도 1명의 작업자가 있다. 선로를 바꾸지 않으면 5명이 죽게 되고 바꾸면 1명이 죽는다. 과연 어떤 선택이 윤리적으로 타당한 것일까.미국 하버드대 정치철학자 마이클 샌델의 강의 ‘정의’(Justice) 첫 수업에 나오는 유명한 ‘트롤리 사고 실험’이다. 실제상황을 가정한 이 사고 실험은 다양하게 변형돼 윤리 문제를 생각케 한다. 예를 들어 5명은 나와 상관없는 사람들이고 1명이 가족이라면 어떻게 할 것인가 같은 형태이다.

자율주행차 기술이 발달하면서 머지않은 미래에 운전자 없이 인공지능(AI)이 운전하는 완전 자율주행차 시대가 올 것으로 전망되고 있다. 완전 자율주행차 시대가 도래했을 때 ‘트롤리 딜레마’는 단순한 철학적, 윤리적 사고 실험이 아닌 현실 문제가 된다. 이 때문에 외국에서는 과학자들과 윤리학자, 철학자들이 이런 문제를 어떻게 해결할 것인지에 대해 머리를 맞대고 있다.

미국 매사추세츠공과대(MIT) 미디어랩과 데이터·시스템·사회연구소, 하버드대 인간진화생물학과, 캐나다 브리티시컬럼비아대 심리학과, 프랑스 툴루즈1대학 경제학부 공동연구팀은 ‘도덕기계’(Moral Machine)로 이름 붙인 대규모 온라인 조사 플랫폼을 이용해 233개 국가 및 도시에 사는 수백만명을 대상으로 트롤리 딜레마를 조사해 분석한 결과를 세계적인 과학저널 ‘네이처’ 24일자에 발표했다. 이번 연구에는 한국계 과학자 리처드 김 MIT 미디어랩 연구원이 1저자로 참여했다.

도덕기계는 영어, 아랍어, 중국어, 프랑스어, 독일어, 일본어, 한국어, 포르투갈어, 러시아어, 스페인어 10개 국어로 번역돼 2016년 11월부터 2017년 3월까지 약 3961만개의 윤리적 선택에 대한 빅데이터를 수집했다. 자율주행차나 AI의 윤리적 문제에 대한 역대 최대 규모의 조사 연구다. 연구팀은 편도 2차로를 지나는 자율주행차가 횡단보도를 코 앞에 두고 브레이크 고장으로 멈출 수 없는 상황을 가정했다. 이때 곧장 직진을 하면 보행자를 사망에 이르게 하고 핸들을 꺾어 옆 차로로 가면 콘크리트 장벽에 충돌해 탑승자가 죽게 된다. 연구팀은 탑승자와 보행자의 성별과 숫자, 애완동물 동승 등 조건을 변화시켜 13가지 시나리오를 만든 뒤 상황에 따른 응답자들의 선택을 조사했다.

그 결과 우선 보호해야 할 대상으로는 아기, 소녀, 소년, 임산부, 남성 의사, 여성 의사, 여성 운동선수, 여성 CEO, 남성 운동선수, 남성 CEO 순으로 조사됐다. 또 크게 보호할 필요가 없는 대상으로는 고양이, 범죄자, 개, 여성 노인, 남성 노인, 노숙자, 몸집이 큰 남자가 꼽혔다.

특성별로 보면 차량 탑승자보다는 보행자, 남성보다는 여성, 어른보다는 아이, 사회적 지위가 낮은 사람보다 높은 사람, 교통신호를 준수하는 사람, 노인보다는 어린이, 애완동물보다는 사람, 사람 수가 적은 쪽보다 많은 쪽이 살 수 있도록 해야 한다고 선택한 것으로 나타났다.

연구팀은 응답자의 거주지역과 국가별로 서구권(Western), 동양권(Eastern), 오세아니아 및 남미권(Southern) 3개 범주로 구분해 선택 경향을 파악하기도 했다. 서구권에서는 사람의 숫자가 많은 쪽, 어린아이이거나 몸집이 작은 사람들을 구하는 방향을 선호했지만 동양권에서는 사람 숫자와 관계 없이 보행자와 교통규칙을 지키고 있는 쪽이 더 안전해야 한다는 선택을 했다. 남미권에서는 여성과 어린아이, 사회적 지위가 높은 사람이 더 안전하도록 알고리즘이 설계되는 것을 선호하는 것으로 드러났다.

장 프랑소와 보네퐁 툴루즈1대학 교수는 “완전 자율주행차가 갑자기 맞닥뜨릴 수 있는 현실은 개발자들이 이야기하는 것처럼 예측가능한 경우는 거의 없다”라며 “윤리적 결정을 내려야 하는 완전 자율주행차를 허용하기 전 제조사와 정부, 학자들이 함께 머리를 맞대고 범용적 기준이 아닌 지역별, 문화적 맞춤형 도덕 AI 알고리즘을 설계할 수 있도록 해야 할 것”이라고 강조했다.

유용하 기자 edmondy@seoul.co.kr