국내 시범운행 본격화에 맞춰 급한 법제화 대신 꾸준한 토론 필요 지적

국내에서 자율주행차가 대거 시범 주행에 돌입하면서 자율주행의 ‘윤리적 딜레마’가 국내에서도 점차 조명을 받고 있다.

흔히 ‘트롤리 딜레마’라고 알려진 이 문제는 명쾌한 답이 어려워 국외 과학계에서 자율주행의 상용화를 위해 꼭 넘어야 할 고비로 거론된다.

딜레마는 극한의 상황을 가정한다. 예컨대 자율주행차가 달리던 중 사고가 나 탑승자 1명의 목숨이 위험하게 됐는데, 이를 피하려고 핸들을 돌리면 보행자 여럿이 차에 치여 숨진다.

자율주행차를 움직이는 인공지능(AI)은 그럼 어느 쪽을 택해야 할까? 무작정 ‘주인’인 탑승자 1명을 보호해야 할까? 아니면 다수의 행인을 구해야 할까?

작년 6월 세계적인 과학 학술지 ‘사이언스’에 게재된 연구 결과를 보면 이에 관한 소비자의 생각은 모순투성인 경우가 많았다.

일단은 많은 생명을 구하려는 ‘공리주의형’ AI가 옳다고 답해도, 자신이 그 자율주행차에 탄다는 가정이 나오면 금세 주인만 살리는 ‘이기적’ AI가 좋다며 답변이 180도로 바뀌는 것이다.

자율주행차 AI를 설계하는 기업은 혼란스러울 수밖에 없다. 다수의 인명을 중시하는 AI를 만들면 손가락질은 피할 수 있지만, 내심 자기 목숨만 지켜주길 바라는 소비자들이 차를 사려 하지 않을 수 있다.

22일 국내 자율주행차 연구자들에 따르면 이 트롤리 딜레마는 한국에서는 이제 초기 논의가 시작된 수준이다.

이 딜레마는 운전자 없이 혼자 달리는 완벽한 수준의 자율주행차에서 나타나는데, 한국에서 시험하는 차량은 그 정도 자동화에 도달하지 못해 본격적 논의가 시기상조라는 반응도 적잖다.

현재 국내에서 자율주행차를 시범 운행하는 자동차안전연구원의 한 관계자는 “민·관 연구 모임인 ‘자율주행차 융복합 미래 포럼’에서 작년 말 전문가들이 윤리적 딜레마에 관해 협의를 시작한 것으로 안다. 난제인 만큼 당장 논의의 성과를 얘기할 단계가 아니다”고 설명했다.

서울대에서 자율주행차 운행 프로젝트를 이끄는 이경수 교수(기계공학)는 “미국도로교통안전국의 자율주행 0∼5단계 분류를 보면 완벽한 자율주행차는 5단계에 해당한다”며 “현재 국내외에선 이보다 못한 3단계의 자율주행차를 2020년께 상용화하는 것이 목표라, 5단계로 가려면 최소 2030년은 넘어야 한다”고 지적했다.

3단계 자율주행차는 자동 운행이 가능해도 비상시에는 운전자가 수동 운전을 해야 한다. 즉 극한 상황에선 AI가 아닌 사람이 판단해야 돼 트롤리 딜레마가 적용될 여지가 없다.

4단계는 목적지·운전 모드 설정 등 큰 틀의 조작만 사람이 하고 나머지는 기계에 맡기는 정도다. 5단계는 인간의 개입이 전혀 필요 없다.

현재 국내에서는 현대차·현대모비스·서울대·한양대 등의 자율주행차 11대가 시범운행을 하고 있으며, 조만간 네이버가 개발한 AI 차량도 당국 허가를 받고 도로에 나설 예정이다.

이들 국산 자율주행차는 모두 3단계 안팎 수준으로, 4∼5단계에 진입한 사례는 아직 없는 것으로 알려졌다.

그러나 트롤리 딜레마 논의를 계속 ‘먼 미래의 일’로 제쳐놓을 수는 없다는 지적도 많다. 이에 관한 토론 경험을 장기간 쌓아야 AI의 법적·윤리적 난제를 풀고 자율주행차 기술을 잘 활용할 ‘내공’도 생긴다는 것이다.

국토교통부 관계자는 “인명이 관련된 상황에서 AI가 어떻게 판단할지를 급하게 정해 법규로 묶어놓으면 부작용이 매우 클 것”이라며 “국제적 논의를 지켜보고 사회 각계의 대화에서 다양한 대안을 검토해야 한다”고 말했다.

연합뉴스