인공지능(AI)이 인간과 거의 똑같은 음성으로 인간과 대화할 수 있는 수준으로 발전함에 따라 보이스피싱 등 각종 범죄에 악용될 수 있다는 우려가 커지고 있다. 사진은 AI를 이미지화한 그래픽. 픽사베이.
남편, 또는 아내의 다급한 목소리에 당황해 곧바로 돈을 송금하지 않을 사람이 얼마나 될까. 만약 이것이 ‘보이스피싱’이라면 어떻게 할 것인가. 미국 뉴스위크에 따르면 터무니없는 가정이 아니다. 인공지능(AI)의 비약적 발전 때문이다.
구글은 지난 5월 AI를 탑재한 음성 채팅 애플리케이션 듀플렉스를 시연했다. 주인이 듀플렉스에게 “화요일 오전 10시에서 12시 사이에 미용실을 예약해줘”라고 지시하면 듀플렉스는 스스로 미용실로 전화를 걸어 예약을 했다.
듀플렉스는 인간의 목소리로 미용실 직원과 자연스럽게 대화하면서 일정을 잡는다. 현재 기술로도 상당히 자연스러운 수준이 됐다. 시연회에서 듀플렉스는 ‘음’, ‘아’와 같은 감탄사를 사용하기도 했고, 목소리 톤을 바꾸기도 했다. 구글 측은 “듀플렉스와 통화하는 사람은 자신이 사람과 통화하고 있다고 생각하게 될 것”이라고 자신했다.
전문가들은 특정한 세력이 듀플렉스와 같은 소프트웨어를 악용할 수 있다고 우려한다. 가족과 친구 등 지인을 가장해 범죄를 저지를 수 있다는 것이다.
네트워크 보안업체 ‘어웨이크 시큐리티’의 라훌 카샵 최고경영자(CEO)는 “범죄자가 친지의 목소리를 녹음하고 인공지능으로 이를 악용해 친지의 가짜 전화번호로 내게 전화하게 프로그래밍 할 수 있다”면서 “돈을 입금하라고 하거나 다른 지시를 내릴 수 있다. CEO, 4성 장군이 목표물이 될 수도 있다”고 경고했다.
현재 사기를 모의하는 범죄자들은 한 건의 범죄를 수행하는 데 상당한 시간을 소비한다. 그러나 AI가 정교해짐에 따라 범죄자들은 초단위로 수천명에게 접근해 동시다발적으로 비밀번호, 은행 계좌번호 탈취를 시도할 수 있게 됐다. 로만 얌폴스키 미국 루이빌대학 사이버 보안연구소 소장은 “듀플렉스는 사회 구조에 대한 거대한 규모의 공격을 가능하게 할 것”이라고 지적했다.
AI기업 탈라의 롭 메이 CEO는 “앞으로 2~3년 뒤면 우리는 문자, 이메일 메시지는 말할 것도 없고 음성 통화를 할 때에도 지금 나와 의사소통하는 것이 인간인지 아니면 AI인지 의심해야 할 것”이라고 전망했다.
뉴스위크는 “누구에게도 개인 정보를 제공하지 말고, 너무 자세한 질문을 하면 의심하라”면서 “긍정적인 소식은 현재 전문가들이 범죄 AI를 인증하는 기술을 연구하고 있다는 것이다. 그러나 덜 좋은 소식은 기술의 발전 속도가 보안 전문가와 일반인들이 주의하게 되는 것 보다 더 빠를 것이라는 것”이라고 전했다.
강신 기자 xin@seoul.co.kr
Copyright ⓒ 서울신문. All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
