李·尹, 앞다퉈 軍 AI 도입 촉구
AI 무기 명암 이해하는지는 의문
美 ‘5대 원칙’ 같은 기준 제시해야

지난해 문재인 대통령에 이어 올해 여야 대선후보들이 우리 국방에 인공지능(AI)과 드론, 로봇 전력을 강화할 것을 촉구하고 나섰다. 이재명 더불어민주당 후보는 “무인 감시·정찰 체계와 유·무인 복합전투체계 전력화”, 윤석열 국민의힘 후보는 “2040년까지 인공지능 기반의 무인 전투체계로의 전환”을 공약으로 내세웠다. 국방부와 방위사업청도 최근 인공지능과 무인 전투체계 도입을 천명하고 실행 계획을 작성했다.

인구절벽으로 현재 규모의 병력 유지가 어려운 상황에서 4차 산업혁명 기술로 한국군을 과학화·지능화하자는 후보들의 주장과 취지는 충분히 이해된다. 그러나 이들의 공약엔 군사작전의 어느 분야에 인공지능 기술을 어떻게 활용하겠다는 것인지 설명도 없고, 기술의 투명성 확보와 자율 무기 운영과 관련한 윤리적 기준도 제시돼 있지 않다. 우리 국방에 인공지능 자율무기를 도입한다는 것이 정확히 무엇을 의미하는지에 대한 이해가 돼 있지 않은 섣부른 공약 남발이 아닌지 심히 우려된다.

무분별한 기술 도입이 초래할 치명적 위험을 자각한 미국은 인공지능을 국방에 적용하는 데 엄격한 기준을 마련했다. 지난해 11월 발표된 미 국방혁신단(DIU)의 ‘책임성 있는 AI 실행지침’ 보고서는 인공지능 적용과 관련해 다섯 가지 원칙을 제시한다. 첫째, 인간이 AI의 개발 및 사용에 대한 책임을 유지한다. 둘째, 국방부는 AI 기능의 의도하지 않은 편향을 최소화하기 위해 신중한 조치를 취한다. 셋째, 국방부의 AI 기능은 데이터 소스, 설계 절차, 기술, 개발 프로세스 및 운영 방법을 추적 가능하도록 해야 한다. 넷째, 국방부의 AI 기능은 명확하고 잘 정의돼야 하며, 그 범위 안에서 안전, 보안 및 효율성을 보증해야 한다. 다섯째, 국방부는 AI 기능이 의도하지 않은 동작을 보여 주면 시스템을 해제하거나 비활성화할 수 있는 통제 능력을 갖추어야 한다. 이 다섯 가지 원칙이 준수되지 않으면 어떤 일이 일어날까? 통제되지 않는 새로운 대량살상무기 출현이다. 이 판도라의 상자를 발견한 조 바이든 대통령은 미군의 인공지능 도입에 대한 대통령 지침을 준비하고 있다.

이 과정은 핵무기 출현 과정과 유사하다. 1945년 핵무기가 처음 출현한 뒤에도 인류는 핵무기 통제 불능의 위험성을 제대로 자각하지 못하고 극심한 혼란을 겪었다. 미국은 대통령의 핵무기 사용 권한을 명확히 정의하지 못하고 터키나 독일의 미군 사령관에게 권한을 위임했다가 1962년 쿠바 미사일 위기로 핵전쟁 문턱에 가서야 위험성을 깨달았다. 존 F 케네디 전 대통령에게 가장 큰 짐은 소련이 아니라 자신의 통제 밖에 존재하는 군대였다. 미 국방부가 최근 중국을 압도하기 위해 인공지능과 기계 학습을 전면적으로 도입하겠다고 선언한 상황에서 케네디 전 대통령이 핵전쟁에 대해 품었던 반응과 유사하게 바이든 대통령은 모종의 위험을 자각하고 대비를 서두르고 있다.

인공지능을 활용한 군사작전이란 극초음속 미사일과 잠수함, 스텔스 전투기가 등장하는 매우 빠른 전장에서 인간의 느린 판단 능력을 기계로 보완한다는 얘기다. 윤 후보의 “북한의 핵미사일에 대한 선제타격”을 충족할 수 있는 무기는 현실적으로 인간보다 먼저 위험을 자각하고 신속하게 공격하는 자율 무기 외에는 다른 수단이 없다. 북의 미사일이 이동식 미사일 발사대에서 발사 조짐을 보이는 긴박한 순간에는 인공지능이 먼저 판단하고 드론과 전투기를 통제하도록 해야 선제타격이 가능하다. 강경한 대북 정책을 선호하게 되면 그만큼 인공지능의 유혹에 쉽게 넘어갈 수밖에 없을 것이다. 그러나 그것이 우리에게 어떤 위험을 초래하는지 면밀하게 성찰하지 않는다면 우리는 곧 기계에 통제되고 조종당하는 처지가 된다는 점을 각오해야 한다.