핵무기만큼 인류 위협일 수 있는 AI
유엔, 국제 규제책 만드는 자문기구 가동
인류에 유용한 도구 되게 지혜 모을 때

올 들어 인공지능(AI)에 대한 관심이 크게 늘어나면서 AI를 바라보는 시각도 부쩍 다양해지고 있다. AI가 인류의 삶을 더욱 풍요롭게 해 주는 중요한 역할을 할 것이라는 기대의 시각이 적지 않다. 그런 반면 AI와 관련한 여러 부작용의 가능성에 주목하면서 적극적으로 대응해야 할 필요성을 강조하는 시각 또한 적지 않다. 나아가 AI 기술로 인해 장차 인류가 멸망에 이를 가능성이 있다고 주장하는 심각한 경고의 목소리도 나온다.

이런 다양한 시각을 배경으로 국내는 물론 세계 곳곳에서 AI에 대한 규율 체계를 모색하는 논의가 진행되고 있다. 개별 국가에서의 논의를 비롯해 경제협력개발기구(OECD)를 통한 것 등 여러 국제적 논의도 있다. 이런 흐름 속에서 최근 유엔에서도 논의가 본격적으로 시작되고 있다. 전 세계를 포괄하는 국제기구에서 논의가 시작된 만큼 귀추가 주목될 수밖에 없다.

유엔은 총 39명으로 구성된 고위급 AI 자문기구를 설치해 지난주 운영을 시작했다. AI 영역에 대한 규율 체계를 어떻게 마련하면 좋을지에 관한 보고서를 마련해 내년에 제출하는 것이 자문기구의 핵심 역할이다. 필자는 이 자문기구의 일원으로 참여하게 되는 기회를 얻었다.

글로벌 차원에서 AI에 대한 규율 체계를 마련하는 것은 많은 논의를 필요로 한다. 우선 기존의 몇몇 국제 규율 방식이 논의의 출발점이 될 수 있다. 흔히 언급되는 방식 가운데 하나는 국제원자력기구(IAEA)와 유사한 방식으로 국제기구를 설립해 강력한 집행력을 확보하는 것이다. IAEA가 언급되는 이면에는 어쩌면 AI가 핵무기에 버금갈 정도로 인류의 안전에 중대한 위협 요소로 작동할 가능성이 있다는 위기의식이 자리잡고 있는지도 모른다. 하지만 IAEA 모형을 AI 맥락에 직접 응용하기에는 여러 한계가 있다. 예를 들어 IAEA를 통한 규율에서는 핵물질이 함부로 군사용으로 사용되지 않도록 하는 감시장치의 작동이 중요한데, AI에 대한 규율과 관련해서는 핵물질에 상응하는 감시의 대상을 정하는 것 자체가 쉽지 않다. 또한 핵 개발의 주체는 국가나 공공기관이 보통인데 AI 개발의 주체는 흔히 민간기업인 것도 규율 체계의 설계에서 중요한 차이가 된다.

좀더 현실성 있는 대안으로는 국제민간항공기구(ICAO) 방식이 언급되기도 한다. 이 방식은 국제 논의를 통해 일종의 표준을 마련한 뒤 그 표준을 회원국들이 이행하도록 하는 것이다. 개별 국가들이 어느 정도의 유연성을 발휘하는 것이 가능한 동시에 모든 국가들에서 일관성 있게 충족돼야 하는 기준을 설정할 수 있다는 점이 이 방식의 중요한 특징으로 꼽힌다.

더욱 높은 수준의 유연성이 확보될 수 있는 방식으로는 기후변화에 관한 정부간 협의체(IPCC) 방식이 언급된다. 전문가들을 통해 정기적으로 현황 보고서를 마련하도록 하고 그것에 기초해 그 후속 작업으로 국제적 정책 논의가 진행되도록 하는 방식이다. 이와는 별개로 유럽입자물리연구소(CERN)가 언급되기도 한다. 국제적으로 협력해 여러 나라 연구자들끼리의 공동연구가 가능하도록 하고 이를 통해 정보와 지식을 공유할 수 있게 장려하는 것이 핵심이다.

다양한 국제기구가 참고로 언급되고 있는 것은 AI에 관한 국제 규율 체계의 모색이 아직은 초기 단계라는 의미이기도 하다. 언급된 것들 이외에도 다양한 방식이 참고로 더 제시될 수 있고 기존의 사례와는 무관하게 새로운 규율 체계를 고안하는 것도 물론 가능하다. 이번에 구성된 자문기구에는 다양한 배경을 지닌 다양한 구성원들이 참여하고 있다. AI가 인류에게 풍요로움을 안겨 주는 유용한 도구로 자리매김할 수 있도록 모두의 지혜를 모아 최선을 다해야 할 때다.