영화 ‘터미네이터’에는 인간을 뛰어넘는 파괴적인 인공지능(AI) 스카이넷이 나온다. 영화적 상상력이기는 하지만 터미네이터 때문에 인공지능에 대한 사람들의 거부감은 쉽게 사라지지 않고 있다. 이런 가운데 인간을 뛰어넘을 수 있는 강(强)인공지능의 시작을 알리는 기술이 개발됐다. 중국 칭화대, 중국 AI기업 링시테크놀로지, 베이징사범대, 싱가포르 국립기술디자인대(SUTD), 미국 캘리포니아 샌타바버라대 공동연구팀은 신경과학 기술과 컴퓨터 과학 기술을 결합시킨 하이브리드 AI칩을 개발하고 그 결과를 1일자 ‘네이처’에 발표했다. AI 개발은 사람의 뇌를 모방하려는 신경과학적 접근법과 컴퓨터 기계학습 알고리즘을 수행하는 컴퓨터과학적 접근법에 따라 이뤄진다. 이번에 개발된 하이브리드 AI칩이 장착된 자율주행 자전거는 사람의 음성명령과 자전거에 타고 있는 사람의 미세한 움직임, 카메라와 각종 센서로 인식되는 외부환경을 종합적으로 판단해 장애물을 피하거나 돌발상황에 대처하는 한편 사람을 천천히 따라가는 데 성공했다. 연구팀은 이번 하이브리드 AI칩 개발로 흔히 강인공지능으로 불리는 ‘범용인공지능’(AGI) 개발에 한발 더 다가서게 됐다고 판단하고 있다. 현재 AI 기술은 알파고처럼 특정 임무만 수행할 수 있는 약인공지능 수준이지만 AGI는 사람처럼 주어진 모든 상황에 대해 생각하고 학습할 수 있을 뿐만 아니라 창작도 가능한 것으로 알려져 있다. 한편 구글 딥마인드, 영국 런던대(ULC), 런던대 병원, 미국 유타대, 네바다대 의대 공동연구팀은 급성 신장 손상을 사전에 예측할 수 있는 AI 기술을 개발했다고 밝혔다. 이 같은 연구 결과는 세계적인 과학저널 ‘네이처’ 1일자에 실렸다. 연구팀은 2011년 10월부터 2015년 9월까지 미국 내 보훈병원 130곳을 찾은 18~90세 환자 70만 3782명에게서 얻은 63억 5294만 5637개의 증상을 AI에 심층학습시켰다. 이렇게 학습된 AI로 급성 신장 손상으로 투석치료가 필요한 환자를 48시간 전에 90.2%까지 예측하는 데 성공했다. 의사의 경험과 표준모니터링 매뉴얼로 급성 신장 손상을 예측할 수 있는 확률은 55.8%에 불과했다. edmondy@seoul.co.kr

슈퍼인텔리전스/닉 보스트롬 지음/조성진 옮김/까치/548쪽/2만 5000원 지난해 7월 미국 뉴욕에서 열린 AGI(강인공지능)·ASI(초인공지능) 국제학회. AGI 개발을 지지하는 한 과학자가 AGI 개발 중단을 촉구하는 발제에 “어떻게 일어나지도 않을 그런 바보 같은 주제를 연구할 수 있느냐”고 반박한다. 그 과학자는 “인간들이 좀더 똑똑해지면 돌아오겠다”며 학회장을 박차고 나가버렸다. 미래학자 정지훈 경희사이버대 교수의 현장 목격담이다.인공지능(AI)이 구현할 인류의 미래 전망은 첨예하게 엇갈린다. 손정의 소프트뱅크 회장 같은 이는 지난 2월 스페인 바르셀로나의 ‘모바일 월드 콩그레스(MWC) 2017’ 기조연설을 통해 “30년 내 인간의 뇌를 능가하는 슈퍼 인텔리전스(초인공지능)가 등장하고 인류 문명을 위협하는 감염병, 핵전쟁 등의 위험을 막는 해결책이 될 것”이라고 역설했다. 그 반대 지점에는 인류 존재에 대한 디스토피아적 관점이 있다. 대표적 인물이 영국 옥스퍼드대 인류미래연구소장인 닉 보스트롬이다. 그가 2014년 출간한 ‘슈퍼인텔리전스-경로,위험,전략’은 AI에 대한 세계적 논의의 기폭제가 된 책으로 꼽힌다. 빌 게이츠가 AI의 미래를 전망하기 위해 반드시 읽어야 할 책으로 꼽아 화제가 됐다.저자는 AI 중에서도 ASI 출현 이후의 미래상에 초점을 맞춘다. 당대 인류가 놀라워하는 AI는 ‘ANI’(Artificial Narrow Intelligence·약인공지능)이다. 이 수준만으로도 이미 체스, 오셀로, 바둑 등 인류 고유의 두뇌 게임에서 인간을 뛰어넘었다. 과학계가 개발에 집중하는 AI는 그보다 월등한 ‘기계 두뇌’ AGI와 ASI다. 책의 관점은 인류 손으로 만든 ‘초지능’적 존재를 통제할 기회는 단 한 번뿐이며, 그 기회를 잡기 위해 인류가 할 수 있는 일들이 무엇이냐는 데 있다. 저자는 기존 학계 용어인 ‘싱귤래리티’(기술적 특이점) 개념이 아닌 ‘지능 대확산’이라는 개념으로 기계지능 혁명에 접근한다. 인류 전 개체의 지능지수 분포도에서 ‘동네 바보’와 ‘아인슈타인’의 지능 차이는 대단하지 않은 것처럼 여겨진다. AI 역시 그렇다. 쥐에서 침팬지 수준으로 나아가더라도 여전히 멍청하다고 여기지만, 동네 바보와 아인슈타인 사이의 아주 좁은 간격을 넘는 순간 급작스럽게 도약하게 될 것이라는 설명(인공지능 이론가 엘리저 유드코프스)이다. 저자에 따르면 초지능의 개발 경로는 인간 뇌를 모형화하는 ‘전뇌 에뮬레이션’, 인위적으로 인간 지능 자체를 높이는 ‘반복적인 배아 선별 기술’, 인간과 기계의 결합인 ‘사이보그화’ 등 세 갈래다. 이들 방식 모두 인간을 매개로 한다는 점에서 초지능의 창조주는 단연코 인류다. 초지능의 출현은 그 속도 면에서 빠른 도약이든 중간 속도의 도약이든 차이는 있을지언정 도약 자체는 의심하기 어려워 보인다. 이 대목에서 고민할 지점은 초지능이 인간 집단의 지지를 얻어 스스로 지능을 강화하든, 역으로 해킹을 통해 인류가 가두어 둔 ‘모래상자’를 탈출하든, 인류에 대해 협조적이고 윤리적이겠냐는 측면이다. 책에 예측된 복잡한 시나리오를 보면 분명한 건 ‘잠재적 위험’의 존재다. 초지능이 지구 모든 생명체의 미래를 좌지우지할 가능성, 즉 ‘존재적 재앙’을 일으키지 않을 것이라고 믿을 상당한 근거는 없다고 저자는 지적한다. 단순한 예를 들면 이것이다. 인간은 초지능의 최종 목표로 “인류가 행복해지도록 하라”라고 프로그래밍한다. 초지능은 “인간 뇌의 쾌락 중추에 전극을 이식해 자극한다”로 과제를 수행한다. 이는 인간이 초지능에 기대하는 최종 목표가 알고리즘상에서는 다른 방식으로 얼마든 왜곡될 수 있다는 점을 가리킨다. 이 밖에 하나의 초지능만 개발되는 게 아니라 여러 초지능이 동시 다발적으로 개발될 가능성, 다수의 서로 목표가 상충하는 초지능 간에 일어날 수 있는 결말도 다룬다. 저자의 우려는 극단적으로 여겨지거나 편향적이라는 공격을 받을 수 있다. 하지만 인공지능에 대해 낙관하며 인류의 미래를 기계에 의존하기에는 불안한 게 사실이다. 닉 보스트롬은 “초지능은 현재 준비되지 않은, 한동안 힘겨운 목표이긴 하지만 인간은 폭탄을 가지고 노는 작은 어린아이들 같은 존재이며, 언제 폭발이 일어날지조차 거의 예측이 불가능하다”고 말한다. 문제는 “폭탄을 손에 쥔 아이는 한 명이 아니라 다수이며, 몇몇 바보 같은 녀석들이 무슨 일이 벌어질지 보려고 점화 버튼을 누를 수 있다”(456~457쪽)는 것이다. “이 책을 쓰는 것 자체가 상당히 어려웠다”는 저자의 말마따나 현재의 첨단 기술과 각종 가설, 철학적 사유와 도덕률이 얽혀 읽기는 쉽지 않다. 하지만 저자의 사유와 통찰, 그리고 기술적 관점의 신중함은 경이롭고 탁월하다. 안동환 기자 ipsofacto@seoul.co.kr

구글의 인공지능(AI) 알파고가 바둑 최고수 이세돌 9단을 두 판 내리 꺾은 사건은 제4차 산업혁명의 문턱에 선 인류에게 세기적 질문을 던졌다. AI는 종국적으로 과연 어떤 모습으로 인류 앞에 설 것인가, AI가 만들어 낼 문명은 과연 인류 모두가 행복할 유토피아인가, 아니면 인류 전체를 재앙으로 몰아넣는 디스토피아인가. 알파고가 던진 이 거대한 질문(Big Question)에 대해 과학기술정보 전문가와 인문사회학자 7명의 지상 좌담을 통해 해법을 모색해 본다. 좌담에는 포스트휴머니즘 분야 전문가 신상규 이화여대 이화인문과학원 교수, 과학기술윤리 문제를 전공한 이중원 서울시립대 철학과 교수, 학문의 경계를 넘나드는 노마디즘 철학자 이진경 서울과학기술대 사회학과 교수, 빅데이터 분석 전문가 장덕진 서울대 사회학과 교수, 사회연결망 분석 전문가 정민수 동덕여대 보건관리학과 교수, 의학 박사이자 정보기술 전문가인 정지훈 경희사이버대 IT디자인융합학부 교수, 정보사회학 전문가 최항섭 국민대 사회학과 교수가 참여했다. AI는 인간의 생각·지식 집약된 작품일 뿐 ●정민수 교수 구글이 만든 학습 알고리즘이 정말 대단하다는 인상을 받았다. 보통 정보학 분야에서는 ‘자료→정보→ 지식’의 순차적인 구조를 강조한다. 즉 자료가 모여서 정보가 되고, 그것이 또 한 단계 고양된 것이 지식이다. 그런데 알파고는 단지 빅데이터를 가진 컴퓨터가 아니라 데이터에서 정보를 끌어내고 이를 지식으로 활용하는 모습을 보였다. 인공지능 컴퓨터와 인간이 서로의 생각을 나눌 날도 머지않은 것 같다. ●최항섭 교수 인공지능이 인간의 한계를 뛰어넘게 해 줄 것인지, 아니면 속박할 것인지의 기로에 서 있는 셈이다. 많은 사람들이 이 9단을 응원했던 것도 그를 통해 인간 존엄과 자유를 지키고 싶었기 때문일 것이다. ●장덕진 교수 이 9단의 패배에 많은 분들이 충격을 받았다고 하던데, 개인적으로는 그다지 놀랍지 않았다. 인공지능의 학습 속도는 일반인들 생각보다 훨씬 빠르다. 그리 멀지 않은 미래에 인공지능이 인간을 압도하는 날이 올 것이라고 생각했다. ●이진경 교수 이 9단의 패배가 인간의 패배를 의미하는 건 아니라고 본다. 앞으로 닥쳐올 기계와 인간의 싸움을 두려워할 필요가 없다. 여전히 시선은 인간에 두어야 한다. 이번 대국은 이세돌과 인공지능의 대결이 아니라 ‘알파고’라는 결과물을 만들어 낸 인간 지성 집단과 이세돌의 싸움이었다. 물론 그 중심에 인공지능이라는 기술이 있지만 인공지능은 결국 인간의 생각과 욕망, 지식이 집약된 작품에 불과하다. ●이중원 교수 달리 생각한다. 인간은 ‘깊이 생각한다’(호모 사피엔스)는 점에서 동식물뿐 아니라 기계 같은 인간이 만든 피조물과는 현격하게 다른 존재다. 인간처럼 생각하는 인공지능이 나온다면 인간의 정체성이 흔들리고 말 것이다. 인단 대체하는 기계, 새 양극화 초래할 것 ●최항섭 교수 인공지능이 창의력이나 감정과 같은 인간 고유의 영역까지 넘보면서 기계에 밀려난 개인은 점차 소외될 것이다. 기계가 인간을 대체할수록 개인은 점차 설 자리를 잃어 가는 대신 이런 기술을 소유·개발하는 기업은 몸을 부풀리며 새로운 형태의 양극화를 불러올 수 있다. ●이중원 교수 이미 애플의 앱 ‘시리’ 때문에 지난 10년간 영국에서 12만명이 직업을 잃었다. 지난해 말 미국 국방부의 군인 5명은 킬러로봇을 이용해 5년간 평균 1만명을 죽였다고 양심선언을 한 바 있다. 결국 인공지능 킬러로봇까지 등장할 수밖에 없을 것이다. ●정지훈 교수 영화 ‘터미네이터’에 나오는 스카이넷 같은 걸 보면서 인공지능이 인류를 파멸로 이끌지 모른다고 우려하기도 하는데 사실 기우라고 말하고 싶다. 인공지능에는 ‘강(强)인공지능’과 ‘약(弱)인공지능’이 있다. 약인공지능은 알파고처럼 특정한 영역에서 인간이 지시한 업무를 처리하는 인공지능을 말한다. 협의의 이런 인공지능은 도구일 뿐이다. 소달구지를 대신한 트랙터에 비유할 수 있다. 잘 사용하면 괜찮은 도구다. ●정민수 교수 누가 이기느냐 하는 승부와 상관없이 앞으로 인간이 인공지능을 이길 수 있는 분야가 줄어들 것이라는 것은 분명해 보인다. 손발 역할을 하는 컴퓨터를 제어하는 인간의 역할에 대한 성찰이 필요하다. 인공지능, 도구 아닌 주체적 행위자로 등장 ●신상규 교수 한 시대는 당대의 중심이 되는 기술에 좌우된다. 바퀴의 발명으로 시작한 농경사회나 엔진의 등장으로 시작된 산업혁명이 그 예다. 지금까지의 모든 기술이 물리적인 힘을 다뤘다면, 인공지능은 추상적인 정보를 다룬다는 점에서 새로운 혁신이다. 정보를 다루는 기술의 특징은 독립성이다. 정보를 통제하는 인공지능이 도구가 아닌 주체적인 행위자로 등장하게 된다는 뜻이다. 정보는 특성상 자가 증식이 가능하기 때문이다. 결국 더이상 인간이 유일한 판단의 주체일 수 없다는 얘기가 된다. ●정민수 교수 컴퓨터가 프로그래밍 안 되는 걸 딜레마 상황이라 한다. 가령 인공지능이 기차를 운행한다고 하면 철로에 쓰러진 사람을 구하기 위해 승객들을 위험에 빠뜨릴지 말지 결정할 수가 없다. 그런 선택지는 프로그램으로 해결할 수 있는 문제가 아니기 때문이다. 인간은 어떻게든 딜레마를 풀려고 하지만 컴퓨터는 그게 안 된다. 인공지능과 로봇이 아무리 뛰어나더라도 그걸 제어하는 건 사람의 몫이다. 기술의 속도 조절할 국가·제도 역할 중요 ●이중원 교수 인공지능의 등장은 침팬지와는 전혀 다른 차원의 문제다. 침팬지는 사람이 진화하기 전 단계의 존재일지 모르나, 진화된 인공지능은 생각하고 말하고 표현하는 능력을 갖추게 된다. 미래에는 인공지능이 인간을 대체할 수 있다는 뜻이다. 단순한 수준에서 인간도 태양에너지를 기반으로 하는 세포들의 집합체인 셈이다. 인공지능의 진화는 생명에 대한 정의까지 복잡하게 만들 것이다. 미래의 인공지능을 별도의 존재자로 인정하게 된다면 인공지능은 개발의 대상이 아니라 공존의 대상이 될 것이다. 이제는 기술 개발의 속도전에 제동을 걸고, 활용 가능한 영역을 명확히 해야 한다. 우선 인공지능을 정의할 범주부터 정해야 한다. ●최항섭 교수 문제는 구조적인 흐름 앞에 개인이 반발해 본들 기술의 편의를 거부할 수 없다는 점이다. 기술의 발전이 갖는 위험성을 인지하면서도 동시에 그 혜택을 누리고 길들여지는 것이다. 점차 기술 만능의 사회에 종속될 때 인간은 과연 자유로운 존재가 될 수 있을까. 기술의 수용은 반드시 인간이 전제돼야 한다. 이런 맥락에서 인간의 자유를 위해 기술 확장의 방향과 속도를 조절할 국가와 제도의 역할이 중요해질 것이다. ●신상규 교수 스스로 판단해 운행하는 자동항법장치 등 이미 독립적인 기계는 우리 삶에 들어와 있다. 다만 이 기술에 어느 정도의 자율성을 부여할지에 대해서는 아직 인간이 칼자루를 쥐고 있다. 인공지능과의 공존을 앞두고 인간적인 성찰이 중요해지는 이유다. 그동안의 학문은 기계를 사유의 범주에 두지 않았다. 그러나 이제는 사회·문화·철학 등 여러 각도에서 인공지능을 어떤 위치에 세울 것인가 고민해야 한다. 이젠 인간이 어떤 기계 만들지 고민해야 ●이진경 교수 선(善)을 대변하는 인간과 악(惡)을 대변하는 기계의 대결이라는 이분법적인 시각에서 벗어나야 한다고 본다. 기계 안에는 이미 수많은 인간들이 들어 있기 때문이다. 오히려 인간끼리의 선악 대결의 연장이라고 보는 게 맞을 거다. 결국 우리가 스스로에게 던져야 할 질문은 ‘기계가 인간을 지배할 것인가’가 아니라 ‘인간은 어떤 기계를 만들 것인가’가 돼야 한다. ●정지훈 교수 과학기술은 결국 도구다. 이 도구가 가진 특성을 이해하고 그걸 어떻게 이용할지를 가르치는 교육이 그래서 중요하다. 그런 점에서 지금의 교육은 시대 변화를 따라가지 못하고 있다. 미국에서는 이미 국방부 연구개발 부문을 담당하는 방위고등연구계획국(DARPA)에서 로봇·인공지능의 도덕과 인공지능에게 자율성을 부여할지 여부 등을 연구하고 있다. 심지어 할리우드 극작가 협회에서 기금을 조성해 2012년부터 ‘WE! ROBOT 콘퍼런스’를 해마다 개최한다. 법학, 사회학, 공학 등 다양한 분야 연구자들이 모여 인간과 공존하는 인공지능 사회의 헌법과 판례, 제도 등에 대한 토론을 벌인다. 두려워하기보다는 받아들일 준비를 적극적으로 해야 한다. 인문학은 중요하다. 하지만 단순히 중요하다고 외치는 데 그치면 안 된다. 인문학자들이 현대과학에 대해 더 많이 알아야 한다고 조언하고 싶다. 현대 과학기술 진보에 대해 이해도 못 하면서 인문학적으로 성찰한다는 게 무슨 의미가 있는지 의문이다. 두려움보다 받아들일 준비를 해야 한다 ●장덕진 교수 지금 교육은 기존 지식을 더 많이 더 빨리 외우도록 해 그 결과를 칭찬하고 보상한다. 하지만 그런 건 이제 인공지능과 로봇이 대체해 가고 있다. 기존에 한 번 배운 걸 적용하는 건 기계가 대신할 수 있는 시대가 도래했다. 시대 변화에 대응하는 미래세대를 키우기 위해서는 교육 제도와 방법을 하루빨리 바꿔야 한다. 가르치는 방식과 배우는 방식을 모두 바꿔야 한다. 자기 스스로 학습할 수 있는 능력을 가르치고 키워야 한다. 강국진 기자 betulo@seoul.co.kr 이성원 기자 lsw1469@seoul.co.kr 김희리 기자 hitit@seoul.co.kr