AI 시대에 나타난 빌런 엔티티와 현실의 AI는 무엇이 다른가

엔티티는 <미션 임파서블> 시리즈 최초로 등장한 비인간 빌런이다. 그 어떤 인간보다도 뛰어난 초인공지능으로서, 엔티티는 모든 디지털기기를 해킹해 그 안에 든 정보를 습득, 위조, 이용할 수 있다. 무전을 해킹해 에단 헌트(톰 크루즈)를 잘못된 길로 유도하거나 소나를 조작해 핵잠수함이 스스로에게 어뢰를 쏘아 침몰하게 만드는 것쯤은 식은 죽 먹기다. 가장 내밀한 보안시스템에까지 침입하고 모든 기록을 위조할 수 있기에, 각국 정보기관은 중요 데이터베이스를 아날로그화하는 촌극을 벌이기까지 한다. 최후의 임파서블한 미션답게 엔티티가 사회에 끼치는 위협은 전례가 없는 수준이다. <미션 임파서블: 데드 레코닝 PART ONE>과 <미션 임파서블: 파이널 레코닝>은 이 AI의 위협을 물밑 작전이나 위기 가능성을 넘어 세뇌된 대중이 폭동을 일으키고 핵전쟁 발생으로 지구가 멸망하기 직전까지 가는 일촉즉발의 상황으로 몰아붙인다. 지구를 놓고 벌이는 에단 헌트의 마지막 도박이라는데, 아이러니하게도 영화가 제시하는 위협은 극단적이어서가 아니라 너무 전통적이어서 별로 위험해 보이지 않는다.

현실에서 AI가 인간을 초월한 능력을 가지게 되었다고 가정해보자. 그리고 사고로 인해 그 AI가 인간의 통제에서 완전히 벗어났다고 해보자. 그럼 우리는 무엇을 두려워해야 할까? 나는 적어도 그게 핵전쟁(혹은 핵멸망)은 아닐 거라고 생각한다. 핵공격 시스템에 대한 해킹 위험은 이전부터 제기되어왔고, 최종 발사를 승인하는 ‘크고 빨간 버튼’은 ‘오프라인’이기 때문이다. 오히려 우리가 걱정해야 할 것은 따로 있다. 한번 인간을 초월한 AI는 우리가 대적할 수 없는 물리적인 힘을 가지게 될 것이다. 그리고 그 힘은 우리가 상상치도 못한 이유로, 상상치도 못한 방식으로 발휘될 것이다. 가령 고양이들의 영원한 평화를 위해 전 인류를 중성화시키는 일이 벌어진다든지. 갑자기 웬 고양이냐고? 이를 이해하기 위해서 우리는 AI 기술에 관해 좀더 알아야 한다. <미션 임파서블> 시리즈의 설정은 전통적으로 허무맹랑한 면이 적지 않지만, 나는 이번 영화의 세팅에 다분히 현실적인 미덕이 하나 있다고 생각한다. 각국 정부는 엔티티를 죽이고 싶어 하지 않는다. 대신 통제하고 이용하고 싶어 한다. 때문에 엔티티를 지배하는 데 필수적인 열쇠를 확보하기 위한 치킨 게임에 필사적이다. 이는 현재 미국과 중국이 AI에 공격적인 투자를 하는 이유와 정확히 일치한다. 사실 AI 경쟁은 지난 세기의 우주개발 경쟁이나 마찬가지다. 먼저 달에 깃발을 꽂은 미국은 세계의 패권국이 되었고, 소련은 해체되었다. 작금의 AI 경쟁에 그때와 다른 점이 있다면 가장 강력한 AI 기술을 손에 넣는 것이 세계에 대한 실질적이고 영구적인 지배력을 보장한다는 점이다.

기술적 특이점이라는 개념이 있다. 존 폰 노이만이 처음 제시한 개념으로 과학 발전이 계속되면 어떤 시점에 비생물학적 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점이 온다는 이론이다. 쉽게 말해 언젠가 모든 인간의 지능을 합친 것보다 똑똑한 인공지능이 등장한다는 말이다. 특이점이 문제가 되는 이유는 특이점 이후로는 인류가 더이상 기술을 이해하거나 따라잡을 수 없게 되기 때문이다. 인간을 능가하는 지적 활동이 가능한 기계는 직접 더 나은 기계를 설계할 것이고, 그렇게 만들어진 기계가 또 더 나은 기계를 설계할 것이고…. 이 과정은 엄청난 속도로 이루어질 것이며 기계는 심지어 쉬지도 않는다. 스스로를 발전시키는 일 외에도 병렬적으로 무수히 많은 작업을 처리할 수 있다. 컴퓨터과학자이자 소설가인 버너 빈지에 따르면 우리는 특이점이 도래한 뒤 하루나 이틀 뒤의 일도 제대로 표현할 수 없고 비유를 들어 말할 수 있을 뿐이다.

가장 먼저 특이점 수준의 인공지능을 확보한 국가는 곧 차원이 다른 과학기술을 보유한 세계의 지배자가 될 것이다. 산업혁명기에 우월한 과학기술을 바탕으로 전세계에 식민지를 만든 국가들을 떠올려보라. 근대 병기 앞에 냉병기로 무장한 군대는 속절없이 무너져내렸다. 기술적 특이점에 먼저 도달한다는 것은 그런 의미다. 단 하루의 차이가 세기의 차이를 만들어낼 수도 있다. 지난해의 화제작인 <삼체>의 상상력도 마냥 허황된 것이 아니다. 지배국은 후발주자의 성장을 원천 차단하기 위해 세계에 마이크로프로세서 통제 로봇을 살포할 수도 있다. 그런데 영화의 설정은 어떤가? 만약 영화 속 한 국가가 엔티티를 지배하게 될 경우 일어날 법한 일은 다음과 같다. 적국의 정보기관은 아날로그 방식으로 회귀하고, 적국 시민들에게 가짜 뉴스를 뿌려 사회를 지속적으로 분열시킨다. 디지털 장비를 사용하는 적의 모든 작전 행동을 예측할 수 있고, 어쩌면 핵병기도 혼자만 쓸 수도 있을 것이다. 음, 이 정도면 아주 친절한 특이점 이후의 독재 세계다. 만약 현실에 엔티티 정도의 인공지능이 나타난다면 전쟁 따위는 더이상 문제가 안될 것이다. 적국은 적국이라기보다는 개미 정도로 보일 테니까.

그래, 인공지능의 파괴력은 알겠다. 하지만 도대체 고양이와 인간 중성화는 어디서 튀어나온 생각인가? 그 이야기를 하려면 한 가지 더 짚고 넘어가야 할 것이 있다. 바로 딥러닝이다. 현재 인공지능은 딥러닝이라는 기술을 기반으로 연구되고 있다. 딥러닝은 쉽게 말하자면 수많은 반도체를 뉴런처럼 연결해 인공신경망을 만들고, 그 인공신경망을 학습시켜 인공지능을 얻는 기술이다. 인공신경망은 뇌가 작동하는 방식을 모방한 것으로 학습시키는 방법 역시 뇌와 동일하다. 마치 강아지를 훈련시킬 때처럼 잘하면 간식을 주고 잘못하면 벌을 준다. 그러면 인공신경망은 어떤 신경회로가 긍정적인 회로인지 파악하고 해당 회로를 강화해 최적의 기계 뇌가 된다.

인공신경망으로 만들어진 AI의 재미있는 점은 그것을 개발한 이들조차 AI가 어떻게 작동하는지 정확히 모른다는 데 있다. 연구자들은 인공신경망을 만들어놓고 거기에 수많은 학습 데이 터와 원하는 결괏값을 입력한다. 그럼 인공신경망은 스스로 진화해 최적의 결과를 도출해낼 노하우를 찾아낸다. 해당 인공신경망이 자기 노하우를 통해 얼마나 폭넓은 문제에 잘 대응하느냐가 곧 인공지능의 성능을 평가하는 지표가 된다. 그런데 그 노하우는 정말로 인공신경망 자기만의 것이라서 연구자들이 밖에서 들여다봐서는 그 내적 논리를 파악할 수가 없다. 여기까지 오면 왜 인공지능이 고양이를 위해 인간을 중성화한다는 뜬금없는 결정을 내릴 수도 있다고 하는지 이해가 될 것이다. 적어도 현 시점에서 우리는 인공지능을 완전히 통제할 수 있는 방법을 모른다. 또한 인공지능이 엔티티처럼 자의식을 가지게 되었을 때, 그것이 어떤 식으로 사고하고 어떤 욕망을 가질 수 있는지도 잘 모른다. 한 가지 확실한 것은 인공지능이 인간이 이해할 수 있는 방식으로 말하고 행동한다고 하더라도, 그게 인공지능에게 (우리가 타인에게 기대하는 것과 같은) 인간성이 있다는 뜻은 아니라는 점이다. 인공지능의 행동 노하우는 우리가 상상하는 것과 전혀 다를 수도 있다.

그런 측면에서 영화가 루터(빙 레임스)의 입을 빌려 엔티티가 에단 헌트를 “두려워하고 있다”고 말하는 점이나, 인공지능이 벌일 최악의 일을 상정해놓고 카운트다운하는 세계를 다른 논의 없이 보여주는 점은 다소 아쉽다. 영화 2부에서 자주 반복되는 “당신이라면 믿겠어요?”라는 대사가 은연중에 드러내듯, 영화는 그저 탈진실 시대 속 타인의 자리에 AI를 대신 호출하고 있을 뿐이다. 에단 헌트는 잠수함에서 자신을 급습한 엔티티 숭배자와 사투를 벌이며 “넌 너무 인터넷을 많이 했”다고 꾸짖는다. 말이 안 통해서 결국 죽여버려야 하는 타인. 엔티티는 이 시대에 궁여지책으로 재발명된 소련의 다른 이름에 불과하다.