컨텐츠 바로가기[Skip to contents]
HOME > Magazine > 영화읽기 > 진중권의 이매진
[진중권의 이매진] 게임이론과 합리성

<뷰티풀 마인드>의 존 내시의 예로 보는 실재와 망상의 경계

“형태(shape)를 하나 꼽아봐요.” “예?” “동물이든 뭐든, 아무거나.” “좋아요. 우산이오.” 잠시 눈으로 밤하늘의 별밭을 더듬더니, 내시는 알리샤의 등 뒤로 돌아가 그녀의 손을 잡아 밤하늘의 한쪽 구석으로 이끈다. 그의 손이 이끄는 대로 시선을 따라 옮기니, 별밭의 혼돈 속에 문득 우산 모양의 별자리가 나타난다. 경외에 가득 눈으로 파트너를 바라보는 알리샤. 부드러운 미소를 띠면서 말한다. “다시 해봐요.” “좋아요. 이번엔 뭐죠?” “문어.”

별자리 짜기

신이 인간을 서서 걷게 한 것이 별을 보게 하기 위함이라고 했던가? 인간이 처음으로 밤하늘을 쳐다보았을 때, 그저 무수하게 널린 별들의 혼돈(chaos)만을 보았을 것이다. 하지만 그들은 마음속의 선으로 별들 사이를 이어가며 땅에 사는 것들의 이미지를 그려냈다. 하늘 전체가 남김없이 별자리들로 가득 찼을 때, 밤하늘은 드디어 질서 잡힌 조화(cosmos)로 변모했고, 혼돈 속을 항해하던 원시인들의 시선은 비로소 하늘의 바다에서 방향을 잡을 수 있었다.

과학적 이성은 원래 패턴을 발견하는 미학적 상상력에서 나왔을지도 모른다. ‘법칙의 발견’이란 곧 혼돈스런 자연현상에서 반복되는 질서를 찾아내는 게 아닌가. 과학에서 가설의 수립은 어떤가? 그 역시 관찰된 요소들 사이에 인과(因果)의 선을 이어 미지의 영역의 지도를 그려내는 상상력의 문제다. 위대한 과학적 발견은 종종 논리적 추론이 아니라 영감의 형태로 이루어진다. 그리하여 과학에도 상상력이 필요하다. 즉 정신도 위대하려면 동시에 아름다워야 한다.

“뭐해요?” 환상 속의 소녀가 내시에게 묻는다. 마침 그는 잡지를 펼쳐들고 그 안에 숨어 있는 암호통신을 찾던 중. “반복되는 패턴(patterned recurrences)을 골라내고 있단다.” 코드 브레이커의 작업 역시 문자열의 혼돈에서 규칙적으로 반복되는 패턴을 찾아내는 것. 그렇게 찾아낸 패턴은 객관적 실재일 수도 있다. 하지만 동시에 그것은 한갓 주관적 구성에 불과할 수도 있다. 가령 내시가 밤하늘에서 찾아낸 우산이 설마 객관적으로 존재하는 실체겠는가?

게임이론과 내시 균형

프린스턴대학원 시절의 논문으로 45년 뒤 그는 노벨 경제학상을 받는다. 영화는 그가 논문의 발상에 도달하는 계기를 이렇게 묘사한다. 바에 금발의 미녀가 들어온다. 누군가 애덤 스미스를 원용하며 그녀를 놓고 경쟁을 하자고 제안하자, 내시가 반박한다. 모두가 달려들면 서로 길을 막다가 아무도 그녀를 잡을 수 없고, 딱지맞고 뒤늦게 그녀의 친구들에게 가봤자 꿩 대신 닭이 되려는 여자는 없을 터. 그러니 차라리 미녀를 포기하고 그녀의 친구들에게 가는 게 전체를 위해 최선의 선택이라는 것이다.

“애덤 스미스가 말하기를, 최선의 결과는 집단 속의 개개인이 자기 자신만을 위해 행동하는 데에서 온다, 맞지?” “그게 완전한 답 아니야?” “아니지. 불완전해. 왜냐하면 최선의 결과는 집단 속의 개개인이 자기 자신만이 아니라 또한 집단을 위해 행동할 때에 나오기 때문이야.”

언뜻 들으면 이기심을 버리고 전체를 위해 행동해야 한다고 말하는 듯하다. 하지만 내시가 반박하는 것은 ‘개인이 각자 이기적으로 행동한다’는 가정이 아니다. 그 역시 각 행위 주체가 전체를 고려하지 않고 오직 자신만의 이익을 고려하여 행동할 거라는 애덤 스미스의 가정을 공유한다. 단지 그 이기적 선택들이 전체에게 늘 최선의 결과를 낳는다는 생각만 거부하고 있을 뿐이다. ‘수인의 딜레마’가 보여주듯이, ‘내시 균형’이 언제나 사회적으로 가장 효율적인 상태는 아니다.

비협조적 게임

오늘날 ‘내시 균형’에 대해서는 여러 반론이 제기된다. 예를 들어 A와 B가 있다고 하자. 10달러의 돈이 있고, 그 돈을 분배할 권리를 A가 쥐고 있다. 두 사람이 합의에 실패하면 아무도 돈을 못 받는다. 그럼 A는 B에게 얼마를 줄까? A는 가능한 한 많이 가지려 할 테고, B로서는 1달러라도 받는 게 아예 안 받는 것보다는 이익이다. 따라서 게임은 B가 1달러를 주겠다는 A의 제안을 받아들이는 것으로 균형에 도달할 것이다. 그런데 실제로 그럴까?

실험경제학에 따르면, 이 게임에 참가한 이들은 대부분 상대에게 5달러를 제안했다고 한다. 또 2달러 이하를 주겠다는 제안에는 대다수 실험자들이 차라리 돈을 포기함으로써 상대 역시 돈을 못 받게 하는 전략을 구사했다. 수학적으로 증명이 끝난 문제인데, 왜 실제로는 반대의 결과가 나오는 걸까? 그것은 내시 균형의 바탕을 이루는 ‘이기적 인간’이라는 전제 자체가 잘못됐기 때문이다. 한마디로, 인간의 행동은 이기심만이 아니라 이타심에서 나오기도 한다는 얘기다.

이미 1950년대에 비슷한 실험이 있었다. 당시 내시는 냉전기에 미소의 전략을 연구하던 기관(RAND)에 있었다. 그의 이론의 적합성을 시험하기 위해 연구원 비서들을 상대로 실험을 했단다. 내시의 이론에 따르면 비서들이 자기의 이익을 위해 서로 모함하는 것으로 균형에 도달해야 한다. 하지만 실험에 참가한 비서들은 거꾸로 공동의 이익을 위해 서로 협조하는 모습을 보였다. 황당한 것은 이 실험의 결과를 보고 그들이 내린 결론. ‘비서들이 직무에 적합하지 못하다.’

냉전, 그리고 망상적 분열증

그럼에도 내시의 이론이 받아들여진 데에는 이유가 있다. 중국의 공산화, 한국전쟁의 발발, 소련의 핵무기 개발. 두 체제간의 대립은 세계를 극도의 불안에 빠뜨렸고, “국무부에 200여명의 공산주의자가 있다”는 매카시의 선동은 미국사회 전체를 불신으로 몰아넣었다. 만인이 만인을 의심해야 하는 시대. 불신의 시대에는 역시 개개인이 생존을 위해 차라리 상대를 의심하는 길을 택하리라 가정하는 내시의 ‘비협조적’(non-cooperative) 게임이론이 적합하다.

생존의 공포에서 비롯한 이 집단 히스테리는 1959년 그의 의식으로 들어가 망상적 분열증(paranoid schizophrenic)의 원천이 된다. “우리 대학 MIT의 스탭들, 이후에는 보스턴의 모든 이들이 나에게 이상하게 행동했다. 도처에 비밀 공산당원들의 존재가 보이기 시작했다.” 그의 자서전은 “민망함을 피하기 위해” 망상의 자세한 내용은 생략하고 있으나, 영화에서는 극좌파 조직이 미국에 휴대용 핵무기를 반입하기 위해 잡지를 통해 암호문을 주고받는 것으로 설정된다.

흥미로운 것은 그 망상이 패턴을 찾아내는 뛰어난 상상력의 산물이라는 점. 그의 말대로 “수학과 광기 사이에 직접적 연관이 있다고는 할 수 없지만, 위대한 수학자들이 광기의 특성, 망상증과 분열증으로 고통받는다는 데에는 의심할 여지가 없다.” 수학엔 상상력이 필요하나 거기엔 부작용이 따른다. 그리하여 노벨상 후보의 상태를 살피러 온 이에게 내시는 말한다. “정신의 다이어트처럼 특정한 욕망을 자제하고 있지요. 가령 패턴에 대한 욕망, 상상하고 꿈꾸는 욕망 말이지요.”

정신의 다이어트

학자로 살기 위해 그는 패턴의 욕망을 자제해야 했다. 하지만 이 정신의 다이어트에도 부작용은 따르는 모양이다. 자서전에서 그는 이렇게 항변한다. 문제는 “사유의 합리성이 한 사람이 우주와 맺는 관계에 대한 생각을 제한한다는 것이다. 예를 들어 조로아스터교를 안 믿는 이들은 차라투스트라가 그저 순진한 사람들을 꼬드겨 불을 숭배하게 만든 미친 놈이라 생각할 것이다. 하지만 ‘광기’가 없었다면, 그는 아마 그냥 살다가 잊혀진 수많은 사람들 중 하나로 그쳤을 것이다.”

상상력이 풍부하던 시대에는 유사성이 곧 동일성의 증거가 됐다. 그런 시대의 마지막 인물은 아마도 돈키호테일 것이다. 그의 눈에 풍차는 거인으로, 양떼는 군대로, 여관집 딸은 귀부인으로 보였다. 상상력은 이렇게 존재하지 않는 것까지 마치 실재하는 양 표상으로 삼곤 한다. 이 때문에 합리주의의 아버지 데카르트는 이성적 존재가 되려면 되도록 상상력을 멀리하라고 가르쳤다. 하지만 그의 믿음과 달리, 합리주의의 결정체인 수학에서조차 상상력은 결정적 역할을 한다.

실재와 망상의 경계는 생각보다 뚜렷하지 않다. 가령 마르크스의 정치경제학은 실재인가, 가상인가? 프로이트의 정신분석은 사실인가, 허구인가? 심지어 우리가 실재라 굳게 믿는 물리학이론조차 실은 모형에 불과하다. 그리고 모형을 구성하는 것 역시 상상력의 소관이 아닌가. 이른바 ‘실재’란 혹시 모든 사람들이 그렇게 부르기로 합의한 허구에 불과한 게 아닐까? 그리하여 내시처럼 묻고 싶어진다. “무엇이 이성인지 누가 규정하지?”

관련영화