지난 10월 27일, CJ문화재단에서 주관하는 신진 작가 기획개발 프로그램 스토리업(STOTY UP) 행사의 일환으로 뇌과학자 정재승 교수의 ‘영화로 보는 인공지능’ 특강이 CGV용산에서 열렸다. 장장 3시간에 걸쳐 진행된 이날 행사의 1부에서는 정재승 교수가 인공지능 기술의 역사 전반에 대해 개괄적으로 소개했고, 2부에서는 김혜리 기자의 진행으로 참석자들과 함께 실제 인공지능을 영화화할 때 고려해야 할 요소들에 대해 이야기를 나눴다. 미래의 기술로 인해 우리 사회는 어떻게 달라질 것이며, 영화는 달라질 미래 사회를 어떻게 표현해야 할까. 한편, 스토리업 특강은 최신 트렌드를 반영한 다양한 소재를 발굴하여 신인 스토리텔러 및 예비 창작자의 참신한 스토리 기획과 완성도 높은 스토리 구현에 기여하기 위한 전문토크 프로그램으로, 이후 이수정 교수의 ‘영화로 보는 인격장애’(11월 17일), 김복준 한국범죄학연구소 연구위원의 ‘영화로 보는 강력범죄’(12월 16일)까지 이어질 예정이다.

김혜리_ 정재승 교수는 <물리학자는 영화에서 과학을 본다> <뇌과학자는 영화에서 인간을 본다> 등의 저서를 통해 영화에 관해서도 많은 관심을 보여왔다. 인공지능을 소재로 이야기를 창작할 때 갖게 될 여러 궁금증에 대한 이야기를 나눠보고자 이 자리에 모셨다. 첫 번째로 이야기 하고 싶은 것은 인공지능을 대하는 인간의 윤리 문제다. 최근 할리우드영화에서도 자주 접하는 문제인데 만약 인공지능이 지각과 판단, 예측능력을 갖추고 고통까지 느낀다면 이들을 얼마나 존중해야 할까. 예전에 정재승 교수가 영화 <인사이드 아웃>(2015)에 대해 이야기할 때 “공감은 이성의 영역이다”라고 말씀하신 적 있다. 그렇다면 인공지능은 감정이 없다고 확인할 수 있을까. 드라마를 만들어가는 입장에서는 이런 질문이 흥미로울 것 같다.

정재승_ 인간이 어떤 존재를 자신과 유사한 존재로 대할 것인지 말지를 결정하는 문제의 핵심은 공감 여부다. 예를 들어 우리는 잘 모르는 나라의 정치적 이슈에 대해 냉담하다. 하지만 사랑스러운 개가 죽으면 슬퍼한다. 우리가 그 대상에 대해 얼마나 많은 것을 알고 있는지가 윤리에 영향을 끼친다. 상대방의 입장을 이해하는 인지적 과정을 마음 이론이라고 부르는데 상대방의 입장이 되어 이해하게 되면 감정은 자연스럽게 따라온다.

김혜리_ 그것이 인공지능을 향해서도 발생할 수 있을까?

정재승_ 감정이란, 제한된 단서 속에서 슬픔, 놀람, 위험 등 6가지 상황을 판단하는 판단 체계다. 감정이 있는 것처럼 보이게 하는 건 어려운 일이 아니다. 공감 능력이 인지적 과정이라면 동물이나 인공지능을 향해 우리가 공감을 하고 그것이 그에 맞는 적절한 리액션을 하게 만드는 건 충분히 가능하다. 사실 굉장히 많은 사람들이 공감 능력이 현저히 떨어진 채로 살아간다. (웃음) 그런데 프로그램이 인간보다 더 공감을 잘해준다? 사람과의 관계 맺기보다 인공지능과의 관계 맺기가 더 쉬워질 수 있다. 두 번째로 살펴볼 점은 우리가 상대의 감정을 읽을 때 상상을 동원한다는 점이다. 반려동물과 관계가 좋은 이유는 사람이 개의 생각너머를 헤아려서 사람처럼 대하기 때문이다. 그렇다면 인공지능과의 관계에서는 어떨까. 여기서 생기는 여러 갈등 상황이 영화적 소재라고 생각한다.

김혜리_ 결국 윤리적인 문제는 객관적으로 인공지능이 얼마나 인간과 가까운 형상을 띠는지가 아니라 우리의 인식의 문제인 것인가.

정재승_ 그렇다.

김혜리_ 그럼 반대로 <터미네이터> 시리즈의 스카이넷처럼 인공지능 로봇들이 인류를 절멸시켜야 하는 존재로 선포하는 문제는 어떤가. SF 작가 아이작 아시모프가 만들어낸 것이긴 하지만 로봇의 첫 번째 원칙인 ‘로봇은 인간에게 해를 끼쳐서는 안 되며 위험에 처한 인간을 방관해서는 안 된다’라는 것을 두고 빅데이터를 분석한 로봇이 인간을 지구를 망가뜨리는 존재라고 판단하면 지구를 위하는 길이 곧 인류를 위한 것이라며 인간을 공격할 수도 있을 텐데.

정재승_ 그럴 수도 있지만 쉽지는 않을 거다. 조만간 인류는 자율주행 자동차로 인해 이와 유사한 문제를 심각하게 고민해야 할 것이다. 인간은 일종의 방어운전을 하고 이를 생존본능이라고 여긴다. 그런데 자율주행 자동차에 더 많은 사람을 위한 운전에 관한 윤리를 주입시키면 어떤 일이 벌어질까. 내 자동차가 운전자인 나를 공격하는, 즉 나보다 남을 먼저 방어하는 일이 벌어질 수 있다. 자율주행 자동차에 어떤 윤리를 주입시킬지를 결정하는 순간이 바로 인공지능에 우리의 생명을 맡기는 첫 번째 경험이 될 것이다. 여기에 더해 철학, 사회, 윤리, 개인사적 문제가 더해지면 무척 영화적인 설정이 된다. 영화라는 것이 결국 우리가 닥칠 법한 불행을 미리 시뮬레이션해보는 것이라고 생각한다면 다양한 상황을 상상해볼 수 있을 것이다.

<그녀>

김혜리_ 관객은 할리우드영화와 한국영화의 프로덕션 규모를 동일선상에서 비교하며 본다. 따라서 물적 조건이 상대적으로 불리한 상황에서는 <그녀>(2013)처럼 상상력을 동원한 로테크 SF영화가 더 필요하다는 생각을 하게 된다. <그녀>의 OS 체계인 사만다(스칼렛 요한슨)처럼 우리가 일상에서 찾아볼 수 있는 영화화되기 좋은 소재는 뭐가 있을까.

정재승_ 뇌를 연구하다 보니 인간의 정체성과 기억, 정신질환 등의 문제와 연관해서 생각해보게 된다. 예를 들면 <리미트리스>(2011)처럼 뇌가 활성화되는 약을 생각해볼 수 있다. 최근에 사람들한테 영화를 보여주고 그들의 뇌를 찍어 뇌의 활동을 동영상으로 재현하는 데 성공한 연구 결과가 발표됐다. 수면 상태인 인간의 뇌를 녹화하면 그 꿈을 동영상으로 볼 수 있다는 뜻이 된다. 그럼 그 영상이 현실인지 꿈인지, 아니면 촬영본인지 실제로 벌어진 사건인지 구분이 어려울 수도 있다. 가짜 기억을 삽입할 수 있는 테크놀로지로 인해 실제로 내 경험인지 아닌지 구분할 수 없는, 그리고 이로 인한 범죄도 가능하다. 또 최근 과학계의 최대 이슈는 유전자 가위다. 인간의 질병과 관련한 유전자를 잘라내거나 특정 유전자를 집어넣는 등 편집이 가능하게 됐다.

김혜리_ 난치병 치료 수준을 넘어서서 내 아이의 생을 데이터로 미리 볼 수 있다는 뜻도 될 텐데, 그에 따른 윤리적 문제도 발생할 수 있다.

정재승_ 먼저 치료용으로 활용되겠지. 그런데 사람들은 환자나 병의 개념 범위를 넓혀가고 있다. 요즘은 공부 못하는 걸 학습장애라고 부르고 환자로 취급해서 클리닉에 데려간다. (웃음) 공부 못하는 아이에게 약을 주고 숙면을 취할 수 있게 하면서 돈을 벌고 있는 상황인데 이를 극단적으로 밀어붙이면 외모나 지능이 떨어지는 사람의 인생을 치료를 넘어 조작까지도 할 수 있다.

김혜리_ 거의 히틀러의 망령이 돌아오는 듯하다. (웃음) 인간의 가장 바람직한 형상이 정해져 있고 거기서 벗어난 존재는 바꿔야 한다는 것. 오랜 인류의 논란이 다시 부각되겠다.

<가타카>

정재승_ 지금은 아이들의 미래를 예측할 수 없다. 그런데 연구가 깊어지고 유전자를 편집하게 되면 그들의 미래가 결정되거나 획일화될 수 있다. 오류투성이의 자연인을 지배하는 사회가 올 수도 있고. 그런 의미에서 <가타카>(1997)는 너무 훌륭한 작품 같다. (웃음)

김혜리_ 휴머노이드 형상의 인공지능 로봇에도 젠더 문제를 적용할 수 있나? 어떤 일을 하는 로봇에 주로 여성성을 부여하는지. 상품화를 위해 젠더 문제를 이용하거나 혹은 이를 지양하려고 노력하는가.

정재승_ 현재 인류의 권력구조가 비판의식 없이 휴머노이드에도 반영되어 있다. 굉장히 심각한 문제다. 예를 들어 여성이 할 법한 일을 대신 하는 로봇을 여성 캐릭터화한다든지. 공장에서 노동하는 남성을 대체하는 로봇의 이름은 남자 이름을 붙인다든지. 최근 국내에서 발매된 인공지능 스피커의 목소리는 모두 여성이다. 의사 결정자인 개발자들이 주로 남자라서 발생하는 문제도 있다.

김혜리_ 이제 객석의 질문을 받을 차례다.

<엑스마키나>

왜 인공지능 분야의 개발이 이루어지는가

질문자1_ 최근 모 대학에서 발표한 미래도시 연구보고서에 의하면, 2090년에 소수의 인공지능이 지배하는 초양극화 사회가 된다고 한다. 플랫폼 소유주와 정치권력자, 연예인 정도의 소수를 제외한 나머지 사람들은 하위계급이 되어 지배당하거나 힘겨운 싸움을 하는 단순 노무직으로 바뀐다고 한다. 이런 예측에 대해 어떻게 생각하는가. 만약 이런 예측이라면 우리는 왜 과학기술을 발전시키고 있는 것인가.

정재승_ 해당 연구 결과를 보지 못한 상태에서 일반적인 이야기를 하자면, 2090년에 관한 예측은 믿을 수 없다. 우리 사회는 30년 후를 넘기면 예측이 불가능하다. 과거 인터넷이 등장하면 사이버 세상에만 갇혀 살거라고 예측했는데 과연 그렇게 살고 있나. 기술의 발달만으로 미래를 예측하기는 어렵다. 기술의 발달이 사회 변화에 미치는 영향은 40% 정도다. 인공지능의 등장이 양극화를 해소할지 심화시킬지 어느 쪽도 손을 들어줄 수가 없지만 개인적인 견해는 심화시킬 것 같다. 왜냐하면 인공지능과 경쟁해야 하는 사람들은 인공지능을 잘 다루는 사람과 그렇지 못한 사람으로 계급이 나뉠 수 있다. 인공지능은 인간이 노동으로 해결하던 일을 고스란히 데이터화할 텐데 데이터 처리는 비용이 들지 않으므로 인간이 만들어내는 가치가 현저히 줄어들 것이다. 양극화의 문제를 넘어서 자신의 존재가치를 드러내지 못하는 사람이 너무 많아질 것이다. 그때까지 우리는 뭘 해야 하나? 당연히 막아야지. 하지만 사람들은 자동차의 등장 이후 발생한 사망자 수가 세계대전 발발로 인한 사망자 수보다 많다고 해서 과거로 되돌아가고 싶어 하지 않는다. 과학은 본질적으로 인간의 행복을 위해서 나아가야 하지만 과학기술을 만드는 과정은 자본과 권력을 필요로 할 수밖에 없다. 따라서 권력을 가진 이들이 사회를 통제하거나 혹은 더 많은 돈을 벌기 위한 쪽으로 기술이 발전할 수는 있다.

김혜리_ 반면에 <엑스마키나>(2015)의 과학자 네이든(오스카 아이삭)처럼 왜 이런 개발을 하느냐고 물으면 ‘할 수 있는데 안 할 수가 없어서?’라고 말하는, 즉 호기심이나 성취감을 심리적 동력으로 가진 과학자들도 있을 것 같다.

정재승_ 과학자 개인은 모두 그런 이유로 일을 한다. 절대로 할 수 없는 일외에는 모든 일은 일어날 가능성이 있다고 생각한다. 결국은 판도라의 상자를 여는 행위가 되더라도 과학기술이 인간에 도움이 될 수 있는 방향으로 안내할 수 있는 여러 사회적 합의가 필요하다.

질문자2_ 인공지능이 만들어내는 이야기에 노벨상을 수여할 수 있을까? 그리고 인공지능이 진출하지 말아야 할 사회 분야가 있다고 보는가? 가령 종교의 영역에서는 반발이 있을 것 같다.

정재승_ 아직은 스토리를 만드는 인공지능 퍼포먼스 성과가 좋지 않다. 대개 인간은 스스로 경험한 사회적 경험을 바탕으로 이야기를 만든다. 인공지능은 지금껏 만들어진 전세계의 수많은 이야기 중에서 다른 신선한 조합 가능성을 제시해줄 수는 있다. 사실 글쓰기에 있어서 그보다 더 중요한 것은 인간보다 빠른 대응이다. 예를 들어 드라마 <왕좌의 게임>이 시청자 반응을 보고 이야기를 재빨리 바꾸기도 하지 않나. 이때 사람은 마감을 어길 수 있다. (웃음) 인공지능의 마감 엄수 기능을 따라올 자는 없다. 새로운 형태의 비즈니스로 발전해나가겠지. 그리고 인공지능 진출 분야는 시민의 합의에 의해 결정된다. 일단 뭐든 해보고 문제를 인식할 수 있다고 여긴다. 현재 종교계에서는 수도승을 대신하는 인공지능 로봇이 등장했다. 대부분 종교인은 로봇이 대체할 수 없을 거라 여기는데 만약 전세계에서 가장 좋은 설교만 내장되어 있고 적재적소에서 적절한 성서 구절을 인용해주고 우리의 죄를 광범위하게 빠른 속도로 사해준다면 그런 녀석에게도 적응할 수 있지 않을까?

김혜리_ 반대로 가장 빨리 인공지능이 자리잡을 분야는 무엇이 될까?

정재승_ 인공지능은 인간보다 언어능력과 수리능력이 뛰어나다. 따라서 인간은 교육분야에 먼저 활용할 것이다. 돈이 되는 분야에 가속도가 붙을 테니까. 최근에 구글이 구글 어스 촬영 정보를 가지고 월마트에 투자해 큰 이득을 봤다. 미국 전역 월마트 주차장 차량만으로 월마트 매출을 계산한 것이다. 이것이 공정한지 아닌지 규제하는 법이 없다. 이것이 월마트의 정보인지, 월마트 소비자의 정보인지, 개인정보인지, 퍼블릭 정보인지 애매하다. 그런 것처럼 아직 인공지능을 활용한 어떤 분야에서 돈이 되고 안 되는지 모른다. 이것저것 잔뜩 넣어봤더니 돈이 보이는 시대로 간다. 그런 부분들의 변화는 빨리 나타날 것이다.

김혜리_ 영화에도 나오지만 노령인구가 많아지는 상황에서 거동이 불편한 이들을 위한 돌봄 로봇은 각광받을 것이다. 사람보다 기계가 해주길 바라는 상황이 있지 않나. 사람에게 보이고 싶지 않은 어떤 부담감을 돌봄 로봇은 해결해줄 것 같다.

<인사이드 아웃>

인공지능과 정치가 만나면?

질문자3_ 인공지능과 정치가 만나면 어떤 변화가 일어날까.

정재승_ 인공지능 이후 민주주의의 미래는 굉장히 중요한 이슈다. 빅데이터로 사람들을 감시하고 그들에 대한 정보를 모니터링하고, 또 그렇게 얻게 되는 데이터를 분석해서 더 잘 통제하는 방식을 정부가 주도하면 독재에 악용될 수도 있다. 몇몇 나라들의 사례가 이를 보여주는 것 같다. 조지 오웰의 <1984>가 개인을 통제하는 20세기 국가의 방식을 보여준다면 인공지능이 탑재된 빅브러더가 우리 사회를 어떻게 통제할 것인가. 또 한 가지 생각해볼 문제는 민주주의 자체의 큰 변화다. 지금도 앱 하나만 깔면 바로 찬성과 반대 의견을 표출할 수 있는데 인공지능에 의하면 직접민주주의도 가능해진다. 그럼 지금과 같은 대의민주주의가 유지될까. 그런데 국민의 전체 의견을 반영하는 것이 과연 더 나은 미래를 만들어줄까. 직접민주주의 역시 심각한 문제들이 많지 않나. 인공지능은 본질적으로 데이터 기반이기에 다수결의 원칙에 따라 폭력적인 다수의 뜻을 따를 수 있다. 어쨌든 인공지능이 우리의 정치체계를 어떻게 바꿀 것인가, 라는 문제는 흥미롭고 중요한 질문이다.