9월24일 토요일 오후 9시 - 어딘가 어색하지만, 불쾌하지만, 분명 나였다

딥페이크 앱 리페이스 메인 화면.

스마트폰을 메신저용으로 들고 다니는 내게 딥페이크는 고난도의 작업이라고 생각했다. 딥페이크란 말을 들으면 최신판 <혹성탈출> 시리즈의 주인공 시저가 복잡한 프로그램 실험 끝에 완성되는 광경이 머릿속에 펼쳐지기도 한다. 딥페이크 콘텐츠를 직접 만들어보자고 결심하자 피로감이 몰려왔다. 포토숍을 처음 배우던 시절처럼 수많은 기능 쓰는 법을 익히고 이거 눌러라 저거 눌러라 하는 지시에 따르다 보면 내 일이 될 것만 같았다. 어쨌든 일단 시작. 그러나 대표 앱 하나를 알지 못해 아이폰 구글 앱스토어에 딥페이크를 검색했다. 광고를 제외하고 맨 상단에 올라온 리페이스(Reface)가 제일 유명하다 싶어 선택했다. ‘전세계에 1억5천만 창작자들로 구성된 리페이스 커뮤니티에 가입하세요… 자신만의 트렌드 콘텐츠를 만들어보세요.’ 눈에 띄는 마케팅 문구 곁에 비윤리적인 제작과 유포에 대한 경고성 멘트는 따로 없었다.

설치 뒤 앱을 켜니 성인 남성의 얼굴이 여성, 아이의 얼굴로 계속 바뀌는 첫 화면이 떴다. 하단엔 ‘너의 얼굴로 AI 콘텐츠를 만들어보라’는 문구가 박혀 있었다. 그러한 페이스 체인지 페이지는 4번 더 이어졌다. 왠지 그 얼굴들과 눈을 마주치기가 싫어 빠르게 넘겼다. 기본 홈에 들어갔지만 사용법을 몰라 메인으로 보이는 하단의 ‘FaceSwap’를 눌렀다. X 타래처럼 아래로 길게 이어지는 FaceSwap에서 예시 템플릿 이미지가 유독 현란한 ‘Treding Videos’가 눈에 들어왔고 ‘See All’을 눌러 전체로 이동했다. 그러자 화려한 ‘움짤’들이 눈앞에 나타났다. 배나 허벅지를 노골적으로 드러낸 채 섹시 댄스를 추는 어린 아시아 여성, 비키니를 입고 가슴이 강조되는 포즈를 취하는 젊은 백인 여성, 울음을 터뜨린 여자아이까지…. 화면을 아무리 아래로 내려도 유사 영상만 끝없이 나타났다. 마치 어딘가에 갇힌 것처럼 답답했다.

어쨌거나 제작이 목표였으니 템플릿을 하나 골랐다. 타이트한 흰색 셔츠에 딱 붙는 짧은 치마를 입은 아시아계 여성이 엉덩이를 강조하는 춤을 추는 영상이었다. 내 앨범에 접속해 내 얼굴 사진 한장을 골랐다. 사진 편집 단계에서는 꽤 망설였고 이때부터 심장이 크게 뛰었다. 오른쪽 하단의 ‘선택’을 누르는 순간, 어쩐지 지금 업로드한 이미지가 아까 보았던 예시 중 하나로 올라갈 것만 같았고 그걸 보는 누군가의 뒤통수가 머릿속에 선명해졌다. 마음을 다독이며 ‘선택’을 누르자 다행히 ‘Choose a face’ 창이 나타났다. 그 안엔 얼굴을 크게 키워 편집한 내 사진이 들어가 있었다. ‘Swap Face’ 버튼을 누르자 1초 만에 완성 페이지로 넘어갔다. 허무하고 어이없었다. 눈앞에 보이는 최종 파일 속 여자의 얼굴은 어딘가 어색했지만 분명 나였다. 14초 동안 내 얼굴의 여성은 쉬지 않고 엉덩이를 흔들었다. 어떠한 제동도 걸리지 않는 과정에 무척 당혹스러웠다.

9월25일 일요일 오후 - 3시 가짜 <씨네21> 표지로 동료들을 속이다

자기 창작물에 대한 윤리의식과 책임감을 약화시킬 수 있다는 점에서 문제적인 마케팅 문구를 썼다.

‘새로운 페르소나’란 구체적으로 무엇을 뜻하는 걸까. 화려하지만 공허한 단어로 유저를 현혹한다.

자기 전에 하지 말걸 그랬다. 나와 친구들의 딥페이크 음란물이 텔레그램 방에서 떠도는 악몽을 꾼 다음날 오후, 딥페이크로 가짜 <씨네21> 표지를 만들어보기로 했다. 이번에 쓸 앱은 ‘페이스 스와퍼’ (FaceSwapper). 앱 미리보기를 둘러볼 땐 ‘마법 같은 원클릭 얼굴 교체 기술’, ‘창의적이고 재미있는 얼굴 교체 여행’ 같은 낭만적인 마케팅 문구가, 앱을 실행할 땐 ‘가벼운 장난, 끝없는 즐거움!’ 같은 달콤한 멘트가 눈에 걸렸다. 경고성 멘트는 역시나 없다. 누구도 책임을 묻지 않는 광장. 청소년들이 당사자 합의 없이 합성물을 제작하는 행위를 아무런 죄의식 없는 놀이로 인식하는 이유가 여기에 있다.

페이스 스와퍼는 메인 홈에 템플릿이 있다. 가슴이 부각된 의상을 입은 젊은 여성의 영상물이 상위를 차지하고 그것들이 얼마나 ‘좋아요’를 받았는지 숫자로 표시된다. 여성들은 쉽게 평가받고 있었고 ‘비키니’ , ‘미인’ 같은 성적 대상화의 단어들이 강조되어 있었다. 다시 표지를 만들기 시작했다. 미리 저장해둔 여성배우 A의 기존 단독 표지 이미지를 선택한 뒤 여성배우 B의 패션 화보 사진을 가져왔다. 그리고 4초 만에 완성. 완성된 가짜는 놀라울 정도로 진짜 같았다. 어떠한 이물감도 느껴지지 않고 확대해봐도 어색함이 없다. 얼굴을 가리는 머리카락과 합성한 이목구비가 조화롭게 어울려 디테일하기까지 했다. 이 이미지를 동료 기자들 단톡방에 공유해보기로 했다.

빠르게 눈치채긴 했지만 동료들 역시 속았다. 이는 누구든지 가짜 <씨네21> 표지를 만들어 유포할 수 있고 얼마든지 악용할 소지가 있다는 뜻이기도 했다. 내친김에 페이스 스와퍼의 3일 무료 구독 서비스까지 신청했다. 무한 저장 혜택을 받다 보니 사진첩에 딥페이크 합성물이 순식간에 50개가 쌓였다. 그런데 이상하다. 본인 인증이나 성인 인증 절차가 전무하다. 실제 딥페이크 범죄 발생 시 진범을 찾기 어렵고 설사 찾더라도 혐의 입증이 어려운 현 상황을 돌아보면 무책임한 서비스 운영 방식이 결코 이 혐의로부터 자유롭지 않단 걸 알 수 있다. 딥페이크 성착취 엄벌 촉구 시위가 열리고 매일같이 관련 문제가 터져나오고 있는 요즘, 궁금해진다. 윤리적 질문을 외면한 채 나 몰라라 손놓고 있는 앱은 정말 결백한가?