진화한 딥페이크가 만든 톰크루즈 | 김정은, 아이유 딥페이크 영상
진짜보다 진짜같은 탐크루즈
온라인 커뮤니티 올라온 한 헐리웃 스타의 영상에 사람들은 충격을 받았습니다.
영상에는 탐크루즈가 필드에 나와서 웃기도 하고 다양한 표정을 지으며 이야기한 후 골프자세를 취하고 샷을 날립니다.
30초 남짓한 해당 영상의 출처는 틱톡으로 트위터에도 공유되면서 130만명이 넘는 누리꾼들이 시청하였습니다.
사실 이는 탐크루즈가 아닙니다.
머신러닝 기술을 사용한 딥페이크 영상으로 알려졌습니다.
딥페이크 영상에 대한 논란이 있었지만 이번은 좀 달랐습니다. 딥페이크가 매우 정교해서 실제 탐크루즈와 구분이 어려울 정도기 때문입니다. 탐크루즈를 연기한 사람이(몸과 표정을 연기한 사람이라고 봐야죠.) 매우 흡사한 느낌을 보여줬기 때문인 것도 작용했습니다. 목소리도 변조했는지 탐크루즈와 유사했습니다.
영상속 탐크루즈는 웃기도 하고 선글라스를 착용하기도 하는 등 실제와 거의 차이가 없습니다. 딥페이크는 보통 얼굴의 한정적인 부분만 합성하기 때문에 동작이 커지거나 하면 어색하게 보이기도 하지만 이 영상은 어색한 순간이 전혀 없었습니다.
카메라를 응시하며 말하는 내용의 씽크도 잘 맞았기 때문에 사람들은 이 영상의 인물이 미션임파서블의 탐크루즈와 구분할 방법이 없습니다.
트위치에 옮긴이는 틱톡을 딥페이크 기술이 점령하고 있다면서 곧 모든 공인(연예인 등 유명인)들은 그들이 콘텐츠를 만들지 않더라도 계정의 인증을 받아야한다. 그래야 그들의 속임수를 구분하기 쉬워질 것이다 라고 밝혔습니다.
해당 트윗은 2000회 정도 인용되면서 대부분의 반응은 실제와 구분할 방법이 없다. 소름끼친다. 무섭다. 같은 의견이 많았습니다.
한국에서도 이번주 그알(그것이 알고싶다)에서 딥페이크 기술에 대하여 방송한 후 18만개의 트윗으로 사람들의 관심을 끌고 있습니다.
유명인들을 사용한 딥페이크
딥페이크 기술은 종종 대중에게 선보이기도 했는데요.
이제 단순한 흥미거리가 아닌 공인들의 초상권을 악용하는 단계에 와있는 것 같습니다.
과거 합성이미지와도 비교할 수 있는데요. 지금은 단순한 이미지의 합성이 아니라 영상의 합성이라는 면에서 그 충격이 더 크다고 할 수 있습니다.
사진 합성도 문제가 많았는데 영상 합성의 파급효과는 매우 큽니다.
아래 김정은의 딥페이크를 보고 많은 사람들이 경악했었는데요.
미국은 선거에서 잘못된 선택을 할 것이고 나의 독재는 승리할 것이다 뭐 그런 취지로 이야기를 하는데 음성까지 비슷하게 합성했기 때문에 미국인들을 소름끼치게 했습니다.
사실 미국인들도 자기들의 약점을 잘 알고 있는데 그걸 김정은의 딥페이크로 들으니까 더욱 기분이 안좋을 수 밖에요.
연예인의 얼굴을 이용한 딥페이크도 논란이 되고 있습니다. 유튜버 개발자 테드박 채널에서는 아이유의 얼굴로 딥페이크 기술을 선보였습니다. 사진으로 보면 채형이 맞지 않아 어색한데요. 영상으로 보면 계속 움직이기 때문에 진짜 처럼 보입니다.
테드박님은 자신의 얼굴을 박보검과 백종원과 합성하는 딥페이크 기술을 선보이기도 했는데요. 사람들에게 경각심을 주기 위해서 영상을 찍게 되었다고 합니다.
상당히 많은 싫어요를 받을 것을 보면 꽤 아이유의 얼굴을 활용한 것이 불쾌했을 만큼 사람들이 실제같이 느꼈다는 것의 반증같습니다.
딥페이크 영상도 그 불쾌한 골짜기, 혐오의 골짜기 근처에 있는 것 같습니다.
연예인의 초상권 문제 등
현재로써는 딥페이크 영상에 대한 문제라고 생각되는데요.
상당수 해외에 유통되는 불법 포X노 영상들에 KPOP 스타들의 얼굴을 딥페이크하고 있다고 합니다. 여자연예인 뿐 아니라 남자 아이돌의 얼굴까지 합성한 영상들이라고 합니다.
이러한 영상들은 초상권을 침해하고 있을 뿐 아니라 공인의 명예를 훼손하고 모욕이 되는 행위라 볼 수 있는데요. 딥페이크기술이 매우 정교하기 때문에 이 영상들을 보는 사람들은 실제 유명인이 출연한 것으로 착각할 수 있기 때문입니다.
청원게시판에는 여성 연예인들을 고통받게 하는 불법 영상 딥페이크를 강력히 처벌해 주세요란 청원에 39만명이 동의하기도 했습니다.
여성 연예인의 초상권을 활용한 성적인 착취가 이루어지고 있다고 봐야하고 법력을 개선하는 등 움직여야 할 때라고 봅니다. 그렇더라도 이게 더 복잡한 문제인 것은 KPOP과 한류연예인들이 해외에 많이 진출한 상태라 우리 정부의 수사만으로는 한계가 있고요. 인터폴과 국제적 네트워크를 활용한 수사가 이루어져야 합니다.
어차피 웹사이트를 한국 사람이 만들어도 서버를 외국에 놓지 한국에서 운영안합니다. 국내 ISP에서 바로 차단하기 때문입니다.
연예인의 포X노 영상도 문제지만 꼭 포X노가 아니더라도 딥페이크를 악용할 소지는 굉장히 많습니다.
예를 들어 범죄의 알리바이를 만들기 위해 딥페이크 영상을 송출한다거나 죄를 뒤집어 씌우기 위해 타인의 얼굴을 합성한다는 식의 발상은 범죄자들이라면 생각해볼만한 발상입니다.
(개인적으로 추리소설을 좋아해서 생각해본 겁니다.)
정교하기 때문에 얼마든지 정치적 목적으로도 악용될 수 있고요. 지금까지 법정에서도 영상은 중요한 증거물이기 때문에 증거물에 대한 새로운 조작의 가능성이 생겨난 것 입니다.
결국 조작이 밝혀지더라도 수사에 혼선을 주고 증거인멸의 시간도 벌어줄 수 있겠죠. 지금 사람들이 딥페이크에 대하여 느끼는 감정은 비단 연예인의 딥페이크 합성 포X노 정도의 문제는 아니라고 봅니다.
개발자 테드박님의 채널에서 하는 말을 보면 개인 PC에서 짧은 딥페이크 영상을 만들기 위해서는 많은 수의 이미지(동영상의 프레임)를 가지고 머신러닝을 12시간 이상 돌려야 한다고 합니다. 기업이 제공하는 클라우드 컴퓨팅 자원을 활용하면 훨씬 빠른 학습이 가능할 것 입니다.
CPU의 파워를 가지고 있는 이들이 딥페이크를 만들면 더 진짜같은 영상을 개인보다 빨리 만들 수 있다는 것을 의미합니다.
암튼 많은 가능성이 상상이 됩니다. 현재는 좋은 쪽 보다 나쁜 쪽이 커보입니다.
머신러닝에 대한 리뷰도 생각해봐야겠습니다.
