AI기술로 손쉽게 영상 합성
“강좌 1탄” “소스 공유하자”
제작하는 방법까지 나돌아
靑게시판엔 유포금지 청원

가수 설현 측이 합성사진 유포자들을 고소하고 “어떠한 선처도 하지 않겠다”며 강력 대응 방침을 밝힌 가운데, 온라인에서는 여자 연예인을 대상으로 한 ‘딥페이크’(합성 가짜 포르노) 영상의 제작 방법까지 공유되고 있어 논란이 일고 있다. 실제로 온라인에 무료 공개된 소스 코드와 약간의 기계 학습 알고리즘 지식만으로도 쉽게 딥페이크를 만들 수 있는 것으로 알려졌다.

20일 일간베스트와 트위터 등 일부 사이트에는 다수의 국내 유명 아이돌 가수와 포르노 영상을 합성한 딥페이크 영상을 찾아보는 방법은 물론, 직접 제작하는 방법까지 나돌고 있다. 이들은 특정 걸그룹을 언급하며 “딥페이크 신작 떴다”라고 가짜 포르노 영상 정보를 퍼 나르거나 “딥페이크를 만들게 얼굴 소스 좀 공유하자” “딥페이크 강좌 1탄”이라며 만드는 방법도 공유하고 있다. 일부 이용자는 “딥페이크는 안 된다”며 “범죄자는 되지 말자”고 경계했지만, 대부분은 “신세계를 봤다” “어차피 기술은 발전하기 때문에 외국에서 금지해도 또 풀릴 것이다” 등 뻔뻔한 태도를 보이고 있다.

딥페이크란 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 신체 부위를 자신이 원하는 영상에 합성한 편집물이다. 지난해 말 미국에서 ‘딥페이크(Deepfakes)’라는 네티즌이 온라인 커뮤니티 ‘레딧(Reddit)’에 할리우드 유명 여배우의 얼굴을 포르노 배우의 몸과 합성한 동영상을 올리면서, 이런 형태의 편집물에 딥페이크란 이름이 붙었다.

누구나 쉽게 접근할 수 있는 기술이다 보니 일반인을 대상으로 한 ‘지인능욕’(인터넷에 주변 인물의 얼굴·이름·학교 등의 개인 정보를 공개하면서 해코지하는 것) 합성 동영상에도 딥페이크가 쓰일 수 있다는 지적이 나온다. 해외에서는 딥페이크 영상 유포를 금지하는 추세다. 지난 2월 이후 레딧은 물론 해외 포르노 사이트들조차 딥페이크 영상물을 모두 삭제하고 등록을 금지하고 있는 것으로 알려졌다.

이에 청와대 국민청원 게시판에도 딥페이크를 막아달라는 글이 올라왔다. 글쓴이는 “유명 가수나 배우들의 얼굴을 포르노에 합성해 유포하는 건 명백한 사이버 성폭력이자 한 사람의 인격을 말살하는 행위”라며 “지금도 많은 남자들이 이런 영상을 쉽게 아무렇지 않게 소비하고 있는 실정이다. 기술은 기술대로 좋은 곳에 쓰이길 바라며 이를 악용해 사이버 성폭력을 일삼는 제작자들 유포자들 모두 강력히 처벌해주시기 바란다”고 강조했다. 경찰 관계자는 “동의 없이 가짜 포르노 영상을 제작 및 유포하는 것은 초상권을 심각하게 침해하는 행위”라며 “명예훼손에 해당할 수 있고 정보통신망 이용촉진 및 정보보호 등에 관한 법률 70조나 형법 제244조(음화 제조 등) 위반도 될 수 있다”고 경고했다.

김수민 기자 human8@munhwa.com