이미지 크게보기 지난해 4월 콘텐츠 제작사 버즈피드가 공개한 버락 오바마 전 미국 대통령의 딥페이크 영상 속 장면. 실제는 미국의 영화감독 조던 필(오른쪽)의 얼굴 움직임을 본떠 합성한 것이다. 버즈피드 제공

연예인 얼굴 음란물에 합성 등
인권침해 사회문제로 급부상
국회선 관련법안 한 건도 없어

“산업적 잠재력 큰 기술이지만
허위정보와 차원 다른 위험성”

인공지능(AI)을 활용해 얼굴을 합성하는 기술인 ‘딥페이크’(Deep Fake) 동영상이 국내에선 법적 사각지대에 놓여 있는 것으로 나타났다. 10월 현재 국회에는 허위정보와 관련된 법안들은 제출돼 있지만, 딥페이크에 대한 대응을 담은 법안은 없는 것으로 확인됐다.

딥페이크는 가짜 영상 양산은 물론, 연예인과 일반인의 인권을 침해하는 용도로 악용되는 등의 부작용을 낳고 있다. 미국, 유럽, 일본 등 주요 국가에선 AI 산업 활성화와 함께 부작용을 최소화할 수 있는 윤리 기준 제정에 나선 것도 이 때문이다.

16일 국회입법조사처에 따르면, AI 기술의 진전에 힘입어 딥페이크 동영상이 새로운 사회문제로 떠오르고 있지만, 10월 현재 국회에 계류 중인 허위정보와 관련한 법안 20여 개 중 딥페이크에 대응하고자 마련된 법안은 단 한 건도 없다. 딥페이크는 AI 기반의 인간 이미지 합성기술로, 첨단 영화제작 등에 활용되며 산업 차원의 잠재력이 매우 큰 기술로 주목받고 있다.

문제는 이를 악용한 사례다. 딥페이크는 딥러닝(심층 기계학습)으로 얼굴이 나온 동영상을 프레임 단위로 조작할 수 있다. 지난해 4월 버락 오바마 전 미국 대통령이 트럼프를 비난하며 욕설하는 영상이 공개돼 파문이 일었는데, 이 영상은 딥페이크에 대한 경각심을 주려고 한 제작자가 오바마 얼굴에 자신의 음성을 덧입혀 제작한 것으로 뒤늦게 확인됐다. 2016년 대선의 골칫거리가 가짜뉴스였다면, 2020년 대선에선 딥페이크 영상이 문제가 될 것이라는 전망이 나올 정도다.

국내에선 딥페이크가 정치권보단 연예인이나 일반인을 표적으로 삼고 있다. 연예인의 얼굴을 붙인 딥페이크 음란물을 비롯해 일반인 얼굴에도 음란물을 합성해 유포하는 이른바 ‘지인 능욕’이 기승을 부리고 있다. SNS에서는 무료로 지인 능욕 사진을 제작해 준다는 글을 확인할 수 있다. 글로벌 스마트폰 제조사들은 인물 사진 1장으로 가상의 동영상 인터뷰를 제작할 수 있는 기능이 포함된 기기 상용화를 앞두고 있어 딥페이크가 우리 일상생활에 들어올 날도 머지않았다.

김유향 국회입법조사처 과학방송통신팀장은 “딥페이크는 산업적 잠재력이 큰 기술이지만 기존의 허위정보와는 차원이 다른 위험성을 내포하고 있다”며 “입법적 검토와 함께 정부 차원에서 기업과 연계해 콘텐츠의 서명기능 개발, 변경내용 표시, 사용자 활용 허위동영상 판정 도구 배포 등 기술 및 정책적 노력도 이뤄져야 할 것”이라고 지적했다.

이해완 기자 parasa@munhwa.com