지성우 성균관대 법학전문대학원 교수

최근 텔레그램 창시자인 러시아 출신 CEO 파벨 두로프가 프랑스 당국에 의해 텔레그램 딥페이크 음란물 유포 방조 혐의 등으로 체포됐다. 이를 계기로 딥페이크를 악용한 사회관계망(SNS)에서의 범죄 문제가 관심사로 부상했다.

딥페이크는 적대관계생성신경망(GAN)이라는 기계학습(ML) 기술을 사용하여 기존의 사진이나 영상을 원본과 합성해서 전혀 다른 새로운 이미지의 사진이나 영상을 만들어낸다.

다음 두 가지의 경우에 딥페이크는 사회적으로 문제가 매우 심각하다.

첫째, 가짜뉴스가 빠르게 확산하는 통로로 악용될 수 있다. 가짜뉴스는 일상생활에서의 단순 거짓말부터 선거나 전쟁 등 국가의 명운을 결정할 수 있는 상황에서 유포되는 경우까지 발생 양태가 다양하다. 전자는 세계적으로 표현의 자유 영역으로 보아 형사처벌하지 않지만, 후자는 처벌 규정의 신설·강화가 논의되고 있다. 예를 들면, 영화감독 조던 필은 딥페이크 기술의 위험성을 알리고자 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 제작·공개했다. 만일 현실 정치에서 선거를 목전에 두고 이 같은 동영상이 유포된다면 유권자들의 선택에 큰 영향을 줄 수 있다.

가짜뉴스의 생성과 확산은 인공지능(AI) 기술의 발전으로 인해 유포자 색출이 불가능해진다는 점에서 심각한 현안이다. 단순 거짓말이라는 이유로 표현의 자유로 분류해 처벌 대상에서 제외하는 가짜뉴스와, 사회적으로 큰 혼란을 불러일으켜 처벌해야 할 악의적 가짜뉴스를 구별하는 기준이 필요하다.

둘째, 범죄와 관련되는 경우다. 예를 들면 텔레그램과 같이 익명성이 보장되는 SNS 프로그램을 활용해 단체 회원방을 개설한 다음 얼굴을 다른 사람으로 바꾼 성적 동영상을 유포하거나 마약을 판매하는 경우처럼 기존 법률이 금지하는 행위를 자행한 경우다.

이 문제는 위 가짜뉴스에 비해 이론상 형사처벌 근거를 갖추기가 어렵지 않다. 예를 들면, 성적 수치심을 일으키는 동영상에 특정인의 얼굴을 오버랩시켜 유포한 경우 성폭력처벌법 제14조의2에 따라 5년 이하의 징역 또는 5000만 원 이하의 벌금형에 처할 수 있다. 또, 그러한 영상이나 사진을 영리 목적으로 제작한 때는 7년 이하의 징역형에 처할 수 있다. 마약 등을 유통할 목적 또는 다른 범죄를 범할 목적으로 단체 대화방을 개설해 범죄를 저지른 때에도 형법이나 특별 법령에 따라 처벌할 수 있다.

문제는, 경찰력이나 행정력만으로 계속 생성·유포되는 사진·동영상을 걸러내기가 어렵다는 데 있다. 더욱이 텔레그램 등 해외 SNS 등에는 우리의 행정력이나 수사기관의 관할권도 미치지 못한다. 그렇다고 좌시할 수는 없는 만큼 음란 영상물을 제작·유포하는 행위뿐 아니라, 해외의 아동 포르노 사례처럼 소지만 해도 처벌하거나, 암행감찰·위장수사도 일정한 범위에서 허용하는 방향으로 법을 개정해야 할 것이다.

과학기술의 발전이 언제나 그랬듯이, AI와 딥페이크 기술은 인류에게 새로운 가능성을 열어주고 있다. 반면, 범죄에 악용되거나 국가를 뒤흔들 수도 있는 가짜뉴스가 일상화할 위험성도 크다. 범정부 차원에서 신속한 대책 마련과 인식 개선이 절실한 시점이다.

이미지 크게보기 지성우 성균관대 법학전문대학원 교수