최응렬 동국대 경찰행정학부 교수

지난해 연구개발(R&D) 과제를 수행하는 연구진으로부터 보안 유지를 위해 텔레그램에 가입하라는 연락을 받고 가입해 카카오톡과 함께 텔레그램도 사용하고 있다. 카카오톡이 한국에서 개발 운영되는 앱이지만, 텔레그램은 러시아의 니콜라이와 파벨 두로프 형제가 11년 전에 만든 메신저로 이용자가 9억 명이 넘을 정도로 성장했다. 국내 텔레그램 이용자도 지난 8월 기준 347만 명으로 급격히 늘었으며, 메신저 프로그램 중 익명성이 강해 근래에는 ‘주머니 속 다크웹’이라고 불린다.

최근에는 딥페이크 기술과 함께 텔레그램이 국내외 디지털 성범죄, 마약류 범죄, 성매매와 사기 등 주요 범죄의 매개체로 지목된다. 국내에서는 2018년 ‘n번방’이나 ‘박사방’ 등 성착취물 제작과 유포에 이 프로그램이 활용되면서 주목받기 시작했다. 1 대 1 대화방처럼 운영되는 딥페이크봇은 사진 한 장을 첨부하면 딥페이크 기술로 음란물이 자동 생성되는 인공지능(AI)이다. 이러한 딥페이크 제작 채널에 22만여 명이 참여해 심각한 수준이다. 마약 거래도 텔레그램을 통해 급속히 확산되고 있다. 이전에는 여러 단계를 거쳐 마약이 거래됐지만, 텔레그램이 등장함으로써 ‘오픈마켓’ 형태로 판매자와 구매자가 직거래할 수 있게 되면서 마약 구매에 10여 분밖에 안 걸린다고 한다.

텔레그램 사용이 급성장했으나 생성형 AI 기술이 발전하면서 최근 실제와 구분하기 어려울 정도의 영상이 만들어지고 있으나, 이를 탐지할 수 있는 기술 발전은 더디다. 서버와 회사가 외국에 있어 수사의 사각지대라는 점을 이용해서 범죄가 이뤄지는 것이다. 딥페이크를 탐지할 수 있는 기술을 개발해 범죄를 해결하는 것이 최고의 방법이지만, 이마저도 어렵기 때문에 기술의 한계를 보완하기 위한 입법이 필요하다.

유럽연합(EU)은 지난해 12월 8일 AI로 생성한 콘텐츠에 워터마크(식별표시)를 의무화하는 법안을 마련했다. 미국은 지난해 7월 정부와 구글, MS, 오픈AI 등 주요 AI 기업 7곳이 딥페이크 워터마크 사용을 공식화했으며 의회 차원의 법안 제정도 추진 중이다.

국내에서도 딥페이크 영상, 음향 등 AI 기술을 이용해 만든 거짓 정보를 온라인에 게재하면 이용자들이 인지할 수 있도록 하는 딥페이크 워터마크 의무화, 타인의 의사에 반한 딥페이크 유통 금지 및 처벌 규정 등을 담은 딥페이크 대응 법안이 제21대 국회에서 다수 발의됐지만 임기 만료로 폐기됐다.

임기 개시 96일 만인 지난 2일 개원식을 가진 제22대 국회는 그동안 딥페이크 관련 대응 법안을 더 촘촘하게 마련해 단속과 수사를 할 수 있게 해야 한다. 위장수사의 범위도 아동·청소년 성착취물에서 디지털 성범죄 전체로 폭넓게 확대하고, 형량도 강화해야 한다. 당국은 대화방 개설자와 참여자 추적을 위해 해외 플랫폼 기업에 협조 요청이나 공조 체계 마련에 노력하면서 플랫폼 사업자가 유해 콘텐츠를 감시·차단·삭제하도록 의무화하고, 범죄 수사에 협조하지 않으면 범죄 방조는 물론 공범 혐의까지 적용해 처벌해야 한다. 딥페이크 제작·소지·구매는 물론 이를 시청하는 것을 처벌하는 규정 신설과, 반포 목적을 입증해야 하는 ‘성폭력범죄의 처벌 등에 관한 특례법’ 개정도 시급하다.

이미지 크게보기 최응렬 동국대 경찰행정학부 교수