■ 방심위 대책 실효성 있으려면…

플랫폼 자정·법안 마련 병행돼야

딥페이크 음란물의 폐해가 커지고 있지만 현 단계에서 인공지능(AI)을 활용한 불법 영상물 제작을 원천적으로 막는 것은 불가능하다. SNS 플랫폼을 통한 유통을 막고, 관련 범죄를 엄벌하는 것이 최선이다. 이 때문에 궁극적인 사태 해결을 위해서는 방송통신심의위원회 차원의 조치를 넘어 관련 법안 마련 및 거대 플랫폼의 적극적 협조와 자정 노력이 시급하다는 지적이다.

딥페이크 범죄가 청소년들 사이에서도 크게 증가한 이유는 만들기 쉽기 때문이다. SNS를 활용한 유통도 용이해 피해는 급속도로 확산된다. 방심위의 대책 마련을 두고도 “늦었다”는 반응이 적잖다. 해외의 경우 일찌감치 움직여 관련법까지 마련됐기 때문이다. 지난해 말 이탈리아 조르자 멜로니 총리의 모습을 합성한 음란물이 게재되자, 유럽연합(EU)은 지난 5월 세계 최초로 포괄적 성격의 AI 규제법을 최종 승인했다. 딥페이크로 만든 이미지 등에 대해 ‘AI로 조작한 콘텐츠’라고 표시해야 한다는 등의 내용을 담았다. 미국은 지난 1월 세계적인 팝스타 테일러 스위프트의 얼굴이 합성된 음란물 이미지가 유포된 후 관련법 제정 움직임이 거세다. 최근 미 의회 상원은 피해자가 딥페이크 음란물의 제작·유포·소지자에게 15만 달러(약 2억 원)의 손해배상을 청구할 수 있는 내용을 담은 ‘저항(Defiance)법’을 발의했다. 반면 국내는 21대 국회에서 딥페이크 성범죄 처벌을 강화하는 내용의 법안이 2건 발의됐지만 임기 만료로 모두 폐기됐다.

관련법 제정까지는 적잖은 시간이 소요되기 때문에 방심위 차원의 조치와 더불어 각 플랫폼의 협조, 자정 노력도 강조되고 있다. 구글 등이 내놓은 AI는 음란성 단어 입력을 차단하고 있고, X(옛 트위터)는 아동 성 착취물 등을 단속할 ‘신뢰와 안전 센터’를 신설할 계획도 밝혔다. 배상훈 우석대 경찰행정학과 교수는 “플랫폼에 공문 하나 보내고 대답을 기다리는 건 나태한 관행”이라며 “방심위와 경찰이 적극 협조하고, 사이버 수사대는 사건의 특성상 1∼2년 정도의 긴 호흡을 갖고 수사할 수 있도록 독려해야 한다”고 조언했다.

안진용 기자 realyong@munhwa.com