이미지 크게보기 19일 서울시의회 정례회 도중 등장한 오세훈 서울시장의 딥페이크 영상. 서울시의회 정례회의 유튜브 캡처

서울시의회 정례회의에서 오세훈 서울시장의 딥페이크 영상이 공개돼 시선을 사로잡았다.

19일 윤영희 서울시의원(국민의힘)은 서울시의회 제327회 정례회 제3차 본회의에서 오 시장의 얼굴로 만들어진 딥페이크 영상을 공개했다. 최근 지방의원들을 대상으로 한 딥페이크 범죄를 막을 방안을 고민해달라는 요청을 하는 과정에서 딥페이크 기술의 파급력을 쉽게 설명하기 위해 직접 영상을 만들어 본 것이다.

윤 의원은 휴대폰 앱을 이용해 한 외국배우의 영상에 오 시장의 얼굴을 합성해 넣었다. 영상이 재생되자 회의장에 있던 모든 이들의 폭소가 터졌다. 오 시장도 피식 웃으면서 “묘하게 닮았다”고 말했다.

윤 의원은 “제가 이 영상을 1분도 안 돼서 만들었다. 심지어 무료였고 너무 쉽고 너무 빨랐다”며 심각성을 강조했다.

딥페이크란 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 신체를 다른 영상이나 이미지에 합성하는 것을 말한다. 최근 익명 메신저인 텔레그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 딥페이크 피해가 빠르게 확산하고 있다.

이에 대해 오 시장은 “서울시는 디지털성범죄센터에서 최초로 AI 프로그램을 도입했는데 기대 이상”이라며 “과거 같으면 사람이 일일이 수작업해야 하기 때문에 지워 놓으면 바퀴벌레처럼 튀어나오는, 이런 상황이 끊임없이 발생했는데 지금은 AI가 대량으로 해주고 있다. 앞으로도 인격권이 철저히 보호받을 수 있게 하겠다”고 말했다.


박준우 기자