이미지 크게보기 게티이미지뱅크

경찰이 딥페이크를 활용한 허위 조작 콘텐츠 판별을 위한 시스템 개발에 착수했다.

경찰청은 딥페이크, 딥보이스, 가짜뉴스 탐지를 위한 기술 개발 등에 연구비 91억 원을 지원하는 사업 계획을 공고했다고 2일 밝혔다. 연구 기간은 올해 4월부터 2027년 12월까지다.

이번 사업은 최근 인공지능(AI)의 급격한 발전으로 악용 범죄가 증가하면서 콘텐츠 판별에 오랜 시간이 투입되는 문제를 해결하기 위한 것이라고 경찰청은 설명했다.

경찰에 따르면 현재 허위 조작 콘텐츠 관련 수사 인력은 콘텐츠를 일일이 들여다보며 수사하고 있다. 이에 급격한 기술 발전에 발맞춰 다양화하는 신종 범죄에 대응력을 키워야 한다는 목소리가 제기돼왔다.

경찰청은 이번 사업을 통해 멀티모달(복합정보처리) 형태의 탐지 알고리즘을 개발해 딥페이크 영상을 탐지하겠다는 계획이다. 아울러 노이즈·잡음 전처리, 음성 주파수, 시간분석 등을 활용해 딥보이스를 정교하게 분석하는 것을 목표로 하고 있다.

가짜뉴스에는 생성형 AI를 동원해 에코 체임버(유사한 정보나 뉴스가 증폭돼 나타나는 현상)를 분석해 원천 게시물을 추적할 계획이다. 이를 통해 ‘퍼나르기식’ 가짜 뉴스에도 조기 대응하겠다는 방침이다.

한편, 경찰은 지난해 1월∼10월 딥페이크 성범죄 사건 1094건을 접수·수사해 피의자 573명을 검거했다. 집중단속에 나선 시점(8월 28일)을 기준으로 단속 후 하루 평균 신고 건수는 6.98건으로 집계됐다. 지난 1월에는 ‘자경단’이라는 이름으로 텔레그램에서 미성년자 159명을 포함해 남녀 234명을 성착취한 일당이 경찰에 덜미를 잡히기도 했다.

이정민 기자