이미지 크게보기

■ 금융사기 등 피해액 추산

여학생 노출 가상 음란물 제작
피해자 특정 못해 처벌 어려워
목소리 변조 보이스피싱도 기승

국회, AI이미지 악용 규제 논의

올해 전 세계에서 인공지능(AI) 악용 범죄로 인한 피해액이 190조 원에 달할 것이란 분석 결과가 제시됐다. 지난해보다 50% 증가한 규모다. 생성형 AI로 만든 아동·청소년 음란물이 속출하고, 목소리를 변조하는 방식의 보이스피싱 사기가 기승을 부리고 있는 것으로 나타났다. 이 같은 범죄를 단속·처벌하기 위한 법적 규제 강화 필요성이 커지고 있다.

18일 문화일보가 한국AI교육협회로부터 받은 자료를 보면 올해 전 세계 AI 범죄 피해액은 1500억 달러(약 190조500억 원)에 육박할 것으로 추산된다. 지난해 추정 피해액은 1000억 달러(약 126조7000억 원)였다. 문형남 한국AI교육협회장(숙명여대 경영전문대학원 교수)은 AI 범죄의 대표 유형으로 △금융 사기 △개인 정보 절취 △가짜뉴스 제작 △테러 △군사 공격 등 5가지를 꼽고 “AI 범죄는 전 세계적으로 증가하고 있으며 피해는 매우 심각한 수준”이라고 지적했다.

유튜브에서는 AI로 만든 아동·청소년 음란물 영상을 쉽게 볼 수 있다. ‘AI 룩북 교복’을 검색하면 ‘고등학교 교실’ ‘멜랑꼴리한 교복 룩북 누나’ ‘여학생’이라는 키워드와 함께 올라온 영상이 조회 수 수십만 회를 기록하고 있다. 모두 생성형 AI를 활용해 만들어진 가상의 영상들로, 아동·청소년인 점이 명확히 인식될 경우 아동·청소년 성착취물 제작·배포 혐의로 처벌받을 수 있다.

AI를 이용한 아동·청소년 음란물은 해외에서도 심각한 문제로 확산하고 있다. 폭스뉴스에 따르면 야론 리트원 캐노피사 최고마케팅책임자(CMO) 겸 디지털 안전 전문가는 소아 성애자들이 아동 성착취 이미지를 제작, 배포하고 아동을 협박하기 위해 AI를 사용하고 있다고 밝혔다. 옷을 입고 있는 아동의 사진을 편집해 나체 이미지로 바꾸는 방식이다. 실제로 최근 현지에서 15세 학생이 헬스와 관련된 사이트에 조언을 구하기 위해 상체 사진을 공유했는데, 이 사진이 나체로 가공돼 협박에 쓰였다.

반면 관련 법안은 미비해 처벌은 어려운 실정이다. AI 음란물의 경우 가상의 인물이기 때문에 피해자를 특정할 수 없다. AI가 실제 인물을 학습해 내놓은 결과물이지만 법적 처벌을 비껴갈 여지가 큰 셈이다. 성폭력범죄의 처벌 등에 관한 특례법은 영상물 등을 ‘대상자의 의사에 반하여’ 성적 수치심을 유발할 수 있는 형태로 편집·가공한 경우에 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처하고 있다. 국회는 지난 5월 ‘AI 이미지 생성기 악용 법적 규제’에 관한 국민동의청원이 성사됨에 따라 입법 논의의 발판은 마련된 상태다. 최경진 가천대 법학과 교수는 “현재 AI 기술 관련 규제에 대한 논의는 초기 단계”라며 “사전 규제보다는 기존 법령으로 해결할 수 없는 부분에 대한 논의부터 시작해야 한다”고 말했다.

이예린 기자 yrl@munhwa.com