딥페이크 관련 1건만 계류중
“규제공백 해소할 입법 시급”

챗GPT, 구글 바드 등 생성형 인공지능(AI)에 의한 선거 조작 가능성이 위험수위에 올랐다는 경고가 나오고 있지만 정치권은 물론 선거의 주무 기관인 중앙선거관리위원회가 손을 놓고 있다. 내년 4월 10일 치러질 22대 국회의원 총선거가 1년도 채 남지 않은 시점에서, AI발 여론 조작 ‘규제 공백’을 해소할 입법과 규제안을 시급히 마련해야 한다는 지적이 커지고 있다.

22일 학계 등 전문가들 사이에서는 챗GPT, 바드 등 생성형 AI에 의한 가짜뉴스 대량 유통, 선동 이미지·영상물 배포 등 여론 조작이 광범위하게 이뤄질 수 있다는 우려가 커지는 형국이다. 딥러닝 분야 전문가인 한보형 서울대 전기·정보공학부 교수는 “생성형 AI는 거짓 정보와 사실인 정보를 구분하지 않고 학습한다”며 “텍스트, 이미지, 영상 등 다양한 거짓 콘텐츠를 만들어낼 수 있어 여론 조작 가능성이 커진 것이 사실”이라고 우려했다. 다른 전문가들도 대부분 생성형 AI에 의한 가짜뉴스가 선거판을 혼탁하게 할 가능성을 제기 중이다.

이 같은 위기감에도 정치권은 사실상 손을 놓고 있는 상황이다. 현행법에는 AI를 활용한 가짜뉴스를 규제하는 조항이 없다. 위성곤 더불어민주당 의원 등이 공직선거법 개정안을 발의했지만, 선거운동에 활용되는 ‘딥페이크 영상’에 딥페이크 AI 기술을 활용했다고 표기하는 수준의 내용이다. 이마저도 지난 1월 법안 발의 이후 계류 중이다.

이미 지난해 대선 선거운동 과정에서 딥페이크 기술을 활용한 영상이 논란이 됐지만 후속 움직임이 사실상 없는 상태인 것이다. 전문가들은 선거 당사자인 정당이 나서 최소한의 규칙을 마련하고 윤리 선언이나 결의부터 할 필요가 있다고 지적한다.

중앙선관위도 지난해 ‘AI 기술 발전에 따른 선거운동 제도개선 방안 연구’ 등 관련 연구 용역을 의뢰하고 대비책 마련에 나섰지만, 아직 뚜렷한 해법을 내놓지 못하고 있다.

한 AI 전문가는 “지금이라도 여론조작 행위를 막는 규제책에 대해 고민할 필요가 있다”며 “이와 동시에 여론 조작 범죄자에 대한 형량을 강하게 하는 등 형사사법적 제반 문제를 포함한 사후 대책도 수립해야 하는 시점”이라고 말했다.

손기은 기자 son@munhwa.com