성동규 중앙대 미디어커뮤니케이션학부 교수

지난 2016년, 미국 대통령 선거 관련 뉴스 중에서 뜨거운 반응을 얻었던 것 가운데 하나는 ‘프란치스코 교황이 도널드 트럼프 지지를 선언했다’는 내용의 기사였다. 이 기사의 전체 공유 건수는 무려 79만 회나 됐고, 이는 다른 기사들의 평균 공유 건수를 압도적으로 웃도는 수치였다. 대선과 관련된 그 소식에 대한 사람들의 큰 관심과 그로 인한 영향을 짐작해 볼 수 있는 대목이다. 그런데 나중에 알려진 바과 같이 이 기사는 사실이 아닌 ‘가짜뉴스’였다.

얼마 전까지만 해도 가짜뉴스는 위의 미국 사례와 같이 대선 등 대형 정치 이벤트가 있을 때 주로 생산·확산되는 경향이 있었지만, 이제는 유튜브 등의 소셜미디어를 통해 일상적으로 유통되는 실정이고, 이로 인해 우리나라를 포함해 전 세계는 가짜뉴스의 폐해로 인해 엄청난 사회 비용을 치르고 있다.

그런데 더 큰 문제는 인공지능(AI) 등 기술의 진화로 인해 가짜뉴스에 대한 해법을 찾기도 전에 새로운 기술로 더욱 정교하게 만들어진 허위 정보가 계속 확대되고 있다는 점이다. 대표적인 것 중의 하나가 ‘딥페이크(Deepfake)’다. AI 기반의 인간 이미지 합성 기술인 딥페이크는 다양한 분야에서 유용하게 활용할 수 있는데, 정치 영역에서는 지난 2021년 12월 대선 당시 윤석열·이재명 후보가 AI를 활용해 홍보 활동을 전개했던 사례를 그 예로 들 수 있다.

그러나 거기까지였다. 이후 진화한 AI 기술이 만들어낸 딥페이크로 인해 가짜 영상과 사진 등이 걷잡을 수 없는 속도로 확산돼 많은 사람을 혼란에 빠뜨리고 프라이버시 침해, 경제적 피해 등 수많은 문제를 야기하고 있다. 지난 5월에는 미국 국방부 청사(펜타곤) 근처에서 대형 폭발이 발생해 검은 연기가 치솟는 것처럼 조작된 가짜 사진이 공개됐는데 이로 인해 미국 증시가 폭락하는 등 대혼란에 빠지기도 했다.

국내에서는 이러한 문제의 심각성을 인지, 지난 4일 국회 정치개혁특별위원회의 법안소위가 내년 4·10 총선을 앞두고 공직선거법 개정안을 통해 딥페이크를 활용한 선거운동을 선거일 90일 전부터 전면 금지하고, 이를 위반할 경우 7년 이하의 징역 또는 1000만 원 이상 5000만 원 이하의 벌금에 처하도록 하는 법안을 처리했다. 해외에서도 이미 딥페이크 선거운동 관련법을 제정한 상태다. 미국 텍사스주에서는 선거 결과에 영향을 줄 수 있는 딥페이크 영상 제작·유포를 선거일 30일 전부터 금지했으며, 캘리포니아주 등 다수의 지역에서도 후보자를 대상으로 한 딥페이크 유포를 금지하고 있다. 유럽연합(EU) 역시 ‘인공지능법’을 통해 딥페이크를 사용할 때에는 이를 명시하도록 했다.

그러나 이러한 법률적 제재가 딥페이크의 폐해를 완전히 차단하기엔 한계가 있을 것이다. 저작권법이나 개인정보보호법 등 딥페이크와 직접적으로 관련된 법률까지도 현실에 맞게 개정돼야만 효과를 볼 수 있기에 좀 더 종합적인 대책이 필요하다. 현역 의원들이 정치 신인들의 온라인 활동을 막기 위한 기득권 지키기가 아니냐는 지적부터, 아직 걸음마 단계인 AI 산업을 위축시킬 수 있다는 우려의 목소리까지도 참고해야 한다. 앞으로 보강해야 할 점이 많은 만큼 정치권은 좀 더 다양한 목소리를 경청하고 수정·보완해야 할 일이 많다.

이미지 크게보기 성동규 중앙대 미디어커뮤니케이션학부 교수