이미지 크게보기 게티이미지뱅크

실존 인물 아니더라도 딥페이크 아동 성 착취물 원천 차단
11월 대선 겨냥해 선거 관련 딥페이크도 금지


실리콘밸리가 있어 빅테크 기업들의 본사가 대거 몰린 미국 캘리포니아주가 전세계적인 현안으로 떠오른 ‘딥페이크(합성해 만든 가짜 영상 및 사진) 범죄’에 대응하는 초강력 대책을 꺼내 들었다. 실존 인물이 아니더라도 미성년자를 대상으로 한 딥페이크 아동 성 착취물을 제작하는 것 자체를 금지하고, 선거 관련 딥페이크 규제도 대폭 강화하는 내용이다.

개리 뉴섬 캘리포니아 주지사가 이들 법안에 서명할 경우, 캘리포니아는 미국에서 최초로 AI 딥페이크에 대한 포괄적인 규제를 도입하는 주가 된다.

지난달 31일(현지시간) AP통신에 따르면, 캘리포니아 주의회는 최근 인공지능(AI) 기술을 이용한 딥페이크를 규제하는 일련의 법안을 처리했다.

뉴섬 주지사에게 송부된 법안은 AI로 미성년자를 성 착취하는 내용의 딥페이크를 제작하는 것은 그 자체로 금지된다.

현행법상 딥페이크 성 착취물을 제작하는 것은 미성년자를 대상으로 해도 불법이 아니다.

표현의 자유를 규정한 미국 수정헌법 1조에 따라 딥페이크 속 인물이 실존하는 인물이 아닐 경우에는 기소와 처벌이 불가능하다는 이유에서다.

그러나 이번에 주의회가 처리한 법안은 실존하는 인물이 아니더라도 딥페이크 아동 성 착취물은 처벌이 가능하도록 규정했다.

뉴섬 주지사가 이 법안에 서명할 경우, 딥페이크 아동 성 착취물을 제작한 사람뿐 아니라 배포나 소지한 사람도 처벌할 수 있다.

캘리포니아 주의회는 또 오는 11월 대선을 앞두고 성 착취물뿐 아니라 선거 관련 딥페이크에 대한 규제를 강화하는 내용의 법안도 처리했다.

선거 관련 딥페이크 제작을 금지하고, SNS 업체에 선거 전 120일 전부터 딥페이크를 사용한 선거 콘텐츠를 규제하도록 의무를 부과했다.

이 법안은 선거 당국이나 후보가 딥페이크 선거 콘텐츠를 제작한 사람에 대해 소송을 제기해 손해배상을 받을 수 있는 길도 열어놨다.

다만, 이 법안은 풍자가 목적인 딥페이크에 대해선 규제하지 않는다는 예외 조항도 뒀다.

구글과 엑스(X·옛 트위터) 등 업계는 표현의 자유에 대한 과도한 규제라는 이유로 이 법안들에 대해 반대하는 분위기다. 다만, 챗GPT 개발사 오픈AI는 SNS 업체들의 AI 콘텐츠 관리 의무 강화에 찬성하는 것으로 알려졌다.

뉴섬 주지사는 9월 30일까지 이들 법안에 서명하거나 거부권을 행사할 수 있다.

오남석 기자