이미지 크게보기 일케 데미르 인텔 선임연구원이 6일 서울 종로구 한 호텔에서 열린 ‘2024 국제저작권기술콘퍼런스’에서 ‘생성형 AI 시대의 콘텐츠 진위성’에 대한 발표를 진행하고 있다. 한국저작권위원회 제공

■ 2024 국제저작권기술콘퍼런스

글로벌 저작권 전문가들 모여
‘초연결시대 창의성보호’ 논의

11월 ‘저작권 축제의 달’ 지정
세미나·토크콘서트 행사 열어

휴대폰에 전송된 영상에서 딸은 “살려 달라”고 울부짖는다. 볼로디미르 젤렌스키 우크라이나 대통령은 “러시아에 항복한다”는 충격적인 발언을 한다. 합성이라고 믿기 어려울 정도로 자연스러운 이 영상들은 모두 인공지능(AI)으로 이미지와 영상을 합성한 딥페이크의 산물. 과거 흥미로운 신기술로 여겨졌던 딥페이크는 최근 정치권을 비롯해 성범죄 등 사회 범죄에까지 악용되면서 사회적인 문제로 급부상했다.

육안으로는 합성 여부를 구분조차 할 수 없을 정도로 발전한 딥페이크. 그러나 인텔에서 최근 개발한 프로그램 ‘페이크 캐처’를 통해 살펴보면 어색한 지점이 보인다. 실제 인간의 시선은 한 점으로 수렴하는 반면 영상 속 인물의 시선은 사방으로 향하고 있고 혈류의 흐름을 확인해 보면 알 수 없는 방향으로 피가 흐르기도 한다. 일케 데미르 인텔 선임연구원은 이에 대해 “컴퓨터 프로그램을 통해 보면 원본과 왜곡 이미지 사이의 차이점을 확인할 수 있다”고 소개했다. 지난 6일 서울 종로구 한 호텔에서 진행된 ‘2024 국제저작권기술콘퍼런스’에서 그는 “가짜 영상을 찾기보다는 어떤 것이 사람의 진짜 특성을 나타내는가 답을 하려고 했다”며 “딥페이크 영상은 육안으로는 똑같아 보이지만 알 수 없는 조명이나 혈류 흐름, 매끄럽지 않은 시선 등 특수 프로그램을 통해서 구분할 수 있는 부자연스러운 모습이 나타난다”고 설명했다.

이처럼 최근 AI의 발전 속에 악용 우려를 차단하는 새로운 기술들이 등장하고 있다. 국제저작권기술콘퍼런스에 모인 저작권 전문가들은 특히 “창작자들의 저작권에 대한 보호가 필요하다”고 한목소리로 이야기했다. 콘퍼런스의 올해 키워드 또한 ‘저작권 보호 기술, 초연결 디지털 전환 시대의 창의성 수호’다.

딥페이크가 만들어내는 영상 외에도 AI 이미지 편집 프로그램 ‘미드저니’는 직접 그림을 그리고 생성형 AI ‘챗GPT’는 책을 쓰기 시작했다. 생성형 AI가 결과물을 만들어내는 과정에서 다양한 창작물을 무분별하게 학습하는 만큼 창작자들은 자신의 작품이 사용됐는지조차 알지 못하는 경우가 많다. 데미르 연구원은 이날 AI가 만들어낸 영상, 그림과 같은 창작물을 “인간이 구분하는 것은 불가능하다”며 저작권 보호를 위한 프로그램을 제시했다. 그중 대표적인 것이 바로 MAMC(My Art My Choice). 생성형 AI는 결과물을 만들어내는 과정에서 다양한 창작물을 학습하는데 이로부터 내 작품을 보호하는 기술이다. 데미르 연구원의 설명에 따르면 MAMC는 창작자의 그림이나 사진 등 이미지를 일정 부분 왜곡해, AI가 인식·모방할 수 없도록 한다.

이외에도 이날 행사에서는 최근 저작권 위협을 가장 많이 받는 웹툰 분야가 다뤄졌다. 유료 결제를 통해 볼 수 있는 웹툰을 불법 프로그램으로 캡처하고 유출하는 방식에 발맞춰 주요 플랫폼에서는 ‘워터마크’를 작품 속에 삽입해 유출 경로를 파악하기도 한다. 서충현 네이버웹툰 실장은 최근 고도화되는 웹툰 불법유출 방식에 발맞춰 “워터마킹 기술을 통한 사후 차단과 유출자 데이터를 기반으로 사전에 유출을 예측해 차단하는 기술을 활용하고 있다”고 전했다.

저작권 보호의 필요성이 높아지는 시점에 문화체육관광부와 한국저작권위원회, 한국저작권보호원은 11월을 ‘저작권 축제의 달’로 정하고 관련된 다양한 행사를 개최 중이다. 국제저작권기술콘퍼런스를 시작으로 공유·공공저작물 및 오픈소스SW 국제 콘퍼런스(13일), 게임 저작권보호 유관기관 공동세미나(15일) 등의 행사를 연다. 오는 29일에는 저작권 특화 도시로 선포된 경남 진주시에서 김영하 작가와 함께하는 ‘저작권 토크 콘서트’를 개최할 예정이다. 정향미 문체부 저작권국장은 “세계로 뻗어 나가고 있는 K-콘텐츠를 뒷받침하기 위해서는 전 국민이 저작권을 지켜나가려는 노력이 필요하다”며 “저작권 축제의 달 행사를 통해 저작권 인식을 높이기 위해 노력하겠다”고 밝혔다.

신재우 기자 shin2roo@munhwa.com

문화일보 - 문화체육관광부 공동기획