곽금주 서울대 심리학과 명예교수, DGIST 석좌교수

인간은 창조 과정에서 만족감
AI 기술과 접목되며 질적 도약
악용 부작용 피해는 상상 초월

가짜를 진짜로, 진짜를 가짜로
규제·예방 실패 땐 불신 부메랑
교육과 훈련 등 장기 대책 절실

지구상의 동물 중에서 인간이 가장 창조적인 존재임은 의심할 여지가 없다. 뭔가를 창조하는 과정에서 인간은 더없는 통제감과 만족감을 느낀다. 창조성이 인간의 생활을 완전히 바꾸면서 인간은 진화·발전해 왔으며, 인공지능(AI) 기술과 만나면서 무한한 가능성의 세계에 진입하게 됐다.

그중 하나가 딥페이크 기술이다. 이는 역사적 자료의 복원, 교육 및 의료 기술의 혁신, 영화 산업과 마케팅에서의 다양한 활용 등 일상의 여러 영역에 영향을 주면서 비약적인 사회 발전에 이바지하고 있다. 그러나 다른 한편 이 신기술은 엄청난 무기가 돼 우리 스스로를 점점 옥죄고 든다. 딥페이크 기술을 이용한 결과물은 이를 조작하면서 가지게 되는 통제감·만족감과 같은 심리적 보상에 그치는 게 아니라, 정치적 목적이나 경제적 이득을 위해 악용되기도 한다.

최근에는 성적 딥페이크의 확산으로 미성년 피해자가 다수 발생해 충격을 안겨줬다. 무엇보다 놀라운 것은, 가해자 역시 상당수가 10대라는 점이다. 호기심 많고, 자신의 존재감을 드러내어 인정받으려는 욕구가 강한 시기이기에 청소년들은 처벌의 두려움이나 사회적 윤리감보다는 딥페이크 기술을 조작해 보려는 욕구가 더 강렬해진다. 처음에는 단순한 장난으로 시작하더라도, 경쟁하듯 점점 더 자극적이고 그럴듯한 영상을 만들고 그 결과물에 대한 다른 친구들의 반응에서 성취감을 느끼면서 ‘딥(deep)’페이크에 ‘깊이(deep)’ 빠져들게 되는 것이다. 그 과정에서 피해자에게 얼마나 큰 상처를 주는 범죄인지에 대한 자각 부족은 문제를 보다 심각하게 만든다.

정치인을 대상으로 한 피해는 이미 2018년 ‘오바마 딥페이크’ 영상 때부터 있었다. 2년 전 우크라이나 대통령이 러시아에 항복하는 모습을 담은 딥페이크 영상이 한때 큰 혼란을 불러일으켰지만, 곧 가짜임이 드러났다. 최근에는 대규모 팬덤을 지닌 테일러 스위프트가 도널드 트럼프 전 미국 대통령을 지지하는 딥페이크 영상이 화제가 되기도 했다. 이러한 지지가 거짓이었다는 사실이 밝혀지면서 딥페이크의 정치적 사용에 많은 사람이 우려를 표하고 있다.

그래도 딥페이크 기술은 급속히 발전한다. 최근 연구에 따르면 시각뿐만 아니라 후각이나 촉각의 조작까지도 가능해짐에 따라 딥페이크 인물에 더욱 안정감 있는 매력을 더할 수 있게 됐다. 다양한 감각을 동원해 AI 기술로 만들어진 인물을 접하는 대중의 무의식적 감정까지 자극할 수 있다는 점에서 그 피해는 상상하기조차 어렵다.

딥페이크로 조작된 인물이 진짜로 인식된다는 점에 더해 더 위협적인 것은, 역으로 이를 활용해 진짜를 가짜로 만들어 버릴 수 있다는 점이다. 특히나 언론에 대한 신뢰를 훼손하는 것은 취약한 정치 환경에 더 심각한 문제를 불러일으킬 수 있다. 언론이 조작됐다고 확신하게 되는 순간 사회는 혼란에 휘말리게 된다. 실제 촬영된 사진이나 영상을 더는 신뢰하지 못하게 되면 실제 증거라 하더라도 얼마든지 가짜로 치부되고 의심받게 될 수 있다. 딥페이크 기술에 대한 규제책 마련이 꼭 필요한 것도 이 때문이다. 그러나 규제는 기술보다 늘 한발 늦기 마련이다. 인간의 창의성에 기반한 무한한 인간의 조작 능력이 예상치 못한 결과를 낳으면서 이에 대한 예방과 처벌 조항이 마련되고 있지만, 인간의 무한한 창조성은 규제를 뛰어넘어 계속 진화해 버릴 수 있다.

우리나라도 딥페이크·딥보이스 등 허위조작 콘텐츠를 탐지할 수 있는 딥러닝 기술 개발비를 내년 경찰 예산에 따로 책정하는 등 이에 대해 준비를 하고 있다. 허위조작 콘텐츠 제작과 배포에 대한 처벌이나 규제 또한 강화돼야 한다는 목소리도 점차 커지고 있다. 이 지점에서 지금 마련되고 있는 대책들이 무언가 창조하고 조작하는 데서 기쁨을 느끼는 인간의 욕구를 적절히 차단할 수 있는지를 고려해야 한다. 여러 욕구를 가지고 태어난 인간은 어릴 때부터 교육과 훈련을 통해 이를 잘 다스리도록 내면의 양심이나 윤리를 발달시킨다.

이제는 창조 욕구조차 긍정적인 방향으로 끌어갈 수 있는 교육이 이뤄져야 한다. 인간의 조작 욕구에 의한 창조성이 부메랑이 돼 불신과 혼돈을 초래하지 않도록 강력한 장기적 대책도 마련해야 할 때다.

이미지 크게보기 곽금주 서울대 심리학과 명예교수, DGIST 석좌교수