이미지 크게보기이 사진은 ‘가짜’입니다 22일 SNS에 급속하게 퍼졌던 미국 국방부 청사(펜타곤) 근처 폭발 사진. 마치 펜타곤 인근에 대형 폭발이 발생해 불길이 치솟는 듯하지만, 이는 인공지능(AI)이 만든 가짜 이미지인 것으로 밝혀졌다. 트위터 캡처

■ ‘펜타곤 폭발’ 사진 대소동

사칭 트위터 계정엔 ‘인증마크’
유료구독 회원에 무조건 부여

“미국 공격 당해” 금 · 국채도 요동
‘허위정보 악영향’ 우려 현실로

워싱턴 = 김남석 특파원 namdol@munhwa.com

인공지능(AI)이 만든 가짜 미국 국방부청사(펜타곤)·백악관 사진이 22일(현지시간) 뉴스채널을 위장한 SNS 등을 통해 사실인 양 유포되면서 주식시장이 출렁이고 금·국채 등 안전자산 가격이 오르는 소동이 벌어졌다. AI가 만들어낸 현실과 구분하기 어려운 가짜 뉴스·이미지가 무분별하게 유통될 경우 정치·사회·경제 전반에 치명적 악영향을 끼칠 수 있다는 우려가 현실로 확인된 셈이다.

CNN·블룸버그통신 등에 따르면 이날 SNS에는 펜타곤처럼 생긴 건물에 검은 연기가 피어오르는 이미지가 유포됐다. 2001년 발생한 9·11 테러 당시 알카에다로부터 펜타곤이 공격받은 장면을 떠올리게 하는 사진이었다. 이어 백악관이 화재에 휩싸인 이미지도 SNS에 유포됐다.

이미지 크게보기 미 백악관 건물이 화재에 휩싸여있는 것처럼 인공지능(AI)이 만들어낸 가짜 이미지. 트위터 캡처

AI가 만든 가짜 펜타곤과 백악관 이미지가 삽시간에 퍼져나간 데는 SNS가 가진 근본적인 문제점이 한몫했다. 먼저 공신력 있는 뉴스채널을 위장한 SNS 계정이 활용됐다. 블룸버그뉴스 피드를 사칭한 이 계정은 현재 운영 정지된 상태다. 해당 계정에는 실제 공식계정인지 확인해준다는 트위터의 ‘파란 딱지’(트위터의 인증 마크)가 달렸다. 하지만 현재 트위터 인증 마크는 월 8달러(약 1만500원)씩 유료 구독하는 회원에게 부여되는 상황이다.

미국과 갈등 중인 러시아 관영 매체도 가짜 이미지 확산에 기여했다. 러시아 RT의 트위터 계정이 “펜타곤 근처에서 폭발 보도”를 게재하자 인도 리퍼블릭 TV 등이 해당 매체를 인용해 뉴스를 보도하기도 했다. 펜타곤이 해당 사실을 부인하고 알링턴 소방서에서 화재 사실이 없었다는 해명이 나온 뒤에야 소란이 진정됐다.

가짜 펜타곤 이미지는 투자 웹사이트 등을 통해 번지면서 다우존스 30 산업평균지수, 스탠다드앤드푸어스(S&P) 500지수 등을 출렁이게 만들고 금·국채 등 가격에도 충격을 줬다. 이번 사건은 해당 이미지가 가짜라는 사실이 밝혀지면서 진정됐지만 AI를 활용해 거짓 정보를 고의 유포할 가능성을 보여줬다.

특히 내년 미 대선 등을 앞두고 가짜 뉴스·이미지를 대량으로 만들 수 있는 생성형 AI 기술과 허위정보를 전달하는 SNS 부작용이 결합할 경우 큰 정치·사회문제로 확산할 수 있다는 우려가 커지고 있다. 샘 올트먼 오픈 AI CEO는 16일 미 의회 청문회에서 “가장 우려하는 것은 설득과 조작을 통해 일종의 1대 1 대화형 허위정보를 제공하는 능력”이라며 주요 선거에 치명적 악영향을 미칠 수 있음을 경고했다.