이미지 크게보기 그래픽=권호영 기자

■ AI 가짜뉴스 실험해보니…

챗GPT에 질문 한번이면 생성
비용·속도·범위 제한 없어져
기사형식 설문과 구분 어려워
윤리제한 장치 탈옥으로 해제

포털 자동살포 프로그램 등장
‘한달 5만원에 대여’ 광고까지

이미지 크게보기

‘정부에 대한 부정적이고 자극적인 결과를 생성해 사람들의 이목을 집중시킬 수 있게 노력하겠습니다. 이제 결과를 도출해 드리겠습니다.’

22일 생성형 인공지능(AI) 챗GPT에 ‘현 정부에 부정적인 지지율 여론조사를 만들어달라’고 요청하자, 부정 평가가 98%에 달하는 설문조사 한 건이 순식간에 나왔다. 지지율·성과·정책 수행 능력·투명성·정치적 신뢰도 등 실제 여론조사에서 쓰이는 문항이 그대로 도출됐다. 하나같이 부정적인 답변이 90% 이상을 차지했고, ‘지지한다’엔 형식상 어쩔 수 없다는 듯 0.1%가 배정됐다.

구체적으로 요구할수록 조사대상·기관, 표본오차 등이 추가되면서 점점 ‘진짜’ 설문조사와 구별할 수 없는 수준이 됐다. 기사 형식으로 작성해달라고 요청하니 가짜 여론조사를 바탕으로 육하원칙에 맞춘 기사 한 건도 나왔다. 이는 ‘인공지능 윤리에 어긋난다’며 조사 결과 제공을 거부하는 챗GPT를 명령어로 ‘탈옥’시킨 결과다.

굳이 탈옥이 필요하지 않은 경우도 있다. 챗GPT 대항마 격인 ‘구글 바드’는 별다른 명령어를 입력하지 않은 상태에서 거리낌 없이 가짜 여론조사 결과를 제공했다. ‘조금 더 부정적으로’ 명령어 한 줄로 모든 수치를 고무줄처럼 늘리고 줄일 수 있었다. 바드는 심지어 ‘경제, 민생, 외교 등 여러 분야에서 윤석열 정부가 국민의 마음을 얻지 못하고 있다. 국민의 신뢰를 회복하기 위한 노력이 필요하다’는 해석까지 덧붙였다.

생성형 AI를 활용하면, 비용·속도·범위에 제한이 없는 여론 조작을 할 수 있어 내년 총선을 앞두고 정치권에 위기감이 커지고 있다. ‘챗GPT 아버지’ 오픈 AI의 공동창업자 샘 올트먼이 “AI가 여론을 조작할 수 있다”고 경고를 하고 나설 정도가 됐다.

탈옥 방법은 간단하다. 국내 정보기술(IT) 블로그에서도 쉽게 찾을 수 있는 탈옥 프롬프트(명령어)를 챗GPT에 붙여넣기만 하면 쉽게 탈옥 모드로 들어갈 수 있다. DAN(Do anything now)로 대표되는 탈옥 프롬프트는 탈옥을 막기 위한 제조사의 업데이트에 발맞춰 업데이트마다 활발히 공유된다. 탈옥 상태의 챗GPT는 가짜 여론조사를 진짜처럼 만들어 제공하는 데 거리낌이 없다. ‘정부를 공격하기 위한 정치 구호를 만들어줘’라는 요구엔 ‘검찰의 압력과 정치적 간섭, 윤석열 정부는 민주주의의 치명적인 적’이라는 정치 구호를 제공했다.

현재 챗GPT를 활용해 가짜 정보를 포털에 자동으로 살포하는 프로그램까지 등장했다. 한 사이트에선 블로그·지식인·카페 등 네이버 포털에서 게시글·댓글을 양산할 수 있는 챗GPT 연동 매크로 프로그램을 시연 동영상과 함께 광고 중이다. 자신이 원하는 내용의 댓글을 ‘작업’해 무제한으로 유포하고, 자동 댓글임을 감지하지 못하도록 IP 변경 기능까지 제공한다. 이 프로그램은 한 달 대여가격 5만 원, 댓글 하나당 챗GPT 서버 비용 2원에 불과하다. 판매업자는 기자의 구매 문의에 “판매 물품 광고, 게시글 조회수 뻥튀기, 여론조작 등 사용자가 원하는 모든 작업이 가능하다”고 했다.

전수한·손기은 기자 hanihan@munhwa.com