이미지 크게보기

넷플릭스 등 유명사이트 모방
더 손쉽고 교묘하게 제작가능
“부작용 막을 가이드라인 필요”

대화 생성형 인공지능(AI) 챗봇 ‘챗GPT’로 만든 피싱 사이트가 온라인상에서 빠르게 퍼지는 등 챗GPT를 악용하는 사례들이 속출하고 있다. “등장 자체가 인터넷의 발명만큼 중대 사건”(빌 게이츠 마이크로소프트(MS) 창업자)인 챗GPT는 ‘혁신의 상징’이지만, 동시에 인간의 이기심에 따라 얼마든지 이 기술이 오용될 수 있다는 지적이 나온다. 챗GPT가 사회 전 영역에 걸쳐 실생활 속으로 급속히 파고들고 있지만 음지부터 대중화하고 있어 AI 윤리와 규제 마련이 시급하다는 우려의 목소리도 커지고 있다.

21일 보안업계에 따르면, 챗GPT를 활용하면 쉽게 피싱 사이트를 만들 수 있다. 챗GPT 도움을 받아 특정 국가·집단의 트래픽을 발생시킬 만한 키워드를 추출하고, 이 키워드를 바탕으로 챗GPT를 활용해 피싱 사이트를 양산할 수 있다. 기존에는 개발자가 오랜 시간과 노력을 들여 피싱 사이트를 만들었다면, 이제는 챗GPT를 활용해 누구나 쉽게 피싱 사이트를 제작할 수 있게 된 것이다. 실제 유튜브에는 챗GPT를 활용해 피싱 사이트를 만들어 광고 수익을 얻는 방법을 소개하는 영상이 넘쳐난다. 업계에서는 이른 시일 내 챗GPT를 활용해 더욱 고도화된 피싱 사이트가 등장할 수 있다고 보고 있다. 현재도 챗GPT에 ‘넷플릭스와 유사하게(Netflix-like) 피싱 사이트 로그인 페이지를 만들어달라’고 하면, 챗GPT는 솔루션을 그대로 제공한다. 인기 검색어인 ‘백종원 불고기’를 입력해도 “아이폰에 당첨됐다”며 챗GPT로 생성된 사이트들이 무더기로 나온다. 만약, 피싱 사이트에 속아 개인정보를 입력하면 개인정보 유출에 따른 금전 피해 등을 겪을 수 있다.

이 같은 부작용에도 사실상 비용을 들이지 않고 웹페이지를 제작할 수 있게 된 1인 스타트업·쇼핑몰은 챗GPT를 적극 활용하고 있다. 혁신 기술의 등장으로 관련 비용이 낮아져 사회가 진보하는 현상이 나타나고 있는 것이다.

장병탁 서울대 AI연구원장은 “기술은 가치 중립적이지만, 악용하면서 많은 문제가 발생한다”며 “기술 발전에 장애가 되지 않게 하기 위해서라도 악용 사례에 대한 가이드라인 마련이 필요하다”고 지적했다.

전수한 기자 hanihan@munhwa.com