김상배 서울대 정치외교학부 교수

챗GPT ‘독도는 한일 분쟁지역’
한국 위인을 서양인으로 둔갑
빅테크 맞설 ‘소버린 AI’ 절실

한국은 AI 주권 보호할 기술력
플랫폼경쟁法 등 역주행 우려
디지털 국가책략 가다듬을 때

최근 챗GPT가 ‘독도는 어느 나라 땅인가’라는 질문에 ‘한국과 일본의 영토 분쟁지역’이라 답했다고 해서 논란이 됐다. 또, 이미지 생성형 인공지능(AI)을 활용해 조선의 역사적 인물 초상화를 그리랬더니 서양인을 그렸다는 말도 들린다. 모두 생성형 AI가 우리나라의 역사적·문화적 맥락을 이해하지 못하고 영어 텍스트나 서양인 얼굴 데이터를 대량 학습해서 생긴 결과다.

일각에서는 해당 업체에 항의 메일을 보냈다고 하는데, 수용할지도 모르겠지만 수정하기도 쉽지 않다. 관리자가 있는 ‘스몰데이터’ 모델이 아니라, 글로벌 인터넷의 ‘빅데이터’ 환경에서 작동하는 모델이기 때문이다. 이 문제를 해결하기 위해서는, 사이버 민간 외교관으로 알려진 반크(VANK)처럼 공공외교 차원에서 잘못된 국가 정보를 교정해 달라고 요청하는 수준을 넘어서 좀 더 근본적인 대책이 필요하다.

이것은 모두 자국의 AI 역량이 부족해서 생기는 일이다. 이런 맥락에서 최근 부쩍 많이 거론되는 것이 ‘소버린 AI(Sovereign AI)’ 또는 AI 주권 담론이다. ‘소버린 AI’는, 글로벌 빅테크 기업에 종속되지 않고 자국 언어·문화 기반의 데이터를 학습한 거대언어모델(LLM)을 자체적으로 구축하자는 주장이다. 글로벌 빅테크 기업이 제공하는 생성형 AI의 이용이 늘어나는 상황에서, 아무리 해외 기업이 ‘양질의 데이터’를 학습시킨다고 하더라도 자국 언어의 고유성이나 데이터 주권을 훼손할 가능성은 언제나 있을 수밖에 없다. 그리고 자국만의 문화적 맥락을 반영한 플랫폼 서비스의 제공도 어렵다는 문제의식의 발로다.

‘소버린 AI’의 핵심은 자국어 기반의 토종 AI를 개발하는 기술 역량에 있다. 표준 확산과 개방적 생태계의 조성을 위해서 소프트웨어를 공유하던 시대는 지났다. 소프트웨어와 AI도 지정학적 기술 경쟁의 대상으로 인식되는 세상이다. 로컬 데이터를 활용하는 자체적인 AI 역량을 갖추고 자국 플랫폼을 구축하는 것은 데이터·AI·플랫폼 주권을 지키는 ‘디지털 국가책략(digital statecraft)’의 요체다. 또한, AI 기술 역량을 갖추는 것은 국가안보에도 중요하다. AI를 활용한 첨단 무기체계의 보유 여부는 미래 전쟁의 승패를 가를 변수가 됐고, AI를 활용한 사이버 공격이나 허위조작 정보의 유포도 최근 새로이 제기된 안보 위협이다. AI 윤리 관련 국제규범을 마련하기 위한 움직임도 활발히 진행되고 있다.

이러한 맥락에서 ‘소버린 AI’의 추구는 후발 주자들에 대세가 됐다. 영국, 프랑스 등 유럽 국가뿐만 아니라 인도와 싱가포르, 브라질 등이 ‘소버린 AI’를 개발하기 위해 분주히 나서고 있다. 정작 AI 주권을 지킬 정도로 기술력을 보유한 나라는 몇 안 된다. 그러나 한국은 디지털 주권을 지켜온 경험과 역량이 있다. 우리나라는 MS워드 이외에 자국어 워드프로세서를 보유한 유일한 나라다. 또한, 자체 검색 엔진을 보유한 4개국 가운데 하나다. 다양한 사회관계망(SNS)과 플랫폼 서비스도 자랑거리다. 자국 플랫폼을 바탕으로 자체 데이터센터를 건설했고, 초거대 AI 모델 개발의 기술력도 보유한 나라다. ‘소버린 AI’는 자국어 특화 모델로 시장을 공략하려는 특정 기업의 마케팅 수단이라는 비판도 없지 않다. 그런데도 국가 차원에서 보면 이러한 담론을 적절히 활용해 AI 역량을 키우고 AI 주권을 지켜낼 발판을 마련할 필요는 있다.

우리 정부는 이러한 세계적인 큰 흐름을 제대로 읽고 있는지 묻고 싶다. 각국 정부가 AI 개발을 지원하고 자국 플랫폼의 육성을 적극적으로 도모하는 데 비해, 우리나라 정부는 이른바 ‘플랫폼 경쟁촉진법’ 등을 내세워 국내 플랫폼 기업들을 규제하는 데 주력하는 모양새다. 오락가락하는 정책은 더 문제다. AI 기술 혁신을 지원한다면서도, 플랫폼은 규제하고, 데이터 클라우드는 ‘개방’하는, 일관성 없는 정책이 추진되고 있다. 데이터·AI·플랫폼 분야의 역량 강화를 주권 확보의 차원에서 이해하고 종합적으로 추진하는 정책의 정비가 필요하다. 그렇다고 고리타분한 과거의 국가주권론으로 돌아가자는 것은 아니다. 적어도 글로벌 트렌드에 역행하는 정책에서 벗어나 디지털 지정학 시대를 헤쳐갈 국가 책략의 방향을 제대로 바로잡아 보자는 것이다.

이미지 크게보기 김상배 서울대 정치외교학부 교수