이미지 크게보기 정신아 카카오 대표가 지난달 4일 서울 중구 플라자호텔에서 열린 카카오 기자간담회에서 발표하고 있다. 뉴시스

개인정보위, 카카오 AI ‘카나나’ 사전적정성 검토 심의
연내 출시 예정…개인정보위 "향후 이행 점검 할 것"

올 상반기 카카오가 대화형 인공지능(AI) 앱 ‘카나나’를 출시할 예정인 가운데, 정부와 함께 개인정보 보호 방안을 마련했다.

개인정보보호위원회는 12일 전체회의를 열고 카나나에 대한 사전적정성 검토 결과를 심의·의결했다고 13일 밝혔다.

사전적정성 검토제란 신청인이 AI 등 신기술·신서비스 기획·개발 단계에서 기존의 법 해석·집행 선례만으로는 개인정보 보호법 준수방안이 명확하지 않을 경우, 개인정보위와 협력해 신청 대상 신기술·신서비스에 적합한 법령 준수 방안을 마련하고 이를 이행하면 사후 불이익한 처분을 부과하지 않는 제도다.

개인정보위에 따르면 카카오는 지난해 12월 사전적정성 검토를 신청했다. 카카오는 안전장치 역할의 AI 모델을 카나나에 탑재해, 타인의 개인정보를 캐내기 위한 악의적 유도 질문을 차단하거나 생성하는 답변에 타인의 개인정보가 노출되는 일이 없도록 자동 검수할 계획이다.

이미지 크게보기 정신아 카카오 대표와 샘 올트먼 오픈AI CEO가 지난달 4일 서울 중구 플라자 호텔에서 열린 전략적 제휴 관련 기자간담회에서 악수하고 있다. 연합뉴스

개인정보위는 카카오와 검토를 통해 △암호화 등 기술적 보안조치 강화 △외부모델 처리데이터 보호 강화 △내부 학습에 이용 시 별도 추가적 안전조치 운영 △내부 관리 체계 강화 등 크게 네 가지 안전조치 방안을 마련했다. 특히 카카오가 오픈AI와 협력해 일부 데이터를 오픈AI에서 처리하도록 위탁한 만큼, 오픈AI에서 처리되는 데이터가 다른 목적으로 쓰이지 않도록 위·수탁 계약 조건을 명확히 하고 기술적 제약도 두기로 했다. 또 카카오는 이용자의 대화 데이터를 학습데이터로 활용하려면 이용자로부터 별도 동의를 받아야 하는데, 이용자의 대화 속 개인정보가 그대로 학습돼 노출되는 경우를 막기 위해 자동 필터링 등 방안을 마련하기로 했다.

카카오가 사전적정성 검토를 신청한 데엔 최근 AI가 사회 전반에 확산하는 가운데 개인정보 유출에 대한 우려 역시 커지고 있기 때문으로 풀이된다. 개인정보위는 지난달 중국의 AI ‘딥시크’가 이용자 개인정보를 중국 소셜미디어(SNS) 틱톡 모회사 ‘바이트댄스’에 넘긴 사실을 확인하고 앱 신규 다운로드를 중단하는 등 조치에 나선 바 있다. 특히 카카오의 경우 지난해 5월 카카오톡이 개인정보보호 법규 위반으로 인해 150억 원이 넘는 과징금·과태료를 부과받은 바 있다. 이는 현재까지 국내 기업 기준 최고액으로, 신사업 출시를 앞두고 만반의 준비를 기하고 있다는 것이다.

향후 개인정보위는 카나나의 안전조치 방안 이행 여부를 점검할 예정이다. 전승재 개인정보위 조사조정국 조사3팀장은 이날 오전 정부서울청사에서 열린 브리핑에서 "출시 전에 안전 조치가 구현된 상태여야 한다"며 "출시 직전 첫 번째 이행 점검할 예정이고 한동안 운영한 후 2차 이행 점검을 할 예정"이라고 밝혔다.

카카오 측은 "개인정보위와 협의한 사항들에 맞춰 서비스를 출시·운영해 갈 예정이다. 이용자의 개인정보를 안전하게 관리하기 위해 개인정보 보호 법령에 따른 요구사항을 준수하기 위해 노력하고 있다"며 "향후에도 법령을 준수하고 이용자의 개인정보 보호를 우선으로 고려해 나가겠다"고 밝혔다. 정신아 카카오 대표는 지난달 4일 카카오-오픈AI 공동 기자간담회에서 올해 안에 정식 버전을 출시할 계획이라 밝힌 바 있다.

구혁 기자