이미지 크게보기 샘 올트먼(왼쪽) 미국 오픈AI CEO(최고경영자)의 실제 사진과 그가 지난 27일 X(옛 트위터)에 올린 일본 애니메이션 제작사 ‘스튜디오 지브리’ 화풍의 초상화. 엑스 캡처

맥락따라 유명인-민감 표현 허용


한층 진화한 이미지 생성 인공지능(AI) 모델을 출시해 화제를 일으키고 있는 오픈AI가 민감한 이미지 생성에 대한 자체 제한을 풀었다고 밝혔다. 일각에서는 이로 인해 혐오 표현 등이 확산할 수 있다는 우려가 나온다.

오픈AI의 조앤 장 모델행동 총괄은 지난 27일(현지시간) 자신의 블로그와 엑스(X·구 트위터)에 올린 글을 통해 자사의 새로운 AI 모델 출시에 따른 콘텐츠 정책 변경 내용을 알렸다.

이는 오픈AI가 지난 25일 출시한 ‘챗GPT-4o 이미지 생성’(ChatGPT-4o Image Generation) 모델에 대한 것으로, 샘 올트먼 오픈AI 최고경영자(CEO)는 이 모델 출시를 “창의적 자유를 허용하는 데 있어 새로운 주요 이정표”로 강조했다고 장 총괄은 전했다.

그는 또 ‘창의적 자유를 허용하는’ 부분에 대해 추가로 설명하겠다면서 “우리는 민감한 영역에 대한 포괄적인 거부에서 현실 세계에서의 실제 피해를 방지하는 데 초점을 맞춘 더 정밀한 접근 방식으로 전환하고 있다”고 밝혔다.

이어 “AI 연구소 직원들은 사람들이 무엇을 만들고 무엇을 만들지 말아야 할지 허용하는 중재자가 되어서는 안 된다”며 “우리는 실질적인 피해를 방지하면서 창의적 자유를 극대화하는 것을 목표로 삼았다”고 부연했다.

그러면서 이런 정책 변경의 몇 가지 사례로 공인 관련 이미지와 특정 집단에 모욕적일 수 있는 콘텐츠, 혐오를 상징하는 표현 등을 제시했다.

이미지 크게보기 조앤 장의 SNS 캡처

공인 이미지와 관련해 오픈AI는 ‘지위’에 관계없이 모든 사람에게 공정하고 동등하게 정책을 적용하기를 원한다면서 “우리는 ‘충분히 중요한 사람’이 누구인지 판단하는 중재자가 되기보다 우리 모델에 의해 묘사될 수 있는 누구든 (이미지 생성 허용 여부를) 스스로 결정할 수 있도록 옵트-아웃 목록을 만들기로 했다”고 설명했다.

이는 이미지 생성 모델이 기본적으로 유명인을 포함해 모든 사람의 이미지를 모방할 수 있게 하고, 당사자가 이를 원하지 않는 경우에만 이미지 생성이 제한되도록 하겠다는 것이다.

장 총괄은 불쾌하거나 모욕적인 콘텐츠의 사례로 “이 사람의 눈을 좀 더 아시아인처럼 보이게 해달라”거나 “이 사람을 좀 더 뚱뚱하게 해달라” 같은 요청을 AI 생성기가 그동안 거부했으나, 그런 제한을 두지 않겠다는 방침을 밝혔다.

정보기술(IT)매체 테크크런치는 실제로 챗GPT-4o 이미지 생성기에 테스트한 결과, 이런 유형의 요청을 그대로 받아들이는 것을 확인했다고 전했다.

장 총괄은 또 혐오 상징 표현의 사례로 나치를 상징하는 스와스티카 같은 문양을 들어 이것이 교육적이거나 문화적인 맥락에서 사용될 수 있다면서 “그것들을 완전히 금지하면 의미 있는 대화와 지적인 탐구까지 없앨 수 있다”고 설명했다. 그러면서 “대신에 우리는 유해한 오용을 더 잘 식별하고 거부할 수 있는 기술적 방법을 반복하고 있다”고 덧붙였다.

테크크런치는 오픈AI의 이런 정책 변경에 대해 “챗GPT는 오픈AI가 이전에 허용하지 않았던 도널드 트럼프나 일론 머스크, 다른 유명 인사들의 이미지를 생성하고 수정할 수 있게 됐다”며 “이제 AI 콘텐츠 관리를 둘러싼 문화 전쟁이 대두될 수 있다”고 지적했다.

오픈AI가 출시한 챗GPT-4o 이미지 생성기는 일본의 유명 애니메이션 제작사 ‘스튜디오 지브리’ 스타일을 모방한 이미지를 생성해내 이용자들에게 인기를 끌었으나, 저작권을 침해할 가능성이 있다는 논란을 일으키기도 했다.

오픈AI가 25일 챗GPT-4o에 탑재한 이미지 생성 모델은 원하는 사진을 단 몇 초 만에 디즈니, 심슨가족 등 유명 애니메이션 화풍으로 바꿔주거나 새로 만들어준다.

특히 일본 애니메이션의 거장 미야자키 하야오 감독의 ‘스튜디오 지브리’ 스타일이 전 세계적으로 인기를 끌면서 오픈AI의 서버에 과부하가 걸린 것으로 알려졌다.

이와 관련해 미국 정보기술(IT) 전문매체 디인포메이션은 “스튜디오 지브리 측이 조만간 오픈AI를 저작권 침해로 고소할 것으로 예상한다”고 전망했다. 다만 일본 문화청이 ‘AI와 저작권’ 관련 지침에서 “화풍은 아이디어일 뿐이어서 화풍이 겹친다는 것 자체로 저작권 침해가 되는 것은 아니다”라고 판단하고 있어 저작권 침해가 실제 인정될지는 불확실하다.



박준우 기자