이미지 크게보기 일부 국적의 여성들은 인공지능(AI)에 기반한 구글 이미지 검색 결과에서 선정적 이미지로 묘사된다. 도이체벨레(DW) 캡처

웹사이트 등 2만여개 분석결과
국가별 이미지 검색 비율 격차
브라질 여성 40% ‘야한’분류
독일은 5%, 미국은 4%에 불과

인간의 제한된 인식 등 반영
“이대로 방치하면 인종·성차별”

‘독일 여성’ ‘브라질 여성’.

이 말을 듣고 각각 다른 이미지가 떠오른다면 당신은 이미 고정관념에 휩싸여 있는 것인지도 모른다. 그리고 여기엔 객관적이고 중립적이라고 여겨지는 인공지능(AI)의 탓도 크다.

도이체벨레(DW)는 최근 2만 개 이상의 이미지와 웹사이트 등을 분석한 결과, 국가별 여성을 구글에 검색하면 국가에 따라 선정적인 이미지 검색 비율이 크게 차이 난다고 보도했다. 예를 들어 브라질 여성, 태국 여성, 우크라이나 여성 등을 검색하면 미국 여성을 검색할 때 나타나는 결과보다 야하고 선정적인 이미지가 더 많이 나온다는 것이다. 마찬가지로 독일 여성을 검색하면 정치인이나 운동선수의 사진이 많이 검색되는 반면, 도미니카공화국이나 브라질 여성을 검색하면 수영복을 입고 섹시한 포즈를 취한 젊은 여성들의 이미지가 다수 검색된다.

이미지 크게보기

DW는 구글 세이프서치(음란물 차단 프로그램)를 이용해 분석했는데 구글이 ‘Racy’(야한) 이미지로 분류한 것에는 가슴 부분이 많이 파인 옷을 입고 있거나 도발적인 포즈를 취한 여성, 또는 특정 신체 부위를 클로즈업한 여성 사진 등이 포함됐다. 이 결과 도미니카공화국과 브라질 여성의 40%가 이런 야한 이미지로 나타난 반면, 미국 여성은 4%, 독일 여성은 5%에 불과했다. 중남미 여성뿐만 아니라 동유럽과 동남아시아 여성도 이와 비슷했는데 이런 이미지 바로 밑에 달린 짧은 설명에는 ‘결혼’ ‘데이트’ ‘섹스’ ‘핫’(hot)과 같은 단어들이 발견됐다. 예컨대 우크라이나 여성을 검색한 결과 100개 이미지 중 61개가 결혼, 섹스 등 단어가 적힌 콘텐츠로 연결된 반면, 독일 여성은 100개 중 16개, 프랑스 여성은 100개 중 6개만 이런 종류의 콘텐츠로 연결됐다. 특히 이 이미지들은 ‘toprussianbrides.com’(최고의 러시아 신부들), ‘hotlatinbrides.org’(섹시한 라틴 신부들) 등 특정 국적의 여성을 유료로 소개시켜 주는 국제결혼 알선기관 등과도 연결됐는데, 한 웹사이트의 소개 문구는 “만약 당신이 커리어(직업) 중심적인 서구 여성들을 주로 만났다면 우크라이나 신부는 매우 다르게 느껴질 것”이었다.

우크라이나 잡지 ‘젠더 인 디테일’(Gender in Detail)의 타마라 즐로비나 편집장은 이런 식의 묘사는 구소련이 붕괴한 뒤 1990년대 많은 우크라이나 여성이 돈을 벌기 위해 서유럽으로 갔던 역사와 관련이 있을 것이라고 분석하며 “이제 우리 경제 상황과 여성 교육 등이 개선되면서 이런 현실은 빠르게 변하고 있다. 외교관이나 정치인 등 멋진 여성이 많다. 신부 시장만 있는 게 아니다”라고 강조했다.

미 스탠퍼드대 인간중심 AI연구소의 레이나타 아빌라 연구원은 “알고리즘에 정보를 제공하는 데이터는 인간 표본의 제한된 인식과 편견, 소비 패턴 등을 반영한다”며 “검색 엔진이 문화적 편견을 복제하는 것은 놀라운 일이 아니다”라고 말했다. 그러면서 “알고리즘이 이것을 알고도 아무것도 안 한다면 인종차별이고 성차별”이라며 “그들이 보여주는 것에 대해 책임을 져야 한다. 새로운 해결책이 필요하다”고 강조했다.

하지만 이와 같은 AI 윤리 문제는 전 세계적으로 이제 막 논의를 시작한 단계로, 분명한 원칙이나 해결책이 부족한 상황이다. 구글은 검색 알고리즘의 편향성에 대한 DW의 입장 표명 요구에 “우리 시스템은 오픈 웹에서 정보를 모아 웹에 존재하는 부정적인 고정관념을 포함할 수 있다. 우리는 이에 대해 깊이 우려하고 있으며 해결을 위해 적극적으로 노력하고 있다”고 답했다.

박세희 기자 saysay@munhwa.com