이미지 크게보기

- 기고

황용석 건국대 미디어커뮤니케이션학과 교수

“인공지능(AI)은 편견이 없을 것이라는 생각이야말로 편견이다.”

인간은 주관성을 갖춘 존재로 문화나 사회가치로부터 영향을 받는다. 과학의 발전은 이런 주관성으로부터 벗어나기 위한 노력의 결과다.

과학기술의 최전선에 있는 AI는 객관적인 데이터에 의해 작동되는 불편부당한 판단자로 여겨지는 잘못된 신화가 있다. 현재 AI 서비스의 대부분은 머신러닝 기술에 의해 구현되고 있다. 머신러닝은 기존에 있는 데이터를 이용해서 예측이나 판단이 가능한 통계 모델을 만든 후, 새롭게 입력되는 데이터로 그런 작업을 수행하면서 모델을 계속 업데이트하는 자동화 시스템이다.

따라서 머신러닝 알고리즘은 입력되는 데이터가 편향이나 고정관념을 담고 있으면 이를 그대로 반영할 수밖에 없다. 경우에 따라서는 의도적으로 알고리즘 모델을 조작하는 경우도 있다. 페이스북 이용자를 대상으로 애덤 크레이머가 실시한 감정전이(emotional contagion) 실험이 그 예이다. 다른 사람의 감정이 내게 옮겨오는 현상을 일컫는다. 예를 들어 친구가 울면 내가 슬퍼지는 것과 같은 현상이다. 크레이머는 페이스북의 도움을 받아 이용자를 실험군과 비교군으로 나누고 실험군 68만9003명의 뉴스피드 알고리즘을 조작했고 그 결과 감정전이를 확인했다. 이 논문이 발표된 후 페이스북 알고리즘이 이용자의 감정을 조작할 수 있다는 놀라운 사실에 많은 우려와 비판이 제기됐다.

정치권은 알고리즘의 취약성을 이용하는 대표적 집단이다. 온라인상의 가짜뉴스 이슈는 대부분은 알고리즘과 관련돼 있다. 비슷한 속성을 연결지어 주는 소셜미디어 알고리즘의 특성을 이용해서, 각 선거 진영은 더 강하고 선동적인 메시지를 지지자 집단에 보내는 타기팅 캠페인을 전개하고 있다.

그 결과 유사한 성향의 사람들이 메시지의 진실성과 관계없이, 선호하는 정보를 상호 공유하는 에코체임버(공명실) 현상이 나타났다. 정치 양극화의 원인이기도 하다.

우리는 지금 알고리즘이 매개하는 사회에 살고 있다. 자동추천시스템의 편리함과 익숙함 속에 갇혀 매일매일 수많은 자신의 행동데이터를 제공하지만, 이 기술의 위력과 문제점을 간과하곤 한다. 최근 알고리즘 책무성(algorithmic accountability) 개념이 대두되는 것은 이 기술의 영향력과 취약점 때문이다. 그렇기에 관련 산업계는 알고리즘의 차별성이나 편향성, 왜곡이나 조작, 그리고 부당한 사용 등에 대한 우려를 씻는 것이 관련 산업 성장에도 중요한 요소임을 인식해야 한다. 더불어 저널리즘과 학계는 AI 알고리즘의 영향과 문제점을 진단하는 도구와 기준을 마련하는 등 이 문제에 더 많은 관심을 쏟을 때다.

※ ‘인공지능 최전선’ 시리즈 기사의 뒷이야기와 자료집, 독자 토론방 등은 네이버 블로그(https://blog.naver.com/neutrino2020)와 페이스북(www.facebook.com/nokija111)에 게재됩니다.