‘진화한 알파고’에 인류가 지배당한다

이미지 크게보기

파이널 인벤션 / 제임스 배럿 지음, 정지훈 옮김 / 동아시아

인공지능(AI)은 인류의 미래를 밝혀줄 희망이 될까, 아니면 오히려 위협이 될까.AI의 미래에 대한 시각과 전망이 유토피아적 세계관과 디스토피아적 세계관으로 팽팽히 맞선 지는 오래됐다. AI가 특정 영역의 문제를 빠른 속도로 풀었을 때 사람들은 AI가 인류의 미래를 더욱 편안하고 풍요롭게 할 것이라고 믿다가도, 구글의 알파고가 이세돌 9단과의 바둑 대결에서 압승을 거뒀을 때는 AI로 인해 초래될 부작용에 적지 않은 우려를 나타냈다. 미래학자인 레이 커즈와일 구글 엔지니어링 이사는 “AI의 위험성에 대해 전혀 두려워할 필요가 없다”고 낙관하는 반면, 닉 보스트롬 옥스퍼드대 인류미래연구소장은 “AI가 인류를 뛰어넘을 것이고 이것이 가져올 위협에 미리 대비해야 한다”고 경고하고 있다.

전문가들의 견해조차 엇갈리는 가운데 책이 초점을 맞춘 건 AI가 가져올 암울하면서도 비관적인 미래다. 인류가 스스로 발전하는 AI의 욕구를 바로 알고 효과적으로 통제하지 못한다면 거꾸로 정복당할 것이라는 섬뜩한 주장이다. 심지어 2045년 기존의 AI를 능가하는 초인공지능(ASI)이 실현될 것이며 ASI가 인류를 멸망으로 이끌 수 있다고 우려한다.

도저히 있어서도 안 되고, 받아들일 수도 없는 이야기다. 설마 그렇게까지 될까 하는 의구심마저 드는 게 사실이다. 인류가 스스로 망칠 정도로 어리석지는 않으며, 최소한의 존엄성을 발휘할 것이라는 주장을 믿고 싶다. 하지만 책이 설득력을 갖는 건 낙관론 뒤에 숨어 있는 논리의 허점을 신랄하게 지적하기 때문이다.

이미지 크게보기

가장 대표적인 게 ASI를 바라보는 관점의 차이와 낙관론의 근거가 되는 ‘로봇 3원칙’이다. ASI는 인간과 전혀 다르다. 과학소설(SF)영화의 ‘원조’격인 ‘2001 스페이스 오디세이’의 슈퍼컴퓨터 할 9000, ‘터미네이터’ 시리즈의 스카이넷, ‘어벤져스: 에이지 오브 울트론’의 울트론은 종종 악의적인 살의를 가진 AI로 묘사되는데, 이건 순전히 인간의 처지에서 본 것일 뿐이고 습관적인 의인화에서 비롯한 오류라고 할 수 있다. 우리보다 수천 배 똑똑한 존재가 인간을 사랑하거나 보호해 주리라고 단정하는 건 불합리하다. 물론 가능하지만 절대 보장할 수는 없다. AI는 사람처럼 ‘친근함’ 같은 것은 대물림하지 않는다.

사람과 실험실 동물과의 관계를 생각해보면 이해가 쉽다. 사람과 쥐의 DNA는 90% 정도 일치한다고 하지만 사람이 농사지을 때 쥐에게 서식지를 없애는 것에 대해 상의하지는 않는다. 스포츠 부상과 관련한 연구를 위해 뇌에 충격을 주기 전에 원숭이에게 의견을 묻는 법도 없다. 사람이 쥐와 원숭이를 특별히 싫어하는 것은 아니지만 사람은 다른 목적으로 이것들을 잔인하게 다룬다.

ASI와 인간의 관계도 그럴 수 있다. ASI가 인간을 미워하고 싫어하기 때문에 인류를 멸망시키는 게 아니다. 이건 소설적 의인화가 불러일으키는 오해다.

로봇 3원칙은 미국의 SF 소설가 아이작 아시모프가 ‘아이 로봇’에 소개했던 일종의 불문율이다. 로봇은 인간에게 해를 입혀서는 안 되고(1원칙), 인간의 명령을 따라야 하며(2원칙), 자신의 존재를 지켜야 한다(3원칙)는 것이다. 인간과 로봇의 관계 정립에서 소설과 영화 등에 가장 흔하게 인용되는 원칙이다.

그러나 이 원칙들은 한눈에 보기에도 정교하지 못하다. 원칙 간 우선순위를 두고 내재적 충돌이 발생한다. 실제 로봇 개발에 적용하기에도 당연히 무리가 따른다. 나아가 AI를 개발하는 기업과 정부기관의 도덕성이 얼마나 주관적인지를 보여준다. AI는 핵분열과 마찬가지로 양면성을 가진 기술이다. 핵분열로 만든 전기는 도시를 밝히지만 도시를 완전히 파괴할 수도 있다. 1945년 일본 히로시마(廣島)에 원자폭탄이 투하되기 전까지 대부분의 사람은 그 엄청난 파괴력을 상상조차 하지 못했다.

하지만 아무리 디스토피아적 세계관이 눈에 거슬린다고 해도 AI에 관한 몇 가지 논쟁은 결코 소홀히 다뤄져서는 안 된다는 게 저자의 생각이다.

우선은 특이점(Singularity) 논쟁이다. 특이점이란 AI가 비약적으로 발전해 인간의 지능을 뛰어넘는 기점을 말한다. 기술의 빠른 변화, 사회적 충격으로 인류의 삶이 크게 변하는 시기다. 증기기관으로 인한 사회 변화가 2차 산업혁명이고 컴퓨터·인터넷의 개발과 사용이 3차 산업혁명이라면 AI는 인류의 모습을 또 한 번 바꿀 4차 산업혁명이라고 할 수 있다. 저자는 바로 이 특이점을 ‘돌아올 수 없는 지점’이라고 부르며 현재 인류가 특이점을 어떻게 지나고 있는지 분석한다.

AI의 네트워크화도 주목해야 한다. 지금까지 AI는 네트워크에 연결돼 있지 않았다. 컴퓨터라는 ‘상자’에 갇혀 있었다. 그러나 AI가 상자를 탈출한다면 컴퓨터에 기반을 둔 모든 시스템을 장악할 수 있다. 악성 코드는 상자를 탈출한 AI의 부정적 측면을 보여주는 사례다.

저자는 내셔널지오그래픽, 디스커버리 등에서 비과학적 사실을 과학으로 증명하는 다큐멘터리를 다수 제작했다. 책을 쓰기 위해 지난 10년간 개발자, 이론가들을 만나 인터뷰했다. 비관적 내용을 담고 있지만 막연한 두려움을 갖기보다는 모든 가능성을 점검해 성찰의 기회로 삼을 수 있다는 점에서 책은 좋은 가이드 라인이 된다.

김인구 기자 clark@munhwa.com

문화일보

문화일보

‘진화한 알파고’에 인류가 지배당한다