이미지 크게보기

- 김대식 카이스트 교수가 본 ‘알파고’

딥러닝 ‘할아버지’ 퍼셉트론
논리 연산 규칙 스스로 인식
학습할 수 있는 정보에 한계

‘아버지’ 격인 다층 퍼셉트론
층 깊을수록 더 추상적 학습
새로운 사실 추론 능력 한계

알파고, 48층의 인공신경망
‘깊은 보상학습’ 알고리즘도
원천 데이터의 허점 땐 버그

가장 뛰어난 학습능력은 ‘腦’
알파고, 수천만번 학습 필요
이세돌, 3번만에 ‘원샷 학습’

마치 고대 그리스 비극과 희극을 동시에 보는 롤러코스터 같은 한 주였다. 백만 대군을 이끌고 그리스를 침공했던 크세르크세스 1세의 승리를 믿었던 페르시아인들같이 우리 모두 인간의 승리를 확신했었다. 하지만 인류를 대표하는 이세돌 9단은 영국에서 넘어온 알파고와의 첫 3국에서 연달아 무너지고 말았다. 4국에서는 다행히 승리했지만 이미 이번 대국의 승리는 알파고의 것이다. 그렇다면 우리는 물어보아야 한다. 나를 알고 적을 알아야만 백전백승한다는 손자병법을 잊었던 것일까? 알파고는 인간을 잘 알았지만,우리는 알파고를 몰랐다. 알파고는 누구, 아니 무엇이었던가? 우리는 알파고를 이해해야 한다.

이미지 크게보기‘이세돌 키즈’ 15일 이세돌 9단과 알파고의 마지막 대국이 열리는 가운데 14일 서울 성동구 행당동 이세돌바둑연구소를 찾은 학생들이 바둑을 배우고 있다. 뉴시스

알파고는 구글이 인수한 스타트업 딥마인드사가 2014년부터 준비해온 인공지능 바둑 프로그램이다. 인간이 정해준 규칙과 비법 위주의 기존 바둑 프로그램과는 달리 알파고는 학습기능을 가지고 있다. 왜 기계에 학습능력이 있어야 할까? 세상에는 두 가지 타입의 정보가 존재하기 때문이다. ‘프랑스의 수도는 파리’라는 사실은 정확히 표현 가능한, 정량화된 정보다. 하지만 만약 외계인(또는 인공지능)이 우리에게 어떻게 팔을 들 수 있는지 정확히 설명해 달라면? 우리는 사실 별로 해줄 수 있는 말이 없다. 걸어 다니고, 문을 열고, 고양이를 알아보고, 천재적으로 바둑을 두고…. 보여줄 수는 있지만 완벽한 설명이 어려운 비정량화된 정보를 통해 이루어지는 행위를 우리는 ‘직관’이라고 부르기도 한다. 우리는 걸어다니는 직관, 고양이를 알아보는 직관을 가지고 있고, 이 9단은 바둑을 창의적으로 둘 수 있는 직관을 가지고 있다. 그렇다면 직관은 어떻게 만들어질까? 경험과 학습을 통해 만들어진다. 현대 뇌과학에서 학습은 신경세포들 간의 연결고리(시냅스)에서 일어난다고 보고 있다. 자주 보고, 듣고, 경험하는 정보를 코딩하는 세포들 간의 연결성이 강화돼 비슷한 정보를 받아들일 때 활성화될 확률이 높아진다.

딥러닝의 ‘할아버지’는 1957년 천재 과학자 프랭크 로젠블라트가 발명한 퍼셉트론(Perceptron)이다. 인공신경세포들을 적절히 연결시켜주면 논리 연산 규칙을 스스로 인식하게 된다. 기계학습의 시작이었다. 하지만 불과 몇 년 후 매사추세츠공대(MIT)의 민스키와 페퍼트 교수는 단층 퍼셉트론으로 학습할 수 있는 정보는 지극히 한정되어 있다는 사실을 증명한다. 복잡한 정보를 학습하기 위해서는 다층 퍼셉트론(Multi-layer Perceptron, MLP)이 필요하지만, MLP 신경망의 수많은 시냅스를 학습시킬 수 있는 방법이 없었다. 단층 퍼셉트론의 사형선고였다. 그리고 20년 후 인지심리학자 룸멜하트와 메클랜드는 MLP를 효율적으로 학습시킬 수 있는 ‘역전파’(backpropagation) 방법을 제시한다. 역전파 알고리즘은 간단하다. 3층으로 구성된 인공신경망을 상상해보자. 첫 층은, 예를 들어 ‘고양이’라는 물체를 숫자로 표현한다. 고양이 사진의 픽셀 값들이라고 생각하면 되겠다. 마지막 층 신경세포는 전체 MLP가 계산한 값을 출력한다. 물론 랜덤으로 시작하기에, 처음 결과는 틀릴 것이다. 하지만 만약 매번 선생님이 정답을 알려준다면? MLP가 계산한 ‘이양고’라는 오답과 선생님이 알려준 정답 ‘고양이’의 차이 값을 계산할 수 있다. 그 다음 차이 값을 아래 층으로 역전파해 시냅스 값을 고쳐주면 된다. 이런 식으로 수천만 가지 고양이 사진을 보고, 매번 선생님의 정답을 통해 시냅스 값들을 수정한다면, 언젠간 MLP는 ‘고양이 전문가’가 된다. 걸어다니고, 뛰어다니고, 밥을 먹는 그 어떤 모습의 고양이를 보더라도 정답을 출력한다. MLP에게 ‘고양이 직관’이 생긴 것이다.

딥러닝의 ‘아버지’ 정도 되는 다층 퍼셉트론은 하지만 치명적인 문제들을 가지고 있었다. 우선 인공신경망을 3층 이상으로 올리면 점차 학습이 불가능해진다. 오차 값이 깊은 층수들로 역전파되면 점점 왜곡되는 ‘사라지는 경사도’(diminishing gradient) 문제 때문이다. 그런데 왜 깊은 신경망 층수들이 필요할까? 간단히 설명하자면 층수가 깊을수록 더 추상적인 학습이 가능하기 때문이다. MLP의 또다른 한계는 새로운 사실을 추론해 내는 것을 어려워한다는 점이다. 이 같은 기존 MLP의 문제는 2006년, 그리고 2012년에 와서 드디어 해결된다. 토론토대의 제프리 힌트 교수팀은 깊은 층수의 MLP 역시 사전 학습(pre-training)을 통해 트레이닝시킬 수 있고, 인공신경망을 랜덤으로 ‘죽여주면’ 추론능력을 개선할 수 있다는 사실을 보여준다. 기존 인공신경망의 한계를 극복한 인공신경망은 보통 ‘딥러닝’이라고 불린다.

알파고는 바둑판을 알아보는 딥러닝과 승부 결과를 기반으로 현재 수의 가치를 평가하는 ‘깊은 보상학습’ 알고리즘을 사용한다. 이번 대국에 사용된 알파고 v18은 약 16만 개의 바둑 경기들을 학습했지만 딥러닝은 언제나 ‘데이터가 고프다’. 셀프 시뮬레이션을 통해 추가 학습 데이터를 얻게 된 이유다. 알파고의 바둑판 인식 딥러닝은 48층의 인공신경망을 사용했다. 반대로 인간의 신경망은 보통 10에서 20층 정도다. 깊으면 깊을수록 더 추상적인 정보를 학습할 수 있으니, 어쩌면 알파고는 이미 인간보다 더 먼 미래를 예측해 수를 두고 있는지도 모른다. 먼 미래를 위해 추운 아침에 출근하는 어른들의 행동을 ‘실수’라고 생각하는 어린아이같이 우리도 어쩌면 인간의 상상력을 초월한 먼 미래를 위해 둔 알파고의 한 수를 ‘실수’로 착각할 수 있다는 말이다.

하지만 알파고도 물론 완벽하지 않다. 이미 알고 있는 데이터를 통해 새로운 데이터를 만들어내기에, 원천 학습 데이터의 허점이 시스템 전체의 버그가 될 수 있다. 아마도 4국에서 이 9단이 승리할 수 있었던 이유 중 하나일 것이다. 하지만 알파고의 실수보다 더 중요한 역할을 한 것이 있다. 바로 이 9단의 학습 능력이다. 다시 한번 기억해 보자. 알파고의 핵심은 딥러닝이지만, 딥러닝은 인간의 뇌를 모방했다. 우주에서 가장 뛰어난 학습 능력을 가진 기계는 여전히 우리 머리 안에 있는 1.5㎏짜리 뇌다. 알파고의 1200개 컴퓨터는 엄청난 전력을 소비하지만, 이 9단의 뇌는 하루 20와트 정도의 에너지만 소비한다. 하루 한 끼 든든히 먹으면 된다는 말이다. 더구나 이 9단은 단 3번만의 대국을 통해 알파고에 적응하기 시작했다. 기계학습에서 이야기하는 ‘원샷 학습’(one-shot learning)이다. 어린아이는 고양이 4∼5마리만 경험하면 모든 고양이들을 알아보지만, 딥러닝은 수천만 번의 학습을 요구한다. 그리고 또하나의 치명적인 문제가 있다. 딥러닝은 실시간 학습을 하지 못한다. 1000가지 물체를 알고 있는 상태에서 하나의 새로운 정보를 배우려면 이미 알고 있는 1000가지를 잊어버려야만 한다. 이번 5번 대국을 진행하는 동안 알파고가 업그레이드될 수 없는 이유다.

육체적 노동만 하던 기계가 인간의 고유 영역인 지적 노동 역시 할 수 있음을 보여주는 대국이었다. 지금까지 우리가 기계에 가르쳐 주었지만, 앞으로는 우리가 기계에서 배워야 할 수도 있다. 하지만 잊어선 안 될 것이 있다. 바로 우리 뇌 안의 딥러닝이 명품이고 알파고의 딥러닝은 짝퉁이라는 사실이다.

△1967년생 △독일 다름슈타트공과대 학사(심리학·컴퓨터과학) △막스플랑크뇌연구소 석·박사(인지심리학 석사, 신경생물학 박사) △미국 미네소타대 의과대학 자기공명연구센터 조교수 △미국 보스턴대 생체의학이미지센터 센터장 및 부교수 △카이스트 정보과학기술대학 전자 및 전기공학과 교수 △코오롱 카이스트 라이프스타일 이노베이션센터 이사