이미지 크게보기 오는 9일 열리는 프로바둑 기사 이세돌 9단과 구글 딥마인드사의 인공지능 ‘알파고’와의 대국을 앞두고 지난 2월 22일 열린 기자회견에서 이 9단이 구글 딥마인드의 데니스 하사비스 CEO와 영상을 통해 하이파이브를 하고 있다. 연합뉴스

‘정책망’ 통해서 가능한 手 압축… ‘가치망’이 着手별 승률 계산

9~15일 서울서 총 5회 대국
유튜브 통해 ‘전세계 생중계’

알파고, 인간과 유사한 思考
모든 경우의 수 탐색 대신에
가치 판단 ‘이기는 手’ 찾기

시행착오 거듭하며 전략 개발
날씨·질환 분석 등 난제 활용

오는 9일 오후 1시 서울 종로구 광화문 포시즌스 호텔 특별대국실에서 펼쳐지는 한국의 프로바둑 기사 이세돌 9단과 인공지능(AI) ‘알파고(AlPhaGo)’의 세기적인 대결에 전 세계의 이목이 쏠리고 있다. 9일부터 15일까지 진행되는 총 5회의 대국은 유튜브와 한국의 바둑TV를 통해 전 세계로 생중계될 예정이다. 500번의 프로 대국에서 승리하며 서양인 중 유일하게 프로 9단을 획득한 마이클 레드먼드 9단이 영어해설을 담당하며, 한국어 해설은 현 국가대표팀 감독 유창혁 9단을 비롯해 김성룡 9단, 송태곤 9단, 이현욱 8단이 차례로 진행한다.

이번 대국의 1차적인 관심은 “과연 인간과 기계가 지능을 겨루는 무대에서 누가 승리하느냐는 것(박치문 한국기원 부총재)”이다. 결과는 아무도 예측할 수 없지만 ‘5000년 동양 정신문화의 정수’로 일컬어지는 바둑 대회인 만큼 기계가 인간을 이기기란 쉽지 않을 것이란 관측이 지배적이다.

이세돌 9단도 여러 인터뷰에서 이길 것을 자신했다. 인공지능 알파고 역시 흥미를 끌고 있다. 알파고는 지난 2004년 구글이 인수한 인공지능 분야의 기업 ‘딥마인드’의 작품이다. 딥마인드는 머신러닝과 시스템 신경과학 분야의 기술을 활용한 범용 학습 알고리즘을 공개한 곳이다.

딥마인드의 창업자 데니스 하사비스와 프로젝트 책임자 데이비드 실버는 알파고의 도전 상대로 바둑 기사를 선택한 이유에 대해 “각종 문제를 인간과 유사한 방식으로 해결할 수 있는 유연한 알고리즘을 개발하는 데 있어 게임만큼 좋은 테스트 도구가 없기 때문”이라고 밝혔다.

그동안 게임을 통한 기계와 인간 간의 대결에서 최후의 승자는 항상 기계였다. 컴퓨터가 마스터한 최초의 게임은 ‘삼목놓기’였다. 이후 ‘체커’와 ‘체스’가 뒤를 이었다.

1997년 IBM이 개발한 슈퍼컴퓨터 ‘딥블루’는 당시의 체스 세계 챔피언 게리 카스파로프와 대결해 승리를 거두면서 ‘인류가 컴퓨터에 패했다’는 사실로 전 세계에 충격을 던졌다. 일본 장기에서도 2012년 기계가 인간을 무너뜨렸다.

하지만 지금까지의 인공지능도 동양의 전략게임 바둑 앞에선 무릎을 꿇어야 했다. 백돌과 흑돌을 차례로 놓으며 ‘집’을 만드는 바둑은 경우의 수가 전 우주에 있는 원자의 수 이상으로 복잡한 거대한 탐색공간을 가지고 있다. 8×8의 반상에 흑과 백의 말이 각각 6종류씩인 체스가 약 10의 120승, 9×9의 반상에서 8종류씩인 말을 사용할 수 있는 장기는 약 10의 220승에 해당하는 경우의 수가 있다.

19×19의 반상에 흑돌과 백돌을 사용하는 바둑은 약 10의 360승 정도다. 관측 가능한 우주 전체의 수소 원자 수가 약 10의 80승 정도라고 하니 바둑 반상에서 일어날 수 있는 조합의 수가 얼마나 방대한 숫자인지 짐작할 수 있을 것이다.

따라서 모든 가능한 수에 대해 ‘탐색 트리(search tree)’를 구성하는 방식의 기존 인공지능으론 바둑을 마스터할 수 없다. 딥마인드는 이런 한계를 뛰어넘고자 알파고라는 시스템 개발에 착수했고 그 성과를 지난 1월 과학잡지 네이처를 통해 발표했다.

알파고의 핵심은 거대한 탐색공간을 감당할 수 있는 규모로 축소하는 것이다. 이를 위해 최첨단 ‘몬테-카를로 트리 탐색’과 수백만 개의 신경세포와 같은 연결고리를 포함하는 다중 프로세스 레이어를 지닌 두 개의 ‘심층 신경망(deep neural network)’을 결합했다. ‘정책망(policy network)’으로 불리는 신경망이 다음 움직임을 예측하고, 이길 가능성이 높은 수만 고려하도록 탐색 트리의 범위를 좁혀주면 ‘가치망(value network)’이란 다른 신경망은 돌을 놓는 위치별 최종 승자를 예측해 탐색트리의 깊이를 줄여준다. 이 결합은 알파고가 이전 시스템에 비해 인간과 더 비슷한 방식으로 탐색을 할 수 있도록 해준다는 게 회사 측 설명이다.

예컨대 딥블루는 무작위 대입 방식으로 알파고보다 수천 배 이상의 수를 검색했지만, 알파고는 남은 경기를 상상으로 여러 번 두고 예상하며 경기를 진행한다. 이러한 상상 속 경기에서 정책망은 좋은 수를 찾아내고, 가치망은 각 수에 대한 승률을 정확하게 평가하게 된다고 한다.

데이비드 실버는 “알파고는 자체 신경망 간에 수천만 회의 바둑을 두고 강화학습이라는 시행착오 프로그램을 사용해 연결고리를 조정함으로써 스스로 새로운 전략을 발견하는 법을 학습했다”고 말했다.

사실 구글과 딥마인드가 알파고라는 인공지능 알고리즘을 개발한 목적은 따로 있다. 프로기사와 바둑을 두는 것으로 눈길을 끌고 있지만, 궁극적으론 현실 세계의 중요한 문제를 해결하는 데 활용하기 위해 머신러닝 기술을 활용해 범용 인공지능 방법론을 훈련시키는 것이다.

알파고에 사용된 방법들은 앞으로 기후 모델링, 복합성 질환 분석 등 어렵고 골치 아픈 문제들을 해결하는 데 활용하겠다는 게 딥마인드 측의 목표다.

박양수 기자 yspark@munhwa.com