확률·통계 이론의 배경‘조합론’
통신이론·이론전산학 기초 이뤄

도형특성 數式표현‘대수기하학’
AI·애니메이션 구현 등에 활용

허준이 교수는 미국 일리노이대 박사 과정으로 들어간 후 할 솅크 지도 교수로부터 조합론을 처음 배웠다. 조합론은 흔히 고등학교 교육과정에서 경우의 수, 순열, 조합 등의 개념을 배우기 시작해 그래프 이론, 이산(離散) 수학으로 나가는 확률 및 통계 이론의 배경이다.

유한·가산적 대상들에 대해 주어진 성질을 만족시키거나 극대화하는 것을 연구하는 학문이다. 그래프 이론이란 컴퓨터 네트워크 등 점(node, vertex)과 선(edge, link)으로 이뤄진 구조의 성질과 관계를 연구하는 학문이다. 흔히 ‘쾨니히스베르크의 다리 건너기 문제’로 불리는데 한번 그은 선을 겹치지 않고 모든 점을 연결하기, 서로 다른 색으로 인접한 다면체 색칠하기 등의 도전과제로 잘 알려져 있다. 이산 수학은 연속적이지 않고 띄엄띄엄 떨어져 있는 구조를 파헤친다. 일상과 동떨어진 듯 보이지만 확률론, 동역학계, 통신 이론, 위상 수학, 이론 전산학의 기초다.

빛처럼 빠른 구글의 검색 속도를 달성하는데도 응용수학 전공인 창업자 세르게이 브린의 수학적 검색 알고리즘이 큰 역할을 했다. 이동통신과 물류의 네트워크(망) 설계 시 가장 효율적이면서도 겹치지 않는 이동 경로 혹은 전달 체계를 찾기 위해 그래프 이론이 동원된다. 현대 사회에서는 과거 연속적인 아날로그 세계에서 0과 1의 디지털 세계로 정보 전달 체계가 바뀌면서 더욱 중요해졌다.

대수기하학은 수와 다항식을 다루는 대수(代數·algebra)를 도형의 성질을 연구하는 기하(幾何·geometry)와 결합해 대수적 사고를 공간적 도형으로 시각화하거나 도형의 특성을 수식으로 표현하는 고등수학이다. 대수기하학은 1·2차 다항식으로 직선·평면·타원·쌍곡선을 표현·분석하는 것처럼 대수학으로 기하를 연구하는 학문이다. 인공지능(AI) 아바타와 디지털 애니메이션을 구현하기 위해 끊김 없는 부드러운 영상 처리를 하려면 공간의 수학적 좌표를 수치로 정교하게 계산하는 작업이 필수적이다. 전혀 다를 것 같은 이 두 분야에도 수학적 상상력을 통해 공통점을 추출할 수 있다는 ‘발견’이 허 교수에 의해 이뤄졌다.

한 수학자는 “대수기하학의 발상을 전혀 다른 분야인 조합론에 적용해 혁명을 일으켰다”고 표현했다. 특히, 허 교수를 본격 수학의 길로 이끈 첫 계기는 숨은 은사인 히로나카 헤이스케 하버드대 명예교수(1970년 필즈상 수상)가 당시 서울대 학부생이던 그에게 대수기하학의 특이점을 소개한 강연이었다.

허 교수는 아무도 감히 시도하지 않았던 동떨어진 2개의 대륙을 잇는 다리를 건설해 오래 풀리지 않던 11개의 난제였던 수학적 추측(conjecture)들을 해결해냈다. 여기에는 어릴 때부터 시 쓰기를 좋아하고 뒤늦게 수학에 눈을 떠 고정관념에 얽매이지 않았던 그의 자유로운 성향이 큰 기여를 했다는 평가다.

노성열 기자 nosr@munhwa.com