이미지 크게보기 그래픽 = 김연아 기자 yuna@munhwa.com

박형주의 수학 이야기 - ⑥ 모양을 다루는 위상수학

사물의 모양을 다루는 수학 분야인 위상학(topology)은 기하학(geometry)과 달리 크기를 따지지 않는다. 진흙으로 둥그런 공을 만들고는 이걸 툭툭 쳐서 큐브를 만드는 과정을 생각해 보자. 이건 대상 물체의 손상 없이 일어나는 연속적인 과정인데, 그래서 공과 큐브는 위상적으로 같다 또는 위상적으로 동형이라고 한다. 반면에 공 가운데에 구멍을 내고 진흙 일부를 튕겨내면 도넛이 만들어진다. 이건 대상 물체에 손상을 입히는 불연속적인 과정이라서, 공과 도넛은 위상적으로 동형이 아니다. 이런 구멍의 개수를 종수(genus)라고 한다. 그러니까 공은 종수 0, 도넛은 종수 1, 도넛 두 개를 붙여서 만든 구멍 두 개의 도넛은 종수 2가 된다. 위상적으로 동형인 물체들은 반드시 종수가 같기 때문에, 이 종수는 위상적 불변량이다.

위상수학은 초·중등 교과과정에서 다루지 않고, 대학에서도 수학 전공 고학년에서 처음 가르친다. 당연히 일반인들에게는 생소한 수학 분야이다.

그런데 반전이 생겼다. 요즘 스타트업하는 사람들 중에 위상수학이라는 단어를 쓰는 분들이 생기는가 하더니 점점 늘어나는 중이다. 실리콘밸리의 능력 있는 벤처투자자가 되려면 이 정도는 알아야 한다나. 참 오래 살고 볼 일이란 게 이런 거려나.

이건 순전히 빅데이터의 새로운 화두인 ‘위상적 데이터 분석(TDA·topological data analysis)’ 때문이다. 그러니까, 위상수학이라는 순수수학의 한 분야를 잘 사용하면, 당뇨병 환자 데이터를 분석해서 서로 다른 뭉쳐있는 소그룹(cluster)들을 발견할 수 있고, 내 데이터가 어느 소그룹에 가까운지를 파악하면 나의 당뇨 유무뿐 아니라 치료 방법도 해당 소그룹의 것을 사용하면 되므로 자동으로 처방까지 되는 시대가 온 것이다. 각종 의료 응용뿐 아니라, 우리나라에서는 KT 빅데이터 팀이 이 위상적 분석 방법을 사용해서 허니버터칩이 어느 시점에서 어떤 계기로 갑자기 유행하기 시작했는지를 분석해 내기도 했다. 이 분석의 결론은, 인기 연예인들의 SNS 포스팅이 아니라 파워블로거들의 SNS 평이 인기 폭발로 가는 기점이었다는 것이다. 상식적 접근으로 규명하기 어려운 이런 영향력 분석도 TDA로 가능해진 것이니 그 응용 가능성은 무궁무진하다.

보통의 데이터 분석이 통계적 방법을 많이 사용하는 데 비해서, 위상적 데이터 분석의 가장 중요한 특징은 통계적 이론을 적용하기 전에 데이터의 형태를 먼저 보는 것이다. 데이터의 양이 아주 많은 경우 그 자체가 시각화할 수 있는 유의미한 형태를 보이기 때문이다. 이 형태에 내재하는 특징을 위상수학적인 불변량으로 표현해서 이 불변량과 데이터가 나타내는 현상과의 관련을 파악하는 것이 기본적인 아이디어다.

역시 어렵긴 하다. 그러니까 어려운 건 유용하지 않을 거라는 건 정말 순진한 착각이다.

최근 빅데이터 분석의 수요가 급속도로 증가함에 따라 TDA는 위상수학의 본질이 그대로 적용될 뿐 아니라 데이터 분석에서 새로운 거시적 관점을 제공하는 수학의 응용분야로 주목을 받게 됐다. 외국에서 TDA는 이미 암 연구를 포함한 의학으로부터 스포츠 데이터 분석에 이르기까지 여러 분야의 전문가들이 발견하지 못했던 중요한 현상들을 지적해 내면서 혁신적이라는 찬사를 받고 있다. 이 분야의 스타트업들도 다수 출현하면서 벤처투자자들을 열광시키고 있다.

대수적 위상수학(algebraic topology)은 앙리 푸앵카레의 20세기 초 연구에서 시작된 것으로 보는 게 일반적이다. 물리학이나 공학 등에도 탁월한 업적을 남겼던 유명한 프랑스 수학자 푸앵카레가 또 여기에 등장한다. 푸앵카레는 이 분야의 연구를 진행하면서, 20세기 내내 많은 수학자를 괴롭힌 문제 하나를 남겼다. 그 자신 답을 몰라서 질문한 것인데, 언제부턴가 사람들은 이 질문에 대한 답이 긍정일 거라고 믿고 이를 푸앵카레 추론이라고 부르기 시작했다. 이 문제는 20세기를 거치면서 수학의 난제 중의 난제로 꼽히게 되었고, 100년 동안 수학자들을 끊임없이 괴롭혔다. 그 과정에서 “결국은 잘못된 것으로 판명된” 증명이 여러 개 출현하기도 했다. 새천년이 시작되던 2000년에 미국 클레이 재단이 선정하여 발표한 일곱 개의 ‘천년의 수학문제(Millenium Problems)’ 중의 하나이고, 다른 ‘천년의 문제’와 마찬가지로 백만 달러의 상금이 걸려있다.

이 문제는 설명이 쉽지 않은데 보통의 3차원에서 간단한 상황을 생각해 보자. 아이가 큰 풍선을 들고 있는데, 이 풍선 위에 개미가 기어가고 있다. 개미에게는 자신이 있는 풍선 표면이 보통의 2차원 평면과 다름이 없을 것이다. 수학자들은, 이를 “국지적으로 2차원 평면”이라는 말로 표현한다. 이제 상황을 바꾸어, 먹음직스러운 도넛 위에 개미가 기어가고 있는 장면을 연상해 보자. 역시 개미에게는 2차원 평면으로 보일 것이고 큰 차이가 없다. 그러니까 풍선과 도넛은 국지적으로는 다를 게 없고, 수학자들의 표현으로는 둘 다 2차원 매너폴드(manifold)이다. 종잇조각 같은 2차원 매너폴드는 경계선이 있지만, 풍선이나 도넛은 경계가 없는 2차원 매너폴드이다.

이미지 크게보기

하지만 이 둘 사이에는 근본적인 차이가 있다. 풍선 표면에 동그란 루프를 그리면 조금씩 연속해서 점으로 오그라트릴 수 있다. 그 안에 있는 임의의 루프를 점으로 오그라트릴 수 있으면, 우리는 그 매너폴드가 단순연결(simply connected) 되었다고 한다. 하지만 도넛에는 점으로 오그라트릴 수 없는 루프를 적어도 두 가지 방법으로 그릴 수 있다. 끈을 도넛 구멍에 넣은 뒤에 묶어서 도넛을 매다는 장면을 연상하면 쉽다. 도넛의 구멍 둘레로 루프를 그리면 역시 문제의 루프가 나온다. 그러니까 풍선은 단순연결이고, 도넛은 단순연결이 아니다. 그렇다면 임의의 루프를 점으로 오그라트릴 수 있는 (경계선 없는) 2차원 매너폴드가 2차원 구 말고 또 있을까? 2차원 구를 눌러 변형한 걸 모두 2차원 구로 본다면(위상적으로 동형이니까), 이러한 ‘단순연결’ 2차원 매너폴드는 구밖에 없다는 게 답이다. 이는 그리 어렵지 않게 증명할 수 있다. 푸앵카레의 질문은 “그다음 차원에서는 어떤가”이다. 즉 “4차원에 놓여 있는 3차원 구도 이런 유일성을 갖는가”라는 질문인데, 불행하게도 4차원을 그림으로 그리기가 어려우니 쉽게 연상하기는 힘들다.

오히려 3차원 구보다 더 높은 차원의 구는 이런 유일성을 갖는다는 게 일찍 증명되었다. 1961년에 미국 수학자 스메일은 5차원 이상의 구가 이런 성질을 갖는다는 것을 증명했는데, 이로 인해 1966년 필즈상을 받았으니 쉬운 증명이 아닌 것은 분명하다. 1982년 프리드먼이 4차원 구의 경우를 증명했고, 1986년 필즈상을 수상했다. 그러니 푸앵카레 추론은 많은 수학자를 괴롭히긴 했지만 필즈상을 3명이나 배출한 문제가 된 것이다.

푸앵카레 추론과 관련한 3번째 필즈상은 러시아의 그리고리 페렐만에게 돌아갔다. 이거야말로 원래 푸앵카레가 알고 싶어 했던 3차원 구의 문제이니, 진정한 푸앵카레 추론의 해결사가 된 것이다. 그의 업적이 21세기 초의 최대 수학 업적이라는 것엔 수학계에 이견이 거의 없다.

그런데 페렐만은 2006년에 그에게 수여되었던 필즈상을 거부하여 일대 파란을 일으켰다. 클레이 재단이 각 백만 달러를 내걸고 해답을 공모한 밀레니엄 문제 중 하나여서 백만 달러 수여가 결정됐지만, 페렐만은 이조차도 거절했다. 그래서 그에게 ‘은둔의 수학자’라는 별칭이 따라다닌다. 도대체 뭐가 문제일까? 자신의 천재성을 알아주는 데 인색했던 세상에 대한 불만 때문인가?

그를 잘 아는 사람들은 그가 결코 모나지도 공격적이지도 않으며 예의 바르고 따뜻한 품성의 사람이라고 한다. 외부의 상이나 상금과 무관하게 자신의 지적 호기심으로 한 일이고, 그 문제를 푼 기쁨으로 충분히 보답받았다고 생각한다는 것이다.

페렐만의 은둔생활과 기행을 거론하며, 수학자들은 외부와의 교류나 협력 없이 종이와 연필만 있으면 연구할 수 있는 것으로 생각하는 사람들도 있다. 하지만 푸앵카레 추론에 대한 그의 증명이 독방에서 이뤄진 깜짝 업적이 아니라는 것은 그의 연구 내용을 보면 분명해진다. 1982년 이후 미국 수학자 해밀턴은 리치 플로(Ricci Flow)의 개념을 도입하여 푸앵카레 추론의 특별한 경우들을 증명했는데, 난관에 봉착하며 일반적인 해결엔 다다르지 못했다. 하지만 그의 업적은 페렐만에게 결정적인 영향을 주었고, 페렐만은 미국 체류 기간에 해밀턴 앞에서 세미나 발표 등을 통하여 검증을 받고 싶어 했다. 불행하게도 해밀턴이나 다른 전문가들이 그의 업적을 인정하거나 큰 관심을 보이지 않은 듯하고, 페렐만이 마음의 상처를 받았던 건 사실인 모양이다.

하지만, 페렐만의 주요 업적은 그가 관련 분야의 전문가들과 교류하고 영향을 받던 시절에 이루어진 것이다. 페렐만은 몇 년 동안의 미국 체류 기간에 여러 지역의 수학자들을 방문하고 본인의 아이디어를 발표했는데, 이때 생긴 인연으로 그의 업적을 깊이 있게 이해하게 된 컬럼비아대의 수학자 모르간은 난해한 그의 연구 결과를 해설하는 연설과 저서를 통해 그의 업적이 수학계의 검증을 통과하게 하는 데 결정적으로 기여했다.

그래서 수학자들은 다른 이들의 생각과 그들이 만들어낸 돌파구에 끊임없이 관심을 갖는다. 자신 앞에 버티고 있는 장애물의 돌파는 바로 그런 생각의 교환에서 나온다고 믿기 때문이다.(문화일보 9월 9일자 24면 5회 참조)

국가수리과학연구소장

아주대 석좌교수