시인 꿈꾸던 수포자... 경계 넘나들며 수학계 50년 난제 풀다

[허준이, 필즈상 수상] 어떤 성과 냈나
대수기하학으로 조합론 푸는 독특한 해법
수학 어려움 겪다가 과학기자의 길 선택
대학 4학년때야 비로소 수학자의 길 결심

5일(현지시간) 핀란드 헬싱키 알토대학교에서 허준이 프린스턴대 교수 겸 한국 고등과학원 석학교수가 '수학 노벨상' 필즈상을 받기 위해 대기해 있다. 연합뉴스

"이번 강의 잘 들어 두세요. 30년 뒤 유명해지기 전 허준이의 강의를 들었다고 손자에게 자랑할 수 있을 테니."

(미국 미시간대 한 교수가 제시 카스 사우스캐롤라이나대 수학과 교수에게 했던 말)

2010년 12월 3일 미국 미시간대. 당시 27세 나이로 일리노이대 박사과정 학생이었던 허준이는 리드 추측(Read's conjecture) 증명을 발표했다. 이날 행사장은 수많은 선배 수학자들로 북적였는데, 이 중에는 불과 1년 전 그의 미시간대 박사과정 입학 신청을 받아주지 않았던 교수들도 있었다.

허준이 고등과학원 교수는 당시 서울대 석사과정을 마치고 미시간대를 포함한 미국 대학 12곳에 박사과정 지원을 했지만, 일리노이대를 제외한 11개 대학에서 거절을 당했다. 자신들이 퇴짜를 놓은 학생이 박사과정도 마치지 않았는데 수학계의 50년 난제를 해결하자, 미국 수학계의 이목이 집중됐다. 미르체아 무스타타 미시간대 교수는 "박사과정생이라고는 믿을 수 없을 만큼 명료한 강의였다"고 당시를 회상했다. 이후 미시간대는 허 교수에게 '러브콜'을 보냈고, 허 교수는 대학을 옮겨 연구를 계속하면서 수학계의 노벨상으로 불리는 필즈상(Fields Medal)을 수상하는 쾌거를 이뤘다.

허 교수는 이른바 수포자(수학 포기자)였다. 한때 시인을 꿈꿨던 문학청년이었고, 대학 졸업반이 되어서야 수학자가 되기로 결심한 늦깎이였다. 정통 천재 수학자와는 다른 길을 걸어온 허 교수가 한국계 최초로 필즈상을 수상한 배경에는 이렇듯 남들과 다른 시각으로 문제를 바라보는 접근 방식이 있었다.

시인을 꿈꾸다 수학자의 길로

시각물_허준이 교수 약력

허 교수는 아버지 허명회 고려대 통계학과 명예교수와 어머니 이인영 서울대 노어노문과 명예교수의 미국 유학 시절인 1983년 캘리포니아에서 태어났다. 두 살 때 부모를 따라 한국에 들어왔다.

필즈상 수상자 대부분이 어렸을 적부터 번뜩이는 '천재성'으로 두각을 나타낸 것과 달리 허 교수의 초등학생 때 수학 성적은 신통치 않았다고 한다. 스스로 수학을 잘하지 못한다고 생각했을 정도. 고등학교 때는 시인이 되고 싶어 자퇴를 결심했다. 검정고시를 쳐서 들어간 대학도 수학과가 아닌 서울대 물리천문학부였다.

습작 활동을 하던 그가 인생의 대전환점을 맞이하게 된 건 학부 졸업반 때 필즈상(1970년) 수상자인 일본 수학자 히로나카 헤이스케 교토대 명예교수를 만나면서였다. 당시 생계유지 방편으로 과학기자를 꿈꾸던 허 교수는 서울대 노벨상 석학 초빙사업으로 국내에 초청된 히로나카 교수를 첫 번째 인터뷰 대상으로 점찍고 그의 강의를 들었는데, 이때 히로나카 교수의 전문 분야였던 대수기하학에 빠져들었다. 이후 그는 같은 대학 수리과학부 대학원에 진학했고, 대수기하학을 이용해 조합론의 다양한 수학적 난제를 해결하는 새로운 분야, '조합 대수기하학'의 토대를 다지기 시작했다.

'경계 없는 생각'으로 난제를 풀다

허준이 교수. 과기정통부 제공

허 교수가 2010년 증명에 성공한 리드 추측은 1968년 영국의 수학자 로널드 리드가 제시한 조합론 문제다. 채색 다항식 계수의 절대값은 증가하다가 감소할 수는 있지만, 감소하다가 증가할 수 없다는 추측이다.

채색 다항식은 어떤 그래프에서 이웃한 꼭짓점을 서로 다른 색으로 칠할 때 n개 이하의 색만 써서 칠하는 방법의 수를 나타낸 식이다. 삼각형을 예로 들면 첫 번째 꼭짓점은 n개, 두 번째 꼭짓점은 n-1개, 세 번째 꼭짓점은 n-2개의 색을 칠할 수 있는데 이때의 경우의 수는 n(n-1)(n-2), 곧 n³-3n²+2n가 된다. 이때 다항식 계수의 절대값은 1, 3, 2로, 1에서 시작해 3까지 커졌다가 2로 다시 작아진다. 리드는 이처럼 계수의 절대값이 정점(3)까지 늘어나기만 하다 이후에는 줄어들기만 하는 성질을 가진다고 추측했다.

허 교수는 이 조합론 문제를 대수기하학 도구를 적용해 풀었다. 스승인 히로나카 교수의 '특이점 이론'을 적용한 것이다. 당시만 해도 대수기하학과 조합론은 서로 다른 분야였는데 허 교수는 두 분야에 대한 높은 이해도를 기반으로 경계를 허물면서 학계의 주목을 받게 됐다.

허 교수는 또 다른 수학계의 난제 로타 추측도 비슷한 방식으로 풀어냈다. 로타 추측은 1971년 미국 수학자 잔카를로 로타가 제시한 난제로 리드 추측에서 확장된 문제다. 허 교수는 이번에도 조합론과 무관해 보이는 '호지 이론'을 끌어왔다. 호지 이론 또한 영국의 수학자 윌리엄 호지가 개척한 대수기하학의 한 갈래였다. 허 교수와 함께 로타 추측을 풀어낸 에릭 카츠 교수는 "허 교수와 첫 메일을 나누고 논문을 쓴 후에 만났던 일을 아직도 기억한다"며 "대수기하학의 아이디어로 수학에서 완전히 다른 분야인 조합론에 혁명을 일으켰다"고 평가했다.

"수학은 나의 편견과 한계를 이해하는 과정"

허준이 미국 프린스턴대 교수 겸 한국 고등과학원(KIAS) 수학부 석학 교수. 호암재단 제공

늦은 나이에 수학의 길에 접어든 허 교수가 필즈상을 수상할 수 있었던 것도 인문학, 수학, 조합론과 대수기하학 등 전혀 다른 두 분야를 접목하고 탐구하는 그의 '경계 없는 사고'가 밑바탕이 됐다는 분석이다.

허 교수는 이후에도 다변수 다항식의 한 종류인 로렌츠 다항식이 어떤 성질을 갖는지 대수기하학과 조합론을 연결지어 연구했다. 필즈상 외에도 블라바트니크 젊은 과학자상(2017), 뉴호라이즌상(2019) 등 세계적 권위의 과학상을 휩쓸었다. 지난해에는 국내 최고 권위의 삼성호암상 과학상도 받았다.

허 교수의 지도교수였던 김영훈 서울대 수리과학부 교수는 "허 교수는 학부 시절부터 수학적 역량이 뛰어났고, 새로운 방식으로 난제를 접근해 이를 증명했다"며 "대부분의 수학자가 평생 하나도 해결하기도 힘든데 40세가 되기 전에 이렇게 많은 난제를 해결한 걸 보면 마땅한 상을 받았다고 본다"고 말했다.

허 교수 또한 "제게 수학은 개인적으로 저 자신의 편견과 한계를 이해해가는 과정"이라며 "저 스스로 즐거워서 하는 일에 의미있는 상도 받으니 깊은 감사함을 느낀다"는 소감을 밝혔다.

이승엽 기자 sylee@hankookilbo.com