금 교수는 이탈리아에서 막 귀국했다고 했다. 밀라노 동쪽 가르다(Garda) 호수 변 가르냐노(Garnagno) 마을에서 열린 대수기하학 학회에 참석했다. 학회 이름은 ‘복소 대수기하학‘(Complex Algebraic Geometry)이다. 학회는 지난 9월 19일부터 23일까지 열렸고, 밀라노대학교와 트렌토 대학교, 캠브리지 대학교 수학자가 공동 개최했고, 초청강연자 18명 포함 복소기하와 대수기하학자 80명 정도가 참석했다. 한국에서는 카이스트 수리과학과의 이용남 교수도 초청강연자로 참가했다. 학회 장소는 이탈리아 재력가(Feltrinelli)가 밀라노 대학에 기부한 건물이었다. 

금종해 교수는 대한수학회 회장이다. 2019년부터 올 연말까지 중임해서 모두 4년을 회장으로 일하고 있다. 금 회장의 임기 중 한국 수학은 큰 이정표를 세웠다. 지난 2월 한국 수학은 국제수학연맹 회원국 중 가장 수학을 잘하는 최상위 그룹에 포함되는 성과를 올렸다. 국제수학연맹은 회원국을 5개 그룹으로 분류하며, 이중 최상위 그룹은 5그룹이고, 5그룹에는 한국 등 12개 국가가 속해 있다. 또 한국에서 대학교육을 받은 허준이 교수가 수학의 노벨상이라고 불리는 필즈상을 받았다. 대한수학회장으로 일하면서 이같이 기분 좋은 성과를 이뤄내거나 그런 이벤트를 치러내기는 쉽지 않을 것 같다. 

경희대학교 앞 카페 내부는 소음이 있었지만 그와의 인터뷰에 집중했다. 금 교수는 자신의 임기 중 한국 수학계에 경사를 연달은 것과 관련 "내가 운이 좋았다"라며, 어떤 수학자들을 그간 취재했느냐고 내게 물어왔다. 나는 서울대 하승렬 교수, 포항공대 위상수학자인 차재춘 교수, KAIST 엄상일, 김재경 교수 등등을 만났고, 고등과학원의 김정한 교수는 약속을 하고 만나러 갔으나 인터뷰 중간에 그만 하겠다고 해서 취재가 불발했다라고 말했다.

금 교수는 "수학자들은 웬만하면 이런 인터뷰를 안 하려고 한다"라며 "일반인에게 자신의 수학을 설명하기 어렵다. 동료 수학자들에게도 때로는 쉽지 않다. 세계적인 권위자, 전문가들에게 인정받는 게 수학자에게는 중요하다"라고 설명했다.

그는 이어 "수학자는 자신이 지금 하는 게 수학적으로 맞는지 끊임없이 의심하고 맞는 증명을 찾기 위해 온갖 궁리를 쥐어짜지만, 자신이 하는 게 얼마나 영향력이 있을지는 정확히 모른다. 나중에 어떻게 쓰일지도 정확히 모른다"라고 말했다. 

금 교수는 한국 수학의 지위 상승 이유와 관련 "살펴보면 알겠지만, 한국 수학이 세계적인 수준의 국제행사도 자연과학의 다른 분야에 비해 먼저 했다"라고 말했다. 그는 이어 "국가의 지원은 적었지만 더 똘똘 뭉쳐서 열심히 연구해 왔고, 국제적으로 인정받는 수학자들이 나오기 시작하면서 국제적 인지도가 빠르게 상승했다"라고 말했다. 

그는 한국 수학이 도약하고 있는 데 대해 이렇게 설명했다.
"한국 수학은 그동안 꾸준히 성장해왔다. 내가 고등과학원 원장으로 일하면서 한국의 젊은 수학자들 역량을 파악할 기회가 많았다. 국제적인 평판을 듣는 기회도 많았고. 이런 비유가 옳은지 모르겠는데 구슬이 서말이라도 꿰어야한다고 했다. 그 구슬들을 내가 꿰어봐야겠다라는 생각은 했다."

구슬들은 어떻게 등장할 수 있었을까? 금 교수는 "80년대 학번부터 잘 하는 사람이 많이 나왔다"라며 "나 같은 70년대 학번은 일본이나 독일처럼 잘 하게 되는 게 가능이나 할까, 우리 세대에 그들과 대등해 질 수 있을까 라고만 생각했다. 그런데 봇물이 한번 터지니 우수한 학자들이 많이 나왔다. 지금은 국제적으로 인정받는 학자가 꽤 많다"라고 말했다. 

그는 자신이 지난 2000년 이후 몸 담아온 고등과학원이 한국 수학 발전에 상당한 기여를 했다고 말했다. 필즈상을 받은 허준이 교수의 경우 고등과학원에 적을 둔 지 오래 되었다. 2014년 미국 미시건대학교에서 박사학위를 받은 다음에 ‘고등과학원 스칼라’로 선임됐고 작년에는 석좌교수가 됐다. 허 교수는 매년 두 세 달은 한국의 고등과학원에 와서 연구한다고 했다. 금 교수는 서울대학교 수학과 76학번이고 고등과학원에서는 지난 8월말에 퇴직했다. 현재는 고등과학원 수학난제연구센터(CNC) 석학교수로 일하고 있다. 

수학에도 많은 분야가 있다. 한국 수학이 일취월장했다고 하는데, 특히 어떤 분야의 수준이 높은지 궁금하다. 그는 "잘하는 분야도 있고, 좀 약한 분야도 있다. 어느 분야가 약하다고 하면 상처받을 수 있으니, 전체적으로는 고르게 발전하고 있다고만 말하겠다. 고르게 발전하도록 돕는 게 나 같은 학자의 임무이고"라고 했다. 금 교수는 대수기하학 연구자다. 대수기하학은 기하학의 대상을 대수적 성질을 이용해 연구하는 수학의 한 분야다. 이제 그의 대수기하학 얘기를 물어보려 한다. 대수기하학을 왜 공부했느냐라고 물었다. 금 교수의 말을 들어본다.

"학생 때 오기라고 할까, 미국 유학을 갔더니 내가 제일 모르는 게 대수였다. (그는 1983년 미시건대학교 수학과로 유학을 갔다.) 그때는 세계적인 수학자가 되려면 그냥 수학의 모든 걸 다 공부해야 한다고 생각했다. 그런데, 대수에 대해 아는 게 너무 없다는 걸 알았다. 대수학 수업만 내리 2~3개를 들었다. 그리고 박사과정 2년 차에 대수기하학이 어렵지만 재밌겠다고 판단해 대수기하학을 전공한 교수를 찾아갔다."

지도교수가 누구였느냐고 물었다. 이골 돌가초프(Dolgachev, 1944년생) 교수라고 했다. 돌가초프 교수 이름은 들어봤다. 그를 만나기전에 자료를 찾아보니 그의 연구로 널리 알려진 주제(K3곡면)가 있고 그걸 같이 연구한 사람이 돌가초프라고 되어 있었다.

금종해 교수가 "K3곡면을 10년 가까이 연구했다. 2006년쯤 논문을 완성했고, 2009년 최상위 수학 학술지에 출판됐다. 출판이 확정된 뒤에 그 양반하고 진하게 한 잔 했다"라고 말했다. 그가 최고의 학술지라고 하는 저널은 '애널즈 오브 메스메틱스'(ANNALS OF MATHEMATICS)이고, 논문 제목은 'K3곡면의 사교 자기동형의 유한 군'(Finite groups of symplectic automorphisms of K3 surfaces in positive characteristic)이다.

그는 "돌가초프 교수님도 ‘애널즈‘에 논문을 낸 건 처음이고, 나도 처음이었다"라고 그 때의 기쁨을 떠올렸다. 어디에서 ’한 잔‘ 했는지를 그에게 물었다. 그는 "서울에서도 했고, 앤아버에서도 했다"라고 말했다. 

K3곡면 문제를 금 교수는 대학원 시절부터 알고 있었다. Kummer(에른스트 쿰머, 1810-1893), Kahler(에리히 켈러, 1906-2000), Kodaira(고다이라 구니히코, 小平 邦彦, 1915-1997, 1954년 필즈상 수상) 등 세 명의 K씨가 연구한 곡면이라고 해서 K3라는 이름이 붙었다. 어려워서 엄두를 내지 못하는 문제였다. 당시 최고의 대가들이 다 어렵다고 했다. 금 교수가 이 문제에 본격적으로 달려든 건 2004년 연구년을 맞아 옛 은사가 있는 미국 미시건 대학교에 가서 1년간 머무르면서다.

금 교수는 "그때 집중적으로 연구했다. 완성은 못했고. 한국에 돌아왔다. 그 뒤로도 1년에 한 두 번씩 만나거나 이메일을 주고 받으며 공동 연구를 계속했다. 아마 그때가 학자로서 가장 신났던 게 아닌가 싶다. 스트레스도 많이 받았지만"이라고 소회했다. 

K3곡면 문제란 무엇일까? 금 교수는 뭘 한 것일까? 설명을 들어본다. 이해하기 쉽지 않지만 일단 청취해봤다. "복소K3곡면에서 성립하는 어떤 분류를, 유한체(finite field) 상의 K3곡면으로 확장하는 문제였다.(*복소K3곡면이 무엇인지, 유한체가 무엇인지는 물어보지 않았다. 알면 좋지만 일단 몰라도 된다고 생각했다). 그런데 반례(反例)들이 많았다. 복소 K3곡면에서 나타나지 않는 이상한 예들이 많았다. 이상하지만 아름다운 예들이 많아서, 대학원 때는 엄두를 내지 못했다. 이 문제들은 이후 내 뇌에 잠 자고 있었다. 가끔씩 생각나면 한 번 해보고, 또 안 되는구나 하고 놔두곤 했다. 그런 과정을 몇 번 거쳤다. 결국은 2000년 들어와서 실마리를 찾았다. 결정적인 계기는 2004년이었고, 문제를 다 푼 건 2006, 7년 정도였다."

"분류에 할 때 쓸 기준(불변량)을 찾는 문제, 분류된 대상들의 특징을 찾는 문제가 핵심이다. 어떤 일정한 성질을 갖는 대상들을 다 모아놓으면 모듈라이 공간(moduli space)이 되는데,  이게 또 어떤 공간을 이루느냐 하는 문제가 있다. 그 공간이 또 하나의 대수다양체가 될 수 있느냐하는 걸 기술하는 문제가 있다. 이게 쉽지 않다. 차원에 따라 1차원 대수다양체,  2차원 대수다양체, 3차원 대수다양체 해서 이렇게 올라가는데, 이것들을 분류해야 한다. 1차원 복소대수다양체는 잘 알려져 있다. 2차원 복소다양체도 많이 알려져 있으나 분류가 일부만 되어있다. 고차원 복소대수다양체에 대한 연구는 아주 특정한 대상들 빼놓고는 별로 없다. 또 정수론에서 제기되는 방정식 문제(디오판토스 문제)를 대수기하적 방법으로 접근하는 문제가 있다. 또 대수다양체가 위상적, 기하학적 대상이기도 해서 융합적 관점에서 발생하는 문제가 있다."

금 교수는 "기하학은 원래 분류의 학문이다. 미분기하학은 미분다양체를 분류하는 게 본업이고, 위상기하학은 위상 다양체를 분류하는 게 일이고, 대수기하학은 대수다양체를 분류하는 게 본업이다"라고 말했다. 그는 이어 "분류하거나 어떤 다양체의 성질을 밝히거나, 이러이러한 성질을 만족하는 건 이것밖에 없다고 하는 게 중요하다. 이게 모든 기하학의 큰 주제이다"라고 설명했다.  

대수기하학에서 사용하는 도구들은 어떤 게 있나? 금 교수는 "대수다양체는 미분다양체가 되기도 하고, 위상다양체가 되기도 한다. 그렇기에 미분다양체에서 쓰는 분류방법, 위상다양체에서 쓰는 분류방법도 다 쓰고, 거기에다가 대수학적 분류 방법까지 쓴다"라고 했다. 

금 교수가 설명하는 다양체가 뭐라고 명확히 알지 못하는 건 물론이고, 대수다양체, 미분다양체, 위상다양체도 모른다. 하지만 그간 수학자들을 만나면서 배운 게 있다면, 그건 못알아들어도 주눅들지 않고 계속 물어봐야 한다는 거다. 그래야 더 그 세계를 구경할 수 있다. 금 교수에게 '대수다양체 중에 유명한 건 무엇이 있느냐. 이런 질문도 가능하느냐?'라고 물었다.   

금 교수는 "유명하다기보다는 요새 수리물리학자들이 많이 쓰는 3차원 칼라비 야우 공간이 있고, 2차원 K3곡면도 있다. 그리고 정수론과 연결되어 연구를 많이 하는 아벨다양체가 있다. 또 사영공간을 일반화한 파노다양체가 있다"라고 말했다. 그가 이어 보충 설명을 했다.

"고차원 다양체라는 게 있다. 대수기하학에서 가장 간단한 도형은 사영공간(projective space)이다. 우리가 생각하기에 가장 간단한 도형은 원과 구다. 원은 1차원 실대수다양체이고, 구는 1차원 복소대수다양체다. 예컨대 3차원 구, 4차원 구와 같은 게 '사영공간'과 얼마나 가깝냐 얼마나 유사하냐 하는 게 기하학에서 중요한 장면이 된다. 왜냐면 가장 간단한 도형으로부터 얼마나 머냐, 얼마나 성질을 공유하느냐 하는 게 중요하기 때문이다. 옛날에 기하학은 눈에 보이는 걸 했다. 삼각형, 원, 타원, 쌍곡선, 포물선이 그런 거다. 3차원 기하학이라고 하면 직육면체, 구, 원기둥, 다면체, 원뿔 등이 있다. 현대 기하학에서 다루는 수학적 대상은 눈에 거의 보이지 않는다. 눈에 안 보인다는 건 전체를 한꺼번에 볼 수 없다는 뜻이다. 우주의 시공간은 우리가 한 번에 다 못 본다. 못 보는 이유가 시공간의 차원이 높아서 그럴 수 있다. 또 무한대에 가서 있을 만한 점들까지 집어넣고 보려고 하기 때문에 안 보일 수 있다."

무한대에 가서 있을 만한 점을 집어넣는다? 이게 무슨 말인가? 금 교수는 원이 닫힌 공간이라고 말했다. 그리고 포물선은 어떤가라고 내게 물었다. 포물선은 한쪽이 트여 있다. 그가 포물선은 양끝을 무한대로 보내보면 어떻게 될 것 같으냐고 질문해왔다. 영원히 안 만날 것 같다. 금 교수는 "만난다. 유클리드 공간 안에서는 만나지 않으나, 사영 공간에서 보면 무한히 가면 어느 한 점에서 만난다. 그게 무한대에 가서 있을 만한 점을 집어넣고 보자는 말의 뜻이다"라고 말했다. 무슨 말인지 알듯하다. 

사영공간은 닫혀 있다라고 그가 설명한다. 그가 나의 취재 수첩에 쌍곡선을 그렸다. 데카르트 좌표계의 1사분면과 3사분면에 그래프가 들어간 모양이다. 쌍곡선도 사영공간에서는 무한히 가면 만난다. 금 교수는 "결국 쌍곡선도 모양이 원처럼 된다. 포물선, 쌍곡선, 원, 타원은 본질적으로는 동일하게 생긴 걸 어느 쪽에서 보느냐에 따라 다르게 보인 거다"라고 말했다.

아, 그런가 싶다. 금 교수는 "현대 기하학은 부분적 정보를 가지고 전체적인 정보를 얻으려 한다"라며 “현대기하학이 혁명을 이뤘다고 한다면 고차원 대상들로 확장한 것이고, 또 하나는 유클리드 기하를 벗어나 무한대에 있을 만한 점들을 포함시켜서 소위 그걸 닫힌 공간으로 볼 수 있다는 것이다. 그러다 보니 장점도 많아졌지만 그만큼 문제가 어려워졌다"라고 말했다.

대수기하학을 왜 현대 수학의 꽃이라고 하는 것일까? 금 교수는 "대수기하학은 구체적으로 수식으로 풀기 때문에, 미분기하나 위상 수학적으로 뭔가 증명한 걸, 대수기하학으로 한 번 더 증명할 수 있다면 굉장히 좋다. 직관에 의존하는 기하학 전반을 단단하게 하는 파급력이 있다"라고 말했다. 그는 이어 "대수기하학은 정수론과도 관계가 있고, 수학의 여러 교차로에 놓여 있어 밀접한 관계가 있다. 그래서 대수기하학을 현대 수학의 꽃이라고 얘기하는지 모르겠다"라고 말했다.

대수기하학이 등장한 건 언제인가? 일단은 좌표가 도입되어야 대수기하학은 가능하다. 좌표를 도입한 건 프랑스 수학자 르네 데카르트다. 그 다음에 나온 게 '해석 기하'다.  데카르트가 만든 좌표를 써서 하는 기하학을 '해석기하'라고 불렀다. 기존의 유클리드 논증기하 문제를 해석기하로 푸는 경우도 많아졌다. 요즘은 '해석기하'가 해석학적 방법을 쓰는 대수학이 될 수도 있고 해서, 데카트르가 시작한 좌표를 쓰는 기하학을 '대수 기하학'이라고 부른다. 한국에 대수기하학자는 많지 않다고 했다. 금 교수는 대학에 있는 연구자는 20명이 안 될 거라고 했다.

대수기하학의 큰 문제는 무엇일까? 금 교수는 "분류 문제가 중요한 주제이다. 고차원 문제도 좀 다룬다. 그리고 내가 요즘 시간을 제일 많이 쓰는 건 논문 심사다"라고 말했다. 국제학술지에 수학자가 투고한 논문을 심사하는 데 시간을 많이 사용한다고 했다. 1시간 반이 지났을 때 그는 포항공대에 가야 한다고 했다. 중학교 2년 선배와의 만남은 그렇게 끝났다.