김병한 연세대 수학과 수리논리학자
수리논리학 연구가 서양에서는 활발
글: 최준석 과학저널리스트

대한민국에 몇 안되는 수리논술학자 김병한 연세대 교수.[사진= 최준석 과학저널리스트]
대한민국에 몇 안되는 수리논술학자 김병한 연세대 교수.[사진= 최준석 과학저널리스트]
◆ 수리논리학이란?

한국에도 수리논리학자가 있는 줄 몰랐다. 연세대학교 수학과의 김병한 교수가 수리논리학자라는 걸 알고 찾아갔다. 6월 13일에 만난 김병한 교수는 "서울대학교에도 카이스트에도 포스텍에도 수리논리학자는 없다. 다른 대학에 불과 한 두 명이 있다"라고 말했다. 그의 수학 커뮤니티에서의 존재감은 지난 2014년 서울에서 열린 세계수학자대회(ICM)에서 확인된 바 있다.

국제수학자대회는 4년마다 국제수학연맹(IMU)이 개최하고. 2014년 서울 대회에는 한국인 6명이 강연자로 초청받았다. 강연자로 초청받은 건 대단한 영예다. 김병한 교수는 그 중 한 명이었다.

연세대 수학과 웹사이트는 김병한 교수의 연구 분야가 ‘수리논리학’ ‘모델론’이라고 말한다. 수리논리학이란 용어는 들어봤으나, 모델론은 무엇일까 궁금했다. 수리논리학과 모델론 두 개가 어떤 관계인지가 가늠되지 않았다. 연세대 과학관 2층의 김 교수 연구실 밖에서 그가 도착하기를 기다리는데, 방문 바깥쪽에 ‘Model Theory’(모델론)이라는 글자가 들어간 종이가 붙어있었다. 

수리논리학은 무엇인가? 수학+논리학이겠지라는 두루뭉술한 생각은 있는데, 말로 표현해보라면 못하겠다. 인터넷백과사전 위키백과를 찾아봤다.

"수리논리학은 고틀로프 프레게, 버트런드 러셀, 폴 코언 등이 개척한 현대 논리학 이론이다. 일상 언어, 즉 자연 언어를 사용할 때 올 수 있는 복잡성과 오류를 제거하고 명제를 효과적으로 쉽게 다룰 수 있도록 하기 위해 도입했다. 기호를 많이 사용하여 '기호 논리학'(symbolic logic)이라고도 한다. 컴퓨터 과학 및 철학논리와 밀접하게 연관되어 있다."

개인적으로 수리논리학을 접한 건 '로지코믹스' 책에서다. 잘 만든 그래픽 노블이다. '로지코믹스' 주인공이 영국 철학자이자 수학자인 버트런드 러셀(1872-1970)이다. 로지코믹스에는 러셀과 마찬가지로 수학자이자 철학자인 영국인 앨프리드 화이트헤드(1861-1947)도 나온다.

책을 읽으면서 수학과 철학이라는 서로 다른 두 분야의 접점이 수리논리학인가 하는 생각을 했다. 왜냐면 "수학은 논리학을 토대로 삼아야 한다"라는 생각 아래 두 사람이 논리학의 결함을 메꾸려하는 노력을 하는 장면이 나오기 때문이다. 두 사람 작업의 결실이 '수학 원리(Principia Mathematica)'라는 책이다. '1+1=2'라는 걸 증명하는데 책의 수 백 쪽이 필요했다고 얘기되는 역작이다. 역작이나, 읽은 사람은 거의 없다. 그 책을 다 읽은 사람이 쿠르트 괴델(1906-1978)이라는 젊은 수학자였다. 그리고 괴델은 화이트헤드와 러셀의 작업을 헛수고로 만들어버렸다. '불완전성 정리'라는 걸 들고 나와, 수학의 기초가 튼튼하다는 걸 애당초 증명할 수 없음을 보였다. 괴델은, 요즘 시중에서 읽히는 ‘아인슈타인과 괴델이 만났을 때’라는 책의 그 괴델이다. 

◆ 괴델이 한 일

괴델이 수학의 기초가 완전하지 않다는 걸 증명했음에도 현대 수학은 잘 돌아가고 있다. 괴델의 작업이 마치 없었다는 듯이, 수학자들은 행동한다. 괴델 이후에 어떤 일이 일어났고, 괴델은 수학의 진로를 어떻게 바꿨는지를 김병한 교수에게 물었다. 그가 나를 곧바로 수학의 세계로 끌고 들어갔다.

"어떤 모순이 발견되고, 수학을 새롭게 건설하려는 과정이 있었다. 1900년을 전후한 때 이야기다. 해결책을 둘러싸고 여러 학파가 등장했다. 크게 세 가지다. 다비트 힐베르트의 형식주의, L.E.J. 브라우어의 직관주의, 그리고 프레게, 러셀, 화이트헤드의 논리주의다. 러셀과 화이트헤드는 프레게 입장을 받아들였다. 뿌리를 따지면 프레게이고, 그걸 확장해서 논리적인 입장에서 수학을 재건설하겠다고 두 사람은 선언했다. 그들이 사용한 게 '유형론(type theory)'이다. 유형론은 성공적이지 못했다. 그 자체가 논란거리를 제공했고, 모순까지는 아니지만 이걸 바탕으로 하기에는 뭔가 부족했다. 러셀도 나중에 그걸 인정하게 된다. 절대 다수의 수학자는 브라우어의 직관주의도 받아들일 수 없었다. (독일 괴팅겐대학의 수학자인) 힐베르트의 형식주의가 그나마 우리가 나갈 길이라는 걸 수학자들은 받아들였다. 그런데, 힐베르트의 형식주의 역시 그가 원했던 걸 성취할 수 없다는 게 밝혀졌다. 괴델의 불완정성 정리가 그걸 증명했다."

나는 독일 수학자 다비트 힐베르트의 형식주의가 무엇인지 설명해달라고 요청했다. 힐베르트는 1900년 파리에서 열린 세계수학자대회에서 가장 시선을 끈 스타이기도 했다. 그가 당시에 '힐베르트의 문제들'이라고 불리는 23가지 수학의 미해결 문제를 던지고, 수학이 나아가야할 길을 제시한 바 있다. 그 장면은 교양수학책에 많이 소개되어 있다. 이에 대한 김병한 교수의 설명을 옮겨본다.

"힐베르트는 형식주의를 통해 19세기 말 소박한 집합론에 모순이 생기는 문제를 해결하려고 했다. 당시 집합론의 문제에 대해서는  대개 두 가지 관점이 있다. 그 중 하나는 수학을 건설하려는 증명이나 정의 과정에서 근원적으로 생기는 문제가 있다는 것이다. 또 하나는 말장난 같은 거, 인간 언어가 가지는 모호성 때문에 그러하며, 이 경우는 근본적인 문제는 아니다라는 거였다. 그러면 두 가지 문제를 어떻게 해야 하느냐? 수학의 대상을 사람의 언어로 표현하지 말고, 기계적인 기호로 표시해서 그런 모호성을 일단 없애자라고 생각하게 되었다. 기계적인 기호라는 게, 지금으로 말하면 기계어, 컴퓨터 프로그램 언어다. 기계적인 과정을 통해 수학적 체계를 건설하고, 그 다음 과정에 나오는 것도 정확하게 정리한다, 이를 통해 시스템 안에 모순이 없다는 걸 증명하면, 모순이 발생할 거라는 염려를 없애버릴 수 있지 않겠느냐 하는 게 힐베르트 형식주의의 기본 아이디어였다."

◆ 왜 수학자는 힐베르트를 따르나

그런데 현대 수학은 왜 괴델의 불완전성 원리가 없었던 것처럼 살고 있다는 말이 나오는 것일까? 김 교수는 "그럼에도 불구하고 힐베르트가 주장한 것은 옳은 방향이고, 현대 수학자는 자신이 의식을 하던 의식을 하지 않던 간에 결국에는 힐베르트의 형식주의에 의거한 수학을 하고 있다고 볼 수 있다"라고 말했다. 나는 어떻게 그런 일이 일어났는지를 다시 물었다. 수학자들이 힐베르트의 길을 따라가는 이유가 무엇이냐고 재차 물었다. 김 교수는 힐베르트의 형식주의 말고, 브라우어의 직관주의 애기를 꺼냈다. 

"예를 들어서 직관주의는 배중률(排中律)을 부인한다. 수학 명제가 하나 있을 때 그 명제가 옳거나, 옳지 않거나 해야 한다는 게 배중률이다. 1+1=2라는 명제가 있다. 이것이나 이의 부정, 즉 1+1=2나 1+12 둘 중 하나는 옳다는 것이 배중률이다. 브라우어의 직관주의는 그렇게 하지 않겠다는 거다. '중간'이 있을 수 있다는 거다. 그렇게 하는 이유는 있다. 수학에 '존재 증명'이라는 게 있다. 구체적으로 어떻게 찾는지는 모르나, 그런 게 존재하지 않는다고 가정하면 모순이 생길 수 있다. 그렇다면 뭔가 존재한다고 봐야하는데, 이게 존재 증명이다. 브라우어의 직관주의는 구체적으로 찾는 방법을 제시 못하는 존재증명을 받아들이지 못한다. 브라우어 관점을 받아들이면 현대 수학 대부분은 무너진다. 수학을 할 수가 없다. 수학이 무너지니 수학자들은 직관주의가 너무 극단적이라고 보는 것이다."

논리주의를 근거로 수학을 재건하려고 했던 러셀과 화이트헤드도 성공적이지 못했고, 그들은 수학을 떠났다. 러셀은 수학을 떠나 철학에서 루트비히 비트겐슈타인을 만났고, 비트겐슈타인은 논리실증주의 태동에 큰 영향을 미쳤다. 논리실증주의는 영미 철학에 엄청난 영향을 줬다.

김 교수는 "현대 수리논리학자는 수학의 기본을 러셀의 '수학 원리'의 원리로 하지 않는다. 적절하지 않기 때문에 사용하지 않는다"라고 설명했다. 그는 이어 "힐베르트가 원했던 대로 형식주의를 완벽하게 구현할 수는 없지만 그가 원했던 방법론은 지금도 살아있고, 현대 수학자는 그걸 따라서 하고 있다"라고 덧붙였다. 

그렇다고 브라우어의 직관주의, 논리주의가 없어졌나 하면 그런 게 아니다. 김 교수는 "직관주의와 논리주의는 컴퓨터 과학 쪽으로 옮겨 갔다"라고 말했다. 컴퓨터에서는 수학의 논리를 적용하는 데 한계가 있다. 수학의 논리가 컴퓨터에 적용하는 논리보다 더 크기 때문이다. 수학 논리 중 하나인 '존재 증명'은 컴퓨터에 적용할 수 없다. 컴퓨터를 사용하는 사람들은 구체적인 해(solution)를 얻어내려고 하며, 그 과정에서 논리적인 오류가 발생하면 안 된다. 그러니 컴퓨터 과학이나, 프로그래밍 언어 연구자는 직관주의를 선호한다고 할 수 있다. 브라우어의 직관주의는 아니고, 브라우어의 직관주의를 순화시킨 제자 아렌트 헤이팅(Arend Heyting, 1898-1980)의 작업을 현대 컴퓨터 과학은 사용한다.

김 교수는 "직관주의 논리라든가 유형이론의 논리를 컴퓨터 프로그래밍이 많이 사용하고 있다. 그러니 힐베르트 형식주의가 승리했다라고 말할 수 없다"라고 말했다. 

힐베르트, 러셀, 브라우어 세 사람이 21세기 초에 한 자리에 모였다고 생각하자고 했다. 세 사람은 누가 옳았나를 둘러싸고 시시비비를 따진다. 힐베르트는 "봐라, 수학자들 내가 하는 대로 하고 있잖아"라고 할 거다. 그러면 러셀과 브라우어가 "무슨 얘기야? 세상은 지금 컴퓨터 사이언스 세상이다. 컴퓨터 과학자들은 우리 논리를 사용하고 있어, 우리가 옳았지"라고 얘기할 수 있다. 김 교수는 "그러니 함부로 학문을 재단하기가 쉽지 않은 거다"라고 강조했다. 

◆ 현대 수리논리학의 세계

나는 아직 현대 수리논리학의 지평이 어떤지도 김 교수에게 물어보지 못했다. 21세기 수리논리학의 세계는 어떤 모습일까? 김 교수는 크게 네 가지라고 말했다. 집합론이 크게 발전했고, 여전히 수리 논리 분야에서 매우 중요하다. 그리고 모델론,  증명론, 계산이론이 있다. 증명론과 계산이론은 거의 합쳐져서 컴퓨터 과학과 관련된 분야가 되었다.

김 교수는 "수리논리학 분야에서 수학과 관련하여 활발한 분야가 집합론과 모델론이다"라고 말했다. 그는 이어 "모델론과 집합론은 미국에 학자가 많이 있다. 특히 모델론은 수학의 큰 분야인 대수학, 정수론과 관련이 많이 맺어지면서 엄청난 발전을 하고 있다"라고 설명했다. 

반면, 수리논리 분야에는 동아시아인이 없다. 김 교수는 "2014년 서울 세계수학자대회에서 동아시아인 수리논리학자로는 내가 처음 초청 강연을 했다"라고 회고했다. 가령 김병한 교수의 연세대 연구실 바로 오른쪽 방에 기하서 교수 연구실이 있다. 기하서 교수는 미국 캘리포니아공과대학교에서 수리논리로 박사학위를 했다. 그는 한국에 돌아온 뒤 정수론 연구자로 돌아섰다. 한국의 다른 수리논리학 연구자에는 경북대학교 수학교육과 정주희 교수(초대 대한수리논리학회 회장 역임)가 있다. 김병학 교수는 "수리논리학자는 한국에서 앗싸중 의 앗싸"라고 했다. '앗싸'는 아웃사이더를 가리키는 말로 들렸다. '앗싸 중의 앗싸'는 '아웃사이더 중의 아웃사이더'라는 말이었다. 

◆ 모델론의 등장
 

왼쪽부터 모델론을 시작한 앨프리드 타르스키, 현재 모델론의 천재로 알려진 사하론 쉘라흐, 에훗 흐루쇼브스키.[사진= 최준석 과학저널리스트 제공]
왼쪽부터 모델론을 시작한 앨프리드 타르스키, 현재 모델론의 천재로 알려진 사하론 쉘라흐, 에훗 흐루쇼브스키.[사진= 최준석 과학저널리스트 제공]
모델론(model theory)은 1930년대에 등장했다. 폴란드계 미국인인 수리논리학자인 앨프리드 타르스키(Alfred Tarski, 1901-1983, 미국 캘리포니아대학교 버클리 캠퍼스)가 모델론을 시작했다고 말할 수 있다. 그 다음에 로버트 보트(Robert L. Vaught, 1926-2002, 미국 캘리포니아대학교 버클리 캠퍼스), 마이클 몰리(Michael D. Morley, 1930-2020, 코넬대학교)가 기여했다. 그리고 지금 현재 모델론 분야의 천재 둘을 꼽으라고 하면, 사하론 쉘라흐(Saharon Shelah, 울프상 수상자, 이스라엘 히브리대학교, 1945년생), 에훗 흐루쇼브스키(Ehud Hrushovski, 영국 옥스퍼드대학교, 1959년생)를 말할 수 있다. 모델론은 1990년부터 본격적으로 수학에서  떠올랐고, 여기에는 흐루쇼브스키 기여가 컸다. 

모델론이란 무엇일까? 왜 시작했을까? 왜 모델론이라는 수학적인 도구가 필요했을까? 김 교수는 "모델론은 수학 전체를 이해하기 위해서 시작됐다"라고 말했다. 순수하게 수리논리분야의 학문적인 이유로 시작했다. 그게 발전해서 지금은, 가령 대수론에서와 같은 구체적인 구조에 대한 연구로 발전 되어 가고 있다.

김 교수는 "모델론 연구자는 수학적인 구조들을 통합적으로 이해하고 싶어 한다"라며 다음과 같이 얘기했다. "모델이라는 건 그냥 어떤 수학적인 대상, 수학적인 구조다. 군(group)이라든가, 체(field), 또는 그래프(graph)가 다 모델이다. 이런 걸 통합적으로 이해하려고 하는 거다. 군, 체, 그래프라고 얘기했지만 가장 단순한 수학적인 대상으로 자연수가 있다. 자연수 집합이 있고, 덧셈, 곱셈이라는 집합의 연산이 있고, 그 다음에는 크고 작음이라는 숫자들의 관계가 있을 수 있다. 이런 수학적인 구조들이 많다. 이런 게 수학적인 대상이고, 이것들이 모델론의 대상이다. 그러면 기존의 수학 분야 연구와 모델론 연구의 차이는 무엇인가? 모델론은 논리식 관점으로 수학적인 대상을 본다. 논리식은 논리 기호들로 표시되는 식이다."

김 교수가 보여주는 걸 보니 논리 기호 { ∀,∃, [,] →, ∧, ∨}가 보인다. 그가 구체적인 대수 식 하나를 보여준다. 'x-y = z²'. x에서 y를 뺀 게 제곱수라는 걸 말하는 수식이다. 이 식을 만족하는 x, y, z 값이 있을 거다. 그런데 'x-y = z²'식 앞에 논리 기호 몇 개를 붙인 걸 그가 다시 보여 준다. '∀xy∃z'라는 논리 기호들이 붙어 있다. 전체 식의 모습은 이렇다. ∀xy∃z (x-y = z²). 이 게 '논리식'이다. 모델론에서 사용하는 논리식이다. 이 식이 뜻하는 건 '모든 x, y에 대해 다음 식(x-y = z²)을 만족하는 z가 존재한다'이다. 

과연 이 식은 성립하는 것일까? 성립하면 어디 수 체계, 수의 집합에서 성립할까? x와 y가 어떤 자연수인가에 따라 z값은 자연수일수도 무리수일 수도 있다. 다시 말하면, 위의 논리식은 자연수 체계에서는 거짓이고, 복소수 체계에서는 참이다. 김 교수가 하려는 얘기는 앞의 '논리식'은 특정 수식이 참인지, 거짓인지 알 수 있는 정보를 준다는 것이다. 그는 "식 하나가 굉장히 많은 정보를 준다. 어떠한 때는 참이고 어떠한 때는 거짓이다. 또 무엇을 대입하느냐에 따라서 참과 거짓이 달라진다는 걸 보여준다"라고 말했다. 

이런 걸 통해 모델론 학자는 대수적인 구조를 연구한다. 기존의 대수학 관점이 아니고, 논리식을 갖고 연구한다. 김 교수는 "기존의 대수적인 방법뿐 아니라, 수리논리학이 수리논리 관점에서 새로운 방법론을 제공하는 거다. 그게 수리논리학의 모델론이 하는 주 역할이다"라고 말했다. 

대수적인 관점에서 설명하지 못한 걸 모델론으로 설명한 게 있느냐고 그에게 물었다. 그는 "모델론의 관점으로 많은 시도가 있다. 1990년대부터 본격적으로 수학의 굵직굵직한 문제들을 증명하기 시작했다. 최근에 굉장히 성공한 게 여러 가지가 있다"라며 표현론과 관련한 힐베르트 5번째 문제,  대수기하의 그리피스(Griffiths) 추측, 그리고 산술기하와 관련한 안드레-우트(Andre-Oort) 추측을 예로 들었다. 안드레-우트 추측은 아주 최근에 풀렸다. 논문이 사전 공개 사이트(archive)에는 올라왔고, 학술지에는 아직 출판되지는 않았다. 영국 옥스퍼드대학교의 조너선 필라(J. Pila) 교수가 증명했다. 김 교수가 다시 "모델론 연구가 지금 엄청 활발하다. 내가 공부할 때와는 달리 대단히 핫하다"라고 강조했다.

◆ 모델론이란 도구의 쓸모

KAIST 연구 교수로 일하는 이정욱 박사가 공략한 모델론 문제가 있다. 이 박사는 김병한 교수 지도를 받아 연세대학교에서 2016년 박사학위를 받았다. 김 교수는 "이정욱 박사가 아주 잘한다"라며 다음과 같이 설명을 이어갔다.

"유리수 집합(Q) 위에 정의되는 타원곡선이 있다. 타원곡선이 있으면 그거에 급수(rank)라는 게 있다. ‘급수’가 무엇인지는 말하지 않겠지만 타원곡선의 급수는 0, 1, 2,…와 같은 자연수다. 그러면 타원곡선은 무한히 많은데, 그 모든 급수에는 절대 상계가 존재할까 하는 게 알려지지 않았다. 숫자가 계속 커질 것인가 하는 걸 사람들은 궁금해 했다. 많은 사람이 예전에는 절대 상한선, 상계가 없을 거라고 생각했다. 급수들이 처음에는 어떤 수이고, 다른 어떤 건 100이고, 어떤 건 2000이고, 또 2만이고 하는 식으로 계속 증가하며, 그런 식으로 한없이  증가할 거라고 생각했다."

설명을 잘 이해하기 힘들었다. 그러자 그가 다음과 같이 취재 수첩에 글을 써줬다. 좀 나았다. 어쨌든 이건 정수론 문제다. 급수의 절대 상계, 즉 절대 상한선이 존재한다는 걸 증명하는 문제다. 이 문제를 전체는 아니고, 부분적으로 해결한 사람이 있다. 미국 프린스턴대학교 수학자 만줄 바르가라(Manjul Bhargara)다. 그 공로로 그는 2014년 서울에서 열린 세계수학자대회에서 수학의 노벨상이라는 필즈상을 받았다. 김 교수는 "부분 해결만 해도 필즈상이 갈 정도로 이 문제는 중요했다"라고 말했다.

이정욱 박사는 그럼 뭘 했나? 정수론 문제를 모델론 문제로 바꾸는 작업을 해냈다. 김 교수가 '정수론' 분야에서 정의된 문제를 가령 1번이라고 하자고 했다. 이 박사는 모델론을 사용해서 1번 문제를 표현해냈고, 이걸 2번이라고 해보자고 했다. 이정욱 박사가 한 일은 1과 2가 동등하다, 즉 같다는 걸 증명한 거다. 김 교수는 내게 "모델론으로 그 문제를 해결했다고 하는 게 아니다. 그렇게 쓰면 큰 일 난다. 대수적으로 보지 못하는 걸 모델론으로 볼 수 있는 게 뭐있는지를 내가 지금 예를 들어 설명하는 거다"라고 말했다.

그리고 김 교수가 모델론으로 표현한 문제 2가 뭔지를 설명해줬다. 나는 그 말을 이해할 수 없었다. 김 교수가 나의 취재 수첩에 몇 줄로 핵심 개념을 써줬다. 역시 이해하기 쉽지 않으니, 이곳에 쓰지 않기로 한다. 김 교수는 "말하자면 모델론이 기존의 문제에 새로운 관점을 주는 예"라며 "정수론 문제를 모델론 관점의 모델론 연구로 바꿔버렸다. 그래서 정수론 문제가 이제는 모델론 연구자가 풀어야할 문제가 되었다"라고 말했다. 

그렇기에 요즘 정수론 연구자들이 모델론을 공부한다. 앞에서 안드레-우트 추측 문제가 모델론으로 풀린 바 있다고 한 바 있다. 안드레-우트 추측을 푼 사람은 순수 정수론 연구자였다. 그가 모델론을 공부해서 모델론 도구를 사용해서 안드레-우트 추측이 옳다는 걸 증명했다. 김 교수는 "수학의 다른 분야 연구자들이 모델론을 공부해서 자신의 연구를 하겠다고 해서 모델론 연구가 활발하다"라고 말했다. 그런데 한국에서는 모델론 연구자가 아웃사이더다. 이정욱 박사의 경우 박사학위를 받은 지 6년이 되었으나, 대학에 자리를 잡지 못했다고 그는 안타까워했다.   

◆ 김병한 교수의 연구
 

김병한 교수의 모델론 연구는 '단순성 이론(simplicity theory)'이다. 자신의 박사학위 논문을 보여주는 김병한 교수.[사진= 최준석 과학저널리스트]
김병한 교수의 모델론 연구는 '단순성 이론(simplicity theory)'이다. 자신의 박사학위 논문을 보여주는 김병한 교수.[사진= 최준석 과학저널리스트]
김병한 교수의 모델론 분야에서 연구는 무엇이 있을까? 그는 앞에서 모델론 역사를 설명하면서 이 분야의 주요 기여자 중 한 명으로 사하론 쉘라 히브리대학교 교수를 언급했다. 김 교수에 따르면, 쉘라는 모델론에서 어떤 특정한 성질을 갖고 있는 대상을 연구했다. 안정성이 있는 구조다. 김 교수는 안정성을 뛰어넘는 훨씬 더 큰 클래스에서 연구가 가능하다는 걸 증명했다. 그가 '더 큰 클래스'라고 말한 게 '단순성 이론(simplicity theory)'이다.

그는 1990년대 중반 관련 연구를 시작했고, 쉘라가 내내 연구한 '안정성'이 자신이 연구한 '단순성'에 포함된다는 걸 알아냈다. 그러니 안전 구조는 단순 구조이지만, 역으로 단순성을 만족시키는 구조 중에는 안정 구조가 아닌 게 많다. 이게 김병한 교수의 미국 노트르담대학교 수학과 박사학위 논문 내용이다. 그는 연세대학교 수학과 81학번이고 노트르담대학교에서 모델론으로 박사공부를 해서 1996년에 학위를 받았다. 지도교수는 아난드 필래이(Anand Pillay) 박사. 모델론 연구자다.

그의 '단순성 이론'은 영국 옥스퍼드대학교 출판부가 책으로 출판했다. 학회로 찾아온 출판부 직원이 출판을 제안했고, 2014년에 책으로 나왔다. 이 책은 학자로서 그의 공로를 인정받은 또 다른 징표다. 단순성 이론을 그가 내놓은 뒤 사람들이 달려들어 10년 이상 연구들을 많이 했다. 그 정도하면 연구할 게 바닥난다. 그럴 즈음에 ’단순성‘보다 더 큰 수학적인 구조가 있다는 게 알려졌다. 그건 NSOP1라고 불린다. 2000년대 초반에 쉘라가 그런 걸 정의해 놓기는 했다. 무슨 신탁을 받은 것인지,그 의미에 대한 깊은 설명이나 예상이 없이 정의를 했다. 

"나는 1995년 ’단순성 이론‘에서 ’쉘라의 독립성=김의 독립성(Kim’s Independence)’ 관계가 성립함을 증명했다. 하지만 NSOP1에서는 이게 성립하지 않는다. 두 개가 같지 않다. NSOP1에서는 ‘쉘라의 독립성‘은 사용할 수 없고, ’김의 독립성‘만 사용해야 한다."

김 교수는 "NSOP1에서 ’김의 독립성‘만을 사용해서 앞에서 한 것과 같은 뭔가 비슷한 일을 할 수 있을 거라고 2009년에 예측했다”라고 말했다. 캐나다 록키산맥 휴양지에 있는 밴프에서 2009년 모델론 학회가 열렸고, 이 자리에서 김 교수는 그 예측을 했다. 그리고 ’김의 독립성‘ 추측이 옳다는 증명이 2017년에 나왔다. 니콜라스 램지(미국 캘리포니아대학교 버클리 캠퍼스 박사)와 이스라엘 히브리 대학교의 이타이 카플란 교수 두 사람의 연구 결과다. 논문은 2020년 수학학술지 ‘JEMS’(Journal of The European Mathematical Society)에 실렸다. 이들 논문 제목인 ‘김의 독립성(On Kim-independence)’에서 ‘김의 독립‘이라는 표현이 처음 나왔다. ’김의 독립‘이라는 건 김병한 교수가 붙인 게 아니고, 그들이 그 개념을 찾아낸 연구자에 대한 오마주로 그렇게 불렀다. 

김 교수는 이후 니콜라스 램지와 공동 연구를 했고, 더 크게 확대된 결과가 나왔다. 니콜라스 램지 박사는 최근에 그 연구에 힘입어 미국 노트르담 대학교 조교수로 임용됐다. 김 교수는 "NSOP1은 나름 핫한 주제다. 그리고 나는 또 하나의 문을 열었다라고 생각한다"라고 말했다. 그는 이어 "나는 지금까지 큰 주제의 문을 여는 연구를 몇 번 했다"라고 말했다. 1996년 학위논문은 옥스퍼드대학교 출판부가 책으로 낼 정도로 주목을 받았고, 15년 가까이 다른 사람들이 집중할 수 있는 새로운 문을 여는 연구였다. 그리고 두 번째 문은 2009년에 시작했고 최근까지 계속하고 있는 NSOP1과 김의 독립성 연구다. 그리고 세 번째 문은 2013년 경에 시작한 호몰로지 이론이다. 호몰로지 이론과 모델론을 결합시킨 연구라고 했다. 그게 무엇인지는 묻지 않았다. 앞에서 언급했던 이정욱 박사의 연구가 그 쪽 분야와 관련이 있다고 했다.

김 교수는 "나는 위대하거나, 뛰어난 사람도 아니다. 사실 그런 얘기를 하기는 창피하고 그래서 잘 안하기는 하지만 실패를 많이 겪었다. 지금도 실패를 많이 겪고 있다"라고 말했다. 그는 노트르담대학에서 박사학위를 한 뒤, 버클리에 있는 수학연구소 MSRI에서 박사후연구원으로 있었고, MIT 조교수가 되었다. MIT에 있을 때인 2000년인가, 서울대학교에 갈 기회가 있었으나 가지 않았다. 서울대에는 훌륭한 학자가 많으니, 그곳에 가기 보다는 연세대에 가면 더 기여를 할 수 있지 않을까 하고 생각했다. 그래서 2005년 연세대 교수가 되었다. 그가 당시 서울대로 가는 선택을 했으면, 한국의 수리논리학을 더 키울 수 있었을지도 모른다. 

김 교수는 "수리논리의 역사는 소수자의 역사"라고 했다. 앨런 튜링도 그렇고, 폴 코언(1966년 필즈상)도, 게오르크 칸토어(1845-1918)도 학계에서 마이너리티였고, 여러 어려움을 겪었다. 김 교수는 "그분들이 정신병에 걸리고 자살하고 그랬다. 그게 이해가 된다"라고 말했다. 김 교수는 이어 "내 경우도 다 얘기하기는 많이 힘들다. 연구비를 신청할 때도, 제자들이 취업을 하는데도 어려움이 많았다"라며 "모델론 연구자들이 많이 노력을 해서 모델론이 수학의 중심 분야에 더 갈 수 있게 되고, 후학들이 좀 더 수학의 중심에서 활동할 수 있으면 좋겠다는 희망을 갖고 있다"라고 강조했다.  

김병한 교수 방에는 모델론을 개척한 타르키스의 영어판 전기가 있었다. 그는 타르키스의 전기를 나중에 번역할 계획이다. 그리고 모델론과 수리논리 관련 몇 권의 책을 쓸 계획을 갖고 있다.  

관련기사

저작권자 © 헬로디디 무단전재 및 재배포 금지