수학과 김병한 교수(수학 81년 입학)을 칭할 때 회자되는 말들이 많다. MIT에 재직하다가 모교로 온 교수, 수리 논리학 분야에서 ‘김의 이론(Kim’s Theory)’을 만들어 중요한 업적을 이룩한 사람 등. 어떻게 보면 자신의 분야에서 이루고 싶은 모든 것을 다 이룬 것처럼 보인다.

모교 교수로 부임한 이후에도 연구에 대한 열정은 지속됐다. 지난 6월, 대학수학회상 논문상을 받은 김 교수는 ‘Recovering the hyperdefinable group action in the group configuration theorem’ 논문을 통해 수리논리 모델에서 매주 중요한 균형성 문제를 최종 완결했다. 또한, 김 교수는 2014년 우리나라 서울 코엑스에서 개최되는 세계수학자대회(International Congress of Mathematicians)에서 동양인 최초로 수리 논리 분야 초청 강연을 맡게 됐다.

이번 연세소식에서는 수리 논리 분야에서 혁혁한 업적을 세운 김병한 교수를 만나 학문과 인생, 그리고 철학을 들어보았다.

단순히, 좋아서, 흥미로워서

김병한 교수는 중학교 때부터 수학이 좋아서 수학자가 되고 싶다는 생각을 했다. “그냥 중학교 때부터 수학 문제 하나를 풀기 위해 고민하고 해결하는 과정이 흥미로웠어요. 그렇다고 제가 월등하게 실력을 발휘하거나 경시대회에서 상을 받을 정도로 잘하지는 못했어요. 신실한 사랑에 이유가 없듯이, 제가 수학을 좋아하는 이유도 같은 이치예요.”

수학에 대한 흥미는 1981년 우리학교 수학과에 입학하면서 학자의 길을 두드려보는 시도로 이어졌다. “학부 2학년 때 논문을 하나 썼어요. 학술지에 발표는 하지 않았어요. 당시에는 발표를 위해 어떤 준비를 해야 하는지 잘 몰랐거든요. 당시 썼던 논문이 n*r 행렬일 때 행렬식(determinant) 값이 어떻게 변할 것인가에 대해 다룬 것이었는데, 나중에 확인해보니 이미 알려진 것이었어요. 비록 제가 접근을 다르게 하긴 했지만, 좀 아쉬웠어요.”

김 교수는 수학 공부를 하면서 수학을 빛낸 학자들의 전기를 많이 읽었고, 특히 김용운 교수(現 한양대 명예교수)의 책을 읽으면서 수학자의 삶에 대해 관점을 넓힐 수 있었다고 한다. “제가 학부와 대학원 다닐 때에는 교수님들이 대중들을 위한 책을 많이 저술하셨어요. 김용운 교수님의 여러 수학 교양 도서를 읽으면서 제가 미처 몰랐던 부분을 깨달을 수가 있었어요. 요즘에는 논문에 대한 압박이 과거보다 많아졌고, 짧은 글들은 인터넷으로 올리는 환경이 되어서 그런지 대중을 대상으로 한 책이 많이 줄어든 것 같아요.” 이에 문제의식을 느낀 김 교수는 현재 일반 사람들이 수학에 대해 쉽게 다가갈 수 있도록 수학자 괴델에 대해 다룬 외국 서적을 틈틈이 번역하고 있다.

한 쪽 문이 닫히면, 다른 한 쪽 문이 열린다

단순히 무언가를 좋아한다는 것이 인생의 고민을 쉽게 덜어낼 수 있는 것은 아니었다. 김 교수는 당시 시대적 상황이 복잡했기에 어느 하나에 몰두하지 않으면 살기 힘든 때였다고 회상했다. “학부를 마치고 대학원 석사로 바로 들어가고 나서 어떤 길로 가야 할지에 대해 많은 고민을 했어요. 좋아하는 수학을 계속 공부해야 하는지 기독교 선교 쪽으로 나아가야 하는지 어떤 길이 나에게 맞는지에 대해 고민하느라 많이 방황했어요.”

또한, 군대 지원할 때는 운이 없었으나 이는 오히려 김 교수에게 앞으로 나아가야 할 길을 닦는 초석이 됐다. “당시에 석사 졸업하면 갈 수 있는 6개월 석사 장교가 있었어요. 그런데 같은 과 출신 6명 중에 저만 선발시험에서 떨어졌어요. 결국 저만 해군 학사장교로 입대하여 3년 이상 군복무를 해야 했기에 동기들보다 더 오랜 시간이 걸렸어요. 하지만, 더 오래 복무한 만큼 생각을 정리할 수 있는 충분한 시간을 가질 수 있었던 것이 결과적으로는 제게 큰 도움이 된 것 같아요.”

제대 이후, 김 교수는 미국 일리노이 대학으로 유학을 갔으나, 또 다른 전환점을 맞았다. 들어가자마자 학과에서 요구하는 영어 시험에 떨어져서 TA(강의조교) 선정에 탈락한 것이다. TA를 하지 않으면 장학금을 받지 못하는데, 김 교수는 자비로 일리노이 대학에 다닐 형편이 안 되었다. 그래서 다른 학교를 알아볼 수밖에 없었다고 한다.

“학교를 찾아보니 노트르담 대학(Univ. of Notre Damn)에 수학 쪽으로 훌륭한 교수님이 계신다는 것을 알게 되었어요. 아난드 필레이(Anand Pillay) 교수님(英 Leeds 대학 재직 중)을 지도교수로 뵙게 되면서 장학금과 생활비를 받고 그 분 밑에서 박사과정을 밟을 수 있었어요.”

하지만, 당시 김 교수는 노트르담 대학에 갈 지에 대해 많은 고민을 할 수 밖에 없었다. “한국적인 기준에서 보면 노트르담이라는 대학이 이름난 곳이 아니어서 걱정이었어요. 하지만, 지금 생각해보면 잘한 결정이었던 것 같아요. 네임 밸류가 전혀 중요하지 않다고 말할 수는 없지만, 그것 때문에 모든 걸 희생할 필요는 없었어요. 훌륭한 교수님이 계시면, 대학의 네임 밸류 신경 쓰지 말고 가는 게 옳은 길이에요.” 그 결과, 김 교수는 노트르담 대학에서 4년 만에 박사과정을 마치고 졸업하게 된다.

당시 김 교수의 박사학위 논문은 미국 수학계의 관심을 받았으며, ‘삭스 상(Sacks Prize)’를 수상하는 영광을 얻는다. ‘삭스 상’은 MIT와 하버드 교수였던 Gerald Sacks 교수의 업적을 기리기 위해 만든 상으로 수리 논리 부분에서 가장 뛰어난 박사 학생들에게 주는 상이다. 이를 계기로 김 교수는 UC 버클리를 거쳐, MIT 수학과 교수로 부임했고, 2005년 모교로 자리를 옮겼다.

토양이 되는 마음으로

“MIT와 우리 학교를 비교한다면 차이가 있는 부분도 있지만, 없는 것도 있어요. 특히 학생들 수준이 전혀 떨어지지 않아요. 단지, 연구 환경을 MIT 수준으로 바꿔 나갈 필요가 있다고 생각해요. 그 부분에서 제가 기여할 부분이 있을 것 같아 모교로 오기로 결심을 했어요.”

마지막으로 김 교수는 본인이 하는 연구가 후학들이 좋은 연구 결과를 얻는 데에 토양이 되길 바란다고 했다. “수학자들의 전기를 읽으면 죽을 때까지 별다른 관심을 받지 못한 사람들이 수없이 많습니다. 특히, 아벨(Abel)이나 갈루와(Galois) 같은 수학자들은 살아있는 동안 동세대 학자들에게 인정을 받지 못했을 뿐만 아니라 생활 형편 또한 처절할 정도로 비참했어요. 하지만, 이 두 사람이 쓴 논문이 후세에 엄청난 영향을 미치고 후학 세대들에게 중요한 영감을 주었어요. 이렇게 학문이라는 것은 수많은 이름 없는 사람들의 노고가 토양으로 누적되는 것이에요. 그리고 그 토양 위에서 좋은 후학들이 배출되고 학문이 발전되는 것이라고 생각해요.”

뿌리 깊은 나무와 샘이 깊은 물

용비어천가(龍飛御天歌)에 ‘뿌리 깊은 나무는 바람에 움직이지 않아서 꽃이 좋고 열매가 많다. 샘이 깊은 물은 가뭄에 그치지 않아서 시내가 이루어져 바다에 간다’는 문구가 있다. 이는 여러 선조들의 노력과 조선 왕조의 깊은 원천이 결실이 되어 세종 대의 조선이 존재함을 말한다. 마찬가지로 김 교수의 수학과 후학에 대한 애정이 훗날 수리 논리 분야의 뿌리 깊은 나무와 샘이 깊은 물을 만드는 건실한 토양이 되길 바라는 마음으로 그의 인생과 철학에 큰 박수를 보낸다.