'학문과 열정'에 대해 알고싶다면

최근 누리호 2차 발사의 성공과 함께 과학에 대한 관심이 뜨거워졌다. 늘어나는 관심 속에서 우리는 과학에 대한 이야기를 쉽고 재미있게 전하는 프로그램, 유튜브, 책을 흔히 볼 수 있는 시대에 살고 있다. 과학의 범위는 자연과학, 응용과학, 형식과학 등 다양한데, 그 중에서도 일상 속에서 응용될 여지가 적은 학문은 대중으로부터 비교적 적은 관심을 받는 경향이 존재한다. 문득 그러한 학문을 발전시키고 풀리지 않는 난제들을 연구하는 학자들의 원동력이 무엇인지 궁금해질 때가 있다. 책 <페르마의 마지막 정리>는 그에 대한 해답을 제공한다. 불확실함 속에서 한 가지 분명한 목표를 향해 자신을 던지는 열정, 그것을 움직이는 것은 바로 그 과정에서 느낄 수 있는 학문 자체의 아름다움이다.

<페르마의 마지막 정리>

변호사가 본업이었던 페르마는 정규학계에서 활동하는 수학자는 아니었지만 그는 여러 수학자들과 서신을 주고받으며 연구했을 만큼 수학에 큰 애정을 가진 천재였다. 그는 자신이 가지고 있던 책 ‘아리스메티카’의 8번 문제 여백에 ‘페르마의 마지막 정리’로 통하는 정리를 휘갈겨 썼는데, 페르마 사후 그의 장남인 클레망 사무엘이 페르마가 생전에 남긴 주석들을 한 곳에 모아 출판하며 정리가 세상에 알려졌다. 페르마의 마지막 정리는 역사 속 수학 난제들 중 가장 대중적인 난제라고 볼 수 있다. 페르마의 마지막 정리는 대중들에게도 흔히 알려진 ‘피타고라스의 정리’와 유사한 형태로 난제의 명성에 비해 내용이 매우 간단하다.

‘방정식 x^n+y^n=z^n (n≥3)에는 자명하지 않은 정수해의 쌍 (x,y,z)(x,y,z) 값이 존재하지 않는다.'

페르마는 1637년에 이 정리를 발견했는데, 그 아래에는 이후 약 400년 간 학자들을 괴롭힌 난제에 대한 그의 장난스러운 주석이 달려 있었다.

‘나는 경이로운 방법으로 이 정리를 증명했다. 그러나 책의 여백이 너무 좁아 여기에 옮기지는 않겠다.’

페르마는 평소 어려운 문제를 풀어내고 위와 같은 뉘앙스의 말을 하는 것을 즐겼으며 실제 페르마가 그러한 말을 덧붙인 문제들은 모두 증명이 가능했다. 즉, 페르마의 마지막 정리가 ‘마지막 정리’인 이유는 페르마가 남긴 문제 중 마지막까지 증명되지 못한 정리이기 때문이다.

<수많은 시도와 실패, 그리고 성공>

18세기의 위대한 수학자 레온하르트 오일러는 n=3일 때를 증명하며 증명의 물꼬를 텄다. 그 과정에서 허수의 단위인 i가 고안되었고, 복소수 개념을 정비하게 된다. 이처럼 학자들은 페르마의 마지막 정리를 온전히 증명하지는 못했지만, 그 과정에서 학문의 큰 발전을 이루었다. 이후 소피 제르맹, 디리클레 등 수많은 수학자들이 n이 특정한 조건을 갖춘 소수일 때 페르마의 마지막 정리가 성립함을 증명했으며 1952년에는 컴퓨터로 2000 이하의 모든 소수가 정리를 만족함을 보였다. 하지만 근본적인 증명은 할 수 없었다. 완전히 증명했다는 것은 ‘모든’ 경우에 페르마의 정리가 성립해야 함을 보여야 했기 때문이다. 결론적으로 페르마의 마지막 정리는 페르마의 사후 350년가량이 지난 1995년에 앤드류 와일스에 의해 증명되었다.

10살에 우연히 페르마의 마지막 정리를 알게 된 앤드류 와일스는 어릴 적부터 이 난제를 증명해내겠다는 꿈을 가슴에 품고 있었다. 시간이 흘러 대학원에 진학하여 논문을 작성하게 된 와일스는 페르마의 마지막 정리에 대해 연구하고 싶었지만, 논문을 이 주제로 한다면 증명을 하지 못하면 졸업을 할 수 없는 것과 마찬가지였기에 지도교수의 권유로 타원곡선에 대해 전공하여 박사 학위를 받았다. 훗날 그의 증명에서 타원곡선이 중요한 역할을 했기 때문에 그가 타원곡선을 전공했던 것은 천운이었다. 이후, 6년이 넘는 시간동안 은둔하며 페르마의 마지막 정리를 증명하려 애쓴 그는 1993년 영국 케임브리지의 학회에서 증명을 발표했지만, 일부 오류를 발견하여 다시 연구에 들어갔다. 다시 1년의 시간동안 고뇌한 그는 마침내 완전한 증명을 완성했고 인류 역사에 길이 남을 증명을 발표하여 350년가량 이어진 긴 이야기에 마침표를 찍었다.

책 <페르마의 마지막 정리>는 페르마의 마지막 정리가 증명되는 기나긴 이야기를 소개한다. 겉으로 보기에는 한 난제가 증명되는 과정에 대한 지루한 이야기지만 책에 빠져들어 이야기를 따라가다보면 분명히 느껴지는 것들이 있다. 그것은 바로 열정이다. 와일스는 수학의 완전함과 어릴 적 자신의 꿈을 목표로 달린다. 증명을 위해 노력하는 것은 혼자이지만, 현대 수학을 있게 한 학자들의 노력과 같은 목표를 향해 달리는 수많은 이들이 서로를 지지하고 있다. 350년동안 누구도 풀지 못한 문제를 자신이 풀 수도 있을 것이라는 약간은 막연한 희망을 가지고 학문의 세계에 뛰어드는 이들의 열정은 인상적이다. 불확실한 상황 속에서 목표를 향한 순수한 열정을 잊고 살아가는 이들에게, 성공과 실패 사이에서 피어나는 좌절과 기쁨으로부터 자극 받고 싶은 이들에게 이 책을 추천한다.