한 문제를 풀기 위해 노력했던 천재 수학자들의 영화 같은 이야기

페르마의 마지막 정리

사이먼 싱 저/박병철 역

『페르마의 마지막 정리』를 증명하는 것은 수학 역사상 가장 어려운 과제였지만, 『정리』 자체만 놓고 본다면 내용이 너무도 단순하여 초등학생도 풀 수 있을 정도로 간단해 보인다. 하지만 당대 최고의 석학들도 이 『정리』 앞에서는 꼼짝없이 무릎을 꿇어야 했던, 수학 역사상 최대의 수수께끼였고 난제였다. 그 동안 수많은 사람들이 이 『정리』를 증명하기 위해 일생을 바쳐왔지만, 끝내 빗장은 열리지 않는 듯했다. 그러나 영국의 수학자 앤드루 와일즈가 이를 증명하는 데 성공하였다.

그런 그의 꿈을, 멀리 피타고라스 시대부터...

읽게 된 동기

모든 공학 전공자들이 그렇지는 않겠지만, 대학 시절 나를 포함해 몇 명의 친구들은 '수학'이라는 학문을 동경했다. 수학을 잘하고 못하고를 떠나서 그것이 없으면 공학이라는 학문도 결국 모래 위의 성과 같은 존재이기 때문이었을 것이다. 지금도 데이터 엔지니어로서 수학이라는 존재를 멀리할 수 없으므로 이번에 읽을 책은 수학 또는 수학사와 관련된 책으로 고르려고 했다. 페르마의 마지막 정리에 대한 악명(?)은 그래도 어렴풋이 알고 있었기 때문에 여러 후보 도서 중에서 이 책을 주저 없이 고를 수 있었다.

평점 및 소감

★★★★★

오랜만에 정말 쉬지 않고 몰입하면서 읽은 책이라 별 5개를 줬다. 수학 관련 이야기라 다소 거부감이 들 수도 있겠지만, 비전공자나 수학 자체에 흥미가 없는 사람도 재밌게 읽을 수 있을 거로 생각한다. 단순한 수학사의 서술이 아니라 시대별 천재 수학자들의 개인적인 이야기들이 페르마의 마지막 정리와 잘 엮여 한 편의 소설을 읽듯이 몰입할 수 있었다. 우리가 그래도 이름은 들어봤을 법한 가우스, 오일러 등 반가운 이름이 많이 나온다.

수학적 내용은 흥미가 있는 사람만 따로 볼 수 있게 저자가 아예 부록으로 빼놓았다. 그러니 겁먹지 말고 읽어보시라!

인상적인 내용

• (n은 3 이상의 정수)를 만족하는 정수해 x, y, z는 존재하지 않는다. 나는 이에 대한 실로 놀라운 증명법을 발견했다. 하지만 그걸 여기다 적기에는 책의 여백이 너무 부족하다.

정리가 말하고자 하는 바는 거듭제곱의 개념을 배운 초등학생도 이해할 수 있을 것이다(페르마의 마지막 정리를 증명한 와일즈 역시 초등학교 때 이 내용을 접하고 이해는 할 수 있었다). 여기서 궁금한 것은 정말 페르마는 완벽한 증명을 했을까? 페르마의 증명 여부는 수학자들 사이에서도 의견이 분분하다고 한다.

• 코티스 교수는 와일즈의 전공 분야로 '타원 곡선(elliptic curves)'이라는 수학 분야를 택했다. 이 결정은 와일즈의 수학 경력에 일대 전환점이 되었으며, 훗날 그가 새로운 수학을 도입하여 <페르마의 마지막 정리>를 증명하는 데 지대한 공헌을 하게 된다.
• 와일즈는 존 코티스 교수의 지도를 받으면서 타원 곡선과 E-급수의 연구에 몰두하여 유능한 정수론 학자로서 명성을 날리게 되었다. 새로운 결과가 얻어지고 새로운 논문이 속속 탄생했지만 와일즈 자신은 이런 업적들이 훗날 <페르마의 마지막 정리>를 증명하는 데 밑거름이 될 것이라는 생각을 전혀 하지 못했다.

와일즈가 대학원 과정에서 타원 곡선을 전공하지 않았다면 페르마의 마지막 정리를 증명할 수 있었을까? 나는 여기서 일취월장의 운에 관한 내용을 다시 한번 생각할 수밖에 없었다. 와일즈는 실력도 있었지만, 운이 있었기에 수학사에 한 획을 그을 수 있었다.

• 천문학자와 물리학자, 그리고 수학자가 스코틀랜드에서 휴가를 보내고 있었다. 그들은 기차를 타고 여행을 하던 중 들판에서 풀을 뜯고 있는 검은 양 한 마리를 보았다. 그러자 천문학자가 말했다. "그것 참 신기하군. 스코틀랜드 양들은 죄다 검은색이잖아?" 이 말을 듣고 있던 물리학자가 천문학자의 말을 반박했다. "그게 아니야. 스코틀랜드 산 양들 중에서 일부만이 검은색이라고 말해야지." 이들의 말이 한심하다는 듯, 수학자는 하늘을 잠시 쳐다본 뒤 조용히 입을 열었다. "자네들은 너무 성급한 판단을 내린 거야. 스코틀랜드에는 적어도 몸의 한쪽 면 이상의 면적에 검은 털이 나 있는 양이 적어도 한 마리 이상 방목되고 있는 들판이 적어도 하나 이상 존재한다. 이래야 말이 되는거라구!"

수학자들이 추구하는 엄밀함을 느낄 수 있는 재미난 픽션이다. 적어도 하나 이상이라는 표현이 얼마나 빡빡하고 엄밀한 조건인지 천문학자와 물리학자의 주장과 비교해보면 느낄 수 있다.

• 수학의 최종 목적은 완전한 증명이다. 그리고 일단 한번 증명이 이루어지면 그 결과는 아무리 시간이 흘러도 결코 변하지 않는다.
• 제아무리 슈퍼컴퓨터를 동원한다 해도 무한히 많은 모든 정수 n에 대하여 <페르마의 마지막 정리>가 옳은지를 일일이 계산할 수는 없으므로 계산 도구를 사용하여 <페르마의 마지막 정리>를 증명하는 것은 원리적으로 불가능한 일이었다. 만일 n = 1,000,000,000인 경우에 <페르마의 정리>가 성립한다는 것을 누군가가 증명했다 해도, 그것이 n = 1,000,000,001일 대에도 성립한다는 보장은 어디에도 없다.

왜 수학의 정리들이 아름다울 수밖에 없는지 느낄 수 있는 대목이다. 컴퓨터가 평생을 계산해도 확실하게 장담할 수 없는 정리들을 수학적 논리를 이용해 모든 경우에 대해 증명할 수 있다는 것은 아름답지 않은가?

• 31 ; 331 ; 3,331 ; 33,331 ; 333,331 ; 3,333,331 ; 33,333,331은 자세한 검증을 통하여 다음의 수들이 모두 소수라는 사실을 알아냈다. 그렇다면 333,333,331도 과연 소수일까?

333,333,331 = 17 × 19,607,843, 따라서 소수가 아니다. 이 예화를 통해 수학적 정리 또는 데이터에 근거하지 않은 추측은 항상 틀릴 수 있음을 인지해야 함을 다시 한번 생각하게 되었다.

• 피타고라스가 가장 총애했던 제자는 밀로의 딸인 테아노(Theano)였는데, 이들은 나이 차에도 불구하고 뒷날 결혼하여 부부가 되었다.

Theano는 TensorFlow 출시 이전에 인기 있던 Python Deep Learning 라이브러리였다. 모델링을 하면서도 테아노가 무슨 의미일까 궁금하지는 않았는데, 사람 이름이었고 심지어 피타고라스의 부인이었다니 반가우면서도 놀라웠다.

• 와일즈는 최후로  <페르마의 마지막 정리>를 칠판에 적고는 청중을 향해 조용히 입을 열었다. "이쯤에서 끝내는 게 좋겠습니다."

이 한 문제를 위해 거의 일생을 바친 와일즈에 감정 이입을 하고 이 대사를 다시 봤더니, 나도 모르게 전율이 돋았다. 간접 경험자인 나도 그런데 당사자는 어땠을까?

후기

• 부록에 있는 몇 가지 수학적 내용은 한국에서 고등학교 과정을 마쳤다면 충분히 도전해볼 수 있는 문제들이다. 처음 읽을 때는 앞의 몇 개만 풀어봤지만, 재독을 할 때는 모든 부록에 있는 문제를 다시 풀어볼 생각이다.
• 이 책의 인상적인 내용과 추천하는 이유는 너무나 많다. 하지만 그걸 여기다 적기에는 블로그의 여백이 너무 부족하다.