「철학 수학」- 야무챠

아무도 풀지 못한 이 문제를, 누가 풀 수 있겠습니까?

 

철학 수학

수학과의 거리를 좁혀주는 『철학 수학』. 수학사 중 최대의 어려운 문제여서 악마라고까지 불리는 '페르마의 마지막 정리'의 증명을 위해 자신의 삶을 바친 수학자들의 정열적이고 감동적 일화를, 저자 특유의 상상력으로 드라마틱하게 풀어내고 있다. 저자가 수학의 증명에 인간의 정열이 숨어 있음을 발견하면서부터 느낀 감동을 바탕으로 저술한 것이다. 아울러 'n차방정식 여행'이라는 해의 공식을 구하는 수학자들의 이야기를 담아냈다.

저자

야무챠

출판

Gbrain(지브레인)

출판일

2010.11.04

 독일의 의사이자 사업가였던 파울 볼프스켈은 한 여성에게 실연당한 뒤 자살을 결심했다고 한다. 젊었을 때 수학을 공부했던 그는 죽기 전 한 수학 문제를 풀어 보려고 했는데, 기존의 증명 과정에 오류가 있는 것을 발견했지만 푸는 과정이 생각보다 어려워 자살하기로 했던 시간조차 넘겨버릴 정도였다고 전해진다. 이로써 삶에 새로운 의욕을 찾은 그는 이 문제에 10만 마르크의 상금을 걸고, 이 문제를 푼 자에게 자신의 이름을 건 '볼프스켈 상'을 주기로 한다. 이 상은 그가 죽은 뒤에도 한동안 받는 사람이 없었으며, 수학계에서 가장 명예로운 상 중 하나가 되는데, 그 문제가 바로 수백 년에 걸쳐 해결된 대난제, '페르마의 마지막 정리'였기 때문이다.

 그 이름도 거창한 페르마의 마지막 정리는 프랑스의 유명한 수학자 피에르 페르마가 제안하였고, 증명했다고 알려진 정리이다. 'n이 3 이상인 정수일 때, xⁿ+yⁿ=zⁿ를 만족하는 세 정수 x, y, z는 존재하지 않는다'라는 내용으로, 언뜻 보기에는 간단하지만 수많은 수학자들이 도전했다 실패할 정도로 어려운 문제이다. 페르마는 평소 책을 읽다 생각한 내용을 여백에 적어놓는 습관이 있었는데, 페르마의 마지막 정리의 경우 '놀랄 만한 증명을 찾아내었지만 여백이 부족해 서술하지 않는다'라고 적어놓았다는 것도 유명하다. 문제의 난이도를 생각해본다면 잘못된 증명을 해 놓고 정답인 줄 알고 있었던 듯하지만, 아직까지 페르마가 사용한 '놀랄 만큼 단순한 증명'이 존재할 것이라 믿는 사람도 있는 모양이다. 어쨌거나 지금까지 내로라하는 수많은 수학자들이 이 문제에 도전했다가 실패하였다는 것은 엄연한 사실이다.

 이 책 「철학 수학」은 페르마의 마지막 정리가 해결되기까지의 과정을 다룬다. 페르마부터 시작해 여성 수학자 소피 제르멩, 볼프스켈이 오류를 발견했던 증명의 에른스트 쿠머, 타원 곡선과 페르마의 마지막 정리 사이 관계를 발견한 프라이, 타원 곡선에 관한 또 다른 난제인 타니야마-시무라 추론, 그리고 타니야마-시무라 추론과 페르마의 마지막 정리를 연결해서 마침내 증명에 성공해낸 앤드루 와일스까지 수많은 수학자들이 이 과정을 거쳐갔다. 그 외에도 이 문제에 도전했다 좌절한 여러 수학자들이 등장한다. 이들의 행적을 종합적으로 비교했을 때 인상적인 점은 여러 사람이 함께 해결한 문제인 만큼 선대 수학자의 업적에 조금씩 덧붙이는 식으로 풀이를 확장했다는 것이다.

 페르마는 n=4일 때의 증명을 해 놓았다. 이후 소피 제르멩은 5에 대해 불가능함을 증명하고, 소피 제르멩 소수에 대해 이 정리가 성립한다는 추측을 했는데, 이는 이후의 수학자들이 증명해 준다. 에른스트 쿠머의 경우에는 소수를 정규 소수와 비정규 소수로 구분하고, n이 정규 소수일 때 불가능함을 증명했다. 이를 통해서 점차 불가능함이 입증된 소수의 영역이 넓어진다는 것을 알 수 있다. 프라이가 타원 곡선과 페르마의 마지막 정리 사이 관계를 알아낸 뒤에도 마찬가지 방식으로 타니야마와 시무라의 추론에서 프라이의 정리로, 나아가 앤드루 와일스의 증명까지 이어진다는 것을 볼 수 있다. 수학자 한 명의 업적이 아닌, 과거의 학자들이 이루어낸 것을 바탕으로 살을 붙여가며 풀이가 발전했다는 것이다.

 많은 수의 난제가 오랜 세월에 걸쳐 많은 수학자들을 거치며 증명되었지만, 페르마의 마지막 정리는 유별나게 긴 시간동안 연구되었던 만큼 많은 수학자들이 참여했고, 개중에는 오일러나 소피 제르멩처럼 다른 분야로도 명성을 떨친 유명한 사람들도 있었다. 앤드루 와일스가 이 난제를 해결한 공로로 볼프스켈 상은 물론 필즈상 특별상도 받았지만 앞의 수학자들에 비해 뛰어나서 받았다고만 보기에는 무리가 있다. 그보다는 앞선 수학자들의 노력이 뒷받침되었기에 그가 증명에 닿을 수 있었다고 보는 것이 맞을 것이다. 뉴턴은 생전 자신이 이룬 업적은 대단한 것이 아니며, 거인의 어깨 위에 있어서 남들보다 조금 멀리 볼 수 있었던 것뿐이라고 말한 적이 있는데, 페르마의 마지막 정리는 이를 단적으로 보여 주는 사례라고 볼 수 있겠다. 거인의 어깨 위에 서 있는 다른 거인의 어깨 위에, 또 다른 거인이 서 있고 이를 수없이 반복하다 앤드루 와일스라는 거인에 이르러서야 그 해답이 있는 곳을 볼 수 있게 된 것이다. 사실 수학뿐만 아니라 세상의 모든 것이 그렇기도 한데, 「철학 수학」은 이 간단한 진리를 300년의 여정을 통해 일깨워준다.