최근 수정 시각 : 2019-10-19 00:45:43

페르마의 마지막 정리/증명

1. 개요2. 와일즈의 증명 이전
2.1. 들어가기 전에2.2. n=4인 경우2.3. n=3인 경우2.4. 소피 제르맹의 정리2.5. n=5인 경우2.6. n=14인 경우2.7. n=7인 경우2.8. 에른스트 쿠머2.9. 해리 반다이버2.10. 게르하르트 프라이, 케네스 리벳
3. 와일즈의 최종 증명 (n≥3)4. 이후의 다른 증명
4.1. 모치즈키 신이치의 ABC 추론 증명4.2. 김민형 교수의 증명

1. 개요

본 문서에서는 페르마의 마지막 정리(FLT)의 증명의 발전 과정과 최종적인 증명들의 수식을 소개한다. 기본적인 과정에서 차근차근 접근하고 싶다면 FLT의 기본적인 틀인 디오판토스 방정식을 참조하는 것이 좋다.[1] 또한 본 문서에선 읽는이의 이해를 돕기 위해, 특정한 n값에서의 증명은 많은 증명법들이 개발되었으므로 문단에서 최초 증명법을 고안한 수학자에 대해 설명하고 있더라도 해당 수학자의 증명법과 비교하여 좀더 대중적이거나 난이도가 낮은 증명법이 있다면 후자를 소개한다.

덧붙여 FLT에서 n=4, n=3인 경우의 증명은 중학교 1학년 지식으로 해결할 수 있다.

2. 와일즈의 증명 이전

2.1. 들어가기 전에

FLT 는 n>=3 인 모든 수에 대해서 언급하지만, 실제로는 4와 n>=3 인 모든 (홀수) 소수에 대해서만 확인하면 된다.

예를 들어 n=3 인 경우를 증명했다고 하면, 3의 배수인 6, 9, 12 등 도 당연하게 증명된다.
마찬가지로 n=p(p는 소수) 인 경우 FLT 가 참이라고 증명된 상태에서, n=pk 인 경우에 해가 있다(FLT가 거짓이다)고 가정하면 모순이 발생함을 간단하게 확인할 수 있다.[2]

2.2. n=4인 경우

왜 n=3인 경우가 먼저 안 나오고 n=4가 먼저 나오냐고 의구심을 갖는 위키러들이 있을 텐데, n=4인 경우는 페르마의 정리의 원작자인 페르마가 직접 남겨놓은 유일한 증명으로, n=3일 때보다 먼저 발표되었다. 페르마의 경우 무한강하법으로 증명했다. 사실 페르마가 연구했던 것은 '직각삼각형의 두 변을 이루는 정수로 된 네제곱 수가 존재할 수 없다'는 것으로 방정식 x4+y4=z2x^4 + y^4 = z^2의 미지의수 x, y, z의 정수해가 존재하지 않는다는 것인데 이 방정식의 양변을 정리하면 FLT의 기본 꼴인 xn+yn=znx^n + y^n = z^n꼴로 치환된다. 이 페르마의 증명법은 n=3의 증명중 오일러의 증명법과 연계되며, 페르마의 <직각삼각형 정리>에 수록되어있다. n=4인 경우는 1600년대부터 현재까지 수십명의 학자들이 증명 논문을 발표했으며, 이 중엔 페르마의 증명법을 재탐구 한 논문도 많다. 증명은 다음과 같다.

1. 귀류법을 사용한다. 즉, x4+y4=z2(x>0,y>0,z>0)x^4 +y^4 = z^2 (x>0, y>0, z>0)을 만족하는 정수해가 존재한다고 가정하자[3].

2. 우선 x와 y를 서로소로 두자[4]. 둘이 서로소라면 x와 y 중 하나는 반드시 홀수이다. 따라서
  • A. x와 y 둘 다 홀수, z는 짝수
  • B. x가 짝수, y가 홀수, z는 홀수
중 하나가 성립한다[5].
한편 홀수의 네제곱은 8로 나눈 나머지가 1이고[6], 짝수의 네제곱은 8로 나눈 나머지가 0이다.
이 정리에 의해, A의 경우
준식 x4+y4=z2(x>0,y>0,z>0)x^4 +y^4 = z^2 (x>0, y>0, z>0)의 좌변을 8로 나눈 나머지는 2, 우변을 8로 나눈 나머지는 0이므로, A의 경우는 성립할 수 없다.
따라서 x는 짝수, y는 홀수, z는 홀수이다.

3. 2에 의해
x2=2abx^2 = 2ab
y2=a2b2y^2 = a^2 - b^2
z=a2+b2z = a^2 + b^2(단 a와 b는 서로소, a>b)
을 만족하는 a, b가 존재하다.
y는 홀수이므로 y²을 4로 나눈 나머지는 1이다.[7]
y²=a²-b², 즉 a²-b²을 4로 나눈 나머지 역시 1이어야 하므로, a는 홀수, b는 짝수이다.[8]
여기서 b=2c라고 두면 a와 b가 서로소이므로 a와 c도 서로소이다.
위 식에서 서로소인 두 수의 곱이 제곱수이므로 각각의 수 a와 c는 제곱수이다.
따라서 a=u², b=2c=2v²이라고 둘 수 있다.

4. 위 식을 y2=a2b2y^2 = a^2 - b^2에 대입하면
y2=u44v4y^2 = u^4 - 4v^4
4v4+y2=u44v^4 + y^2 = u^4
(2v2)2+y2=(u2)2(2v^2)^2 + y^2 = (u^2)^2
이라고 하는 식을 새로 얻을 수 있다.
2v²과 y가 서로소이고 2v²이 짝수이므로, 다시
2v2=2lm2v^2 = 2lm
y=l2m2y =l^2 - m^2
u2=l2+m2u^2 = l^2 + m^2(단 l과 m은 서로소, l>m)
이라는 식을 얻는다.
한편 v²=lm에서 l과 m이 각각 제곱수, 즉
l=r², m=s²이며, 이를 u2=l2+m2u^2 = l^2 + m^2에 대입하면
r4+s4=u2r^4 + s^4 = u^2, 즉 1에서 주어진 식과 완전히 똑같은 형태의 식을 얻는다.
한편 u ≤ u² = a ≤ a² < a² + b² = z,
u<z이다.

5. 1, 2, 3, 4를 종합하면
x4+y4=z2(x>0,y>0,z>0)x^4 +y^4 = z^2 (x>0, y>0, z>0)을 만족하는 정수해가 존재한다고 가정하면
r4+s4=u2(r>0,s>0,u>0)r^4 +s^4 = u^2 (r>0, s>0, u>0)이면서 u<z를 만족하는 정수해가 항상 존재한다. 그런데 무한강하법에 의해 이는 성립할 수 없으며, 가정이 잘못되었다는 결론을 얻는다. 따라서, n=4일 때 페르마의 마지막 정리는 성립한다.

2.3. n=3인 경우

n=3의 증명은 여러가지가 있는데, 이중 가장 유명한것은 오일러의 증명법이다. 오일러는 페르마의 n=4의 증명에서 착안하여 n=3일때를 증명해냈다. n=4인 경우를 증명하는 것 보다 약간 발전한 정도의 난이도로, 한국 기준으로는 의무교육 중학교 1년차인 학생이라면 무리없이 이해를 할 수 있다. n=3인 경우를 증명하는 것은 n=4인 경우를 증명하는 것과 함께 페르마의 마지막 정리를 증명하는 과정의 첫출발점이고 난이도도 쉬우니 위키러들은 공책 하나 잡고 직접 해보자! 오일러가 발표한 귀류법식 증명은 다음과 같다.
페르마의 마지막 정리- n=3일때의 증명 1
페르마의 마지막 정리- n=3일때의 증명 2
페르마의 마지막 정리- n=3일때의 증명 3
방정식 x3+y3=z3x^3 + y^3 = z^3을 만족하는 미지수 x, y, z의 정수해가 있다고 가정하면 임의의 수 A, B, C가 있을때 방정식 A3+B3=C3A^3 + B^3 = C^3 가 성립한다.

한편 n=3인 경우를 단절 오차(truncation error)를 통해서도 훨씬 간결하게 증명할 수 있다. 이는 다음과 같다.

2.4. 소피 제르맹의 정리

소피 제르맹(1776년 4월 1일 ~ 1831년 6월 27일)은 18세기의 프랑스 여성 수학자이다.

n=3일 경우 FLT가 참이라는 단계까지 진척되자,[9] FLT를 연구하는 학자들 사이에서는 n의 개별적인 값에서 FLT를 증명하기 보다는 반드시 일반론적인 방법에서 접근해야 FLT의 최종 증명에 조금이라도 더 가까워질 가능성이 높아진다고 보는 풍조가 더욱더 강해졌다. 소피 제르맹은 이 같은 학계의 분위기에서 FLT의 증명에 큰 진보를 이뤄냈다.

1823년 소피 제르맹의 정리라는 정리를 하나 발표했고, 이를 이용해서, '100 미만의 정규 홀수 소수 p에 대해 페르마의 마지막 정리는 항상 참이다.' 라는 당대로서는 충격과 공포급의 엄청난 발표를 내놨다. 이를 분석한 다른 수학자에 의해서 197로 커졌다가, 1700 이하에서는 모두 성립한다는 것이 확인되었다.

소피 제르맹의 발표 이후 학계는 현대로 치자면 모듈러성 정리와 FLT와의 관계를 밝혀낸 게르하르트 프라이의 발표 정도의 충격적인 것이었으며, 이를 접한 수학자들은 하나같이 난리가 났었다.(...) 남들은 쫌생쫌생 n=3, 4, 5... 하나씩 증명하고 있는데 대범하게 수많은 가짓수를 한 번에 해결한 것이다. 다만, 이에 해당되는 n 이 무한에 준할 정도로 많고, 어쩌면 무한할지도 모르지만, 문제는 해당하지 않는 케이스도 여전히 무한하다는 점이다.

이렇듯 소피 제르맹은 FLT를 부분적으로 참이라고 증명해냈지만, 소피 제르맹 소수가 무한히 많을지는 현재까지도 증명이 안 됐다.

2.5. n=5인 경우

상술한 소피 제르맹의 자료를 활용하여 증명되었다. 디리클레 함수로도 유명한 독일의 수학자 디리클레르장드르 다항식으로 유명한 르장드르가 각각 1825년 처음으로 발표했다. 이후 가우스, 라메 곡선으로 유명한 라메 등이 추가로 발표하였다.

2.6. n=14인 경우

디리클레가 증명하였다.

2.7. n=7인 경우

1839년 가브리엘 라메가 증명하였다.

2.8. 에른스트 쿠머

모든 정규 소수(regular prime)에 대해서 페르마의 마지막 정리가 맞다는 것을 증명하였다. 정규 소수에 대해서 간단히 설명하는 것은 어렵지만, 전체 소수중에 정규 소수가 차지하는 비율이 2/3 정도 된다는 것은 다른 수학자에 의해 밝혀졌다.

소피 제르맹에 이어, 무한한 개수의 경우의 수에 대해서 FLT 가 참임을 증명하였다. 대신, 역시 무한한 개수의 경우에 대해서는 따로 증명해야 한다는 점도 증명하였다.

2.9. 해리 반다이버

미국의 수학자 해리 반다이버가 컴퓨터를 이용해서 2000 이하의 모든 소수에 대해서 참임을 증명하였다.

2.10. 게르하르트 프라이, 케네스 리벳

게르하르트 프라이는 페르마의 방정식을 다음과 같이 대수적 기법을 이용하여 타원곡선으로 바꿀 수 있다는 것을 발표하였다.
[math(n)]이 3 이상의 홀수일 때 [math(a^{n}+b^{n}=c^{n})]을 만족시키는 양의 정수쌍 [math(\left(a, b, c\right))]가 존재한다고 하자.
그렇다면 다음 두 타원곡선은 유리수체 [math(\mathbb{Q})]상에서 동치가 된다.
[math(\begin{aligned} y^{2}&=x(x-a^n)(x+b^n) \\ &=x(x-a^n)(x-c^n) \end{aligned})]
이 타원곡선을 프라이 곡선(Prey Curve)이라고 부른다.
이로부터 수학자들은 페르마의 대정리가 타니야마 시무라의 추론와 관련이 있을 것이라는 점을 알게 되었다. FLT가 틀렸다는 가정 하에 정수해를 가지고 프라이 곡선으로 변형을 시켰을 때, 프라이는 이 타원곡선이 상당히 기묘한 형태를 지니고 있기 때문에 어떠한 모듈러 형식의 급수와도 대응되지 않는다는 추측을 제시했다. 반대로 이야기 하면, 타니야마 시무라의 추론이 참이라면, 프라이 곡선을 유도한 페르마 방정식이 존재하지 않는다는 의미가 되며, 이는 즉 페르마의 방정식을 만족하는 정수가 존재할 수 없다는 것을 의미한다. 다시 말해, 타니야마 시무라의 추론만 증명하면 FLT도 증명될 것이라고 예상했다. 다만, 프라이는 이에 대한 완벽한 증명은 하지 못했고, 이를 '엡실론 추측'이라고 불렀다.

켄 리벳은 프라이가 구상한 엡실론 추측의 증명에서 문제가 있는 부분을 찾아내어 이를 완성시켰다. 즉, 타니야마 시무라의 추론을 증명하면 FLT가 증명된다는 사실을 증명한 것이다. 추가로, 타니야마 시무라의 추론의 모든 경우를 확인할 필요 없이 반안정상태의 타원곡선에 대해서만 증명해도 FLT가 증명됨도 확인하였다.

소피 제르멩과 에른스트 쿠머는 수많은 수에 대해서 성립함을 보이면서 수학계에 큰 파장을 남겼는데, 프라이와 리벳에 의해서 아예 한방에 모든 경우를 다 해결할 가능성을 찾아 냈다는 점에서 어마어마한 충격을 주었다.

그러나, 이 당시에는 타니야마-시무라의 추론이 증명될 기미가 전혀 없었다는 점이 문제였다.

결국 앤드루 와일스가 '반안정상태의 타원곡선에 대해, 타니야마-시무라의 추론이 맞음'을 증명하면서, 동시에 FLT 의 증명도 완결하었다.

참고로, 와일스의 제자들이 다른 경우의 타원곡선에 대해서도 모두 증명을 완료하여, 타니야마 시무라의 추론은 완전히 증명이 끝났고, 모듈러성 정리로 이름이 바뀌었다.

3. 와일즈의 최종 증명 (n≥3)

수학과 대학원에서 대수적 정수론을 전공하면서 대수기하학, 표현론, 해석적 정수론등 증명에 쓰이는 중요한 도구들을 착실히 배웠다는 전제하에 와일즈의 논문을 설명한다. 독자에 대한 가정이 너무 빡세다
Introduction.

An elliptic curve over Q\mathbb{Q} is said to be modular if it has a finite covering by a modular curve of the for X0(N). Any such elliptic curve has the property that its Hasse-Weil zeta function has an analytic continuation and satisfies a functional equation of the standard type.
(이하 생략)

아이클러의 정리를 이용해 귀류법으로 증명했다.

ap+bp=cpa^p+b^p = c^p 에 대해, 이를 만족하는 소수p3p\ge3과 자연수 a,b,ca,b,c가 있다고 한다.

저 식을 변형하여 타원곡선 E: y2=x(xap)(x+bp)y^2=x(x-a^p)(x+b^p)를 만든다.
타원곡선 E 에 대해서 L(s,E)=L(s,F)L(s,E)=L(s,F)인 보형 형식F가 있어야 한다.
그런데, 이러한 F는 존재 하지 않는다. (L(s,F)L(s,F)modmod pp를 본다..)

모순이 발생하므로 가정이 잘못되었다. 즉, 해 a,b,c는 존재하지 않는다.

후에 약간 오류가 있었단게 밝혀졌으나 동료들과 같이 수정하였고, 이로써 모든 n의 값에 따라 항상 참인 명제로 밝혀져 완전히 해결되었다. 증명에서 나온 부산물들은 와일즈의 제자들이 차차 거둬들였다.

4. 이후의 다른 증명

4.1. 모치즈키 신이치의 ABC 추론 증명

ABC 추론이라는 문제가 하나 있는데, 만약 이 추측이 참이라면 조금 더 간단하게 페르마의 마지막 정리를 증명 가능하다.

그런데, 2012년 9월 19일, 일본 교토대학의 모치즈키 신이치(望月新一) 수리해석연구소 교수가 ABC추론을 증명했다고 밝혔다. 관련기사 하지만, 문제는 모치즈키가 ABC추론을 증명하기 위해 만든 이론인 Inter-Universal Teichmuller Theory는 561페이지에 다다르며 그 내용이 너무나 난해해서 현재 수학계에서 그의 이론을 제대로 이해한 사람이 거의 전무하며 실질적으로는 와일즈의 증명만큼 어려운 증명이다. 정말로 이해하는 사람이 없어서 이 증명이 공식적인 증명으로 받아 들여지고 있지 조차 않은데, 어려운 것도 있지만 어떤 도구를 썼는지 명확하게 제시하지 않고 있기도 하기 때문이다. 이런 경우 페렐만처럼 결국 그 간결함이 인정받을 수도 있지만, 모두가 납득하지 못한다면 사기꾼으로 취급받을 공산이 있다.

아사히 신문의 보도에 따르면 2018년도 쯤에 세계적으로 유명한 수학잡지에 실릴 것으로 전망된다고 한다. #1,#2

이 증명에 대해서는 2012년 이후로 끊임없이 틀렸다는 주장이 나왔었는데, 결국 2018년 9월 21일, 바로 한 달 전 필즈상을 수상했던 피터 숄츠그 증명의 헛점을 발견했다는 엄청난 발표를 했다. 아직 논란이 끊이고 있지 않지만 학계의 여론은 망했다는 게 대세인 듯하다. 다만 아티야가 리만 가설을 증명했다고 주장하는 사건이 발생한 때문에 이슈에서 다소 밀려난 상태.

4.2. 김민형 교수의 증명

포항공과대학교 수학과 소속인 김민형 교수도 위상수학적인 접근방법을 정수론에 이용해서 페르마의 대정리를 증명하는 새로운 방법을 제시했다. 김민형 교수는 이 업적으로 한국인 최초로 옥스퍼드 대학교 수학과 정교수로 임용됐다.


[1] n=2인 경우는 피타고라스의 정리페르마의 마지막 정리 문서 참조.[2] 간단히 말하면, FLT가 n=pn=p인 상황에서 참이라 증명되고, n=pkn=pk인 경우 자명하지 않은 해의 쌍(abc0abc\neq0)이 존재한다고 하자. 그렇다면 이 해의 쌍을 a,b,ca, b, c라고 놓을 수 있고, 이 세 수 사이에는 다음 관계가 성립한다.
apk+bpk=cpka^{pk}+b^{pk}=c^{pk}
그런데, 이 관계식은 이런 식으로 바꿀 수도 있다.
apk+bpk=cpk(ak)p+(bk)p=(ck)pa^{pk}+b^{pk}=c^{pk}\rightarrow\left(a^k\right)^p+\left(b^k\right)^p=\left(c^k\right)^p
ak,bk,cka^k, b^k, c^k를 각각 x,y,zx, y, z라고 치환하면, 이 관계식은 xp+yp=zpx^p+y^p=z^p이라는 식이 성립해야 한다는 걸 알 수 있다. 그런데, FLT는 n=pn=p일 때 참이라고 증명되어 있으니, 이 관계식을 만족하는 x,y,zx, y, z는 존재하지 않는다. 분명 가정에서는 저 관계식을 만족하는 순서쌍 a,b,ca, b, c가 존재한다고 했으므로 각각에 k제곱을 취한 x,y,zx, y, z가 존재해야 하는데, 존재하지 않는다고 모순이 발생했다. 이는 전제삼은 FLT는 n=pkn=pk에서 거짓이다. 라는 것이 틀렸다는걸 의미하여, FLT는 n=pkn=pk에서도 성립한다.
[3] z의 지수가 2일 때 이 식을 만족하는 정수해가 없다는 것을 보여주면, 지수가 4일 때도 마찬가지임은 자명하다.[4] x와 y가 공약수를 갖는다면 z 또한 같은 공약수를 가지므로[5] 물론 B의 경우 x가 홀수, y가 짝수로 둬도 준식이 대칭식이기 때문에 증명방법은 동일하다.[6] (2k+1)4=16k4+32k3+24k2+8k+11(mod8)(2k+1)^4 = 16k^4+32k^3+24k^2+8k+1\equiv 1\left(\text{mod}\,8\right)[7] (2k+1)2=4k2+4k+11(mod4)(2k+1)^2=4k^2+4k+1\equiv 1\left(\text {mod}\,4\right)[8] (2p+1)2(2q)2(2p+1)^2-(2q)^2, (2p)2(2q+1)2(2p)^2-(2q+1)^2을 비교해보면 간단하다.[9] n=4와 n=3이 증명되기까지 FLT 발표 이후 100년이 걸렸다.

분류