n=3일 때 페르마의 마지막 정리

페르마의 마지막 정리 (Fermat's Last Theorm, FLT)

$n$이 $3$ 이상의 정수일 때 방정식 $$x^n+y^n=z^n$$을 만족하는 자명하지 않은 정수해 쌍 $(x, y, z)$은 존재하지 않는다.

 

$n=3$일 때 오일러가 남긴 증명을 살펴보자. 증명에서는 무한강하법이라는 논리가 사용된다.

 

무한강하법 (Method of Infinite Descent)

공집합이 아닌 자연수의 부분 집합에는 항상 최솟값 존재한다는 성질을 이용해서 모순을 이끌어 내는 증명 방법 중 하나로 귀류법의 한 종류이다.

 

Euler의 증명

$x^3+y^3=z^3$에서 $z$에 $-z$을 대입하였다 생각하면 $x^3+y^3+z^3=0$이라는 대칭적인 식을 얻을 수 있다. 이 방정식의 정수해 $(x, y, z)$가 존재한다고 가정하자. $x$와 $y$가 공약수를 가진다면 $z$도 같은 공약수를 가지므로 이를 나눌 수 있다. 따라서 $x$, $y$, $z$을 모두 서로소인 쌍으로 둘 수 있다.

$x$와 $y$가 둘 다 짝수이면 $z$도 짝수이므로 서로소에 모순이다. 따라서 $x$, $y$는 홀수, $z$는 짝수인 경우만 가능하다.

이때 $x+y$, $x-y$ 모두 짝수이므로 서로소인 두 자연수 $p$와 $q$에 대하여 $$\begin{aligned} x+y & =2p \\ x-y & =2q \end{aligned}$$라 두자. 그러면, $x=p+q$, $y=p-q$이다. 두 수는 모두 $0$이 아니며, 홀짝성이 같을 경우 $x$와 $y$ 모두 짝수이므로 두 수의 홀짝성은 다르다. 위의 치환을 방정식에 대입하면 $$\begin{aligned} (p+q)^3+(p-q)^3 & =-z^3 \\ 2p\left(p^2+3q^2\right) & = -z^3 \end{aligned}$$을 얻는다. 마지막 식에서 좌변이 짝수이므로 우변도 짝수이다. 따라서 $z$가 짝수이므로 우변은 $8$의 배수이게 되어 다시 좌변도 $8$의 배수이다. 좌변의 $p^2+3q^2$은 홀수이므로 따라서 $p$가 $4$의 배수이고, 짝홀성이 다른 $q$는 홀수이게 된다. $2p$와 $p^2+3q^2$의 최대공약수를 유클리드 호제법으로 구해보면, $$\left( 2p, p^2+3q^2 \right)= \left( 2p, 3q^2 \right) =\left( p, 3 \right)$$이다. 따라서 최대공약수는 $1$ 또는 $3$만 가능하다.

 

case 1. $\left(2p, p^2+3q^2 \right)=1$

$2p\left(p^2+3q^2\right) = -z^3$에서 서로소인 두 수의 곱이 세제곱수이므로 각각의 수도 세제곱수이다. 따라서 $$ \begin{aligned} 2p & =u^3 \\ p^2+3q^2 & =v^3 \end{aligned}$$으로 두자. 이때, $v=a^2+3b^2$ 꼴로 표현되는데, 이를 증명하기 위하여 다음 보조정리를 증명하자.

 

보조정리 (이 보조정리는 처음 오일러가 정수의 환을 이용하여 증명하였다고 알려져 있었으나, 이 글에서는 대수적 정수론의 지식이 부족하기 때문에 직접 증명한 정수론적 증명을 소개한다)

$\left(a,b\right)=1$일 때, $a^2+3b^2$의 모든 양의 홀수 약수는 $\square^2+3\square^2$꼴로 표현된다.

pf) $a^2+3b^2$의 어떤 양의 홀수 약수 $x$가 $\square^2+3\square^2$꼴이 아니라고 하자. 그리고 $a^2+3b^2=kx$라 하자. $x$의 배수 중 $a$와 가장 가까운 수를 $mx$, $b$와 가장 가까운 수를 $nx$라 하자. 그러면, $$\begin{aligned} a & = mx+c \\ b & = nx+d \end{aligned}$$라 하면 $\left| c \right|$, $\left| d \right|$는 $x / 2$보다 작은 정수이다. 위의 $a$, $b$ 식으로 $a^2+3b^2$을 계산하면 $$\begin{aligned} a^2+3b^2 & = \left(mx+c\right)^2+3(nx+d)^2 \\ & = \left(m^2x+2mc+3n^2c+3n^2x+6nd\right)x + \left(c^2+3d^2\right) \end{aligned} $$이다. 이때 $a^2+3b^2$은 $x$의 배수이므로, $c^2+3d^2$도 $x$의 배수이다. 따라서 $c^2+3d^2=xy$라 하자. 이때 $$\begin{aligned} c^2+3d^2 & = xy \\ &< \left| \dfrac{x}{2} \right|^2 + 3\left| \dfrac{x}{2} \right|^2 \\ & = x^2\end{aligned}$$이므로 $y<x$이다. 이제 $c$, $d$의 최대공약수를 $g$라 하고, $c=gC$, $d=gD$라 하자. $c^2+3d^2=g^2\left(C^2+3D^2\right)=xy$에서 만약 $g$와 $x$가 서로소가 아니어서 $2$ 이상의 공통 소인수 $p$을 가진다면, $p \mid g \mid c$, $p \mid g \mid D$이므로 $p \mid mx+c=a$, $p \mid nx+d=b$여서 $(a,b)=1$에 모순이다. 즉, $g$와 $x$은 서로소이다. 따라서 위의 식에서 $g^2 \mid y$이다. $y=g^2z$라 하자. 그러면, $C^2+3D^2=xz$이다. (이때 $C$와 $D$은 서로소이다.)
이제, $z$의 모든 홀수 약수들이 $\square^2+3\square^2$의 꼴로 나타난다고 가정하자. 제곱수를 $4$로 나눈 나머지는 $0$ 또는 $1$만 가능하므로, 만약 $C^2+3D^2$이 짝수라면 $4$의 배수일 수 밖에 없다. 따라서 만약 $C^2+3D^2$이 짝수일 때는 $C=4c' \pm 1$, $D= 4d' \pm 1$라 하자. (복부호 동순은 아니다.) 이때, $C$와 $D$의 합이나 차 중 하나는 $4$의 배수일 수 밖에 없다.

$4 \mid C+D$일 때, $4 \mid C+D-4D=C-3D$이므로 $C^2+3D^2$은 $$4\left\{ \left(\dfrac{C-3D}{4}\right)^2 + 3\left(\dfrac{C+D}{4} \right)^2 \right\}$$로 바꿀 수 있다.

$4 \mid C-D$일 때, $4 \mid C-D+4D=C+3D$이므로 $C^2+3D^2$은 $$4\left\{ \left(\dfrac{C+3D}{4}\right)^2 + 3\left(\dfrac{C-D}{4} \right)^2 \right\}$$로 바꿀 수 있다. 즉, 모든 경우에서 $C^2+3D^2=4\left(u^2+3v^2\right)$로 표현될 수 있다. 이때 $u$와 $v$가 $2$ 이상의 공약수를 가진다면, $C$와 $D$도 그 수를 공약수로 가지기 때문에, $u$와 $v$은 서로소이다. 따라서 만약 $C^2+3D^2$이 짝수라면 홀수가 될 때까지 양변을 $4$로 계속 나누어, 결국 $p^2+3q^2=xz'$을 얻을 수 있다. (이때, $p$와 $q$은 서로소이고, $z'$은 홀수이다.) $z$의 모든 홀수 약수가 $\square^2+3\square^2$ 꼴이라고 가정하였으므로, $p^2+3q^2$와 $z'$의 임의의 공통 소인수 $r$을 $e^2+3f^2$라 하자. 즉, $p^2+3q^2=h\left(e^2+3f^2\right)$인 정수 $h$도 존재한다. 이때 $e^2+3f^2$이 소수이므로 $e$와 $f$은 서로소이다. 이때, $$\begin{eqnarray} && \left( eq+fp \right) \left( eq-fp \right) = e^2q^2-f^2p^2 \\ && = e^2q^2 + 3f^2q^2 -f^2p^2 -3f^2q^2 \\ && = q^2 \left(e^2+3f^2\right) - f^2 \left(p^2+3q^2 \right) \end{eqnarray}$$이므로 $e^2+3f^2 \mid (eq+fp)(eq-fp)$이다. 이때 $e^2+3f^2$은 소수이므로 $e^2+3f^2 \mid eq+fp$ 또는 $e^2+3f^2 \mid eq-fp$이다. 이때 $$\begin{eqnarray} && \left( e^2+3f^2 \right) \left(p^2+3q^2\right) \\ && = (ep \pm 3fq)^2+3(eq \mp fp)^2 \end{eqnarray}$$에서 $e^2+3f^2 \mid eq+fp$라면 $e^2+3f^2 \mid ep-3fq$이고, $e^2+3f^2 \mid eq-fp$라면 $e^2+3f^2 \mid ep+3fq$이다. 따라서 $$\begin{aligned} ep \mp 3fq & = \left(e^2+3f^2\right)\alpha \\ eq \pm fp & =\left(e^2+3f^2\right)\beta\end{aligned}$$라 하자. $$\begin{aligned}  & \left(e^2+3f^2\right)^2\left(\alpha^2+3\beta^2\right) \\ & = \left( ep \pm 3fq \right)^2 + 3\left( eq \mp fp \right) \\ & = \left(e^2+3f^2\right) \left(p^2+3q^2\right)\end{aligned}$$이다. 따라서, $$\left(e^2+3f^2\right)\left(\alpha^2+3\beta^2\right)=p^2+3q^2$$이다. 즉, $p^2+3q^2$이 $e^2+3f^2$ 꼴인 소수를 가질 때 그 몫도 $\alpha^2+3\beta^2$ 꼴이다. 이때 $e$와 $f$은 서로소이므로 $\alpha$와 $\beta$은 서로소이다.
앞의 식 $p^2+3q^2=xz'$에서 이를 무한히 반복하면 $a'^2+3b'^2=x$에 이른다. 이는 처음에 $x$가 이렇게 표현되지 않는다고 가정한 것에 모순이므로 따라서 $z$은 $a'^2+3b'^2$ 꼴이 아닌 홀수 약수가 존재할 수 밖에 없다. 이 홀수 약수를 $w$라 하면 $w<z\le y<x$이므로, 서로소인 두 정수 $a$, $b$에 대하여 $a^2+3b^2$의 홀수 약수 $x$가 그 꼴이 아닐 때, 서로소인 두 정수 $a'$, $b'$에 대하여 $a'^2+3b'^2$의 홀수 약수 $w<x$도 그 꼴이 아니다. 즉, $x>w>w'>w''>\cdots>0$이 존재해야 한다. 이는 무한 강하법에 모순이므로 따라서 $x$은 $\square^2+3\square^2$ 꼴이다.

 

$p^2+3q^2=v^3$에서 $v$은 $p^2+3q^2$의 홀수 약수이므로 $v=a^2+3b^2$라 하자. 이를 대입하면 $$\begin{aligned} p^2+3q^2 & = \left( a^2+3b^2 \right)^3 \\ & = a^6+9a^4b^2+27a^2b^4+27b^6 \\ & = \left( a^6-18a^4b^2+81a^2b^2 \right) \\ & + \left( 27a^4b^2 -54a^2b^4 + 27a^2b^4 \right) \\ & = \left(a^3-9ab^2\right)^2 + 3\left(3a^2b-3b^3\right)^2 \end{aligned}$$이다. 따라서 $$\begin{aligned} p & =a^3-9ab^2 \\ q & =3a^2b-3b^3 \end{aligned}$$이다. $p$와 $q$는 서로소이며 홀짝성이 다르므로 $a$와 $b$ 또한 서로소이며 홀짝성이 다르다.

$2p=u^3$에 이를 대입하면 $$\begin{aligned} u^3 & = 2\left(a^3-9ab^2\right) \\ & = 2a(a+3b)(a-3b) \end{aligned}$$이다. 위에서 $a$와 $b$의 홀짝성은 다르므로 $a+3b$와 $a-3b$ 모두 홀수이고, $a$와 $b$는 서로소이므로 $2a$, $a+3b$, $a-3b$ 모두 서로소이다. 서로소인 세 수의 곱이 세제곱수이므로 각각의 수 모두 세제곱수이다. 따라서 $$\begin{aligned} x'^3 & = a+3b \\ y'^3 & = a-3b \\ z'^3 & = 2a \end{aligned}$$로 둘 수 있다. 따라서 $x'^3+y'^3=z'^3$이다. 이때 $x'<x$, $y'<y$, $z'<z$이다. 이는 무한강하법에 모순이다.

 

case 2. $\left(2p, p^2+3q^2 \right)=3$

$p=3p'$, $p^2+3q^2=3q'$라 하자. 이를 $2p\left(p^2+3q^2\right) = -z^3$에 대입하면 $$-z^3=6p'\left(9p'^2+3q^2\right)=18p'\left(q^2+3p'^2\right)$$이다. 이때 $p$와 $q$는 서로소이므로 $q$는 $3$의 배수가 아니여서 $q^2+3p'^2$ 또한 $3$의 배수도 아니다. 또한 $p'$와 $q$는 서로소이므로, 두 수 $18p'$와 $q^2+3p'^2$ 또한 서로소이다. 이 두 수의 곱이 세제곱수이므로 각각 $2p'$와 $q^2+3p'^2$도 세제곱수이다. case 1와 같은 방법으로 $q^2+3p'^2=\left(a^2+3b^2\right)^3$으로 둘 수 있고, case 1와 마찬가지로 모순이 유도된다.

 

따라서 n=3일 때 페르마의 마지막 정리가 증명되었다.   $\blacksquare$

 

Exponential 17 김지하