기하학의 공리적 접근, 논증 기하학

기하학은 우리가 학창시절 배웠던 도형이라는 과목으로 친근합니다. 도형이 어려우면 얼마나 어렵길래 논증 기하학이라는 있어 보이는 이름을 붙인 걸까요? 아니 애초에 도형이 수학적으로 다룰게 많을까요?

 

논증 기하학에 대해 자세히 알아보기 전에, 기하학이 무엇이고 왜 기하학에 수학적으로 엄밀한 접근을 해야 하는지 간단히 소개해 보겠습니다!

---

기하학이 뭘까?

수학의 여러 분야를 공부하다 보면 종특이 있습니다. 바로 일상에서 자주 볼 수 있는 대상으로 시작해서 나중가면 너무 추상적이여서 이게 뭐가 뭔지 모르는 대상을 다루고 있다는 겁니다. 기하학도 비슷합니다. 처음에는 우리 일상에서 쉽게 볼 수 있는 도형들이나 각도 등을 연구하는 듯 하지만, 나중가면 공간의 성질, 공간의 본질을 연구하게 됩니다.

---

기하학을 굳이 왜 피곤하게 엄밀하게 접근해야 할까?

앞서 소개했듯, 기하학은 공간의 성질과 본질을 연구하는 학문입니다. 즉, 우리가 쉽게 상상할 수 있는 1차원 / 2차원 / 3차원 공간이 아니라, 11차원이나 삼각형의 내각이 180도가 아닌 개떡같은 공간을 다룰 수도 있습니다.

 

사람의 상상력은 아쉽게도 그렇게 뛰어나지는 않아서 이런 공간을 직관으로 접근할 수 없습니다. 또, 우리의 직관은 틀릴 때가 많습니다.

 

그래서 감정과 직관을 배제한 엄밀한 수학의 도구를 써서 기하학을 바라보기 시작한 겁니다.

---

기하학을 엄밀하게 하는 방법 : 공리적 접근 + 논리학

기하학에서 직관을 제거하고 우리의 상상력을 확장하기 위한 도구는 공리와 논리학입니다.

 

우선 공리가 뭘까요? 공리는 증명하지 않고 받아드리는 명제를 말합니다. (명제는 참과 거짓을 가를 수 있는 문장들이라 생각하시면 됩니다.)

 

왜 증명하지 않고 받아드려야 할까요? 수학은 증명이 핵심 아닌가요? 공리가 필요한 이유는 생각보다 철학적입니다. 한 번 잘 생각해 보시면 증명을 한다는 것자체가 우리가 이미 알고 있는 다른 사실이 사실이라면 우리가 증명하고자 하는 이 사실도 사실임을 보이는 과정입니다. 우리가 이해했다고 느끼는 감정 자체가 이미 당연하게 받아드린 사실로부터 내가 새로 접한 사실이 나올때 느끼는 감정입니다.

 

하지만 일상생활과는 다르게 수학에서는 공리를 최대한 적게 선택하고, 모든 명제를 그 공리로부터 논리학을 사용해 이끌어 내야 합니다. 왜 그럴까요? 수학의 각 분야를 도구라고 생각해 보세요. 그럼 공리는 그 도구를 쓸 수 있는 조건입니다. 수학이 유용하려면 당연히 도구를 쓸 수 있는 조건이 적을 수록 좋겠죠? 그렇다고 공리가 무조건 적다고 좋은건 아닙니다. 공리가 너무 적으면 의미 있는 명제들을 증명할 수가 없어요.

---

기하학의 선구자, 유클리드

현대 수학에서는 이런 공리적 접근법이 시작이자 끝입니다. 실제로 수학과에 가면 가장 먼저 배우는 수업이 논리학과 집합론(모든 공리의 출발점) 일 정도에요. 하지만 대부분 처음부터 공리적 접근법을 쓴건 아니고, 분야가 충분히 발달하고 점점 직관을 쓰기 힘든 대상을 다루면서 공리화가 진행된 경우가 많습니다.

 

하지만 기하학은 조금 다릅니다! 기하학은 유클리드형이 원론이라는 책에서 아주 오래전부터 공리적 접근법을 사용했습니다. 그 유명한 유클리드는 5개의 공리를 서술했고, 이 5개의 공리로부터 모든 명제를 증명했습니다.

 

유클리드형이 GOAT인건 변하지 않지만, 아쉽게도 현대 수학적 관점에서 보면 유클리드의 접근법은 틀렸습니다. 유클리드는 많은 증명 과정에서 직관적으로 당연한 부분은 증명 없이 넘어갔는데, 사실 그 부분이 유클리드의 5개의 공리로는 증명이 불가능한 경우가 많았거든요. 

 

예를들어, 아래와 같은 그림을 봐 주세요.

 

주어진 조건은 2개입니다.

• 점 A, 점 B, 점 C가 있고, 이 3개의 점은 한 직선에 있지는 않다
• 직선 AB와 직선 l은 점 P에서 만난다

이때 직선 AC나 직선 BC 둘 중 1개는 무조건 직선 l과 만나야 한다는 것도 증명해야 합니다. (Pasch의 정리라 불립니다.)

 

이걸 실제 증명에서 만났으면 직관적으로 너무 당연하니 넘어갔을 거 같지 않으신가요? 혹시 이런 당연한 것도 증명해야 하냐고 물으실 수 있습니다. 근데 이게 왜 당연한 걸까요? 계속 질문하다 보면 깨달으실 겁니다. 이게 당연한건 좋게 말하면 내 직관, 나쁘게 말하면 감이라는 걸요. 공리로 되어 있지 않은 모든 사실은 공리로부터 증명해야 사용할 수 있습니다! 유클리드 형이 왜 실수를 했는지 이해가 가지 않으신가요?

---

앞으로 더 배워야 할 것

혹시 기적적으로 제가 설명을 너무 재밌게 해서 더 알아보고 싶으시다면 이제 유클리드의 실수를 바로잡은 힐베르트의 13개의 공리를 배우면 좋습니다. 결합공리, 사이공리, 합동공리, 연속공리가 그것인데요. 이 과정에서 각각의 공리의 일부만 받아드린 기하학이 어떤지도 살펴보면 재밌습니다. (결합 기하학, 힐베르트 공간, 절대 기하학 등) 

 

경고하자면, 살면서 아무런 도움도 안 되고 정신이 나갈 거 같은 여정이 기다리고 있습니다. 근데 이걸 왜 공부해야 할까요? 그건 수학을 전공하기로 한 고3의 제 자신에게도 꼭 묻고 싶네요...

---

3줄 요약

1. 유클리드부터 시작해서, 현대기하학은 공리적 접근법을 취했다

2. 공리적 접근법은 증명 없이 받아드리는 공리부터 시작해서 모든 명제를 증명하는 것이다

3. 공리적 접근법은 우리의 직관이 한계가 있기 때문에 생겨났다

---

참고하면 좋을 책

• Euclidean and non-Euclidean Geometry : Development and History - Marvin Jay Greenberg

---