형식주의 (Formalism), 수학의 모든건 현실에 있지 않은데, 그렇다면 수학은 뭘까?

수학적 형식주의 소개

형식주의는 수학의 이론이라기 보다는 철학적 입장입니다. 일반 철학에서 말하는 형식주의는 다른 뜻이 있는거 같은데 (검색해 보니 칸트나 윤리학이 나오더라구요 🫠) 수학철학에서는 약간 다른 의미를 가지고 있습니다.

처음 초등학교 떄 수학을 배우면 실세상의 센다라는 개념을 추상화 한걸 숫자라고 한다고 배웁니다. 실제로 숫자는 고대에서 일상생활에서 자주하는 세는 행동을 추상화한 거에서 나왔을 수 있습니다. 하지만 이렇게 생각하면 이상한게 몇 개 생깁니다. 

• 음수는 센다라는 개념에서는 나올 수 없습니다. 
• 꼭 센다에서 벗어나서 음수가 일상생활에 쓰이는 곳이 많다면 허수는 어떨까요?
• 실수나 초월수도 정확한 해당 값이 정말로 현실에 있다고 말할 수 있을까요?

 

즉, 수라는 개념을 떠올리는데는 현실의 어떤 것이나 행동에서 나왔을 수 있지만 그게 반드시 수의 본질을 나타내는건 아니라는 입장입니다. 더 나아가서 수학도 그렇게 생각할 수 있지 않을까요? 🤔

형식주의에서는 수학은 공리와 논리학의 추론법칙에 의해 만들어진 형식적인 구조 (Formal System)에 지나지 않는다고 주장합니다. 과격하게 말하면 수학이 현실세계에서 유용할 필요는 없고, 단순히 엄격한 규칙을 따르는 게임에 지나지 않는다고도 말할 수 있습니다. 🥲

이 말은 어떻게 보면 수학은 Syntax가 중요한거지 Semantic은 중요하지 않다고 말할 수 있습니다.

---

수학과를 다니면서 무의식중에 가지게 된 사고방식이였다

고등학교까지만 해도 이런 생각을 전혀 하지 않았습니다. 그도 그럴게 고등학교에서 주로 배우는 미적분은 너무나 유용해서 안 나오는 곳이 없을 정도입니다. 물리학이나 화학은 말 할 필요도 없고 경제학이나 심리학 같은 실세상의 무언가를 체계적으로 연구하면 나올 수 밖에 없습니다.

하지만 점점 추상적인 대상을 배우고, 거기까지 갈 필요도 없이 미적분을 엄밀하게 정의하는 과정을 배우니 이게 현실을 구성하는 진리는 당연히 아니라고 생각하게 됐습니다. 실수의 조밀성은 수학적으로는 유용하지만 제논의 역설로 볼 수 있듯, 현실을 반영하고 있다고 생각되진 않습니다.

사실 무의식중에도 그렇지만 지금 생각해 보니 교수님들이 대놓고 말한 여러 생각들 중에는 형식주의적인 사고방식에 바탕을 둔 발언이 많았습니다. 

---

예시

허수 (Imaginary Number)에 대해 형식주의로 생각해 보자

처음 허수를 배울 때 여러가지 사실들을 들었습니다.

• 허수는 단순히 상상의 숫자가 아니다. 공학에서 많이 쓰인다
• 여태까지 배운 실수가 1차원이였다면 허수는 2차원으로 확장할 수 있게 해 준다.

하지만 허수가 정말로 실세계의 의미있는 무언가를 가르키지는 않을 수 있고, 또 허수의 존재가 실세계의 무언가를 가르켜야만 의미를 갖는건 아닙니다. 대수적 구조를 확장시킨다는 의의 하나만으로 허수는 수학적인 의미를 갖습니다. (계산을 할 수 있다는건 매우 유용한 성질이기 때문에!)

 

해석학 (Analysis)을 형식주의적인 관점에서 본다면?

해석학에서 자연스럽게 나오는 무한의 성질이나 연속성의 개념은 이걸 실세계의 진리라고 생각하면 이해하기 힘든 부분이 많습니다. 하지만 단순히 현실과는 상관 없는 실수의 공리들과, 이를 논리학의 잘 정의된 (well-defined) 규칙으로 이끌어낸 성질이고, 자연은 단순히 연속성과 무한으로 만들어진 실수체계의 좋은 모델일 뿐이다라고 생각하면 어느정도 이해를 위한 심리적 장벽이 사라집니다.

---

형식주의적으로 본다면, 수학은 실세계 진리의 진부분집합일까?

사실 형식주의적으로 보지 않아도 답은 그렇다고 생각합니다. 물리학 수업을 들으면서 느꼈던 것이, 물리학에서는 간단한 미분방정식을 풀 때도 실세계에서 의미없는 해들을 소거하는식으로 푸는 경우가 많았습니다. 수학이 실세계의 모든걸 표현한다면 그러면 안 되겠지만 수학은 실세계의 모델링으로 주로 사용되기 때문에 의미 없는 값은 지워야 하는게 맞습니다.

수학은 실세계의 특정 측면을 추상화하고 정형화하여 진리의 일부를 표현할 수 있지만 수학의 자유로움으로 생성되는 것들은 일부만이 실세계의 진부분집합이라고 볼 수 있겠죠? 😉

하지만 더 나아가서, 애초에 수학이 실세계와 연관이 없을 가능성도 있습니다. 실세계를 모델링할 수 있다고 해서 실세계의 진리를 표현할 수 있는건 아닙니다. 마치 아무리 외계인 영화를 생생하게 만들고, 그게 두려움을 극복하는 훈련에 효과가 있다고 해서 그게 실세계의 진리를 담고 있지 않는것과 같습니다.

---

형식주의, 진짜 이거 맞아?

괴델의 불완전성 정리에 의한 비판

형식주의는 모든 수학적 진리들을 의미(Semantic)의 부여 없이 규칙의 조작으로 알 수 있다고 주장합니다. 하지만 괴델의 불완전성 정리는 아래 사실을 증명했습니다.

모든 산수구조를 가진 정도로 고도화된 시스템은 완전성을 보장할 수 없다 (사실인데 증명할 수 없는 명제가 존재한다)

 

이건 그 자체로 형식주의의 목표를 좌절시킨다고 볼 수 있습니다. 단순 규칙의 조작으로 모든 수학적 진리를 알 수 있을 줄 알았는데, 그건 불가능하다는 것이기 형식적인 규칙조작 외의 다른 무언가가 필요하다는 말일 수 있기 때문입니다.

하지만 이건 너무 이론적인 반박인데다, 다른 무언가가 있어도 알 수 없을 가능성도 있으니 형식주의를 박살냈다고는 볼 수 없다고 생각하기도 합니다.

 

그렇다기에는 수학이 너무 맞아 떨어지잖아!

수학이 실세계와 완전히 동떨어져 있다기에는 물리학이나 자연법칙들이 수학이랑 너무 맞아 떨어지기도 합니다. 

---