非유클리드기하학의 탄생
다섯 번째 공준을 증명하지는 못했지만, 이를 인정하지 않아도 되는 기하학을 만들어내게 되었습니다. 이를 ‘비유클리드기하학’이라고 하며, 대표적으로 구면 위에서의 구면기하학, 말안장 모양의 쌍곡기하면 위에서의 쌍곡기하학이 있으니 관심 있는 학생은 좀 더 찾아보면 흥미로운 세상을 만날 수 있습니다.
다섯 번째 공준을 증명하지는 못했지만, 이를 인정하지 않아도 되는 기하학을 만들어내게 되었습니다. 이를 ‘비유클리드기하학’이라고 하며, 대표적으로 구면 위에서의 구면기하학, 말안장 모양의 쌍곡기하면 위에서의 쌍곡기하학이 있으니 관심 있는 학생은 좀 더 찾아보면 흥미로운 세상을 만날 수 있습니다.

따라서 꼭 필요한 전제, 즉 기하학의 근원적 사실로서 다른 것들로 증명 불가능하고 논리를 전개하기 위해 당연히 옳다고 여겨지는 것을 지니고 있습니다. 이를 공준이라고 하는데, 유클리드는 총 5개의 공준을 제시합니다.
이 공준을 자세히 살펴보면 점, 선, 각 등을 무엇이라고 정의하는 것이 아닙니다. 그 자체가 가지고 있는 성질을 설명하는데, 원문에 가깝게 표현하자면 다음과 같이 쓸 수 있겠습니다.
1. 서로 다른 두 점이 주어졌을 때, 그 두 점을 잇는 직선을 그을 수 있다.
2. 임의의 선분은 더 연장할 수 있다.
3. 서로 다른 두 점 A, B에 대해, 점 A를 중심으로 하고 선분 AB를 한 반지름으로 하는 원을 그릴 수 있다.
4. 모든 직각은 서로 같다.
5. 임의의 직선이 두 직선과 교차할 때, 교차하는 각의 내각의 합이 두 직각(180도)보다 작을 때, 두 직선을 계속 연장하면 두 각의 합이 두 직각보다 작은 쪽에서 교차한다.
위의 사실들조차 인정하지 않고서는 단순한 논리조차 펼 수 없으면서도, 이 5개만으로 충분한 수학적 전개가 가능하다는 사실이 아주 흥미로울 뿐입니다.
![[재미있는 수학] 평면에선 못 만나는 평행선, 구면 위에선 만나](https://img.hankyung.com/photo/202501/AA.39022610.1.jpg)
점, 선, 각에 대한 정의와 다른 4개의 공준으로 다섯 번째 공준을 증명하려는 시도가 있었던 것이죠. 이를 성공한다면 해당 공준은 마치 명왕성이 행성에서 소행성으로 지위가 낮아진 것과 마찬가지로 공준에서 정리로 그 지위가 낮아지게 되고, 기하학은 사실 네 가지 사실만으로도 이뤄질 수 있음을 증명하는 것과 같은 시도였습니다.
하지만 결과적으로 이러한 시도는 모두 실패로 돌아갔습니다. 다만 계속해서 연구 대상으로 남아 있었죠. 그러던 중 아주 새로운 시도를 하는 수학자도 생겨났습니다. 맞았다고 생각하고 어떻게 증명할까 고민하는 시도에서 방향을 바꿔 틀렸다고 생각하고 논리를 전개하면 모순이 생기지 않을까? 그러면 그 지점에서 힌트를 얻을 수 있지 않을까? 하고요.
![[재미있는 수학] 평면에선 못 만나는 평행선, 구면 위에선 만나](https://img.hankyung.com/photo/202501/AA.39022612.1.jpg)
지구 위를 돌아다닌다는 가정하에서라면 곧게 앞으로 가는 행동과 90도 회전 세 번, 이것만으로 삼각형을 만들 수 있습니다. 내각의 합이 270도인 삼각형이 만들어진 것이죠! 다시 말하면 위의 공준 중 다섯 번째 공준을 정면으로 위배하게 된 것입니다.
이는 유클리드기하학이 틀렸다고 말하는 것이 아닙니다. 이 차이는 유클리드기하학에서는 평면을 가정하고 있고, 위 상황에서는 구면 위에서의 도형에 대한 이야기이기 때문이죠.
이전 같으면 그러려니 했겠지만, 수학자들은 이 사실이 가져오는 큰 변화를 알아차렸습니다. 평면 위에서만 2차원적 접근이 가능하다고 생각한 것은 사실 선입견일 뿐이었고, 구면 위에서 자연스럽게 2차원적으로 생각하는 것도 가능하다는 생각의 변화인 것이죠. 그리고 이 변화로 인해 이른바 ‘평행선 공준’은 평면에서만 성립한다고 그 입지가 줄어들었죠. 구면 위에서라면 평행선도 만날 수 있습니다!

결과적으로 다섯 번째 공준을 증명하지는 못했지만 이를 인정하지 않아도 되는 기하학을 만들어내게 되었습니다. 이를 ‘비유클리드기하학’이라고 하며, 대표적으로 구면 위에서의 구면기하학, 말안장 모양의 쌍곡기하면 위에서의 쌍곡기하학이 있으니 관심 있는 학생은 좀 더 찾아보면 아주 흥미로운 세상을 만날 수 있습니다.
그런데 수학자들의 상상력은 여기서 그치지 않습니다. 평면이라고 꼭 유클리드기하학을 해야 하나? 싶은 거죠. 이에 대해서는 다음 시간에 다루겠습니다.