제5공준

1. 제5공준의 등장

기원전 5세기 수학자 키오스의 히포크라테스(Hippocrates of Chios)는 기하학에서 알려진 요점을 정리하고 통합한 책인 ‘원론(Elements)’의 집필을 시작하였습니다. 기하학의 지식을 구조화하고 정리 하나 하나를 정확하게 증명하려 목표했던 저서였습니다. 안타깝게도 이 히포크라테스의 저서는 우리에게 전해지지 않았고, 히포크라테스 이후 200년 동안 히포크라테스의 뒤를 이었던 학자들의 저서들도 전해지지 않습니다. 마침내 기원전 3세기 히포크라테스의 마지막 제자인 유클리드의 저서가 출간됨으로써 현재에 전해지게 됩니다. 유클리드의 ‘원론’ 13권을 보면 평면기하학, 정수론, 비율 등을 다루고 있으며 마지막에는 3차원 기하학에 대해 다루고 있습니다. 가장 간단한 내용부터 까다로운 정리까지 모든 것을 전부 증명하면서 체계적으로 분류해 놓았습니다.

유클리드의 ‘원론’은 수학사에서 전환점이 되었습니다. 물론 일부 세부적인 내용은 여전히 논란거리였으나 ‘원론’의 전반적인 구조에 대해서는 이견의 여지가 없습니다. ‘원론’의 중심부에는 이제까지 직면하지 못했던 새로운 유형의 문제가 등장합니다. 이것은 수학의 본질에 대한 문제였습니다. 바로 제5공준에 대한 것입니다.

 

2. 유클리드의 5개의 공준

유클리드는 ‘원론’ 제 1권에서 평면기하학의 근거로 정확히 5개의 공준을 사용하기로 정하였으며 다음과 같습니다.

 

1. 서로 다른 두 점이 주어졌을 때, 그 두 점을 잇는 직선을 유일하게 그을 수 있다. [직선 공준]

2. 임의의 선분은 더 연장할 수 있다. [연장 공준]

3. 서로 다른 두 점 A, B에 대해, 점 A를 중심으로 하고 선분 AB를 한 반지름으로 하는 원을 그릴 수 있다. [원 공준]

4. 모든 직각은 서로 같다. [직각 공준]

5. 직선 밖의 한 점을 지나 그 직선에 평행한 직선은 단 하나 존재한다. [평행선 공준, 제5공준] (이 명제와 동치인 명제는 ‘임의의 직선이 두 직선과 교차할 때, 교차되는 각의 내각의 합이 두 직각(180도)보다 작을 때, 두 직선을 계속 연장하면 두 각의 합이 두 직각보다 작은 쪽에서 교차한다.’입니다.)

 

위 다섯 가지 명제로부터 오늘날의 기하학 전체의 해답을 증명할 수 있으며 피타고라스의 정리나 탈레스의 정리, 어떤 삼각형이든지 그 내각의 합은 항상 180도라는 사실을 찾아낼 수 있습니다. 유클리드는 이 다섯 가지 공준을 제외하고는 아무리 참이 명백한 명제라고 하여도 증명하지 않고는 어떤 명제도 참이라고 기술하지 않았습니다. 가장 기본적인 것도 모두 증명해야 하는 유클리드의 편집증 때문에 유클리드는 조롱거리가 되기도 했습니다. 예를 들면 원론 제 1권 46번째 명제에서 유클리드는 한 선분을 변으로 하는 정사각형을 그릴 수 있는 지에 대해 하나하나 설명합니다. 정사각형의 존재와 가장 짧은 길이 직선이라는 사실은 누구나 알 수 있는 사실이지만 유클리드는 가장 명백한 것조차 증명하는 편을 택하였습니다.

그런 면에서 ‘원론’은 우리에게 너무나 유용합니다. 우리가 매번 명제를 쓸 때마다 그 명제가 참인지 아닌지 고민하지 않고 언제든지 ‘원론’에서 가져가서 사용하면 되기 때문입니다.

유클리드의 5개의 공준 중에서 직선 공준, 연장 공준, 원 공준, 직각 공준의 경우에는 아무 문제가 없지만, 유클리드 자신도 평행선 공준이 앞서 4가지의 공준으로부터 연역적으로 추론될 수 있는지 확신하지 못했다. 유클리드의 제5공준은 완전한 평면상에서나 성립될 수 있는 것이었지만, 그 외의 수학체계는 따로 없었기 때문에 유클리드 기하학의 5가지 공준은 이후 2300년간 진리로 여겨졌습니다.

 

3. 제5공준의 부정 또는 확장

유클리드가 ‘원론’을 출간한 이후 수많은 학자가 특히 다섯 번째 공준의 필요성에 질문을 던졌습니다. 제5공준의 독창성은 이 공준이 사실 기하학 문제가 아니라 논리 문제라는 점에서 시작합니다.

19세기에 이르러 평행선 공준인 제5공준을 부정하는 기하학 이론이 체계화되면서 기하학은 유클리드 기하학과 비유클리드 기하학으로 구분되었습니다. 대표적인 비유클리드 기하학으로 구면에서 제 5공준이 성립하지 않는 기하학을 구면 기하학, 또는 리만 기하학이라 하고, 두 개의 나팔을 붙인 쌍곡면에서 제5공준이 성립하지 않는 기하학은 쌍곡 기하학, 또는 로바체브스키 기하학이라고 한다.

유클리드 기하학에서 영원히 만나지 않는 두 직선을 잇는 새로운 직선을 그으면 그 직선의 내각의 합은 정확하게 180도가 됩니다만 이런 결과는 평면상에서만 일어나는 일입니다. 두 직선과 그 사이를 잇는 새로운 직선이 평면이 아닌 입체 위에서 그려지거나 더 나아가 공간에서 작도되면 내각의 합이 180도가 되는 일은 거의 일어나기 힘들게 됩니다. 실제 세상에서는 유클리드 기하학의 제 5공준이 맞을 가능성이 거의 없다는 뜻이 되기도합니다.

 

유클리드 기하학의 제5공준은 세상을 평면적으로 이해했던 시대의 세계관을 반영하고 있으며, 기존의 평면 위에서는 성립하지 않는 비유클리드 기하학의 등장은 인간이 실질적이고 현실적인 새로운 공간 개념을 인식하게 되었다는 걸 의미합니다. 모든 수학은 이처럼 잠재적 오인의 영향을 받습니다. 오인은 우리에게 새로운 관점을 주기도 하고 우리가 사고하는 폭을 넓혀주기도 합니다.

 

다음 게시글에서는 유클리드의 제5공준이 성립하지 않는다고 주장하였던 구면 기하학에 대해서 다뤄볼까 합니다