[재미있는 수학] '집합'으로 명제의 참·거짓 구분할 수 있어

(11) 논증의 오류

어떤 집합과 원소를 정의하고 그것을 바탕으로 집합과 집합 사이의 포함관계를 정립하여 진리집합 사이의 포함관계로서 명제의 참과 거짓을 구분할 수 있습니다.

Getty Images Bank

지난 지면(2024년 3월 4일 자)에서는 ‘논증’을 다뤘는데, 이는 어떤 주장을 담은 문장(명제)을 근거가 되는 문장(명제)으로 뒷받침하는 것을 말하죠. 구조에 따라 연역논증과 귀납논증으로 구별할 수 있습니다.

오늘은 논리적 대화 혹은 글을 쓰는 상황에서 생길 수 있는 오류 위주의 이야기를 해보도록 하겠습니다. 이러한 시각에 익숙해지면 중요한 토론에서 나의 오류를 감추고 상대 주장을 꺾을 수 있습니다. 자신의 글이나 소논문을 비판적으로 바라보고 수정해나갈 수 있는 기회가 될 수도 있겠네요.

기본적으로 논증은 (참인 근거)+(옳은 형식)=(참인 주장)으로 이루어집니다. 여기서 근거와 형식, 둘 중 하나라도 무너지면 설령 주장 명제가 참일지라도 논증이 빛바랠 것입니다.

먼저 근거가 되는 문장을 분석해봅시다. 근거가 되는 문장 각각은 하나의 명제로서 이 명제가 거짓임을 밝히는 가장 좋은 방법은 반례를 찾는 것입니다. 명제의 가정을 만족하지만, 결론을 만족하지 못하는 예를 찾아내면 됩니다. 그 후에 이 문장은 반례가 있기에 참이 아니라고 지적한다면 논증이 무너지게 됩니다.

명제인 한 문장을 이루는 앞부분은 가정, 뒷부분은 결론이라고 지칭하는 것은 비교적 상식입니다. 그러나 그 명제가 참임을 인지하는 데는 약간의 직관과 언어적 상식을 바탕으로 할 수밖에 없습니다. 이러한 점을 그 어떤 이견(異見)도 없도록 확실하게 하기 위해서는 새로운 개념이 필요합니다. 문단(논증)에서 문장(명제)으로 분해한 것을 더 작게 분해해서 봐야 합니다.

이러한 측면에서 이론적으로 명명백백하고 완벽하게 표현 가능한 시스템을 구축하고자 독일의 수학자 게오르크 칸토어는 ‘집합’이라는 개념을 도입했습니다. 칸토어는 1845년에 태어났습니다. 논리학이란 개념이 고대 그리스에서부터 있었음을 고려한다면 집합의 탄생은 기겁할 정도로 매우 최근의 일입니다.

어떤 집합과 원소를 정의하고 그것을 바탕으로 집합과 집합 사이의 포함관계를 정립해 진리집합 사이의 포함 관계로서 명제의 참과 거짓을 구분할 수 있습니다. 그래서 참인 명제들로 다시 논증을 구성하고, 그 문단들을 다시 모아 하나의 글 혹은 주장을 할 수 있으며, 그런 역량을 중심으로 수학(修學)할 수 있는 힘을 갖게 되는 것입니다. 집합이란 마치 물리에서 양자역학과 같은 위치에 있는 단원과도 같아 보입니다.

이 내용은 고등수학(하)에서 다루는 부분이죠. 수학 공부는 언제나 이렇게 알게 모르게 학습자의 격을 높이며 도움을 줍니다.

이제, 근거 명제가 다 참이라면 다음은 형식입니다. 올바른 형태의 연역논증은 네 가지가 전부이며, 이를 벗어나는 논증은 부당한 논증이라고 볼 수 있습니다. 물론 하나의 글 안에서는 독자가 유추 가능한 범위 안에서 일부를 생략해 그 모습이 달라 보일 수 있습니다. 내용을 바꾸지 않는 선에서 문장을 다듬는다면 결국 네 가지 중 하나의 모습을 볼 수 있습니다.

[비논리적인 의견은 감정적이다. 지금 너의 의견은 감정적이다. 그러므로 너의 의견은 비논리적인 의견이다.]

이 논증은 무심코 읽으면 근거가 되는 앞의 두 문장이 마지막 주장 문장을 잘 지지하는 것 같지만, 그렇지 않습니다. 우리의 기본 상식으로는 참으로 보이는 문장들을 사용했기에 고개를 끄덕일 수도 있지만, 형식적으로는 후건을 긍정해 주장으로 연결되기 때문에 부당한 논증입니다. 수학을 공부한 학생들에게 익숙하게 바꾸어 표현하면 ‘참인 명제의 역은 항상 참이라고 할 수 없’기 때문에 위 주장은 부당한 논증을 거쳐 나온 것입니다.

하지만 근거로 삼은 명제도 참이고, 명제들을 올바른 형식으로 묶어 타당한 논증을 했다 하더라도 예외적 문제들이 생기기 마련입니다. 이러한 오류를 ‘비형식적 오류’라고 합니다. 하지만 이 부분에 대한 내용은 언어학에서도 중요하게 다루고, 수학이라는 영역에서 보다 멀어지는 부분이니 굳이 소개하지는 않도록 하겠습니다.

이정현 푸른숲발도르프학교 교사

고등학교 1학년에서 다루는 집합, 명제를 재밌어 하는 학생들이 많으리라 생각합니다. 그래서 알아두면 좋은 교양적 관점에서 논리학 이야기를 해보았습니다. 이 글을 통해 관심이 생긴 분들은 가벼운 마음으로 관련 내용을 찾아보기를 권합니다.