확률의 직관적 오류

확률은 언제나 인간의 상식을 뒤흔듭니다. 우리는 ‘공평함’과 ‘균형’을 본능적으로 기대하지만, 확률은 냉정하게 수로만 움직입니다. 이 불편한 진실은 때로 우리에게 좌절감을 안겨주지만, 동시에 사고의 폭을 넓혀줍니다. 눈앞의 우연을 정확히 이해할 때, 세상을 조금 더 명료하게 볼 수 있기 때문입니다. 확률의 세계는 결국 불확실함 속에서 확실하게 생각하는 법을 배우는 훈련입니다. 수학은 운명을 예측하려 하지 않습니다. 그 대신 우리가 불확실한 세상 속에서도 합리적으로 판단할 수 있도록 돕는 도구를 제공합니다.
Getty Images Bank
Getty Images Bank
우리는 어떤 일이 일어날 확률을 얼마나 잘 판단할 수 있을까요? 예를 들어 “동전을 던졌을 때 앞면이 나올 확률은 50%”라는 사실은 모두가 알고 있습니다. 하지만 실제로 다섯 번 연속 앞면이 나왔다면 여섯 번째는 뒷면이 나올 것 같다고 느끼지 않나요? 이 단순한 오해 속에 인간의 사고가 얼마나 직관에 의존하는지, 그리고 그 직관이 얼마나 자주 우리를 속이는지가 숨어 있습니다.

이런 착각은 ‘도박사의 오류’라고 불립니다. 앞서 동전이 다섯 번 연속으로 앞면이 나왔다고 해서 다음에 뒷면이 나올 확률이 높아지는 것은 아닙니다. 각 시행은 서로 독립적이기 때문이죠. 매번 앞뒤의 확률은 여전히 2분의 1, 즉 50%입니다. 그런데도 우리는 마치 자연이 ‘균형’을 맞춰줄 거라 믿습니다. ‘이쯤이면 나올 때가 됐지’라는 생각은 인간의 심리적 균형 감각에서 비롯된 착각입니다.

연속으로 앞면이 나올 확률은 실제로 매우 작은 건 맞습니다. 굳이 내기를 해야 했다면 ‘연속으로 앞면이 나올 경우’에 걸었어야 합니다. 그렇지만 각 시도의 확률은 여전히 2분의 1이고, ‘균형’을 위해 확률이 변하지는 않습니다. 확률은 과거를 기억하지 않으니까요.

비슷한 예로, 생일의 확률 역시 우리의 직관을 배반합니다. 한 반에 학생이 23명 있을 때, 생일이 같은 학생이 있을 확률은 얼마나 될까요? 1년은 365일이고 23명의 생일이 있으니 ‘그 정도로는 겹치기 어렵겠지’라고 생각하는 경우가 많습니다. 하지만 실제 이 확률은 50%가 넘습니다. 예상보다 꽤 높은 편이죠.

구체적으로 설명하자면, 23명의 생일이 모두 다를 확률을 구해보는 것이 제일 좋은 방법입니다. 첫 번째 학생은 어떤 날이든 상관없고(365분의 365), 두 번째 학생이 첫 번째와 다른 날일 확률은 365분의 364, 세 번째 학생이 앞의 2명과 다른 날일 확률은 365분의 363 …… 이런 식으로 23번째 학생까지 계산하면 365분의 343입니다. 이 값들의 곱은 약 0.49 정도고, 결과적으로 생일이 다 다르지 않을 확률은 51% 정도라고 할 수 있는 것이죠. 우리의 직관은 이런 상황을 잘 감지하지 못합니다. 그래서 ‘희귀해 보이는 일’이 실제로는 자주 일어나지만, 그 이유를 종종 오해합니다.

또 다른 예로는 의학 검사에서 거짓 양성이 나올 확률이 있습니다. 예를 들어, 어떤 질병의 실제 발병 확률이 1%고, 검사 정확도가 99%라고 해봅시다. 이 정도 확률이라면 많은 사람은 “검사 결과가 양성이면 거의 확실히 병이다”라고 직감하지만, 사실은 다릅니다.

간단한 수 계산으로 보죠. 1만 명을 검사하면 실제 환자는 1%인 100명입니다. 나머지 99%인 9900명은 건강한 상태입니다. 정확도가 99%라는 것은 환자를 환자로, 건강한 사람을 건강하다고 판정할 확률이 각각 99%라는 뜻입니다. 따라서 환자 100명 중 99명은 정확히 양성으로 나오고, 건강한 9900명 중 99명도 거짓 양성으로 판정됩니다. 즉 1만 명 중에 198명이 환자라는 결과가 나오는 거죠. 처음의 가정에서 실제 환자를 100명이라고 한 것을 생각하면 이 검사에서 환자로 판명되더라도 정말로 환자일 확률은 50% 정도밖에 되지 않습니다. 즉 검사 성능이 99%로 매우 좋아 보여도 주어진 조건에 따라 ‘조금의 오류’가 큰 수로 증폭되어 결과적으로는 좋은 검사라고 할 수 없는 경우가 생길 수 있습니다.

따라서 직관적으로는 ‘양성이면 병이다’라고 판단하지만, 수학적 사고로는 유병률과 검사 성능을 함께 고려합니다. 이 조건들을 반영해 확률을 다시 계산하는 과정을 ‘조건부 확률’ 혹은 ‘베이즈적 사고’라고 부릅니다.

이렇듯 확률은 언제나 인간의 상식을 뒤흔듭니다. 우리는 ‘공평함’과 ‘균형’을 본능적으로 기대하지만, 확률은 냉정하게 수로만 움직입니다. 이 불편한 진실은 때로 우리에게 좌절감을 안겨주지만, 동시에 사고의 폭을 넓혀줍니다. 눈앞의 우연을 정확히 이해할 때, 세상을 조금 더 명료하게 볼 수 있기 때문입니다.

확률의 세계는 결국 불확실함 속에서 확실하게 생각하는 법을 배우는 훈련입니다. 수학은 운명을 예측하려 하지 않습니다. 그 대신 우리가 불확실한 세상 속에서도 합리적으로 판단할 수 있도록 돕는 도구를 제공합니다. 이것이 바로 파스칼과 페르마의 시대부터 이어져온 확률의 진정한 역할일 것입니다.

이정현 푸른숲발도르프학교 교사
이정현 푸른숲발도르프학교 교사
우리는 종종 숫자보다 느낌을 더 믿습니다. 그러나 수학은 그 느낌을 더 깊이 이해하고 보완할 수 있는 힘을 줍니다. 확률을 배운다는 것은 단순히 계산을 익히는 일이 아니라, 직관을 넘어 논리로 사고하는 훈련이기도 합니다. 결국 수학은 세상을 더 선명하게 볼 수 있게 하는 렌즈입니다. 이 렌즈를 통해 우리는 불확실한 세상 속에서도 현명한 판단을 내릴 수 있게 될 것입니다.