[재미있는 수학] 평균의 함정, 통계 착시 벗어나려면…

대푯값

평균은 극단적인 개별 값에 취약하다는 치명적인 약점이 있습니다. 다른 데이터들과 비교해 터무니없이 차이나는 값이 하나라도 끼어들면 그 영향을 심하게 받죠. 이를 개선한 방식 중 대표적인 것으로 절사평균과 윈저화 평균이 있습니다.

Getty Images Bank

우리는 늘 수많은 데이터에 둘러싸여 있습니다. 시험 성적표, 배달 예정 시간, 동영상 조회 수까지 다양한 숫자를 마주할 때, 인간의 뇌는 숫자를 직관적으로 처리하는 데 부담을 느낍니다. 올바른 판단을 하기 위해서는 데이터를 제대로 대표하는 값이 무엇인지 알아야 합니다.

이 질문에 대응하는 개념이 대푯값입니다. 초등학교 5학년, 중학교 3학년 때 배웁니다. 수백수천 개의 복잡한 데이터 군집을 하나의 숫자로 요약해 전체 특성을 보여주는 개념입니다. 대푯값의 세계에서 절대 왕좌를 지켜온 주인공은 ‘평균’인데요, 정확한 수학적 명칭은 산술평균입니다. 모든 데이터를 다 더한 뒤 그 합을 데이터의 개수로 나누는 가장 직관적이고 친숙한 방식이죠.평균의 장점과 약점평균은 어떤 데이터도 소외시키지 않습니다. 모든 값이 합산 과정에 조금씩이나마 전부 반영됩니다. 평균은 대수적으로 다루기도 좋습니다. A반의 평균과 B반의 평균, 각 반의 학생 수만 알면 두 반을 합친 전체 평균을 쉽게 계산할 수 있습니다. 이러한 특성 때문에 현대 통계학의 표준편차, 분산, 회귀분석 등 주요 이론은 대부분 평균을 기반으로 형성됐습니다.

하지만 평균은 극단적인 개별 값에 취약하다는 약점이 있습니다. 다른 데이터와 비교해 터무니없이 차이 나는 값이 하나라도 끼어들면 그 영향을 심하게 받죠. 작은 선술집에 직장인 9명이 앉아 있는데, 이들의 평균 월급은 400만 원입니다. 갑자기 세계적 자산가 빌 게이츠가 동석하게 됐습니다. 통계만 놓고 보면 이곳은 순식간에 억만장자들의 모임처럼 보이지만, 원래 앉아 있던 직장인 9명의 주머니 사정은 1원도 변하지 않았습니다. 평균이 만들어내는 통계적 착시라고 할 수 있습니다.절사평균과 윈저화 평균이를 개선한 방식 중 대표적인 것으로 절사평균과 윈저화 평균이 있습니다. 절사평균은 전체 데이터에서 가장 작은 값과 가장 큰 값을 일정 비율만큼 제외한 뒤, 남은 데이터로 계산한 평균을 뜻합니다. 피겨스케이팅처럼 심사위원의 주관적 평가가 순위를 결정하는 종목은 편파 판정이나 인간적인 실수, 착시 등의 위험이 있습니다. 절사평균은 의도적 왜곡이나 일시적 마킹 오류로부터 선수를 지켜주는 안전장치 역할을 합니다. 가격변동이 극심한 품목을 제외하고 물가를 측정하는 근원물가지수 등을 계산할 때도 같은 원리가 적용됩니다.

하지만 양 끝을 아예 지워버리는 절사평균은 실험이나 조사에서 정보 손실, 즉 표본 수 감소를 유발할 수 있습니다. 윈저화 평균은 이 문제를 해결하고자 영국의 통계학자 찰스 윈저가 극단적인 값을 지워버리는 대신, 그 값을 남아 있는 데이터 중 가장 가깝고 정상값인 값으로 대체해 평균을 내도록 고안한 방식입니다. 9명의 심사위원이 한 선수에게 매긴 점수가 5.8, 6.0, 6.1, 6.2, 6.2, 6.3, 6.3, 6.4, 9.9라고 가정해봅시다. 마지막 9.9는 누가 봐도 이상한 점수입니다. 절사평균이라면 이 값처럼 극단적인 점수를 포함해 양쪽 끝에서 2개씩을 제외하고, 남은 5개의 점수로 평균을 냅니다. 극단값의 영향은 제거되지만 9개였던 데이터가 5개로 줄어듭니다.데이터 문해력 중요윈저화 평균은 다르게 접근합니다. 9.9를 버리는 대신 그보다 바로 안쪽에 있는 정상값 6.4로 대체합니다. 마찬가지로 반대쪽 끝의 5.8도 그 옆의 6.0으로 대체해 6.0, 6.0, 6.1, 6.2, 6.2, 6.3, 6.3, 6.4, 6.4로 평균을 계산합니다. 9개라는 데이터 수는 그대로 유지하면서도 이상값의 영향을 효과적으로 줄일 수 있습니다. 이 방식은 환자 한 명의 데이터 탈락이 치명적일 수 있는 임상시험이나 기업의 기초 체력을 따지는 금융 데이터 분석 등에서 많이 활용됩니다.

이정현 푸른숲발도르프학교 수학교사

“어떤 대푯값이 가장 우수한가?”라는 질문에 대한 정답은 없습니다. 지금 내가 다루고 있는 데이터의 본질이 무엇이며, 어떤 목적으로 이 숫자를 요약하려 하는지에 따라 가장 알맞은 대푯값은 달라집니다. 그에 맞는 대푯값을 선택하는 능력은 숫자가 지배하는 현대사회를 사는 우리가 갖춰야 할 중요한 데이터 문해력입니다.