생글생글

학습 길잡이 기타

오차 제곱해 '합 최소화'…'적절한 답' 찾을 수 있죠 [재미있는 수학]

일반적인 학교 공부를 하는 과정에서는 경험하기 힘들지만, 어떤 문제들은 주어진 정보가 너무 많아 오히려 풀리지 않는 답답한 순간을 만날 때가 있습니다. 계산을 아무리 정확하게 해도 모든 데이터에 딱 떨어지는 결과가 존재하지 않는 경우입니다.점 2개가 주어지면 그 둘을 정확히 지나는 직선은 하나로 정해집니다. 이건 중학교 수학에서도 자연스럽게 받아들이는 사실입니다. 그런데 점이 3개라면 어떨까요? 혹은 4개라면요. 대부분의 경우, 그 모든 점을 정확히 지나는 직선은 존재하지 않습니다. 어느 점을 맞추면 다른 점이 어긋나고, 다른 점을 맞추면 또 다른 곳에서 틈이 생깁니다. 이때 우리는 질문을 바꿀 수밖에 없습니다. “정확한 답은 무엇인가?”가 아니라 “가장 적절한 답은 무엇인가?”로 말이죠.18세기, 천문학자들은 기존의 천체 위치를 관측해 그 움직임을 예측하거나 새로운 행성을 발견하려고 시도했습니다. 하지만 측정값은 매번 달랐습니다. 분명 천체의 궤도는 정확하고 매끄러울 텐데, 인간의 실수까지 겹치면서 조금씩 다른 자료 중에서 어떤 값을 믿고 어떤 값을 버릴지 알 수 없었습니다. 마치 불규칙한 노이즈가 끼어 있는 것 같았죠. 많은 학자가 이 문제에 어려움을 겪었는데, 그중에서도 독일의 수학자 가우스는 이런 문제를 집요하게 파고들었습니다.가우스는 오차를 제곱해 합을 최소로 만드는 값이 가장 합리적이라고 보았습니다. 이후 이 방법은 통계학과 데이터 분석의 기본 도구로 자리 잡게 됩니다. 실험값에는 오차가 섞여 있고, 관측에는 언제나 흔들림이 있습니다. 그렇다면 이런 데이터 앞에서 우리는 어떻게 ‘정답’을 이야기할 수 있을까요