알고리즘 미디어 시대를 읽는 고교 수학의 눈(4)

클릭을 최대화하는 인공지능은 좋은 편집자인가
— 손실함수, 목적함수에 담긴 사람의 선택

지난 글에서 독자와 글이 벡터와 행렬이 되어 추천으로 이어지는 과정을 보았습니다. 그렇다면 인공지능은 처음부터 정확하게 예측했을까요? 이번에는 인공지능이 오차를 줄여 가는 학습의 원리와, 그보다 더 중요한 질문 하나를 다룹니다.

실제로 구독한 독자를 y=1, 구독하지 않은 독자를 y=0, 인공지능의 예측값을

라 합시다. 구독 가능성을 0.8로 예측했는데 실제로 구독했다면 차이는 0.2, 구독하지 않았다면 차이는 -0.8입니다. 오차를 그대로 더하면 양수와 음수가 상쇄되므로, 제곱해서 사용합니다. 독자가 n명일 때 평균제곱오차는

로 나타냅니다. 이

이 모델의 예측이 실제와 얼마나 다른지를 재는 손실함수입니다.

컴퓨터가 어느 순간 독자의 마음을 '깨닫는' 것이 아닙니다. 예측하고, 실제 결과와 비교하고, 오차를 줄이는 방향으로 수를 반복해 고칠 뿐입니다.

<인공지능 수학> 교과서는 이 손실을 아주 단순한 예측 모델로 설명합니다. 입력 x에 대해

로 예측할 때, 손실함수

는 매개변수 a에 대한 아래로 볼록한 포물선이 됩니다. 그러면 그 포물선의 꼭짓점, 곧 최솟값을 주는 a가 가장 좋은 모델이 되지요.

손실함수

이 가중치 w에 따라 달라진다고 합시다. 앞에서 본 포물선 모양의 손실을 떠올리면, 우리가 할 일은 골짜기의 가장 낮은 곳을 찾는 것입니다. 단순한 포물선이라면 꼭짓점을 손으로 구할 수 있지만, 변수가 수백 개인 실제 모델에서는 단번에 풀 수 없어 조금씩 내려가며 찾아야 합니다. w를 조금 바꿀 때 손실이 어느 방향으로 변하는지는 미분으로 알 수 있습니다.

손실을 줄이려면, 손실이 커지는 방향의 반대쪽으로 이동하면 됩니다.

여기서 η(에타)는 한 번에 얼마나 이동할지를 정하는 학습률입니다. 안개 낀 산에서 발밑의 기울기를 느껴 가장 가파르게 내려가는 방향으로 한 걸음씩 옮기기를 반복하면, 어느새 골짜기 바닥에 이릅니다. 기울기가 곧 미분값

이고, 보폭이 학습률 η입니다.

학습률이 너무 크면 성큼성큼 내딛다가 최저점을 지나쳐 반대편 비탈로 넘어가 버리고, 너무 작으면 종종걸음이 되어 바닥에 닿기까지 한없이 오래 걸립니다. 그래서 적절한 학습률을 고르는 일이 학습의 성패를 가릅니다. 여러분이 배우는 미분이 이렇게 '가장 좋은 값을 찾아가는' 현실의 문제를 푸는 데 그대로 쓰인다는 점은 곱씹어 볼 만합니다.

구독 예측 모델의 손실이 충분히 작아졌다고 합시다. 이제 모델은 누가 구독할지 높은 정확도로 맞힙니다. 그러나 정확한 모델이 곧 좋은 모델은 아닙니다. 무엇을 최적화했는지를 따져야 합니다.

언론사가 클릭 수를 최대화하려 한다면, 모델은 사람들이 즉시 누를 만한 제목과 글을 추천합니다. 충격적인 사건이나 갈등, 불안을 자극하는 콘텐츠가 유리해지지요. 구독 전환을 목표로 삼으면 돈을 낼 만큼 전문적이고 차별화된 글이, 장기 구독 유지율을 목표로 삼으면 한 번의 클릭보다 반복되는 만족과 신뢰를 주는 글이 높은 평가를 받습니다. 이렇게 '무엇을 최대로 만들 것인가'를 정하는 목표를 목적함수라 부릅니다.

세 글의 지표가 다음과 같다고 합시다.

추천 시스템은 독자의 수요를 관찰만 하지 않습니다. 무엇을 보여줄지 선택함으로써 다음 행동에도 영향을 줍니다.
추천 ⇨ 노출 ⇨ 클릭 ⇨ 인기 판단 ⇨ 재추천

처음에 우연히 많이 추천된 글은 더 많은 클릭을 얻고, 시스템은 그 높은 클릭 수를 다시 학습해 그 글을 더욱 추천합니다. 독자가 클릭한 글의 집합을 K, 플랫폼이 노출한 글의 집합을 E라 하면 K ⊂ E 입니다.

독자는 전체 글에서 고른 것이 아니라, 플랫폼이 먼저 골라 보여준 글 안에서 골랐을 뿐입니다. 그러니 클릭 수가 높은 이유가 원래 수요 때문인지, 그저 많이 노출되었기 때문인지 반드시 구분해야 합니다. 지난 시리즈 2회차 글에서 본 ‘상관관계와 인과관계의 혼동’이 여기서 다시 등장하는 셈입니다.

야구 글을 즐겨 읽는 독자에게 야구 글을 추천하면 만족도는 올라갑니다. 그러나 기존 관심과 비슷한 글만 반복하면 정보의 폭은 좁아집니다.
기존 관심 ⇨유사 글 추천 ⇨관심 강화 ⇨더 유사한 추천

추천 정확도가 높아지는 동안 다양성은 낮아질 수 있습니다. 관심사가 비슷한 정보에만 둘러싸이는 이 현상을 흔히 '필터 버블'이라 부릅니다.

나아가 비슷한 생각이 메아리처럼 되돌아오는 ‘에코 챔버’ 속에서는, 자기 견해가 세상의 전부인 듯 굳어지기도 하지요. 당장은 편하지만 세상을 보는 창은 점점 좁아지고, 사회적으로 중요한 소식이나 나와 생각이 다른 관점은 추천 목록에서 밀려나기 쉽습니다.

손실함수만 보면 정확도 높은 ‘성공한 모델’이지만, 시민에게 균형 잡힌 정보를 전한다는 언론 본연의 역할에서 보면 반드시 좋은 모델이라 할 수 없습니다. 그래서 좋은 추천은 정확성만으로 완성되지 않습니다.

전통적인 편집자는 경험과 전문성으로 무엇이 중요한지 판단하고, 알고리즘은 수많은 이용자의 과거 행동으로 무엇이 선택될 가능성이 높은지를 계산합니다. 편집자는 독선에 빠질 수 있고, 알고리즘은 과거의 편향을 반복하기 쉽습니다. 편집자는 새로운 의제를 던질 수 있지만, 추천 모델은 기존 패턴을 강화하는 경향이 있습니다. 인간의 판단과 데이터 분석이 서로를 견제하고 보완해야 하는 이유입니다.

수학적 계산은 정확할 수 있습니다. 그러나 어떤 데이터를 쓸지, 어떤 오류를 크게 볼지, 무엇을 최대화할지는 사람이 정합니다.

4회에 걸쳐 우리는 종이의 부수가 디지털의 데이터로 바뀌고(1편), 그 데이터를 확률과 통계로 신중히 읽으며(2편), 인공지능이 그것을 벡터와 행렬로 계산하고(3편), 손실을 줄이며 학습한다(4편)는 이야기를 나눴습니다.

클릭을 최대화하는 인공지능은 클릭을 모으는 데에는 훌륭할 수 있습니다. 그러나 언론의 역할이 시민에게 필요한 정보를 전하고 다양한 관점을 보여주는 데까지 있다면, 그것만으로는 충분하지 않습니다.

결국 ‘무엇을 목표로 삼을 것인가’라는 목적함수는, 미란다가 광고 수익이 무너지고 자신의 권력이 흔들리는 순간에도 '무엇이 좋은 콘텐츠인가’를 판단하던 그 편집자의 안목과 다르지 않습니다. 영화 끝에서 미란다는 옛 방식을 고집하는 대신 바뀐 시대를 받아들이면서도 자신의 안목만은 놓지 않고 자리로 돌아갑니다. 디지털이 아무리 많은 것을 관찰해도, 무엇을 향해 계산할지 그 목표를 세우는 일은 여전히 사람의 몫입니다.

그러므로 인공지능 수학의 질문은 “어떻게 계산하는가?”에서 끝나지 않습니다. 우리는 무엇을 계산하도록 설계했는가? 그 목표는 우리가 원하는 언론의 모습과 일치하는가? 이 질문을 던질 때, 수학은 단순한 계산을 넘어 디지털 사회의 가치 판단을 읽는 언어가 됩니다.

화면으로 세상을 만나며 자란 여러분에게 확률과 통계, 인공지능 수학은 시험용 과목만이 아닙니다. 숫자에 휘둘리지 않고 ‘이 지표가 정말 내 관심을 보여 주는가’, ‘이 추천은 누구의 목적함수인가’를 물을 수 있는 힘이지요. 언젠가 그 배열을 직접 설계하는 사람도 여러분이 될 테니까요.

---

※ 기억할 포인트
인공지능은 오차를 줄이며 학습하지만, 무엇을 목표로 할지는 사람이 정합니다. 클릭만 좇는 추천은 다양성과 공정성을 해칠 수 있습니다. 수학은 인공지능의 계산 원리를 이해하고, 그 목표와 가치를 비판적으로 판단하게 하는 힘입니다.

홍창섭 경희여고 교사