[커버스토리] '수포자'였던 영문과 교수가 AI 연구…수학에 눈뜨니 다른 세상이 보이네요

Cover Story

《수학을 읽어드립니다》저자 남호성 고려대 교수

문과를 택하면서 수학에서 해방됐다고 생각했지만
사실은 수학을 공부할 권리를 박탈당했던 것

남호성 고려대 영어영문학과 교수가 서울 동소문동 남즈연구소에서 저서 《수학을 읽어드립니다》에 대해 설명하고 있다. 영문과 교수의 연구실인데 화이트보드에는 수학식이 빼곡하게 적혀 있다.

인공지능(AI)은 수학의 집합체다. AI에 필수적인 데이터 처리, 머신러닝 등은 함수, 미분, 확률 등 수학을 바탕으로 한다. 그런 AI를 문과생이 개발한다면 곧이곧대로 믿어지지 않는다. 남호성 고려대 영어영문학과 교수가 설립해 이끌고 있는 남즈연구소는 AI에 필요한 음성 인식, 음성 합성 등의 원천 기술을 보유하고 있다. 그런데 연구원 30여 명 중 이공계 출신은 한 손에 꼽을 정도다. 남 교수부터 문과 출신이고, 대부분 영문과 국문과 등 인문계 대학원생과 대학생이다.

남 교수는 영문과 교수가 수학과 코딩을 가르치고 AI 기술까지 개발한 사연을 담아 지난달 《수학을 읽어드립니다》(한국경제신문)를 출간했다. 서울 동소문동 남즈연구소에서 그를 만났다. 남 교수는 “나도 고등학생 땐 수포자(수학을 포기한 사람)였다”고 했다. 보통의 문과생들처럼 수학이 싫어 문과를 택했다. 그가 수학과 다시 마주한 것은 대학에서 음성학이라는 분야를 접하면서다. 음성학에서는 말을 글자 단위, 발음 단위로 쪼개 연구한다. 그 과정에서 수학적 기법을 활용한다.

다시 만난 수학은 고교 때 알던 수학과는 달랐다. 공식을 달달 외울 필요가 없고 복잡한 계산도 하지 않아도 됐다. 남 교수는 “사람 말소리의 높낮이를 그림으로 표현하면 사인, 코사인 곡선이 나온다”며 “고등학교 때 무슨 의미인지도 모르고 배웠던 수학을 완전히 다른 방식으로 이해하게 됐다”고 말했다. 그는 깨달았다. 수학은 그저 세상일을 수식으로 표현한 것에 불과하구나.

깨달은 것은 또 있었다. 그는 “문과를 택하면서 수학에서 해방됐다고 생각했지만 사실은 수학을 공부할 권리를 박탈당했던 것”이라고 말했다. 이어 “수학을 알게 되자 세상이 다르게 보이기 시작했다”며 “두 눈 외에 또 하나의 눈이 새로 생긴 것 같았다”고 했다. 남 교수는 “전공과 상관없이 수학을 공부해야 한다”고 강조했다. 4차 산업혁명의 기초가 되는 학문이 수학인데, 수학을 모르면 시대 흐름에 뒤처질 수밖에 없다는 얘기다.

하지만 현실적으로 수학은 너무 어렵지 않은가. 남 교수는 “수학이 쉽지는 않지만 어려운 것을 더 어렵게 가르치는 것이 문제”라고 했다. 그는 “대학원생에게 수학을 가르치는 내가 수능 수학 문제 중에 풀 수 있는 것이 거의 없다”며 “수학 교육에 대해 반성해 볼 필요가 있다”고 지적했다. 남 교수는 《수학을 읽어드립니다》에서 조금은 쉽게 수학에 접근할 방법을 제시했다. 요약하면 △눈에 보이는 수학 △말로 하는 수학 △써먹을 수 있는 수학이다. 함수를 설명한다면 ‘y=f(x)’를 얘기하기 전에 식사량과 체중의 관계를 얘기하자는 것이다. 밥을 많이 먹어서 체중이 늘어나면 그것이 함수라는 것이다. 만약 한 끼를 굶었더니 체중이 줄었다면 건너뛴 한 끼 식사의 양과 줄어든 체중의 비율이 미분이다.

남 교수는 “좌절에 익숙해지자”는 말도 했다. 수학이 어렵더라도 지나치게 자책하지 말자는 것이다. 그는 “더 쉽게 가르치지 않는 우리 교육의 잘못이라고 생각하자”고 말했다. 그러나 당장 고교생들은 복잡한 공식을 외워야 하고 지루한 문제풀이를 반복해야 한다. 내 잘못은 아니라고 ‘정신 승리’를 한다고 해서 성적이 올라가진 않는다. 남 교수는 “수학 성적이 안 좋다고 실망할 필요는 없다”며 “다만 인생의 어느 순간에 다시 수학을 만나기 위한 마음의 준비는 해 놓자”고 했다. 그는 “다시 만난 수학은 생각보다 유용하고 의외로 어렵지 않을 수도 있다”며 “수학을 미리부터 포기하지는 말라”고 당부했다. 마지막으로 정말 궁금한 한 가지를 물어봤다. 고등학교 때 수학을 못했던 사람도 코딩을 배우고 AI까지 연구하는 수준에 이를 수 있을까. 남 교수는 “체중 10㎏ 줄이는 것보다는 쉽다”고 단언했다. 물론 10㎏ 감량이 말처럼 쉬운 일은 아니지만.

유승호 한경 경제교육연구소 연구위원