[Cover Story] 게임이론, 그 매혹의 세계로 빠져보자

사람은 하루에도 수십,수백번씩 상대방을 의식하며 선택하거나 의사결정을 내려야 할 상황을 맞게 된다.인생 자체가 게임이라 할 수 있다.게임에는 승자와 패자가 있게 마련이다.현실에선 승자의 이익과 패자의 손실을 합하면 (+)나 0이 아니라 (-)가 되는 마이너스섬(minus sum) 게임이 훨씬 더 많다.각자 '최선'의 선택을 했는데 공생이 아니라 공멸이 될 수도 있는 것이다.이때 개인 또는 사회의 '최적'의 선택은 무엇일가?

이에 대한 해답을 찾는 것이 바로 게임이론이다.게임이론은 수많은 사람들이 복잡하게 얽혀있는 사회현상을 게임이라는 관점에서 설 명하는 새로운 학문 분야다.개인의 선택이 사회전체에 어떤 영향을 주고 전체의 흐름에 개인은 어떻게 반응하는지를 분석함으로써 사회 현상에 대한 이해의 심도를 확장하는 것이다.단순히 세상을 살아가는 처세의 기술을 공부하는 것과는 차원이 다르다.게임이론의 기본 개념들을 정리한다.

◆내쉬 균형(Nash equilibrium)

1994년 노벨 경제학상을 공동수상한 미국 수학자 존 내쉬의 이름을 딴 게임이론 모형이다.이때 '균형'이란 작전(의사결정)을 바꿔도 더 나아질 것이 없는 상태를 뜻한다.내쉬 균형은 모든 경기자들이 각자 최선의 전략(우월전략)을 취할 때,자신도 그것을 택하지 않으면 안되는 상황을 의미한다.경기자들이 모두 우월전략이 있으면 그대로 선택하는 것이 내쉬 균형이고,우월전략이 없더라도 내쉬 균형은 하나 이상 존재한다.

표 1은 내쉬 균형을 단순화 한 사례다.서로 마주 달리는 두 운전자는 각자 우월전략 없이 좌측이든 우측이든 선택할 수 있다.하지만 선택이 엇갈리면 충돌해 죽을 수도 있다.한가지 선택을 그대로 유지하는 게 득이고,혼자만 선택을 바꿀 수도 없게 된다.그래서 차선이 있든 없든 한국,미국에선 자동차가 우측으로,일본,영국 등에선 좌측으로 통행하는 균형이 생겨난 것이다.

◆죄수의 딜레마(prisoners' dilemma)

내쉬 균형의 문제이자 게임이론에서 고전이 된 개념이다.정보 부재 상태에서의 공멸게임이라 할 수 있다.미국의 군사전략 싱크탱크인 랜드연구소에서 1950년 고안해냈다.

표 2의 예를 보자.무장강도 용의자 칠수와 만수가 각기 다른 취조실에 앉아 있다.검사는 이들의 경미한 범죄에 대한 증거를 확보했지만 강도 사건은 확실한 물증이 없다.검사는 먼저 자백하면 석방해주는 대신 자백하지 않으면 징역 10년의 가중 처벌을 받는다고 넌지시 암시했다.어떤 상황이 벌어질까?

칠수와 만수가 의리를 지켜 똑같이 묵비권을 행사하면 증거불충분으로 각각 징역 1년만 살면 된다.전체적으로 최선의 선택이다.하지만 "나는 입을 다무는데 저 친구가 자백하면…?" 하고 고민에 빠진다.이때 각자 상대의 배신이 두려워 먼저 자백하게 된다는 것이다.

이렇듯 죄수의 딜레마는 각자 최선의 선택을 했지만 둘 다 손해보는 결과가 되는 상황이다.이런 상태에선 늘 '배신'이 선택된다(내쉬 균형에서의 열등 균형).이동통신사들이 서로 광고를 자제하면 이익이 크게 늘어날 텐데 상대를 의식해 막대한 광고비를 쏟아붓는 것이나,오래된 카르텔인 석유수출국기구(OPEC)의 감산 결정이 번번히 깨지는 것도 죄수의 딜레마로 설명할 수 있다.

◆반복게임과 따라하기 전략(tit-for-tat strategy)

결국 칠수와 만수는 둘 다 자백했다가 5년씩 징역을 살고 나왔다.이들은 다시 강도짓으로 구속돼 똑같은 죄수의 딜레마 상황을 맞았다.이런 일이 여러번 되풀이됐다고 가정해보자.이들은 매번 어떤 선택을 할까? 이렇게 같은 경기자가 죄수의 딜레마 게임을 어러 번 되풀이하는 것을 '반복적 죄수의 딜레마 게임'이라고 한다.배신(자백 선택)을 거듭해서 둘 다 손해보는 대신 다른 방법을 찾을 새로운 가능성이 생긴다.

미국 미시간대의 로버트 액셀로드 교수(정치학)는 1960년대 실험을 통해 반복적인 죄수의 딜레마에서 가장 효과적이고 간단한 전략을 발견했다.첫번째 게임에선 먼저 협조(묵비권 선택)하고 두번째부터는 이전 게임에서 상대방의 선택과 동일하게 따라하는 것이다.이를 '따라하기 전략'(버냉키·프랭크 경제학에선 '맞대응 전략',맨큐의 경제학은 '맞대응 보복',다른 책에선 '되갚기 전략'으로도 번역)이라고 한다.

따라하기 전략은 먼저 칠수가 협조했는데 만수가 배신하면 다음 게임에서 칠수는 배신으로 보복하는 식이다.이런 사실을 알게된 만수는 보복이 두려워 함부로 배신을 못하게 되고 칠수는 만수를 따라하므로 둘 다 최적의 결과를 얻을 수 있게 된다.경쟁 사업자 간에 가격 담합을 유지하기 위한 전략으로 채택될 수 있다.

하지만 영국 옥스퍼드대 로버트 메이 교수(동물학)는 불확실성이 있는 환경에서 가장 우수한 전략은 '눈에는 눈,이에는 이' 전략이 아니라 '성과가 웬만하면 현상 유지,성과가 기대 이하면 전략 변경'임을 증명하기도 했다.

오형규 한국경제 연구위원 ohk@hankyung.com

▶도움말 주신분=문명희 선생님(광주 상무고)

▶참고서적= ▷김영세,게임의 기술'(웅진지식하우스,2007) ▷아이자와 아키라,'승부에 강해지는 게임의 법칙'(이다미디어,2003) ▷그로비스 매지니먼트 인스티튜트,'게임이론'(21세기북스,2005) ▷버냉키·프랭크 경제학(한국맥그로힐,2006) ▷맨큐의 경제학(교보문고,2005)

-------------------------------------------------------

■노벨경제학상 단골수상한 게임이론

게임이론이 세계적 관심을 모은 것은 1994년과 2005년 잇달아 노벨 경제학상 수상 대상이 되었기 때문이다.여기에다 게임이론의 학문화에 크게 기여한 존 내쉬의 일대기를 그린 영화 '뷰티풀 마인드'(2001년)는 대중적 관심을 이끌어냈다.

게임이론은 헝가리 출신 유대계 천재 수학자인 존 폰 노이만과 경제학자 오스카 모르겐슈테른이 1944년 출간한 '게임이론과 경제적 행태'로 알려져 있다.노이만이 게임이론의 분석틀을 만들었다면,모르겐슈테른은 이를 경제·사회적 상황에 적용해 설명했다.

1950년대 들어 게임이론은 수학,경제학을 중심으로 학문적인 틀을 갖추고,지금은 정치,경제,사회,심리,생물,군사전략 등 학문과 현실세계에서 광범위하게 활용되고 있다.게임이론을 정립하는데 공헌을 세운 인물이 존 내쉬이다.내쉬는 22살 때인 1950년 협상이론에 관한 협조적 모형을 발표하면서 유명해졌고,비협조적 게임모형을 통해 내쉬 균형을 제시했다.그는 1994년 젤튼,하샤니와 함께 노벨 경제학상을 공동수상했다.젤튼(독일)과 하샤니(미국)는 1960년대 내쉬 균형을 바탕으로 확장적 게임에 필요한 신개념들을 많이 고안해냈다.

2005년 노벨 경제학상은 게임이론의 응용에서 공로가 큰 이스라엘 헤브루대의 로버트 아우만 교수와 미국 메릴랜드대 토머스 셸링 교수에게 돌아갔다.이들은 게임이론으로 통상전쟁,냉전시대 군비경쟁 등 실제 경제·정치·사회적 갈등과 협상에 대한 이해를 높였다.세상만사가 게임이라는 말인가?