경제학 이론의 복잡한 것들 가운데 하나가 게임 이론이다.

게임 이론은 포커와 같은 게임에서 어떤 전략을 가지고 임하는가에 따라 보수가 달라진다는 데 착안해 경제학에 응용한 이론이다.

제한된 자원을 가지고 목적이 있는 선택을 하도록 함으로써 보수를 최대화하려는 경제적 행위를 설명하는 이론이다.

게임 이론에는 여러 가지가 있으나 그 중 가장 대표적인 것이 이른바 '죄수의 딜레마(prisoner's dilemma)'라는 것이다.

먼저 죄수의 딜레마를 소개하고,이것이 현실 세계에서 경제학에 어떻게 적용될 수 있는지 알아 보자.

죄수의 딜레마는 다음과 같이 구성돼 있다.

A와 B는 함께 도둑질을 하다가 경찰에 붙잡혔다.

경찰은 두 사람을 따로 따로 심문하기로 했다.

이들 두 죄수는 자신이 저지른 범죄에 대해 자백하거나,입을 다무는 두 가지 선택을 할 수 있다.

그런데 둘 다 입을 다무는 경우에는 확인된 가벼운 혐의만으로 1개월의 형을 받는다.

한 사람이 자백했는데 다른 사람은 입을 다물었다면 자백한 사람은 바로 풀려나고,입을 다문 사람은 5년의 옥살이를 해야 한다.

둘 다 자백했다면 둘 다 2년의 옥살이를 해야 한다.

이런 경우 이들은 어떤 선택을 할 것인가.

얼핏 보면 둘 다 입을 다물어 1개월의 형을 사는 것이 정상인 것처럼 보인다.

그러나 두 죄수가 택할 수 있는 전략을 하나씩 따져 보면 둘 다 자백하고 2년형을 살게 된다.

이들이 선택할 수 있는 전략을 알기 쉽게 하나의 도표로 작성한 것을 보수 행렬(payoff matrix)이라고 하는데 이를 이용하면 보다 이해하기가 쉽다.

먼저 A의 입장에서,B가 자백한다면 자신은 입을 다물었다가 5년형을 사는 것보다 자백함으로써 2년형을 사는 게 낫다.

만일 B가 입을 다문다면 자신도 입을 다물어 1개월의 형을 사는 것보다 자백함으로써 곧바로 풀려나는 것이 낫다.

즉 A의 입장에서는 B가 어떤 선택을 하든지 자백하는 것이 더 나은 것이다.

이 같은 상황은 B의 입장에서도 마찬가지다.

결국 두 사람은 모두 자백함으로써 2년형을 살게 되는 것이다.

이처럼 두 죄수가 입을 다물어 1개월의 형을 받는 대신 모두 자백함으로써 2년의 옥살이를 하게 되는 것은 서로 협조하여 입을 다물기로 합의하지 못하는 상황 때문이다.

상대방이 입을 열지 않을 것이라는 확신이 있다면 끝까지 버티겠지만,그러다가 혹시라도 상대방이 자백하게 되면 그 대가로 5년형을 사는 것은 너무나 가혹하다고 생각할 수 있다.

이것이 바로 죄수가 처한 딜레마인 것이다.

여기서 두 죄수는 마치 게임하듯 상대방의 전략을 생각하고 그에 대응하는 자신의 전략을 선택해야 한다.

두 죄수가 서로 협조할 수 없는 상황을 가정했으므로 이 경우는 바로 비협조 게임의 전형적인 예라고 할 수 있다.

이 같은 비협조 게임의 현실적인 예가 바로 카르텔이다.

두 기업이 카르텔을 형성하고 있다고 하자.두 기업이 모두 카르텔의 협정을 준수하면 5억원의 수익을 올릴 수 있다.

한 기업이 준수하고 다른 기업이 어기면 협정을 준수한 기업은 2억원,협정을 어긴 기업은 8억원의 수익을 얻는다.

두 기업 모두 협정을 어기면 경쟁 상태가 되므로 각각 3억원씩의 수익을 거둔다.

이 경우에도 두 기업 모두 협정을 어김으로써 둘 다 협정을 준수했을 때의 수익 5억원보다 낮은 3억원의 수익을 택하게 된다는 것이다.

(이 경우의 보수 행렬을 직접 만들어 보자)

현실적으로 두 기업만이 카르텔에 참여하고 있다면 둘 사이의 협조가 쉽게 이루어질 수도 있다.

물론 카르텔과 담합은 불법이다.

그러나 서로 협조하는 것이 쉽지 않은 상황에서 이러한 게임은 카르텔 자체가 상당한 정도의 불안정성을 내포하고 있다는 점을 보여주는 것이다.

실제로 OPEC(석유수출국기구)과 같은 카르텔에서 감산을 결정함으로써 국제 유가가 높은 수준을 유지하고 있을 때,한 국가만 정해진 쿼터 이상을 생산하게 되면 고유가 혜택을 톡톡히 보게 된다.

이 같은 유혹은 모든 OPEC 국가들이 똑같이 느끼는 것이고 따라서 카르텔은 내재적으로 불안정성을 갖고 있는 것이다.

한국외국어대 경제학과 교수 tsroh@hufs.ac.kr