서로의 행동에 영향을 미치는 두 기업이 경쟁할 때 게임의 결과는?
[경제교과서 뛰어넘기] (22) 게임이론과 과점시장
서기 190년，조조의 격문으로 조직된 반(反)동탁 연합군은 호뢰관에서 여포의 군대를 물리치고 낙양으로 진격해갔다.

18로 제후들의 공세에 위기를 느낀 동탁은 낙양을 불태운 후 헌제를 데리고 장안으로 천도하였다.

잿더미가 된 낙양에 입성한 18로 제후들은 우왕좌왕했다.

그동안의 전투에서 승리하기는 하였지만 전리품이 없는 데다 동탁 타도라는 근본적 목적도 달성하지 못했기 때문이다.

조조는 낙양에 당도하자마자 연합군의 맹주인 원소를 찾아가 퇴각하는 동탁을 추격할 것을 재촉하였으나 원소는 병마가 지쳐 있다는 이유로 조조의 청을 거절했다.

조조는 다른 제후들에게도 이 한판의 싸움으로 동탁을 잡아 천하를 안정시키자고 설득하였으나 조조의 뜻에 응하는 제후는 아무도 없었다.

중국의 매니지먼트 분야 박사이자 수석엔지니어인 자오융(趙勇)은 그의 저서 [삼국지와 게임이론]에서 당시의 상황이 지난 시간 소개한 '죄수의 딜레마(prisoner's dilemma)'와 유사하다고 주장했다.

만약 당시 반동탁 연합군이 승세를 몰아 동탁을 추격해 그를 제거했다면 한나라를 부흥시켰다는 명예를 얻고， 본거지로 돌아가 막강한 세력을 떨칠 수 있었을 것이다.

이것이 제후들의 공동 이익임은 분명하다.

그런데 제후들은 왜 조조의 권유에 응하지 않은 것일까?

18로 제후들은 저마다 다른 제후가 대신 동탁을 추격해주기를 바랐기 때문이다.

제후들 입장에서는 자신은 군사를 쉬게 하여 실력을 비축하고， 나머지 17명 제후들이 동탁을 추격하는 것이 가장 바람직하다.

따라서 제후들이 합리적 사고를 가지고 있다면 그들 모두가 추격과 낙양 잔류 두 가지 전략 중 낙양 잔류를 선택하여야 한다.

실제 역사에서는 분노한 조조가 홀로 동탁을 추격하다 패퇴했지만 이는 비이성적 행동으로 볼 수 있다.

게임이론에서는 18로 제후들이 모두 낙양 잔류를 선택하는 것과 같은 상황을

'내쉬 균형(Nash equilibrium)'이라 한다.

내쉬 균형의 정확한 정의는 게임의 각 경기자가 다른 경기자들의 전략을 주어진 것으로 보고 자신에게 최적인 전략을 선택하는 것이다.

내쉬 균형은 각 경기자가 자신의 행동이 다른 경기자의 이익에 미치는 영향을 고려하지 않는 상황에서 구해지는 균형이기 때문에 비협조적 균형(noncooperative equilibrium)이라고도 불린다.

내쉬 균형은 미국의 수학자 존 내쉬(John Nash)가 제시한 개념으로， 수학자로서 노벨경제학상을 수상한 그의 드라마틱한 삶은 실비아 네이사(Sylvia Nasar) 뉴욕타임스 기자가 집필한 [뷰티풀 마인드](Beautiful Mind)와 러셀 크로 주연의 동명의 영화로 널리 알려졌다.

내쉬 균형을 좀 더 쉽게 풀어 설명해보도록 하자.

미국의 경제학자 딕시트(A Dixit)와 네일버프(B Nalebuff)에 따르면 포커와 같은 게임에서 참여자들은 상대가 어떻게 행동할지도 모른 채 동시에 행동을 한다.

하지만 포커 게임의 참여자들은 서로가 상대의 의중을 추리하고 있다는 것을 염두에 둔다.

'그가 생각하는 걸 나도 생각한다고 그가 생각하리라는 걸 나는 생각한다…'와 같은 예측이 한 예이다.

이같이 꼬리에 꼬리를 무는 순환적 추리는 그 결론이 나지 않을 것처럼 보인다.

내쉬는 모두가 최선의 전략에 따라 행동한다고 전제할 때， 각 참여자가 수많은 선택 가운데 자신에게 최적인 선택을 찾게 되어 균형에 도달한다고 주장함으로써 순환적 추리에 종지부를 찍었다.

내쉬 균형은 다시 말해 다른 경기자가 행동을 바꾸지 않는 한 자신이 어떤 대체 전략을 택해도 더 나아질 수 없는 상태를 말한다.

이론적으로 정확히 내쉬 균형과 일치한다고는 할 수 없지만 제후들이 모두 잔류를 선택하는 것은 내쉬 균형과 비슷한 성격을 가지고 있다.

18로 제후들이 모두 잔류를 선택하는 내쉬 균형에서 자신이 혼자 동탁을 추격하는 전략을 바꾸어봤자 승산이 없다.

따라서 각 제후들 개인의 입장에서는 전략을 바꿀 유인이 없고， 그들이 합리적이라면 균형은 안정적으로 유지된다.

게임이론은 지난 시간에 설명한 바와 같이 특정 행위가 본인뿐만 아니라 다른 사람에게도 영향을 미치는 상황에서 어떻게 전략을 세워야 하는가를 연구하는 학문이다.

예컨대 포커와 같은 게임에서 돈을 얼마나 따느냐는 자신의 포커 실력뿐 아니라 상대의 포커 실력에도 달려 있다.

내쉬가 제시한 내쉬 균형은 이른 시간 내에 게임이론의 핵심개념으로 자리잡았고，게임이론은 1970년대 후반부터 경제학에 본격적으로 도입되어 1980년대에 전성기를 맞이하게 된다.

게임이론은 소수의 기업들이 경쟁하는 과점시장에서 다양하게 응용될 수 있다.

각 기업들의 목표는 이윤 극대화지만 과점시장에서 이 목표는 다른 기업들의 행동에 영향을 받는다.

과점시장이 흔한 시장형태가 아니라면 게임이론의 과점시장 적용은 큰 관심을 받지 못했겠지만 과점시장은 현실에서 심심치 않게 발견할 수 있다. 리처드 테들로(Richard Tedlow)가 지은 [위대한 콜라 전쟁](The Great Cola Wars)을 보면 코카콜라는 세계에서 'OK' 다음으로 널리 알려진 단어라고 한다.

코카콜라는 미국문화를 상징하는 아이콘이지만， 콜라시장조차도 독점시장은 아니다.

코카콜라는 펩시콜라와 콜라시장에서 경쟁하고 있기 때문이다.

과점의 예는 이 밖에도 우리나라의 자동차시장， 이동통신시장 등 다양한 부문에 존재한다.

프랑스의 수학자이자 경제학자인 쿠르노(Antoine Augustin Cournot)는 1838년 자신의 저서 [부 이론의 수학적 연구](Researches into the Mathematical Principles of the Theory of Wealth)에서 동질의 광천수(鑛泉水)를 생산하는 두 업자가 경쟁하는 복점(duopoly · 시장에 두 기업만 존재하는 것을 가리킴) 상황을 가정하였다.

광천수의 시장가격은 두 업자의 생산량 합계에 반비례한다.

생산량 합계가 커지면 가격이 하락하기 때문에 각 업자는 자신이 많이 생산하고 상대가 적게 생산하기를 원하지만， 서로간의 이해조정은 쉽지 않다. 그러므로 두 업자는 각자 독자적인 전략을 수립하는데， 이때 그들이 선택하는 것은 생산량이다. 즉 기업들이 생산량을 통해 경쟁한다는 것이다.

두 업자는 상대방이 현재의 생산량을 유지할 것이라는 가정 아래 동시에 생산량을 결정한다.

두 업자는 상대방이 현재의 산출량을 유지할 것이라는 추측 하에서 생산량을 선택하지만， 예상이 쉽게 맞아떨어질 리는 없다. 그러나 일련의 과정이 반복되면 시행착오를 통해 서로의 예상이 맞아떨어지는 균형 상태(쿠르노 균형)에 도달하게 된다.

쿠르노는 19세기의 인물이기 때문에 게임이론을 사용하여 모형을 설명하지는 않았지만 이러한 균형은 게임이론에서의 내쉬 균형과 일맥상통한다.

쿠르노의 연구는 그의 생전에는 별로 인정을 받지 못했으며 여러 학자들로부터 공격을 받았다.

역시 같은 프랑스의 수학자이자 경제학자인 베르트랑(Joseph Louis Francois Bertrand)도 그 중 한 사람인데， 베르트랑은 현실에서는 기업들이 생산량이 아닌 가격을 통해 경쟁을 벌이는 경우가 많다고 지적했다.

베르트랑의 모형은 쿠르노의 모형과 마찬가지로 복점 상황을 가정하고 있으며， 각 기업들은 상대방의 현재 가격을 주어진 것으로 보고 자신의 가격을 선택한다.

가격을 통해 경쟁하는 베르트랑 모형도 시행착오를 통해 결국은 내쉬 균형 상태(베르트랑 균형)에 도달한다.

후세의 학자들은 쿠르노 모형은 장기의 생산량 경쟁에， 베르트랑 모형은 단기의 가격 경쟁에 적합한 모형으로 보고 있다. 쿠르노 균형 상태에서는 시장가격은 독점보다는 낮고， 완전경쟁시장보다는 높다.

반면 베르트랑 균형 상태에서는 시장가격이 완전경쟁시장과 같다.

과점시장에서의 가격이 완전경쟁시장과 같다는 것은 비현실적인데， 이것은 두 기업이 동질의 상품을 생산하는 것을 가정할 때만 성립하는 것이고 차별화된 상품을 생산할 때는 더 높은 가격이 형성되는 것으로 알려져 있다.

김훈민 KDI 경제정보센터 연구원 hmkim@kdi.re.kr