「n분의 1의 함정」- 하임 샤피라

비합리적인 상황에 비합리적인 선택으로 맞서는 방법

 

n분의 1의 함정

『n분의 1의 함정』은 합리적인 선수들 사이의 상호성을 공식화하는 학문인 '게임이론'에 대해 자세하게 설명하는 책이다. 기업의 가격 전략은 물론, 관광객과 노점상의 가격 흥정, 보드게임에서 이길 전략 찾기 등등 게임이론이 관여하지 않은 현상은 없을 정도다. 게임이론이 거의 모든 것에 결정적 영향을 미친다고 믿는 전문가도 있고, 단순히 보기 좋은 수학놀음에 지나지 않는다고 믿는 전문가들도 있다. 저자는 딱 중간은 아니겠지만, 진실은 중간 그 어디쯤에 있을 것으로 믿는다고 말하며 게임이론이 인간사와 세상사의 다양한 문제에 통찰을 제공하는 대단히 흥미로운 학문임에는 분명하다고 밝힌다. 모든 게임이론의 궁극적인 해법은 일회성으로 끝나느냐 반복적으로 일어나느냐의 차이에 있다. 즉 같은 게임 상황을 한 번 치르고 다시는 만나지 않을 경우와 의식적이든 무의식적이든 게임을 다시 하게 되리란 것을 안다면 그 결과가 달라진다는 것이다. 사람들은 미래의 이득이 기대될 때 협력하는 경향을 보인다. 나중에 같은 상대와 만나거나 엮일 가능성이 현실적으로 확실하면 사람들은 생각하는 방식을 바꾼다. 모든 게임이론은 이를 바탕으로 한다. 어떤 결정을 내릴 때 내게 어떤 이익이 되느냐가 그 배경이 된다는 얘기다. 그렇다고 배려나 협조, 친절이 없는 것은 아니다. 분명 목표가 중요하다고 했다. 내가 얻으려는 목표가 무엇인가가 문제다. 저자는 이와 같은 이야기를 통해 게임을 통해 얻으려는 것, 그것이 세상 모든 게임에 대한 핵심 질문임을 강조한다.

저자

하임 샤피라

출판

반니

출판일

2017.05.30

 어떤 사건에 대해 두 명의 용의자가 잡혔다. 이들은 묵비권을 행사하거나 자신의 범행을 자백할 수 있는데, 상대가 어느 대답을 했는지에 따라 그들이 받을 형량이 결정된다. 용의자들을 각각 A와 B라고 부르자. 만약 둘 다 범행에 대해 침묵한다면 이들은 감옥에서 2년을 지내야 한다. 반면 둘 모두 자백한다면 둘 다 18년 동안 갇혀 있어야 하고, A가 침묵해도 B가 자백한다면 침묵한 A는 무려 20년, B는 자백했으니 즉시 풀려날 수 있다. 반대의 경우에도 마찬가지로 A가 자백, B가 침묵한다면 A는 석방되고 B만 20년을 감옥에서 지내야 한다. A와 B가 각자 경찰과 만나 자백할지 침묵할지 결정해야 한다면, 이들은 무엇을 선택해야 하는가? 물론 A와 B가 가족이나 가까운 동료라면 높은 확률로 서로를 위해 침묵할 것이니 서로 별 관련이 없는 사람이라고 가정하고, 감옥에서 나온 이후 상대에게 보복할 수 없다는 보장이 있어야 하며, 이들이 경찰과 만나기 전 서로 대화할 시간도 주지 말아야 한다. 이 조건만 만족한다면 이것이 바로 그 유명한 죄수의 딜레마가 된다. (크게 보면 죄수의 딜레마는 등위 게임이라는 분류에 속한다.)

 죄수의 딜레마에서 죄수의 입장이 된다면, 가장 이성적인 선택은 바로 자백하는 것이다. 하지만 두 죄수가 완전히 동일한 상황에 처해 있기에 상대방도 자백을 할 것이고, 이 경우 아이러니하게도 총 형량이 가장 긴 36년이 된다. 각자의 입장에서 최선의 선택을 했지만, 오히려 최악의 결과가 나오고 만 것이다. 이렇게 된 이유를 간단히 설명하자면 '내시 균형' 때문이라고 볼 수 있겠다. 게임 이론의 창시자이자 노벨 경제학상과 아벨상을 수상한 수학자 존 내시의 이름을 딴 이 개념은 모든 게임에서 적용될 수 있는 최선의 수를 말한다. 정확히 말하자면 모든 게임의 참가자가 동일한 조건에 있을 경우, 상대가 어느 결정을 하는지 알게 된다 하더라도 내 선택을 바꿀 이유가 없고, 모든 참가자가 이와 같은 방식으로 결정하는 경우를 말한다. 복잡해 보이지만 위의 죄수의 딜레마와 연관지어 생각하면 쉽게 이해할 수 있다. A의 입장이 되어 생각해 보자. 나는 자백을 하거나, 침묵을 할 수 있다. 총 형량은 둘 다 침묵하는 것이 더 낮지만, 그것을 노리고 침묵했다가 B가 자백한다면 나는 20년을 갇혀 있어야 하고, 적어도 이런 상황만은 피해야 한다. 내가 자백을 할 경우 상대 또한 자백하면 18년 동안 감옥에 있어야 할 테지만 20년 동안 갇히는 것보다는 낫고, 재수 좋게 상대가 침묵한다면 나는 즉시 석방된다. 그러니 상대가 무엇을 선택하든 내 입장에서는 자백한다는 선택을 바꿀 이유가 없는 것이다. 내시 균형은 대부분의 게임에 대해 유효한 결과를 낼 수 있지만, 모든 게임에서 존재하는 것은 아니다. 그래도 야생동물의 행동 양식을 연구하거나 미국과 소련 사이의 핵 대립 구조를 분석하는 등 다양한 곳에 있어 내시 균형은 유효하다.

 「n분의 1의 함정」은 죄수의 딜레마 형태의 등위 게임 말고도 수십여 가지의 다채로운 게임들을 소개한다. 그 예로 앞에 등장한 존 내시를 다룬 영화 <뷰티풀 마인드>에서, 내시와 친구들이 각자 마음에 드는 여자를 골라 말을 거는 장면이 있다. 만약 친구들 중 둘 이상이 같은 여자를 고른다면 한 명은 원하지 않던, 어쩌면 가장 마음에 두지 않았던 사람과 만나게 될지도 모르기 때문에 내시의 친구들은 두 번째, 혹은 세 번째로 우선순위에 있던 사람을 선택한다. 하지만 내시는 가장 매력적인 여성에게 다가갔고, 그가 그녀에게 다가간 유일한 사람이었기에 성공적으로 대화를 나눈다. 물론 모든 사람의 취향이 똑같을 수는 없으니 일종의 영화적 허용이 들어간 장면이겠지만, 이는 게임 이론에 있어서 때로는 과감한 전략이 성공적이라는 점을 보여준다. 등위 게임과는 정반대로 '최후통첩 게임'이라는 것도 존재하는데, 어쩌면 등위 게임보다 더욱 현실적인 정치 상황을 대변한다. 여기에서는 두 참가자가 완전히 불평등한 조건을 가지고 거래하기 때문이다. 최후통첩 게임에서 내시 균형은 거의 효과가 없고, 오히려 참가자들의 변덕이나 감정에 따른 비이성적인 선택이 더 자주 보인다.

 이렇듯 다양한 게임의 예시를 통해 이 책에서는 게임 이론에 대한 전반적인 내용을 다루는데, 결국 본문에서 저자가 하고자 하는 말은 간단하다.

"세상사는 겉으로 보이는 것보다 복잡하다. 그리고 이 문장을 이해했다고 생각한다고 해서 정말로 이해한 것도 아니다."

 자신의 말을 몸소 증명하듯, 저자는 게임 이론으로도 이해하기 어려운 것들이 많다고 한다. 자신도 어떻게 설명해야 할 지 모르겠다거나, 사람들이 왜 이토록 비이성적인 선택을 하는지는 모르겠다는 식이다. 저자가 어떤 생물학자에게 들은 바로는 최후통첩 게임에서 상대방의 불공평한 제안을 거부할 때 자신에게 손해가 된다는 것을 알면서도 몸에서는 도파민이 분비되어 일종의 쾌감을 느끼게 된다고 한다. 의외로 이렇게 생물학적이고 감정적인 면이 큰 영향을 미치는 것일지도 모른다. 하지만 그렇다 해서 게임 이론이 무의미한 것도 아닌 것이, 내시가 노벨 경제학상을 받았을 정도로 게임 이론은 경제학에서 중요하기 때문이다. 주식이나 도박과 같은 경우가 특히 그렇다. 주식 투자를 할 때에는 유망 기업이 아닌, '많은 사람이 유망하다고 여길 기업'에 투자를 하라거나, 도박을 하러 카지노에 들어가는 것 자체가 손해라는 등 게임 이론은 세상의 많은 선택을 도와줄 수 있다. 비록 만능은 아니라도 말이다.