내시균형 : 각자 전략 변경 이득 없어지는 게임이론 균형​

내시균형 : 각자 전략 변경 이득 없어지는 게임이론 균형

내시균형이란 무엇인가요?

내시균형(Nash Equilibrium)은 게임 이론에서 두 명 이상의 플레이어가 서로의 전략을 고려해 최선의 선택을 했을 때, 누구도 혼자서 전략을 바꿔 더 큰 이득을 얻을 수 없는 상태를 말합니다. 이는 존 내시(John Nash)가 제안한 개념으로, 경쟁 상황에서 각자가 합리적으로 행동할 때 도달하는 안정된 결과입니다. 내시균형에서는 상대방이 현재 전략을 유지한다는 전제 하에, 나 역시 현재 전략을 바꿀 유인이 전혀 없습니다. 이 상태는 비협조 게임에서의 균형을 설명하는 핵심 개념입니다.

내시균형의 핵심 조건

내시균형이 성립하기 위해서는 모든 플레이어가 상대방의 전략에 대한 ‘최선의 반응(Best Response)’을 선택하고 있어야 합니다. 즉, 상대가 어떤 전략을 선택하든, 나의 전략이 그에 대해 가장 유리한 결과를 가져오는 것이어야 합니다. 이 조건이 모두 만족될 때, 전략 조합은 내시균형이 됩니다. 이 상태에서는 어떤 플레이어도 혼자서 전략을 바꾸어 더 큰 보상을 얻을 수 없으며, 바꾸면 오히려 손해를 볼 가능성이 높습니다. 따라서 내시균형은 전략적 상호작용에서 안정된 결과를 예측하는 데 유용합니다.

내시균형과 최선의 반응

내시균형은 ‘최선의 반응’ 전략들로 구성된 전략 조합입니다. 각 플레이어는 상대방의 전략을 주어진 것으로 보고, 그에 대해 자신에게 가장 유리한 전략을 선택합니다. 이처럼 모든 플레이어가 상대의 전략에 대한 최선의 반응을 선택한 상태가 바로 내시균형입니다. 예를 들어, A가 B의 전략에 대해 최선의 반응을 선택하고, B도 A의 전략에 대해 최선의 반응을 선택하면, 이 전략 조합은 내시균형이 됩니다. 이 상태에서는 어느 한쪽이 혼자 전략을 바꿔도 이득을 얻을 수 없습니다.

내시균형은 왜 안정적인가요?

내시균형이 안정적이라고 하는 이유는, 상대방이 전략을 바꾸지 않는 한, 나 역시 전략을 바꿀 유인이 없기 때문입니다. 이는 ‘자신의 전략을 바꿔서 더 큰 이득을 얻을 수 없다’는 의미입니다. 만약 어떤 플레이어가 현재 전략을 바꾸어 더 큰 보상을 얻을 수 있다면, 그 전략은 이미 최선의 반응이 아니며, 균형 상태가 아닙니다. 따라서 내시균형은 전략적 상호작용에서 자연스럽게 도달하는 안정된 상태로, 게임의 결과를 예측하는 데 중요한 역할을 합니다.

내시균형과 죄수의 딜레마

내시균형의 대표적인 예로 죄수의 딜레마(prisoner’s dilemma)를 들 수 있습니다. 두 범죄 용의자가 각각 ‘자백’ 또는 ‘침묵’이라는 전략을 선택할 수 있습니다. 이 게임에서 각각이 상대의 선택에 상관없이 자백하는 것이 더 유리한 전략이 됩니다. 결과적으로 두 사람 모두 자백하게 되고, 각각 5년씩 복역하게 됩니다. 이 상태가 바로 내시균형입니다. 이 균형은 안정적이지만, 모두가 침묵했을 때보다 전체적으로 더 나쁜 결과를 가져옵니다. 이처럼 내시균형은 항상 파레토 최적인 결과를 보장하지는 않습니다.

내시균형의 존재성과 다수성

내시균형은 모든 게임에서 존재하지는 않지만, 유한한 전략을 가진 게임에서는 혼합전략을 고려하면 항상 존재합니다. 혼합전략은 각 전략을 일정 확률로 선택하는 방식입니다. 또한, 내시균형은 하나만 존재하는 경우도 있지만, 여러 개 존재하는 경우도 있습니다. 예를 들어 조정 게임(coordination game)에서는 두 플레이어가 모두 ‘왼쪽’을 선택하거나 모두 ‘오른쪽’을 선택하는 두 가지 내시균형이 존재할 수 있습니다. 이처럼 다수의 내시균형이 존재할 때는 ‘셸링 포인트’나 ‘떨리는 손 균형’ 등의 개념을 사용해 어떤 균형이 실제로 실현될지를 판단합니다.

내시균형의 실제 적용 분야

내시균형은 경제학, 정치학, 생물학 등 다양한 분야에서 전략적 상호작용을 분석하는 데 사용됩니다. 기업 간 가격 경쟁, 경매, 투표 전략, 생물의 진화적 안정 전략(ESS) 등에서 내시균형 개념이 활용됩니다. 정책 결정자들은 내시균형을 통해 사람들이나 기업들이 서로의 선택에 의존해 동시에 결정을 내려야 하는 상황에서 어떤 행동을 할지를 예측할 수 있습니다. 이는 시장 구조 분석, 규제 정책 설계, 협상 전략 수립 등에 실질적인 도움을 줍니다.

내시균형과 파레토 효율성

내시균형은 안정된 상태이지만, 항상 전체적으로 최선의 결과를 의미하지는 않습니다. 죄수의 딜레마처럼, 내시균형이 도달한 결과가 모두가 협력했을 때보다 더 나쁜 경우가 있습니다. 이는 내시균형이 파레토 효율적이지 않음을 보여줍니다. 파레토 효율성은 누구도 손해를 보지 않으면서 누군가의 상태를 더 좋게 만들 수 없는 상태를 말합니다. 내시균형은 개인의 합리적 선택이 모여 집단적으로 비효율적인 결과를 초래할 수 있다는 점에서 중요한 시사점을 제공합니다.

내시균형의 예시: 단순 2×2 게임

다음과 같은 2×2 게임을 생각해 봅시다. 플레이어 A와 B가 각각 ‘왼쪽’ 또는 ‘오른쪽’을 선택할 수 있습니다. 보수는 다음과 같습니다.

A\B	왼쪽	오른쪽
왼쪽	(3, 3)	(0, 4)
오른쪽	(4, 0)	(1, 1)

이 게임에서 (왼쪽, 왼쪽)과 (오른쪽, 오른쪽)은 모두 내시균형입니다. A가 왼쪽을 선택하면 B는 왼쪽이, A가 오른쪽을 선택하면 B는 오른쪽이 최선의 반응입니다. 반대로 B의 전략에 대해서도 A가 각각 왼쪽 또는 오른쪽을 선택하는 것이 최선의 반응입니다. 따라서 두 전략 조합 모두 내시균형이 됩니다.

결론: 내시균형의 의미와 한계

내시균형은 게임 이론에서 전략적 상호작용의 결과를 예측하는 핵심 개념입니다. 각 플레이어가 상대방의 전략을 고려해 최선의 반응을 선택했을 때, 누구도 혼자서 전략을 바꿔 더 큰 이득을 얻을 수 없는 상태가 바로 내시균형입니다. 이는 경제, 정치, 생물학 등 다양한 분야에서 현실 세계의 전략적 상황을 분석하는 데 널리 활용됩니다. 그러나 내시균형이 항상 최선의 결과를 보장하지는 않으며, 죄수의 딜레마처럼 집단적으로 비효율적인 결과를 초래할 수 있다는 점을 기억해야 합니다. 내시균형은 ‘안정성’을 설명하지만, ‘효율성’을 보장하지는 않기 때문입니다.