애로의 불가능성 정리

선거가 끝나면 많은 사람들이 그 결과에 대해 아쉬워한다. 왜냐하면 대부분의 선거에서 둘 이상의 후보가 나오게 되고, 그렇기에 당선되지 않은 후보를 선택한 사람의 수가 당선된 후보를 선택한 사람들의 경우보다 많은 경우가 빈번하기 때문이다. 50%보다 낮은 지지표를 얻고 당선되는 경우에서는 과반수 보다 많은 선거구민이 그러한 아쉬움을 가진다.

 

우리나라 대통령 선거에서 박근혜 전 대통령을 제외하고 당선자가 50% 이상의 득표수로 당선된 경우는 없었다. 박근혜 후보의 경우도 진정한 과반 이상의 국민 지지로 선택되었다고 볼 수 없다. 박근혜 후보는 선거인 40,507,842명 중 실제로 투표에 참여한 유권자인 30,721,459명 중에서 51.55%(15,773,128명)의 지지를 받았다.

 

따라서 한국 전체 선거인의 과반에는 미치지 못한다. 이런 점에서 한국의 대통령들은 투표권을 갖는 전체 국민 대비 어느 누구도 과반수에 미치지 못하는 지지표로 당선되었다.

 

이렇게 다수결을 통해 선출하는 현행 선거법이 과연 최선일까. 우리에게는 너무 익숙해진 제도이기에 대부분의 사람들이 의문을 갖지 않고 넘어간다. 왜 우리는 다수가 원하는 지도자를 가질 수 없을까. 이유는 민주주의의 근본적인 작동원리인 다수결 의사결정에 중대한 결함이 있기 때문이다.

 

---

 

다수결과 콩도르세의 역설

 

예를 들어 민주적으로 운용되는 화목한 가족이 있다고 하자. 가족 구성원은 아빠, 엄마, 그리고 딸 이렇게 세 사람이다. 다가오는 여름휴가 때 갈 해외여행 장소를 정하기 위해 가족회의를 열었다. 아빠는 불교에 관심이 있어 태국을, 엄마는 온천을 즐길 수 있는 일본 그리고 딸은 쇼핑을 위해 홍콩을 가길 각각 원한다.

 

가족이 함께 가기 위해 한 곳을 정해야 하지만, 각자 취향이 다르다. 아빠는 태국을 일본보다 좋아하고, 일본보다는 홍콩을 좋아한다. 선호하는 순서를 보면, 아빠는 태국 〉 홍콩 〉 일본, 엄마는 일본 〉 태국 〉 홍콩, 딸은 홍콩 〉 일본 〉 태국 순으로 갖고 있다.

 

세 사람이 투표로 여행 장소를 고른다면 어떤 결과가 나올까? 태국을 홍콩보다 좋아하는 사람이 둘이고, 홍콩을 일본보다 좋아하는 사람도 둘이다. 그런데 자세히 보면 일본을 태국보다 좋아하는 사람도 둘이다. 다수결의 원칙에 따르자면 홍콩과 태국 가운데서는 태국을, 일본과 홍콩에서는 홍콩을 선택하게 된다.

 

그런데 다시 태국과 일본을 놓고 보면 일본을 선택하게 될 것이다. 다수결의 결과 홍콩 〉 일본 〉 태국 〉 홍콩이라는 모순이 나오게 돼 결정을 내릴 수 없는 상태에 빠지는 것이다. 민주적 선택이 합리적 결과를 가져올 수 없는 셈이다.

 

이처럼 다수결을 통해 이행성(transitivity)이 있는 사회적 의사결정을 하지 못하는 현상을 프랑스 혁명시대의 정치가이자 수학자였던 콩도르세 후작의 이름을 따 ‘콩도르세의 역설’(Condorcet’s paradox) 또는 ‘투표의 역설’(voting paradox)이라고 부른다.

 

다수결은 민주주의의 핵심 중 하나고 ‘1인 1표’의 원칙은 다수결이 늘 옳다는 전제에 근거하고 있다. 하지만 콩도르세의 역설은 이런 전제가 기본적으로 틀렸으며 다수의 의견이 늘 옳은 것은 아니라는 점을 보여주고 있다.

 

이 역설은 양자 대결과 달리 3자 대결이 이뤄졌을 때 민심이 가장 원하는 후보가 아닌 약점이 적은 후보가 당선되는 이유를 설명해준다. 그리고 이 역설을 이해하는 사람에 의해 악용될 수 있다.

 

즉 경우의 수 중에서 투표 순서를 조작해 자신이 원하는 결론을 얻는 것도 얼마든지 가능하다. 2개 이상의 선택이 있을 때, 정책을 어떤 순서로 정하느냐에 따라 투표 결과에 큰 영향을 미칠 수 있으며, 보다 넓게는 다수결의 결정이 반드시 그 사회가 진정으로 원하는 것을 반영하지 못할 수 있다.

 

선거로 예로 들어보자. 공직에 출마한 세 명의 후보가 있다고 치자.

 

유권자의 3분의 1은 A〉B〉C 순으로 후보를 선호하고, 다른 3분의 1은 B〉C〉A 순으로 선호하며, 나머지 3분의 1은 C〉A〉B 순으로 선호한다고 가정하자.

 

A와 B 두 사람 간의 대결에서 A는 유권자의 3분의 2가 자기를 B보다 더 선호한다고 주장할 것이다. B와 C의 대결에서는 B가 3분의 2의 확률로 우세하다. 마찬가지로 C와 A의 대결에서는 유권자의 3분의 2가 C를 A보다 더 선호한다.

 

유권자들은 각기 합리적인 판단을 했지만 전체로 보면 A는 B를 이기고, B는 C를 이기며, C는 A를 이기는 이상한 결과가 나온다. 양자 대결에서는 모두가 3분의 2의 확률로 자신이 이긴다고 주장할 것이다.

 

이런 상황에서 자발적으로 물러날 후보는 없다. 결국 세 사람은 모두 출마할 것이고, 약간의 표 차이로 당락이 갈리는 치열한 혼전이 벌어질 수 밖에 없다. 그 결과는 30%대의 낮은 득표율로 한 사람이 선출되는 것이다.

 

이 사례는 단순 다수결의 경우 가장 민주적으로 선거를 치른다 해도 유권자의 3분의 2가 반대하는 후보가 당선될 수 있음을 보여 준다. 민주적 선거의 역설이다.

 

우리나라의 경우 87년 민주화운동으로 쟁취한 대통령 직선제가 시행된 1987년 선거가 여기에 해당된다. 노태우(36.64%), 김영삼(28.03%), 김대중(27.04%) 세 후보가 팽팽히 맞선 결과 30%대의 낮은 득표율로 노태우 후보가 대통령에 당선됐다. 유권자의 60% 이상이 원치 않는 후보를 대통령으로 뽑은 것이다.

 

2016년 미국 대선은 또 다른 방식으로 국민이 원하지 않는 후보가 선출될 수 있음을 보여줬다(자료 4-17). 힐러리 클린턴 민주당 후보는 일반 유권자 득표에서 앞서고도 선거인단(Electoral College) 득표수에서 도널드 트럼프(Donald Trump) 공화당 후보에게 밀려 대통령이 되지 못했다.

 

힐러리 클린턴은 유권자 득표수 65,853,516표(48.2%)로 도널드 트럼프의 득표수 62,984,825(46.1%)보다 300만 표(2.1%) 정도 앞섰지만, 선거인단에서 트럼프의 306명보다 적은 232명을 확보하여 패배했다. 결국 국민의 다수가 찬성하는데도 승자독식(winner-take-all)이라는 선거인단 투표제도 때문에 낙선했다.

 

 

 

애로의 불가능성 정리

 

1972년 노벨경제학상을 받은 케네스 애로(Kenneth J. Arrow, 1921~2017)는 더 나아가 아예 민주주의가 전제로 하는 합리적 의사결정이 불가능하다는 걸 수학적으로 증명했다. 1951년 <사회적 선택과 개인의 가치(Social Choice and Individual Values)>라는 논문에서 다수결에 따른 의사결정이 결코 합리적이지 않다는 사실을 밝힌다.

 

 

케네스 애로

 

다수결로는 개인의 선호도를 사회 전체의 선호도로 종합해 낼 수가 없다는 것이다. 즉, 개인적 선호는 이행적인 반면 집합적 선호는 순환적(cyclic)인데, 이는 대안들 사이의 순위를 일관성 있게 매길 수 없다는 것을 의미한다. 이를 ‘애로의 불가능성 정리(Arrow’s Impossibility Theorem)’라고 한다.

 

 

애로는 이상적인 투표제도에 의해 결정된 선택은

① 만장일치의 원칙(모든 사람이 A를 B보다 좋아하면 선거에서 A가 B를 이겨야 한다),

② 이행성의 원칙(A가 B를 이기고 B가 C를 이기면 A가 C를 이겨야 한다),

③ 무관한 대안으로부터 독립의 원칙(A가 B 사이의 우선순위는 무관한 제3의 대안 C의 존재에 의해 영향을 받아서는 안 된다),

④ 독재자 부재의 원칙(다른 사람의 선호와 무관하게 항상 자기의 뜻대로 결정을 내리는 사람이 없어야 한다) 등의

속성을 가져야 하는데 어떤 투표제도도 이 같은 속성들을 모두 만족시킬 수 없다는 걸 입증했다.

 

 

---

투표제도가 사회적 선택 수단으로 완벽하지 못하다는 뜻이다. 예를 들어 여행 장소를 정하는 위의 사례에서 결정은 오직 독재자의 의사대로 처리할 경우에만 가능하다. 가장 지위가 높은 아빠(혹은 엄마)의 마음대로 여행 장소를 정하는 것이다. 이러한 결정은 케네스 애로가 선거의 역설과 불일관성, 선거조작 문제에서 자유로운 유일한 정치방식이 독재라는 것을 반증하고 있다.

 

만인이 납득할 수 있는 선거제도는 없을까. 국민의 의사를 정확하게 반영할 수 있는 완벽한 선거제도는 없는 것일까. 다수결을 통한 집단적 의사결정에 사용하는 규칙은 의외로 불안정하기 때문에 그로 인해 선택된 대안은 옳고 선택되지 않은 대안은 틀린 게 아닌 것이다.

 

 

 

 

 

  참고자료

 

미국정치연구회 편, 『미국 정부와 정치2』, 오름(2013), 329~338쪽.

조지 슈피로(차백만 옮김), 『대통령을 위한 수학(Numbers Rule): 민주주의를 애태운 수학의 정치적 패러독스!』, 살림(2012), 293~321쪽.

Arrow, Kenneth J., Social Choice and Individual Values, New York: John Wiley(1963).

William N. Dunn(남궁근 외 옮김), 『정책분석론』, 법문사(2018), 68~70쪽.