수학·확률

다수결의 문제점, 결과가 가위바위보처럼 돌 수 있다

읽는 데 12분

회의에서 안건 셋 가운데 하나를 다수결로 고를 때가 있다. 사람마다 순위는 앞뒤가 맞아도, 둘씩 붙여 다수결로 정하면 A가 B를, B가 C를, C가 다시 A를 이길 수 있다. 다만 실제 큰 선거에서 이렇게 돈 경우는 아주 드물었다. 둘씩 붙인 다수결의 결과가 가위바위보처럼 도는 일을 콩도르세 역설(Condorcet paradox)이라고 한다.

크림색 카드. 왼쪽에 아주 굵은 검은 두 줄 제목 「다수결의 문제점, 결과가 / 가위바위보처럼 돌 수 있다」가 있고 「가위바위보처럼」만 자홍색이며, 그 아래 회색 부제 두 줄은 「둘씩 붙인 다수결이 A→B→C→A로 돌면 / 일대일로 다 이기는 후보가 없다」다. 오른쪽에는 정삼각형 꼭짓점 자리에 같은 크기의 흰 동그라미 셋이 놓여 있다. 위가 A, 오른쪽 아래가 B, 왼쪽 아래가 C이고, 짙은 테 안에 굵은 검은 글자가 적혀 있다. 삼각형 변을 따라 바깥으로 살짝 휜 굵은 자홍색 화살표 셋이 시계 방향으로 A에서 B로, B에서 C로, C에서 A로 이어지고, 화살촉은 받는 동그라미의 테 앞에서 멈춘다. 삼각형 가운데는 비어 있고, 숫자·표·사람·투표함은 없다.

60명이 후보 A·B·C를 두고 둘씩 다수결을 세 번 치렀다. A가 B를 33 대 27로, B가 C를 42 대 18로 이겼는데, 마지막 판에서는 C가 A를 35 대 25로 이겼다. 프랑스 수학자 콩도르세가 가정해 든 이 예에서, 60명은 A가 B보다 낫고 B가 C보다 낫다고 정했는데 다시 C가 A보다 낫다고 정한 셈이다. 그래서 셋 가운데 누가 이긴 걸까?

이 장면에서 이런 물음도 나온다. 다수결로 정했는데 왜 모두가 불만일 수 있을까? 사람마다 매긴 순위는 앞뒤가 맞아도, 둘씩 붙인 다수결의 결과는 가위바위보처럼 돌 수 있다. 그러면 누가 뽑혀도, 「그보다 저 후보가 낫다」는 사람이 과반인 상대가 남는다. 다만 실제 큰 선거에서 이런 일은 아주 드물었다. 큰 선거를 살핀 한 연구는 그 까닭을, 실제 사람들의 순위가 고르게 흩어져 있지 않다는 데서 찾는다.

가위바위보가 된 60명의 투표

콩도르세가 1785년에 낸 책의 서론에 적은 이 예에서, 60명은 저마다 세 후보에게 1순위부터 3순위까지 순위를 매겼다. 순위가 같은 사람끼리 묶으면 아래 다섯 묶음이 된다. 원저의 문장에서 되짚어 정리한 구성이다.

사람 수 1순위 2순위 3순위
23명 A B C
17명 B C A
2명 B A C
10명 C A B
8명 C B A

1순위 표만 세면 A가 23표, B가 19표(17+2), C가 18표(10+8)다. 1등 표가 가장 많은 사람을 뽑는 흔한 방식이라면 A가 뽑힌다. 콩도르세는 같은 책에서 이 방식이 다수의 뜻과 어긋날 수 있다는 예부터 든다.

이번에는 둘씩 붙여 본다. A와 B만 놓고 보면, A를 B보다 앞에 둔 사람은 첫째 묶음 23명과 넷째 묶음 10명을 더한 33명이고 나머지 27명은 B를 앞에 두었다. B와 C에서는 B 쪽이 23+17+2 = 42명, C 쪽이 18명이다. C와 A에서는 C 쪽이 17+10+8 = 35명, A 쪽이 25명이다. 과반은 31명이라 세 판 모두 승패가 갈린다. 그림 1은 이 세 판을 이긴 쪽에서 진 쪽으로 가는 화살표로 그렸다.

크림색 카드. 맨 위에 아주 굵은 검은 제목 「60명이 치른 세 번의 일대일」이 있다. 그 아래 둥근 카드 두 장이 위아래로 놓였다. 위 카드는 머리에 회색 알약 「1순위 표만 세면」이 있고, 같은 바닥선에 선 회색 세로 막대 셋 A·B·C 위에 굵은 글자 「23명」·「19명」·「18명」이 적혀 있으며, A 막대 위에만 회색 알약 「1순위 최다」가 붙어 있다. 아래 카드는 머리에 회색 알약 「둘씩 붙이면」이 있고, 막대와 같은 열에 흰 동그라미 A·B·C가 한 줄로 놓였다. 자홍색 곧은 화살표가 A에서 B로 「33 : 27」, B에서 C로 「42 : 18」을 달고 이어지고, C 아래에서 출발해 아래로 휘어 A로 돌아오는 자홍색 곡선 화살표 안쪽에 「35 : 25」가 적혀 있다. 아래 카드 맨 밑 회색 글은 「과반 = 31표 · 화살표는 이긴 쪽에서 진 쪽으로」이고, 카드 밖 오른쪽 아래에 회색 출처 「콩도르세, 1785, 서론 p. lxj」가 있다.
그림 1. 콩도르세(1785)가 든 60명의 예. 1순위 표만 세면 A가 가장 많지만, 둘씩 붙인 세 판은 A가 B를, B가 C를, C가 다시 A를 이기며 한 바퀴 돈다.

화살표를 따라가면 한 바퀴를 돌아 제자리로 온다. 그래서 누구를 뽑아도, 그보다 다른 후보가 낫다는 쪽이 과반인 상대가 있다. A를 뽑으면 A보다 C를 앞에 둔 35명이, B를 뽑으면 B보다 A를 앞에 둔 33명이, C를 뽑으면 C보다 B를 앞에 둔 42명이 「저 후보가 낫다」고 말할 수 있다. 셋 다 과반인 31명을 넘는다.

그렇다고 모두가 불만인 것은 아니다. 누가 뽑혀도 그 후보를 1순위로 둔 사람이 있다. A가 뽑히면 23명, B가 뽑히면 19명, C가 뽑히면 18명이 자기 1순위를 얻는다. 정확한 말은 「누구를 뽑아도 그보다 낫다는 사람이 과반인 상대가 남는다」이다.

다른 모든 후보와 일대일로 붙어 다 이기는 후보를 콩도르세 승자(Condorcet winner)라고 부른다. 이 예에는 콩도르세 승자가 없다. 이처럼 둘씩 붙인 다수결의 결과가 가위바위보처럼 도는 일을 콩도르세 역설(Condorcet paradox)이라고 하고, 투표의 역설이라고도 부른다. 이 글은 앞으로 콩도르세 승자를 「다 이기는 후보」라고 줄여 쓴다. 콩도르세는 이 예를 들기에 앞서 이렇게 적었다.

On peut demander maintenant ſi la pluralité peut avoir lieu en faveur d’un de ces ſyſtèmes contradictoires, & on trouvera que cela eſt poſſible.

(이제 이 모순된 체계 가운데 하나가 다수를 얻을 수 있는지 물을 수 있는데, 그것이 가능하다는 것을 알게 된다.)

콩도르세, 1785, 서론 p. lxj

여기서 체계는 「A가 B보다 낫다」 같은 일대일 판정 세 개를 한데 묶은 것이다. 모순된 체계는 그 세 판정이 서로 맞지 않는 묶음, 곧 A가 B를, B가 C를, C가 A를 이기는 묶음이다. 사람 하나하나의 순위는 앞뒤가 맞는데, 그 순위들을 둘씩 다수결로 모은 결과는 앞뒤가 맞지 않을 수 있다.

모든 순위가 똑같이 나오면 얼마나 자주 돌까

콩도르세의 60명은 순환이 생기도록 짜 맞춘 예다. 그렇다면 사람들이 순위를 아무렇게나 적어 낼 때는 얼마나 자주 돌지 따져 볼 수 있다. 후보가 셋이면 매길 수 있는 순위는 ABC·ACB·BAC·BCA·CAB·CBA 여섯 가지다. 사람마다 이 여섯 가운데 하나를 똑같은 확률로, 서로 상관없이 고른다고 해 보자. 이 글은 이것을 「모든 순위가 똑같은 확률로 나오는 무작위 선호」, 줄여서 무작위 선호라고 부른다. Hązła 등(2020)은 이것을 투표 규칙을 수학으로 다루는 분야에서 가장 흔히 연구하는 모형이라고 적었다.

사람이 셋이면 손으로 셀 수 있다. 세 사람이 순위를 고르는 방법은 6×6×6 = 216가지다. 이 가운데 두 사람이 같은 순위를 고른 경우에는 순환이 생기지 않는다. 그 두 사람이 이미 셋 중 둘, 곧 과반이라서 모든 일대일이 두 사람의 순위대로 정해지기 때문이다. 그러면 그 순위의 1순위 후보가 다 이긴다.

순환은 세 사람이 ABC·BCA·CAB를 하나씩 나눠 가지거나, ACB·CBA·BAC를 하나씩 나눠 가질 때만 생긴다. 두 묶음 모두 후보마다 1순위·2순위·3순위 자리에 꼭 한 번씩 오는 꼴이다. 한 묶음의 세 순위를 세 사람에게 나눠 주는 방법은 3×2×1 = 6가지이니, 두 묶음을 합하면 12가지다. 216가지 가운데 12가지, 곧 1/18이고 약 5.6%다.

유권자를 홀수로 늘려 가며 정확히 계산하면 이 값은 조금씩 커진다. 5명이면 6.9%, 11명이면 8.0%, 101명이면 8.7%다. 유권자가 끝없이 많을 때는 약 8.8%(계산값 0.0877)에 다가간다. 사람이 많아지면 우연이 서로 지워져 순환이 사라질 것 같지만, 그렇지 않다. Mossel(2020)의 강의 노트도 유권자가 끝없이 늘어도 이 확률이 0이 되지 않는다고 적는다.

그림 2에서는 유권자 수와 후보 수를 직접 골라 그 칸의 값을 볼 수 있다. 칸에 적힌 수는 일대일로 다 이기는 후보가 없을 확률이고, 후보가 셋이면 앞에서 센 순환 확률과 같은 값이다. 모두 무작위 선호를 가정한 값이라, 실제 선거에서 이만큼 자주 돈다는 것은 아니다. 후보 3명 열(맨 왼쪽)은 유권자 101명까지 정확히 계산했고, 나머지 칸은 무작위로 10만~100만 번 뽑아 세거나 유권자가 끝없이 많을 때의 식으로 구했다. 고른 칸의 값을 어느 방법으로 구했는지는 그림 위쪽 칩에 함께 뜬다.

크림색 카드. 굵은 두 줄 제목 「후보가 늘수록 / 다 이기는 후보가 없을 확률이 오른다」에서 「후보가 늘수록」만 자홍색이고, 회색 부제는 「후보 수 × 유권자 수 72칸 · 칸마다 일대일로 다 이기는 후보가 없을 확률(%)」이다. 그 아래 가로로 긴 흰 칩 왼쪽에 굵은 글자 「후보 3명 · 유권자 3명」과 회색 알약 「정확 계산」이, 오른쪽에 큰 자홍색 「5.6」과 「%」가 있다. 칸 표는 열 머리 「후보 수」 3명~10명 여덟 칸(맨 왼쪽 세로 열이 후보 3명)과 줄 머리 「유권자 수」 3명·5명·7명·11명·21명·51명·101명·1001명·끝없이 아홉 줄로 되어 있고, 칸마다 값이 적혀 있으며 값이 클수록 바탕이 진한 분홍이다. 맨 왼쪽 위 칸 5.6에 굵은 검은 테가 둘려 있고 그 열과 줄의 머리가 굵다. 맨 아래 회색 두 줄은 「순위마다 나올 확률이 같다고 가정한 계산 — 실제 선거에서 잰 빈도가 아니다」와 「무작위로 뽑아 센 칸은 끝자리가 0.1쯤 흔들린다」다.
그림 2. 모든 순위가 똑같은 확률로 나오는 무작위 선호에서, 일대일로 다 이기는 후보가 없을 확률. 입력 칸으로 후보 수(3~10명)와 유권자 수 단계(1 = 3명 … 8 = 1001명, 9 = 끝없이)를 고르면 그 칸에 테가 둘리고, 위 칩이 값과 그 값을 구한 방법을 보여 준다. 정지 그림은 후보 3명·유권자 3명(5.6%)이다.
  1. 그림 2에서 후보 수를 3명(맨 왼쪽 열)에 두고, 유권자 수 단계를 1(3명)에서 9(끝없이)까지 올리며 숫자가 어떻게 변하는지 본다. 이어서 유권자 수를 한 단계에 고정하고, 후보 수를 3명에서 10명까지 늘려 본다. 후보 4명 이상 칸은 뽑아 센 값이라 끝자리가 0.1쯤 흔들린다.
  2. 친구나 가족 가운데 3명·5명·7명처럼 홀수 명에게 메뉴 세 가지의 순위를 받는다. 둘씩 붙여 다수결로 세 판을 치르고, 세 판이 한 바퀴 도는지 적어 둔다. 홀수로 하는 까닭은, 짝수면 일대일이 비겨서 도는 것과 다른 이유로 다 이기는 후보가 사라지는 경우가 섞이기 때문이다.
  3. 떡볶이 맵기(순한 맛·보통·매운 맛)처럼 한쪽 끝에서 다른 끝으로 한 줄에 놓이는 주제와, 짜장면·짬뽕·볶음밥처럼 그런 줄이 없는 주제로 2번을 한 번씩 해 보고 결과를 견준다. 왜 이런 두 주제를 고르는지는 실제 선거를 다루는 절에서 이어진다.

이렇게 보면 사람들이 순위를 아무렇게나 적어 내는 세계에서도, 후보가 셋이고 유권자가 홀수면 다수결은 대개 다 이기는 후보를 낸다. 유권자가 끝없이 많을 때도 다 이기는 후보가 있을 확률은 약 91.2%다. 후보 셋의 다수결이 도는 것은 열 번에 한 번이 채 안 된다.

후보가 열 명이면 다 이기는 후보가 있을까

후보가 늘면 다 이기는 후보가 나오기 어려워진다. 다 이기는 후보는 나머지 후보 모두를 일대일로 이겨야 하기 때문이다. 후보가 셋이면 두 판만 이기면 되지만, 열 명이면 아홉 판을 하나도 지지 않아야 한다.

유권자가 끝없이 많을 때, 다 이기는 후보가 없을 확률은 후보 3명 8.8%, 4명 17.6%, 5명 25.1%이고 10명이면 48.8%에 이른다. 후보가 열 명이면 거의 절반의 경우에 다 이기는 후보가 없다. 그림 2의 맨 아래 줄을 오른쪽으로 따라가면 이 값들이 차례로 나온다.

이 값은 문헌의 계산과도 맞는다. Hązła 등(2020)은 Niemi와 Weisberg(1968)의 계산을 옮겨 적었다. 후보가 10명이면 다 이기는 후보가 있을 확률이 약 51.1%, 27명이면 약 25.5%다. 없을 확률로 바꾸면 48.9%와 74.5%다. 이 글의 값은 48.8%와 74.4%다. 차이는 0.1%포인트 남짓이라 반올림과 뽑기 잡음으로 설명되는 범위다.

다만 이것은 무작위 선호의 성질이다. 실제 선거에서 후보가 많을수록 다수결이 자주 돈다는 말이 아니다. 무작위 선호에서는 후보가 늘수록, 「이 사람이 다 이긴다」고 말할 수 있는 후보가 빠르게 드물어진다.

실제 선거에서는 왜 거의 돌지 않았나

실제 선거에서 다수결이 도는 일은 드물었다. Barbaro와 Kurella(2026)는 59개국 선거 253회를 설문 응답으로 재구성해 살폈다. 개표 결과가 아니라, 응답자가 매긴 호감도 점수를 순위로 바꾼 것이다. 의회 선거 212회에서는 순환이 한 번도 없었고, 대통령 선거 41회 가운데 1회(2011년 페루 대선)에서 순환이 나왔다.

그 1회도 단단하지 않았다. 응답자를 다시 뽑아 만 번 세어 보면 73.9%는 돌지 않았고, 응답자 가중치를 넣어 다시 세면 만 번 가운데 한 번도 돌지 않았다. 한 선거 안의 후보를 셋씩 묶은 8,099개 묶음 가운데서도 순환은 5개(0.06%)였다. 저자들은 253회 어디에서도 순환의 견고한 증거는 없다고 결론지었다.

순위를 적어 내는 투표에서도 비슷했다. 미국 연구진(Graham-Squire·McCune, 2023)은 1순위 과반이 없어 결선 라운드까지 간 미국 공직 선거 182회(2004~2022년)를 살폈다. 다 이기는 후보가 없던 선거는 1회뿐이었다. 2021년 미니애폴리스 시의회 2구 선거로, 후보 5명 가운데 3순위까지만 적게 했다. 다섯 명을 다 적게 했다면 이 순환이 사라졌을 수도 있다고 McCune(2023)은 적었다. 그는 2022년 오클랜드 교육위원 선거를, 순위를 끝까지 적을 수 있었던 선거 가운데 다 이기는 후보가 없는 첫 확인 사례로 보고했다.

Barbaro와 Kurella는 선호의 모양도 살폈다. 정당·후보 1,429개가 각각 몇 번째 순위에 놓였는지 보니, 1,422개(99.51%)는 「모든 순위가 똑같은 확률로 나온다」는 가정과 맞지 않았다. 실제 선호는 고르게 흩어져 있지 않았다. 무작위 선호가 현실적이지 않다는 것은 널리 인정된다고 Tsetlin 등(2003)도 적었다.

선호가 고르지 않은 대표적인 꼴이 있다. 유권자와 후보가 좌우 한 줄 위에 자리를 잡고, 사람마다 자기 자리에서 가까운 후보일수록 좋아하는 경우다. 이 글은 이것을 「한 줄 위 선호」라고 부른다. 이런 선호라면 다 이기는 후보가 있다는 고전 결과가 있다(Black, 1948 — Barbaro와 Kurella의 소개를 따랐다).

유권자를 홀수로 둔 이 글의 시뮬레이션에서도 네 조건(후보 3명·10명 × 유권자 101명·1001명) 모두 다 이기는 후보가 있었다. 그 후보는 매번 줄 한가운데 선 유권자의 1순위였다. 같은 조건의 무작위 선호에서는 차례로 8.7%·8.7%·48.3%·48.9%였다. 이것은 그 고전 결과가 보장하는 것을 확인했을 뿐, 새로 찾은 것이 아니다. 실제 유권자가 한 줄 위 선호를 가졌다는 증거도 아니다.

두 선호를 섞어 볼 수도 있다. 유권자 101명 가운데 일부는 무작위 선호로, 나머지는 한 줄 위 선호로 두고 무작위 쪽 비율만 바꿔 가며 셌다(그림 3). 이 비율은 이 글이 고른 설정이지, 실제 선거에서 잰 값이 아니다. 다 이기는 후보가 없을 확률은 그 비율이 0%면 0.0%, 10%면 0.3%, 25%면 0.9%, 50%면 2.7%, 75%면 7.0%, 100%면 8.7%였다. 절반을 섞어도 모두 무작위일 때의 3분의 1에 조금 못 미친다.

크림색 카드. 아주 굵은 두 줄 제목 「무작위로 고르는 사람이 늘수록 / 다 이기는 후보가 없는 일이 잦아진다」에서 「무작위로 고르는 사람」만 자홍색이고, 회색 부제는 「나머지 사람은 좌우 한 줄 위 자리에서 가까운 후보일수록 좋아한다」다. 흰 차트 판의 세로축은 「다 이기는 후보가 없을 확률」 0~10%, 가로축은 「무작위로 순위를 고르는 사람의 비율」 0·25·50·75·100%다. 굵은 자홍색 선 하나가 점 여섯을 지나고, 0% 점만 속 빈 고리다. 점 이름표는 「0.3%」·「0.9%」·「7.0%」이고, 왼쪽 끝에 회색 알약 「모두 한 줄 위 선호 0%」, 50% 점에 옅은 자홍 알약 「절반을 섞어도 2.7%」, 오른쪽 끝에 회색 알약 「모두 무작위 8.7%」가 붙어 있다. 카드 아래 회색 글은 「이 글의 장난감 손잡이 — 실제 선거에서 잰 비율이 아니다 · 후보 3명 · 유권자 101명」이다.
그림 3. 유권자 101명·후보 3명. 일부는 무작위 선호로, 나머지는 좌우 한 줄 위에서 가까운 후보일수록 좋아하는 선호로 두고, 무작위 쪽 비율을 바꿔 가며 점마다 10만 번 셌다. 이 글이 정한 모형이고, 실제 선거에서 잰 비율이 아니다.

숫자가 나온 곳은 이렇다. 콩도르세의 60명 예는 원저의 쪽 이미지로 숫자를 확인했다. 무작위 선호의 후보 3명 값은 유권자 101명까지 정확히 계산했다. 나머지 칸은 무작위로 10만~100만 번 뽑아 셌고, 유권자가 끝없이 많은 줄은 후보 3명이면 식으로, 4명 이상이면 그 경우를 흉내 낸 뽑기로 구했다. 실제 선거의 값은 앞의 문헌에서 옮겼고, 계산에 외부 서비스는 쓰지 않았다.

Barbaro와 Kurella는 순환이 드문 까닭을 선호의 모양으로 설명한다. 다 이기는 후보가 있는 데 중요한 것은, 선호가 고르게 흩어지지 않고 어느 정도 서로 닮았다는 점이라고 적었다. 저자들의 설명대로라면, 유권자들이 순위를 아무렇게나 적어 내지 않아서 큰 선거의 다수결이 좀처럼 돌지 않았다.

다수결의 문제점, 언제 의심할까

동아리에서 회식 장소 세 곳을 손을 들어 정할 때, 먼저 볼 것은 안건을 붙이는 순서다. 둘을 먼저 붙여 이긴 쪽을 남은 하나와 다시 붙이는 식이면, 무엇을 먼저 붙이느냐에 따라 최종 승자가 바뀔 수 있다. 60명 예에서 A와 B를 먼저 붙이면 A가 33 대 27로 이기지만, 다음 판에서 C에 25 대 35로 져 C가 남는다. B와 C를 먼저 붙이면 A가, A와 C를 먼저 붙이면 B가 남아, 세 순서가 세 승자를 낸다. 결과가 돌면 순서를 정하는 쪽이 사실상 결과를 고를 수 있다(이 예의 셈이지, 실제 회의에서 얼마나 자주 그런지를 잰 것은 아니다).

다음은 1등 표만 세지 않는 것이다. 후보가 셋이면 일대일은 세 판뿐이라, 각자 순위를 적어 내게 하면 다 이기는 후보가 있는지, 셋이 도는지가 바로 보인다. 60명 예에서 1등 표가 가장 많던 A가 일대일로는 C에 진 것도 이렇게 해야 드러난다.

마지막은 선택지가 한 줄로 서는지다. 예산 크기나 맵기처럼 한쪽 끝에서 다른 끝으로 놓이는 선택이고 모두가 자기 자리에서 가까운 쪽일수록 좋아한다면, 사람 수가 홀수일 때 다 이기는 후보가 있다는 보장이 있다. 메뉴 종류처럼 그런 줄을 세우기 어려운 선택에는 그 보장이 없다.

세 기준을 거치고 나면 확인할 것이 하나 남는다. 셋 가운데 다른 둘을 일대일로 다 이기는 후보가 있느냐다. 그런 후보가 있으면 어떤 순서로 붙여도 그 후보가 남고, 셋이 돌 때만 붙이는 순서가 결과를 바꾼다. 선택지가 한 줄로 서고 사람들의 선호가 그 줄을 따르면, 다수결은 좀처럼 가위바위보처럼 돌지 않는다.

더 읽기