롤스의 무지의 베일, 내가 어느 자리에 설지 모른 채 고르게 하면 답이 바뀝니다

안녕하세요, 태오입니다. 오늘은 규칙이 공정한지 따질 때 쓰는 생각 장치 하나를 들여다보겠습니다. 무지의 베일이라고 부릅니다. 규칙을 정하는 사람에게 그 규칙 안에서 자기가 어느 자리에 서게 될지를 감춰 놓고 고르게 하는 방법입니다. 회사 규정이든 세금이든 입시든, 여러분이 지금 어떤 규칙을 두고 누군가와 다투고 있다면 오늘 이야기가 그 다툼의 모양을 바꿀 수 있습니다.

자기 자리를 모르게 하고 고르게 합니다

미국의 철학자 존 롤스가 1971년에 낸 『정의론』에 나오는 장치입니다.

방법은 이렇습니다. 사회의 규칙을 처음부터 다시 정한다고 해 봅시다. 규칙을 정하는 자리에 앉은 사람들에게서 한 가지를 지웁니다. 자기가 부자로 태어날지 가난하게 태어날지, 건강할지 아플지, 재능이 있을지 없을지를 아무도 모르게 합니다. 성별도 모르고 어느 시대에 살지도 모릅니다. 아는 것은 사회가 어떻게 굴러가는지에 대한 일반적인 사실뿐입니다.

이 상태를 원초적 입장이라고 부릅니다. 그 위에 씌운 가림막이 무지의 베일입니다.

왜 이렇게까지 하느냐면, 자기 자리를 아는 사람은 자기에게 유리한 규칙을 고르기 때문입니다. 건물주는 임대료 규제를 반대하고 세입자는 찬성합니다. 둘 다 정의를 말하지만 사실은 각자의 자리를 말합니다. 자리를 지워 버리면 그 계산이 불가능해집니다. 남는 것은 어느 자리에 떨어져도 견딜 만한 규칙을 고르는 일뿐입니다.

같은 장치에서 정반대 답이 나왔습니다

여기서 흔히 오해하는 대목이 하나 있습니다. 무지의 베일이 롤스의 발명품이고, 그것을 쓰면 롤스의 결론이 나온다는 생각입니다. 둘 다 사실과 다릅니다.

경제학자 존 하사니는 1955년에 이미 같은 구조의 생각을 내놓았습니다. 이름을 그렇게 붙이지 않았을 뿐입니다. 그리고 롤스의 책이 나온 뒤인 1975년, 하사니는 같은 장치를 쓰면서 롤스와 정반대 결론에 도착합니다.

갈린 지점은 가림막 아래에서 무엇을 계산하느냐입니다.

롤스는 최악을 봅니다. 어느 자리에 떨어질지 모르니 가장 나쁜 자리가 얼마나 나쁜지를 먼저 보고, 그 가장 나쁜 자리가 가장 덜 나쁜 사회를 고르라고 말합니다. 이것을 최소극대화라고 부릅니다.

하사니는 평균을 봅니다. 어느 자리에 떨어질지 모른다면 모든 자리에 똑같은 확률로 떨어진다는 뜻이고, 그렇다면 평균이 가장 높은 사회를 고르는 것이 합리적이라고 말합니다. 최악만 보는 것은 지나친 겁쟁이의 셈법이며 그렇게 하면 터무니없는 결정에 이른다는 것이 하사니의 비판이었습니다.

같은 가림막 아래에서 한 사람은 바닥을 보고 한 사람은 평균을 봤습니다. 장치가 답을 정해 주지 않는다는 것이 여기서 드러납니다.

사람을 실제로 그 자리에 앉혀 봤습니다

철학자들이 서로 다른 답을 내놓았다면, 실제 사람은 어느 쪽을 고를까요. 1987년에 프롤리히와 오펜하이머 연구진이 그것을 실험으로 옮겼습니다.

대학생들을 모아 놓고 자기가 어느 소득 계층에 떨어질지 모르는 상태를 만든 다음, 네 가지 원칙 중 하나를 고르게 했습니다.

원칙	내용
하나	가장 못사는 사람의 소득을 최대한 끌어올린다
둘	사회 전체의 평균 소득을 최대한 끌어올린다
셋	최저선을 정해 두고, 그 위에서 평균을 최대한 끌어올린다
넷	격차의 상한을 정해 두고, 그 안에서 평균을 최대한 끌어올린다

첫 번째가 롤스의 답이고 두 번째가 하사니의 답입니다. 참가자들이 고른 것은 세 번째였습니다. 바닥선을 하나 깔아 두고 그 위에서는 파이를 키우자는 쪽입니다.

읽기에 따라서는 둘 다 진 셈입니다. 사람들은 최악만 보지도 않았고 평균만 보지도 않았습니다. 떨어지면 안 되는 선을 먼저 정하고, 그 선만 지켜지면 나머지는 효율에 맡겼습니다.

실험 설계를 더 보기

참가자들은 다섯 개의 소득 계층에 각각 정해진 확률로 배정되는 구조를 보고 원칙을 골랐습니다. 자기 자리를 완전히 지운 것이 아니라 확률로 흐려 놓은 형태라, 롤스가 말한 원초적 입장과 똑같지는 않습니다. 이 차이를 두고 실험이 롤스를 제대로 시험한 것이 맞느냐는 논쟁이 이어졌습니다. 롤스의 원초적 입장에서는 확률조차 알 수 없어야 하고, 확률을 알면 기대값 계산이 가능해져 하사니 쪽에 유리해진다는 지적입니다.

자율주행차와 AI에도 씌워 봤습니다

최근에는 이 장치가 철학책 밖으로 나왔습니다.

2019년 11월, 하버드의 카렌 황과 조슈아 그린, 맥스 베이저먼이 실험 일곱 개를 묶어 논문을 냈습니다. 참가자는 모두 6,261명이었고 그중 네 개는 설계를 미리 공개하고 진행했습니다.

가장 알기 쉬운 것이 자율주행차 실험입니다. 사고를 피할 수 없는 상황에서 차가 탑승자 한 명을 지킬 것인지 보행자 아홉 명을 지킬 것인지 묻는 문제인데요, 여기에 가림막을 씌웠습니다. 당신이 그 탑승자일 확률은 열에 하나이고 아홉 명 중 하나일 확률은 열에 아홉이라고 알려 준 다음 규칙을 고르게 한 것입니다.

이 질문을 받은 사람들은 피해를 최소화하는 쪽, 그러니까 아홉을 살리는 규칙을 더 지지했습니다. 자기가 탑승자인지 보행자인지 정해 놓고 물었을 때와 답이 갈렸습니다.

2023년에는 구글 딥마인드의 로라 바이딩거와 케빈 매키 연구진이 같은 장치를 AI에 씌웠습니다. AI 비서가 여러 사람을 동시에 도울 때 무엇을 우선하게 할지를 참가자들이 정하는 실험이었습니다.

	2019년 연구	2023년 연구
실험 수	7개	5개
참가자	6,261명	2,508명
무대	자율주행차, 의료 자원 배분	AI 비서의 작동 원칙

가림막을 쓴 사람들은 가장 형편이 나쁜 사람을 먼저 돕도록 하는 원칙을 일관되게 더 골랐습니다. 눈여겨볼 것은 그 이유입니다. 연구진이 확인해 보니 정치 성향이나 위험을 대하는 태도가 답을 가른 것이 아니었습니다. 가림막을 쓴 사람들은 시키지도 않았는데 자기 선택을 공정이라는 말로 설명하는 경우가 더 많았습니다. 그리고 시간이 지난 뒤 다시 물었을 때도 자기 선택을 그대로 지지했습니다.

즉 가림막은 사람을 잠깐 착하게 만드는 속임수가 아니었습니다. 생각의 초점을 자기 이익에서 공정으로 옮겨 놓았고, 그 상태가 남았습니다.

그래도 남는 반론이 있습니다

1974년, 로버트 노직은 『아나키에서 유토피아로』에서 롤스를 정면으로 반박했습니다.

노직의 지적은 이렇습니다. 어떤 분배의 모양을 미리 정해 놓고 사회를 거기에 맞추려 하면, 그 모양을 유지하기 위해 사람들이 자유롭게 주고받은 결과를 계속 되돌려야 합니다. 사람들이 각자 좋아서 한 거래의 결과가 원하는 모양이 아니라는 이유로 손을 대는 일이 반복된다는 것입니다. 정의는 결과가 어떤 모양인지가 아니라 그 과정에 부당한 것이 없었는지로 따져야 한다는 주장입니다.

두 번째 반론은 실험 쪽을 향합니다. 설문에서 몇 분 동안 자기 자리를 지운 것과, 진짜로 인생 전체를 모르는 채 규칙을 고르는 것은 같지 않습니다. 실험실에서는 손해를 봐도 실험이 끝나면 원래 자리로 돌아갑니다. 실제 정치에서 이 장치를 그대로 쓸 수 있다고 말하기에는 아직 건너야 할 다리가 많습니다.

개인적인 의견

저는 이 장치의 값어치가 답에 있다고 보지 않습니다. 답이라면 앞에서 본 것처럼 세 갈래로 갈렸습니다. 값어치는 질문을 바꾸는 데 있습니다.

규칙을 두고 다툴 때 사람들은 대개 어느 쪽이 옳은지를 다툽니다. 그런데 실제로 다투고 있는 것은 대체로 각자의 자리입니다. 자리를 지운 채 물으면 그 다툼이 한 번 멈춥니다. 앞의 연구들이 보여 준 것도 정확히 그 지점입니다. 답이 정해진 것이 아니라 답을 고르는 이유가 바뀌었습니다.

그래서 쓰는 법은 어렵지 않습니다. 규칙을 하나 만들거나 고칠 때, 그 규칙 안에서 가장 손해를 보는 자리가 어디인지 먼저 찾아보시기 바랍니다. 그리고 자신이 그 자리에 서게 된다고 가정하고 같은 규칙을 다시 읽어 보십시오. 그 규칙을 그대로 두시겠습니까.

바꾸지 않겠다는 답이 나온다면 그 규칙은 꽤 단단한 것입니다. 답이 망설여진다면, 그 망설임이 가리키는 자리가 그 규칙에서 손볼 곳입니다.

여러분은 어떻게 보시나요.

---

참고 자료: John Rawls, 『A Theory of Justice』(1971). Robert Nozick, 『Anarchy, State, and Utopia』(1974). John C. Harsanyi, 「Can the Maximin Principle Serve as a Basis for Morality? A Critique of John Rawls's Theory」, American Political Science Review 69권(1975), 594~606쪽. Norman Frohlich, Joe A. Oppenheimer, Cheryl L. Eavey 의 1987년 분배 정의 실험. Karen Huang, Joshua D. Greene, Max Bazerman, 「Veil-of-ignorance reasoning favors the greater good」, PNAS(2019년 11월 26일). Laura Weidinger, Kevin R. McKee 외, 「Using the Veil of Ignorance to align AI systems with principles of justice」, PNAS(2023).