← 전체 자료 목록
2017 · 독서노트

2017년 5월 수학적 사고의 힘: How Not to Be Wrong(Jordan Ellenberg, 2014)

작성 시기 2017년 5월 · 최초 출간 2014

표기 기준·확인 내역

기존 독서노트에 기재된 출간 정보와 원서 식별 정보를 기준으로 정리했습니다. 외부 서지의 전수 검증을 완료한 항목이라는 뜻은 아닙니다.

표기는 작성 연도·월 → 책 제목 → (저자, 원서 최초 출간 연도) 순서입니다. 저자의 생몰년은 출판 연도에 넣지 않습니다. 이 자료의 변경 전·후 보기

Word 원본 다운로드

원문 본문을 HTML로 옮겼습니다. 세부 서식은 Word 원본에서 확인할 수 있습니다.

수학의 힘 How not to be wrong? (2014 조던 엘런버그) 2017년 5월

*Jordan Ellenberg : 1971년 메릴랜드 포토맥 출생. 수학신동으로 12세에 SAT 수학 만점기록. 국제 수학올림피아드에 출전하여 금메달2개와 은메달 1개 수상. 수론, 대수 기하학, 대수 위상학을 연구하고 있으며, 메뚜기 왕이란 소설도 출간했다.

우리는 수학에서 가장 좋은 것을 숙제처럼 배우기만 할 게 아니라, 일상적 사고의 일부로 동화 시키고 거듭거듭 마음속에 떠올려서 언제까지나 새롭게 북돋워야 한다.

- 버트런드 러셀, 1902년 수학의 연구 중 –

프롤로그

제가 이걸 어디에 써먹죠? 여기에 대한 답으로 내가 즐겨 쓰는 표현이 있다. “혹시 운동 좋아하니? 수학에서 적분은 축구에서의 웨이트 트레이닝이나 체조와 같아. 네가 축구를 잘하고 싶다면 지루하고 반복적이고 무의미해 보이는 훈련을 엄청나게 많이 해야 해. 실제로 선수들이 그걸 써먹냐고? 네가 축구로 먹고 살고 싶다면 다른 방법은 없어. 수학도 비슷해. 넌 수학 전문가가 되고자 하지는 않겠지 아마도? 대부분의 사람이 그래. 하지만 그래도 넌 수학을 할 수 있고, 아마 지금도 수학을 하고 있을 거야. 수학은 우리가 이성적으로 사고 하는 방식에 깊숙이 얽혀 있어. 그리고 수학은 네가 어떤 일을 더 잘 할 수 있도록 도와줄 거야. 그것은 혼란스러운 세상 겉모습 아래에 숨은 구조를 들여다 보는 엑스선 안경과도 같지. 수학은 네가 직면한 현실의 문제를 푸는데 있어서 틀리지 않도록 도와주는 과학이고, 그 것은 수백 년에 걸친 고된 노력과 논쟁을 통해 만들어졌어. 네가 이 도구들을 이해하고 잘 만 사용한다면 세상을 더 깊고, 올바르면서, 의미 있게 만들 수 있을 거야. 내가 너의 코치가 되어서 어떻게 하는지 알려 줄게.”

2차세계대전 유럽 상공에서 교전을 마치고 돌아온 미군기들에는 온통 총알구멍이 나 있었다. 그러나 피해는 기체 전체에 고르게 분포되지 않았다. 총알구멍은 동체에 더 많았고 엔진에는 그다지 많지 않았다. 통계학자 발드는 말했다. 갑옷을 총알구멍이 난 곳에 두르면 안 됩니다. 총알구멍이 없는 곳, 즉 엔진에 둘러야 합니다. 그의 통찰은 간단한 질문에서 나왔다. ‘사라진 총알구멍들은 어디에 있을까?’ 사라진 총알구멍들은 사라진 비행기들에 있었다. 엔진에 덜 맞은 비행기들이 많이 돌아온 것은 엔진에 많이 맞은 비행기들이 돌아오지 못했기 때문이다. 병원회복실에는 가슴에 총알구멍이 난 사람보다 다리에 구멍이 난 사람이 더 많다. 이것은 가슴에 총을 안 맞았기 때문이 아니라 가슴에 맞은 사람들은 회복하지 못하기 때문이다. 발드의 권고는 당장 적용되었고, 미 해군과 공군은 이후 한국전쟁과 베트남 전쟁에서도 계속 그 조언을 따랐다.

어떤 나라가 전쟁에서 이기는 것은 상대 나라보다 좀 더 용감해서가 아니다. 보통은 비행기가 5% 덜 격추되는 쪽, 연료를 5% 덜 쓰는 쪽, 95%의 비용으로 5% 더 많은 효율을 내는 쪽이 이긴다. 그리고 이것은 한 단계, 한 단계가 다름 아닌 수학이다. 수학자는 어떤 가정이 있다면, ‘그 가정은 정당한가?’ 끊임없이 묻는다. 이것은 성가신 일임에 틀림없지만 꽤 생산적인 일이 될 수 있다. 앞서의 발드는 어떤 일의 속을 파고들어, 세부사항을 하나로 묶어내어 문제의 핵심을 꿰뚫는 통찰을 내놓았다. 어떤 의미에서 수학은 상식의 문제다. 기본적으로는 더없이 명백한 사실을 다룬다.

수학은 사실 단순할 수도 복잡할 수도 있으며, 얕거나 심오할 수도 있다. 나는 수학은 해나갈 수록 담벼락 밖 세상에서 수학이 얼마나 많이 쓰이는지를 점점 더 깨닫게 되었다. 실제로 수학을 하지 않고서 수학을 이해하기란 상당히 어렵다.

1부 선형성

비선형적 사고방식에서 우리가 어느 쪽을 가야 하는가는 우리가 현재 어디에 있느냐에 따라 달라진다. 이런 통찰은 새로운 것이 아니다. 로마시대 호라티우스는 이렇게 말했다. “만물에는 적절한 정도라는 것이 있다. 그에 못 미치는 것도 넘어서는 것도 바람직하지 않다.” 우리가 어느 쪽으로 가야 하는가는 우리가 현재 어디에 있느냐에 달려 있다. 비선형의 대표적인 래퍼곡선은 어떤 상황에서는 세율을 낮춤으로써 세입을 늘릴 수 있다고 말할 뿐이다. 구체적으로 어떤 상황이 그런 상황인지를 알아내려면 깊고 까다롭고 경험적인 연구가 필요하며, 그런 연구는 냅킨 한 장에 다 들어가지 않는다. 래퍼 곡선에는 잘못된 점이 전혀 없다. 사람들이 그것을 잘못 사용하는 것뿐이다.

왜 사람들은 모든 곡선이 직선이라고 생각할까? 그렇지 않은 게 뻔한데 말이다. 한 가지 이유는, 어떤 의미에서는 정말로 모든 곡선이 직선이기 때문이다. 미적분의 기본개념은 완벽한 원이 전혀 특별할 것 없다는 생각이다. 충분히 확대해 본다면, 모든 매끄러운 직선으로 보인다. 우리가 시야를 한없이 좁혀서 무한소에 다다랐다고 하자. 무한소란 우리가 명명할 수 있는 어떤 크기보다 작지만 0이 아닌 크기를 말한다. 그 경우, 직선에 거의 가까웠던 것은 이제 정확히 직선이 된다. 뉴턴은 그 직선의 기울기를 유율(플럭시온)이라고 불렀고, 오늘날 우리는 이를 도함수라고 부른다.

그렇다면 0.99999...는 1과 같을까? 그리고 1-1+1-1+1-1+...은 얼마일까? 0일까 1일까? 이 급수를 우리는 그란디 급수라고 부르고, 그린디는 1703년 논문에서 이 무한급수의 값이 1/2이라고 주장했다. 그러나 사실 0.99999…는 이보다 더 심오한 뜻을 담고 있다. 이 값은 도대체 1일까 아니면 1보다 무한히 작은 양만큼 더 작은 어떤 희한한 수일까? 그렇다면 0.99999…은 뭘까? 이것은 다음의 합을 말하는 것 같다.

0.99999… = 0.9+0.09+0.009+0.0009+0.00009+…

대체 이건 무슨 뜻일까? 이런 무한히 많은 반복은 무엇 뜻일까? 현실에는 무한히 많은 무더기가 있을 수 없다. 무한급수의 값은 얼마일까? 사실 그것에는 값이 없다. 우리가 값을 주기 전에는. 이전 수학자들은 <1-1+1-1+1-1+…를 어떻게 정의할까?>라고 묻지 않고, <1-1+1-1+1-1+…는 무엇인가?>라고 물었다. 그런 사고방식 때문에 그들은 실제로는 표현의 문제에 지나지 않을 때가 많은 불필요한 혼란들과 논쟁들에 빠져들었다.

인생과 마찬가지로 수학에는 좋은 선택도 있고 나쁜 선택도 있다. 수학의 맥락에서 좋은 선택이란 새로운 혼란을 빚어내지 않으면서 기존의 불필요한 혼란을 해결하는 선택이다. 코시는 우리가 저 무한급수의 값을 그냥 1로 정의하는 수밖에 없다고 말했다. 그러고서 그는 그의 정의를 받아들이더라도 다른 지점에서 끔찍한 모순이 야기되는 일은 없다는 것을 증명하려 했다. 0.99999…문제가 까다로운 이유는 이 문제가 우리의 직관과 충돌하기 때문이다. 우리는 모든 수가 저마다 독특한 숫자들의 나열로 구성된 소수로 표현되기를 바라는데, 이 바람은 하나의 수를 1로도 부를 수 있고 0.99999...로도 부를 수 있다는 주장과 상충한다. 우리는 두 가지 희망을 동시에 쥐고 있을 수는 없다. 둘 중 하나는 버려야 한다. 그란디의 급수는 코시의 이론이 적용되는 범위를 벗어난 발산급수이다. 현대 수학자들은 우리가 그린디 급수에 굳이 값을 부여해야 한다면 그 값은 1/2이어야 한다고 말할 것이다.

모든 곡선은 직선은 아니다. 그 중에서도 미사일이 그리는 곡선은 절대로 직선이 아니다. 포물선이다. 수학을 옳은 답을 얻는 것으로만 규정하고 그 이상은 아니라고 본다면, 시험은 잘 보지만 수학은 전혀 모르는 학생들을 길러 낼 위험이 있다. 물론, 수학적 의미만 발달시키고 예제를 풀 줄 모르는 학생들을 길러 내는 것도 나쁘지만 말이다. 수학적 개념들은 비록 추상적으로 들릴지언정 구체적 연산의 맥락에서만 그 의미를 지닌다. 왜냐하면 관념이 아니라 사물 자체가 중요하니까. 나는 수학을 가르칠 때 정확한 답을 강조하면서도 지적인 근사적 추론도 강조해야 한다고 생각한다. 기존 알고리즘을 유창하게 활용하는 능력과 함께 그때그때 요령껏 대처하는 상식도 필요하기 때문이다. 이것은 만만찮은 일이다.

최근 몇십 년 동안 과체중 인구가 늘었다는 것은 의심할 수 없는 사실이다. 1970년대 초반의 체질량 지수가 그렇게 높은 인구는 전체의 절반에 못 미쳤지만, 1990년대 초에 이르러 그 비율이 거의 60%까지 높아졌고 2008년에는 미국 인구의 75%가까이가 과체중이 되었다. 하지만 현재의 추세는 지속되지 않을 것이다. 실제로 비만율 증가 그래프는 100%를 향해 다가가면서 서서히 완만히 질 것이고, 아마도 그 곡선은 100%에 못 미치는 어느 수준에서 수평을 그릴 것이다. 빼빼한 사람들은 늘 우리 곁에 존재할 것이므로. 우리가 오류에 빠지기 쉬운 선형회귀는 쉽다. 일단 한번 했으면 한번 더 하는 것은 식은 죽 먹기다.

작은 나라에서 많은 사람이 불행한 일을 당하면, 논설가들은 재깍 계산기를 꺼내 계산하기 시작한다. 미국으로 따지면 몇 명이 죽은 셈일까? 이런 생각은 그야말로 단순하기 그지없는 선형성 사고이다. 이런 추론은 결국에 가서는 무너지기 마련이다. 만일 술집이 문 닫을 시각까지 남아 있던 두 남자 중 한 명이 다른 한 명을 두들겨 팼다고 해도, 그것이 곧 미국인 1억 5000만 명이 얼굴에 주먹을 맞은 것과 같다고 말할 수는 없다. 대신 우리는 비율을 검토하는 것이 더 현명한 방법이다. 전체 인구 중 몇 퍼센트가 해당되는 가를 따져보는 것이다. 주마다 뇌종양 사망자 수를 세는 대신 각 주에서 뇌종양으로 사망하는 사람의 비율이 얼마나 되는지를 계산해야 한다.

J. E. 케리치라는 남아프리카 수학자는 1939년 유럽 방문에서 포로수용소에 갇히는 신세가 되었다. 케리치는 남는 시간에 동전을 10,000번 던져서 앞면이 나오는 횟수를 기록했다. 그 결과는 대충 이랬다. 어떤 실험을 무한히 반복하면 그 결과가 고정된 평균값으로 회귀하는 경향이 있다는 것은 최근에 알려진 사실이 아니고 확률에 관한 역사만큼이나 오래된 통찰이다.

원문에 포함된 이미지

큰 수의 법칙 때문에 큰 팀 선수들의 점수는 늘 50%에 가까워지지만, 작은 팀 선수들의 점수는 훨씬 더 폭넓게 변한다. 정치에 관한 여론 조사에서 응답한 유권자의 수가 적을수록 조사 결과의 신뢰성이 떨어지는 것도 자명하고, 뇌종양에 걸린 사람의 숫자에서도 마찬가지이다. 이런 작은 표본에서 나온 결과의 왜곡을 방지하기 위해서 NBA는 출전 시간이 일정 기준을 넘는 선수들만 비교할 수 있는 랭킹에 올린다. 그렇지 않으면 표본 크기가 작은 무명의 후보 선수들이 상위 목록을 장악하기 때문이다.

현대 확률이론의 기초는 아브라함 드 무아브르가 1756년 확률의 원칙을 통해 이루어졌다. 만일 우리가 여론 조사에서 오차 한계를 기존의 절반으로 낮추고 싶다면, 기본보다 네 배 더 많은 사람을 조사하면 된다. 드 무아브르는 50대 50으로부터 벗어나는 차이값들이 결국에는 늘 완벽한 종형 곡선(흔히 말하는 정규분포)를 따르는 경향이 있다는 것을 발견했다. 내가 동전을 던지기 시작해서 연속으로 열 번이나 앞면이 나왔다고 하자. 그러면 그 다음 번에 던질 때는 어떻게 될까? 큰수의 법칙에 따라, 내가 동전을 많이 던지면 던질수록 앞면이 나온 비율은 50%에 근접하게 된다. 이런 사실을 알고 있다면, 우리는 연속 10번 앞면이 나온 다음에는 뒷면이 나올 가능성이 더 높을 거라고 생각하게 된다. 그러나 상식이 그보다 더 단호하게 말해주는 점은, 동전은 내가 앞서 던졌던 10번을 기억하지 못한다는 사실이다. 동전에는 기억이 없다. 따라서 다음 동전을 던졌을 대 앞면이 나올 가능성은 여느 때와 마찬가지로 50대 50이다. 큰 수의 법칙은 이미 벌어진 일에 대해서 균형을 맞추는 것이 아니라, 비율로 다져서 과거의 횟수가 무시해도 좋을 만큼 작아질 때가지 새로운 데이터를 더함으로써 이미 벌어진 일을 희석할 뿐이다.

절대 숫자로도 안 되고 비율로도 안 된다면, 잔혹한 사건들의 등수는 어떻게 매겨야 할까? 대부분의 수학자들은 역사의 재난과 잔혹한 사건들은 어떤 경우에는 비교 가능하지만, 어떤 경우에는 유의미한 비교가 불가하다고 말한다. 이것은 한 전쟁이 다른 전쟁보다 더 심했는가 아닌가 하는 질문은 한 수가 다른 수보다 더 큰가 아닌가 하는 질문과는 근본적으로 다르기 때문이다.

1990년에서 2008년까지 미국 경제의 순 일자리 창출은 2740만 개였다. 그런데 이중 2670만 개는 정부, 의료, 소매, 식품업 등을 포함하는 경제부분에서 나왔는데, 이는 아웃소싱될 수 없고 해외로 수출하는 제품을 생산하지 않는 순수 국내부분 일자리이다. 여기서 우리가 되새겨야 할 표어는 수가 음수가 될 수 있는 상황에서는 퍼센트는 의미가 없다는 사실이다. 인구는 대재난이 없다면 성장하기 마련이고 일자리의 절대 숫자는 그에 따라 늘어나게 된다. 2012년 밋 롬니의 대통령 선거본부는 여론 조사 결과 여성 유권자의 지지가 약하다는 사실을 확인하고는 “오바마 행정부는 미국 여성들에게 시련을 안겨 왔다. 오바마 재임 기간 중 여성들은 역사상 어느 때보다도 일자리를 찾기 어려웠고, 그의 재임 중 사라진 일자리의 92%가 여성 일자리였다.”는 논평을 냈다. 우리는 이 논평을 통해 그 3년 동안 총 몇 개의 생기고 사라졌는지 모르고 그 차이가 74만개였다는 것만 알 뿐이다. 순 일자리 감소는 때로는 양수로 때로는 음수도 될 수 있으므로 그것을 퍼센트로 말하면 위험해진다. 그렇다면 실제는 어떠했을까? 일자리가 급속히 줄 때는 남자들이 그 타격을 정면으로 받아, 여자들보다 거의 두 배 가까이 일자리를 잃었다. 그러다 회복기가 되면 남자들이 새 일자리의 75%를 차지했다. 어떤 면에서 이런 논평은 단순 계산 실수보다 더 나쁘다. 현실의 문제는 불황과 그 여파가 노동 인구 중 여성에게만 더 심하게 영향을 주었는가 하는 것이고, 그것의 어느 정도가 오바마 행정부의 책임인가 하는 점이다.

2부 추론

주식을 열 개 연속 제대로 고르거나, 경주마 여섯 마리를 찍어서 매번 승자를 정확히 맞히거나 하는 것은 실제로 확률이 낮은 사건이다. 다만 거기에 반응해서 깜짝 놀라는 것은 당신의 실수다. 이점을 깨달은 것은 아리스토텔레스였다. 그는 비록 확률 개념은 몰랐지만 <일어나기 힘든 일은 일어날 가능성이 있다. 그렇다면 일어나기 힘든 일은 반드시 일어난다고 말할 수 있다>는 것을 이해했다. 백만분의 일의 확률인 사건은 그 빈도보다 조금도 덜하지 않고 더하지 않는 빈도로 반드시 벌어진다.

확률이 낮은 사건이 실제로 늘 벌어진다는 사실을 감안하는 통계적 안전장치를 사용하여 수정하지 않으면 동료들의 연구에 해를 가할 수도 있다. 0, 1, 2, 3. . .은 자연수다. 이 개념에서 갑자기 훨씬 더 넓은 개념으로 도약하는 것은 극단적인 전환이 된다. 대수는 왜 그렇게 어려울까? 대수 이전에는 우리가 곧은 방향으로 진행되는 알고리즘으로만 연산을 했다. 대수는 다르다. 대수는 거꾸로 하는 연산이다. 삼차방정식의 근의 공식을 아는 사람이 드물었던 시절에는 그것을 아는 사람은 암호처럼 비밀스럽게 암송해서 근을 풀었다. 추론이란 어려운 일이다. 바이블 코드 해독자들이 씨름한 과제도 추론이었는데, 그 과제가 어려웠던 이유도 삼차원방정식과 비슷했기 때문이다. 주어진 관찰로부터 이론을 구해야 하는 우리는 상자에 무엇을 넣으면 어떻게 될지를 알아보는 추론과정은 안개 속에서 길을 찾는 것과 같다.

우선 발생확률이 낮은 사건이 정확히 무엇을 뜻하는지 따져보자. 기하학이나 산술처럼 우리가 쉽게 익히는 분야가 있는데, 이것들은 인간의 타고난 직관과 가까운 분야들이다. 확률은 다르다. 우리는 불확실성을 생각하는 데는 익숙할지 모르지만, 그것을 말로 표현하기는 어렵다. 내일 비가 올 확률이 20%라는 말은 무슨 뜻일까? 묻기는 쉽지만 대답하기는 어렵다. 여기서 말하는 가능성이 낮은 사건이란 상대적 개념이지 절대적 개념이 아니다. (일어나기 어렵다는 말이지, 일어나지 않으리라는 보장이 아니다.)

귀무가설이란 당신이 연구하는 개입조차 아무런 영향을 미치지 않는다는 가설이다. 데이터가 당신의 이론에 부합하는 것만으로 부족하다. 귀무가설에 부합하지 않아야 한다. 귀무가설의 기각과정을 살펴보자.

1)실험을 한다.

2)귀무가설이 참이라 가정하고 그 경우 극단적인 확률을 P라고 하자.

3)P값이 아주 작으면, 당신의 결과가 통계적으로 유의미하다고 말해도 좋다.

그렇다면 얼마나 작아야 아주 작은 값일까? 널리 사용되는 방식은 p=0.05 (1/20, 5%수준)을 기준으로 삼는 전통적인 방법이 있다. R. A. 피셔의 업적은 실험 결과의 유의성 여부를 객관적 사실로 취급할 수 있는 체계를 구축한 점이다. 과학자들은 이 기법을 기준으로 실험의 성공과 실패를 나눈다. 과연 이 유의성에 문제는 없을까? 수학 논문은 숫자와 기호로만 쓰이지 않는다. 수학은 단어도 사용한다. 영어 단어 significance는 중요한, 유의미한 것을 뜻한다. 그러나 과학자들이 사용하는 유의성 검정은 중요성을 측정하려는 것이 아니다.

일세대와 이세대 경구피임약을 복용하는 가임여성들 중 혈전증 위험이 있는 사람은 7000명 가운데 1명이다. 그런데 7000명 가운데 2명이 위험하다는 것은 그래 봤자 아주 미미한 위험이다. 아주 작은 수는 두 배로 불려도 아주 작은 수라는 아주 명백한 수학적 사실 때문이다. 무언가를 두 배로 불리는 것이 얼마나 영향을 줄지는 그 무엇이 얼마나 큰가에 좌우된다. 우리 뇌는 미미한 확률보다는 비율로 표현한 위험을 훨씬 심각하게 받아들인다. 그것이 오해를 부러 일으키곤 한다

우리가 하는 모든 일들이 암을 발생시키거나 예방을 돕는다. 이론적으로야 충분히 조사를 수행할 수 있겠지만, 그런 효과는 미미하기에 무시해도 좋을 때가 많다. 우리가 무언가를 감지했다고 해서 그것이 늘 중요한 것은 아니다. P값이 0.05미만이라는 피셔의 기준을 통과한 결과는 통계적으로 유의미한 게 아니라 통계적으로 눈에 띄거나 감지되는 것이라고 선언할 수 있으면 얼마나 좋을까! 유의성 검정은 망원경과 마찬가지로 쌍안경으로 볼 때 위성이 보이지 않겠지만, 그래도 위성은 여전히 거기 존재한다. 망원경이 할 일을 쌍안경에게 시켜서는 안 된다. 그런 점에서 농구 선수들이 일시적으로 슛을 잘 넣거나 못 넣는 현상이 있다는 것은 올바른 질문이 아니다. 문제는 유의성 질문이 선수 능력이 시간에 따라 얼마나 변하고, 관찰자는 선수가 핫한 시기인지 아닌지를 어느 정도 감지할 수 있느냐는 것이다. 여기에 대한 분명한 메시지는 그 변이는 사람들이 생각하는 것만큼 그 변이가 크지 않고, 사실상 사람들은 그 변이를 거의 감지하지 못한다는 것이다. 인간이란 패턴이 없어도 패턴을 만들어내고 어떤 유형을 끌어내서 그것을 과대평가하는 경향이 있다. 이 말은 방금 슛 다섯 개를 연속으로 넣은 선수가 다음에도 성공시킬 가능성이 딱히 더 높다고 해서는 안 된다는 뜻이다. 이 말은 어떤 펀드가 내리 5년째 시장을 석권했다고 해서 그 다음해에도 석권할 것이라고 예단해서는 안 된다는 말이다. 과거의 실적은 미래의 수익률을 보장하지 않는다. 선수가 슛을 성공시킨 직후라도 다음 슛을 성공시킬 가능성이 더 높거나 낮아지지 않는다.

거짓이라고 믿는 무언가를 참으로 가정하는 모순에 의한 증명을 귀류법이라 부른다. 2의 제곱근은 유리수가 아니다. 우리는 그것을 유리수라고 가정함으로써 그것이 유리수가 아님을 증명할 수 있다. 이 수법은 괴상하지만 그럼에도 불구하고 잘 통한다.

1)귀무가설 H가 참이라고 가정하자.

2)H가 참이라면, O라는 결과가 나올 확률은 대단히 낮다. (가령 피셔가 말한 0.05기준 미만)

3)하지만 O가 실제로 관찰되었다.

4)따라서 H는 참일 가능성이 대단히 낮다.

이 경우에 모순에 의한 증명이 아니라, 말하자면 낮은 가능성에 의한 증명이라 하겠다. 아리스토텔레스의 귀류법과는 달리, 낮은 가능성으로 귀결하여 증명하는 기법은 일반적으로 튼튼한 논리가 못 된다. 이 기법은 고유의 모순으로 우리를 이끈다. 무언가가 불가능하다는 것과 확률이 대단히 낮다는 것은 전혀 같지 않다. 비슷하지도 않다. 불가능한 일은 절대 벌어지지 않지만, 확률이 낮은 일은 많이 벌어진다. 이것은 곧 우리가 낮은 가능성으로 귀결하여 증명하는 기법처럼 확률이 낮은 어떤 현상에 대한 관찰로부터 추론을 끌어내려고 시도할 때 우리의 논리적 발판이 흔들린다는 뜻이다.

별들이 우리 시야에 무작위로 분포된 것처럼 보이지만 몇몇은 뭉쳐진 상태로 관찰된다. 무작위 데이터에서 무리가 나타나는 현상을 이해하면, 소수들의 행동처럼 진정한 무작위성이 존재하지 않는 상황에 대해서도 통찰을 얻을 수 있다. 소수란 1보다 큰 수 중, 자신보다 작고 1보다 큰 다른 수들의 곱으로 표현되지 않는 수이다. 가령 13같은 소수는 13이라는 하나의 소수의 곱으로 표현된다. 소수는 수론을 구성하는 원자들이다. 더 이상 쪼개지지 않는 기본 개체들로, 다른 모든 수들을 만들어내는 재료이다. 그렇기 때문에 소수는 수론이 탄생한 이래 늘 연구 대상이 되었다. 수가 점점 커져 소수가 점점 드물어지겠지만, 그 감소세는 아주 느리다. 어떤 종류의 수들이 자주 등장할수록 그 수들 사이의 간격이 좁아지리라는 것은 자연스런 짐작이다. 하지만 연속된 소수들 사이의 간격문제는 어렵다. 소수가 무작위적일 것이라는 짐작은 틀렸다. 소수는 전혀 무작위적이지 않다. 소수에게는 임의적이거나 우연에 좌우되는 성질 따위는 전혀 없다. 오히려 정반대다. 연속된 두 소수 사이의 간격은 어떨까? 수가 커질수록 소수는 점점 더 드물어지니까 그들 사이의 간격도 점점 더 벌어지리라 예상할지 모른다. 평균적으로는 맞는 말이다. 증명에 따르면, 간격이 최대 7000만인 소수 쌍이 무한히 많이 존재한다. 그래서 이것을 간격한계 추측이라 부른다. 왜 하필 7000만일까? 그것은 그냥 간격 7000만을 상정해서 증명했기 때문이다. 협동연구결과, 간격이 최대 5414인 소수 쌍이 무한히 존재함이 확인되었다. 그리고 그 한계는 600까지 내려왔고, 더 좁혀질 것이 분명해 보인다. 소수들의 간격한계는 기적처럼 보인다. 소수들이 커질수록 점점 더 멀어지는 경향이 있다면, 어째서 그토록 바싹 붙은 쌍이 많이 존재한단 말인가?

만일 우리가 수들을 무작위로 뿌린다면, 어떤 쌍은 그저 우연히 아주 가깝게 떨어질 것이다. 쌍둥이 소수가 그렇게 많다는 것은 정확히 수론학자들이 예상하는 결과였다. 수가 아무리 커지더라도 마찬가지다. 그런데 이것은 소수들에게 뭔가 심오한 기적이 숨겨져 있기 때문이 아니다. 우리는 오히려 소수들이 모래알처럼 무작위로 뿌려져 있기를 기대한다. 페르마는 다음 방정식 Aⁿ + Bⁿ = Cⁿ 방정식에서 A, B, C와 ⁿ이 2보다 큰 양의 정수해는 없다고 단정했다. (ⁿ이 2인 해는 아주 많다. 3*3 + 4*4 = 5*5 의 예처럼) 장은 이 증명을 위해 심오한 정리들을 동원했다. 여러 정수로 나줬을 때 나머지가 얼마나 남느냐는 추측에서 그것이 정말로 무작위적임을 증명했다. 그 다음 그로부터 소수들이 전혀 다른 의미에서도, 즉 서로의 간격이라는 측면에서도 무작위처럼 행동한다는 사실을 보였다. 무작위성의 무작위성을 입증함으로써 문제를 풀어냈다. 구조 없음의 구조화!

진실을 부풀리는 것 못지않게 진짜 효과로부터 반대방향으로 유의성 결과는 왜곡될 수 있다. 통계적 유의성은 충분하지만 전혀 확신할 수 없는 결과 앞에서 우리는 정말 길을 잃어버릴 수 있다. 대단히 인상적인 실험 결과들이 막상 반복해 보면 실망스런 결과를 내는 이유가 여기에 있다. 여러 연구에서 IQ와 상관관계가 유의성이 있는 수준으로 확인되었던 단일 뉴클레오티드 유전자는 모두 유의성이 없는 것으로 드러났다. 그보다는 수많은 유전자들이 기여한 작은 누적된 효과들의 결과물로 결론이 났다. 논문통과 아니면 도태라는 갈림길에 서 있는 과학자라면 유혹에 면역을 갖고 있지 않은 경우가 많다. 당신이 어떤 분석을 했는데 P값이 0.06이 나왔다면 마땅치 그 값은 통계적 유의미성이 없다는 결론이 내려져야 한다. 하지만 몇 년 동안 해온 작업을 서류함에 처박아 버린다는 것은 엄청난 정신력이 필요한 일이다. 통계적 시험을 조정하고 삭제하는 재량을 스스로에게 부여하면, 종종 0.06을 0.04로 낮출 수 있다. 남들이 없는 곳에서 데이터를 고문해서 자백 받아내는 능력을 가진 과학자들이 있다. 그 결과는 완력으로 끌어낸 자백의 신뢰도 정보밖에 되지 않는다. 과학자들은 종종 기준을 만족시키지 못한 결과를 정당화하기 위해 온갖 말장난을 지어내기도 한다. 유의성에 다가갔다거나 유의성을 향해 기울었다거나 유의성 문턱에 맴돌기도 한다. 0.05로 생사를 판가름하는 것은 연속 변수를 이진 변수처럼 취급하는 기본적인 범주오류다. 통계적 유의성이 없는 데이터라도 보고하도록 해야 한다. 어차피 0.05라는 값은 무슨 특별한 값이 아니다. 이것은 순전히 임의적인 기준이자, 피셔가 선택한 관행일 뿐이다. 관행적인 값이란 모두가 합의한 하나의 기준일 뿐이다.

P<0.05를 참이라 하고, P>0.05를 거짓이라 부르는 것은 분명 잘못이다. 낮은 가능성으로 귀결하여 증명하는 기법은 직관적으로 그럴싸하지만 데이터 아래 과학적 진실을 밝히는 방법으로는 적절치 않다. 데이터는 혼란스럽고, 추론은 어렵다. 이른 보완할 수 있는 간단한 방법은 P값과 더불어 신뢰구간을 보고하는 것이다. 신뢰구간은 훨씬 더 많은 정보를 준다. 신뢰구간 <3%, 17%>라면 효과가 양성이긴 하지만 그렇게까지 크지 않다는 뜻이다. <+9%, +11%>라면 효과가 양성이면서도 상당히 크다는 것을 강하게 암시한다. 신뢰구간에 0을 포함하는 경우 <-0.5%, 0.5%>는 당신의 개입이 아무런 효과도 미치지 않았기 때문에 좋은 증거가 된다. 신뢰구간 <-20%, 20%>라면 문제의 개입이 효과가 있는지 없는지 판단할 수 없다. 두 결과는 통계적 유의성 과점에서 같아 보일지 모르지만, 당신이 결정을 내릴 때에는 분명한 지침을 내려줄 수 있다.

우리는 어떤 증거로부터 어떻게 하면 진실을 이끌어 낼 수 있을까? 네이만과 피어슨은 그런 질문을 아예 던지지 말라고 충고한다. 그들에게 있어서 통계학은 무엇을 믿을지 말지 알려주는 것이 아니라 무엇을 할지 말지를 알려 주는 도구이기 때문이다. 통계는 질문에 답하는 학문이 아니라 결정을 내리는 학문이다. 법정의 목적은 진실이 아니고 정의다. 우리에게 규칙이 부여되면, 그 규칙은 지켜져야 한다. 그러므로 우리는 어떻게 다루는 게 최선인지에 대한 사회적 합의를 반영해서 규칙을 설계하고 거기에 따를 뿐이다. 마치 법정과 같이, 과학은 약이 확실히 듣는다(혹은 듣지 않는다)고 말하는 것이 아니라 약이 효과를 보인다(혹은 보이지 않는다)라고 만 말할 뿐이다. 그리고 그것을 근거로 그 약을 수용(기각)한다. 과학적 사실은 적절히 설계된 실험이 어느 정도 유의성을 내는 데 거의 실패하지 않는 경우에만 실험적으로 입증된 것이라고 보아야 한다. 한번 성공했을 때가 아니라 거의 실패하지 않는 경우에만 통계적 유의미성은 단서를 제공해 줄 수 있다. 유의성 검증은 판사가 아니라 탐정이다. 어떤 과학자가 이 발견은 꽤 흥미로운 과제로 연구할 필요가 있다고 말했다면 그것은 정말로 중요하다는 뜻이다. 거듭된 시도에도 불구하고 효과가 재현되지 않으면 과학은 그 순간 손을 뗀다. 결과가 원래의 발견에 지지를 보낸다면 잘된 일이다. 하지만 그렇지 않더라도 그것은 의미가 있다. 누군가 그 길로 들어서지 않도록 신호를 보내주는 역할을 수행하므로. 결국 판단은 우리들 각자의 몫이다.

우리는 구글이 우리를 속속들이 아는 미래를 상상해 볼 수 있다. 그들이 무수한 클릭을 축적함으로써 우리의 기호와 욕망과 활동을 예측해 내는 미래 말이다. 그렇게 될 지도 모른다. 하지만 어쩌며 그렇게 되지 않을지도 모른다. 우리가 아무리 데이터를 모으더라도, 날씨를 얼마나 멀리 내다볼 수 있느냐는 엄격한 한계가 있다. 로런츠는 그 한계를 약 2주로 생각했다. 그동안 전 세계 기상학자들이 힘겹게 노력했음에도 불구하고, 아직 그 한계를 뛰어넘지는 못한 것 같다. 그런데 인간의 행동은 날씨보다 예측하기 더 어렵다. 우리는 날씨에 대해 꽤 훌륭한 수학 모형을 갖고 있기 때문에 단기적으로는 더 많은 데이터만 주어진다면 더 정확한 예측이 가능하다. 반면 사람의 행동에 대해서는 그런 모형이 없다. 그리고 구글은 당신이 정확히 무엇을 원하는 지까지 알 필요는 없다. 그저 경쟁자보다 조금만 더 잘 알면 그만이다. 기업들은 보통 미미한 수익률로 운영된다. 그들이 당신의 행동을 10% 더 정확하게 예측하려는 것은 그들에게는 엄청난 기회를 뜻할 수도 있다.

빅데이터에 접근할 수 있는 기업들이 당신에 대해 아는 능력에 있어서 한계가 있다면 뭔가 걱정인가? 무고한 사람이 알고리즘에 의해 테러리스트로 분류될 확률은 지극히 낮지만, 동시에 알고리즘이 테러리스트로 지목한 사람들은 거의 무고한 사람일 확률은 매우 높다. Y일 때 X일 확률을 구하는 것을 조건부 확률이라고 부른다. 빅데이터는 마술이 아니다. 빅데이터는 FBI에게 누가 테러리스트이고 아니지를 알려 주진 못한다. 명단에 오른 사람들은 대부분 테러와는 전혀 무관할 것이다. 당신은 자신이 그 중 한 명이 되지 않으리라 확신할 수 있는가?

합리적인 것처럼 보이는 P값 매커니즘이 그런 조건에서는 왜 그렇게 나쁜 결과를 낳을까? 단서는 이렇다. p값은 페이스북이 사용자 중 얼마의 비율에게 딱지를 붙이는지는 고려하지만 (1/2000), 인구 중 얼마의 비율이 테러리스트인지는 깡그리 무시한다. 테러리스트 여부를 판단할 때, 당신에게 결정적 사전 정보가 주어지는데, 그것은 바로 대부분의 사람들은 테러리스트가 아니라는 사실이다. 그 뻔한 사실을 간과하면, 당신은 큰 오류에 빠진다.

사람들에게 1~20까지 숫자 가운데 아무 숫자나 고르라고 하면 정말로 사람들은 17을 제일 자주 고른다. 0~9의 경우에 사람들은 7을 제일 자주 고른다. 사람들은 늘 추론한다. 세상을 묘사한 정신적 표상 속에서 들쑥날쑥한 이론들을 평가하기 위해서, 관찰하고 늘 판단한다. 우리는 큰 일에 대해서나 작은 일에 대해서나, 매일 접하는 모든 일에 대해서 나름대로 이론을 가지고 있다. 사전 확률이 증거를 보기 전에 품은 믿음이라며, 사후 확률은 증거를 본 다음의 믿음을 말한다. 이런 작업을 베이즈 추론이라고 부르는데, 사후 확률은 우리가 접하는 증거의 영향을 받는다. 그런데 사전 확률의 영향도 받는다. 당신이 증거를 본 뒤에 무언가를 얼마나 믿게 되었느냐 하는 것은 증거가 제공하는 정보에만 달린 게 아니라 당신이 애초에 그 무언가를 얼마나 믿었느냐 하는 점에도 좌우된다. 당신은 자신의 믿음이 선입견이라고 말하고 싶진 않겠지만 솔직하게 인정하자. 누구도 실제로는 그런 식으로 신념을 형성하지 않는 다는 사실을.

피셔가 시기와 상황을 불문하고 늘 고정된 유의성 수준으로 가설을 기각하는 과학자는 존재하지 않으며, 과학자는 자신의 증거와 개념에 비추어 개별 사례마다 마음을 정한다고 했다. 다시 말해 과학적 추론이 순전히 기계적으로 수행될 수 없으며, 또 그래서도 안 되기에 사전에 품은 개념과 믿음에도 역할이 주어져야 함을 언급했다. 결국 문제는 우리가 확률이라고 말할 때 그 말이 정확히 무슨 뜻인가 하는 까다로운 질문으로 귀결된다. 우리가 빨강이 참일 확률이 5%라고 말할 때, 우리는 편향된 자신의 마음상태를 말하는 것이다. 즉 5%는 우리가 믿는 정도를 뜻한다.

베이즈 정리는 단순한 수학 방정식이 아니라 수치가 가미된 일종의 조언처럼 보인다. 이 정리는 새로운 관찰에 비추어 현상에 관한 믿음을 업데이트하는 방법에 관한 규칙을 제공하며, 우리는 그 규칙을 따를지 말지를 선택할 수 있다. 우리는 머리에 떠올릴 수 있는 모든 이론을 다 검토하지는 않는다. 우리의 사전 확률은 평평하지 않고 뾰족뾰족한 모양이다. 우리는 소수의 이론들에게는 마음속 가중치를 크게 부여하지만, 어떤 것에는 0에 가까울 정도의 사전확률만을 부여한다. 아무리 평범한 것도 엄청나게 중요하게 느끼기도 하고, 모든 경험들이 어느 정도는 나의 관심을 붙들고, 주의를 기울일 것을 요구한다. 그래서 불가능을 제외하고 남는 것은 아무리 가능성이 낮아 보여도 진실일 수밖에 없다는 셜럭 홈즈의 말에는 이런 말이 덧붙여야 한다. 그 진실이 애초에 당신이 떠올리지도 못했던 가설이 아닌 한에서만.

우리는 무언가에 불확실한 기분을 숫자로 표현하는 버릇이 있다. 가끔은 그것이 합리적이다. 근본적인 질문에 얽힌 불확실성에 숫자를 부여하는 여러 기법들 중에서 내가 보기에 만족스런 것은 하나도 없다. 우리는 ‘나는 신을 믿지 않아’, ‘나는 신을 믿어’, ‘나는 잘 모르겠어’라고 말한다. 이 문제에서 수학은 침묵해야 한다. 파스칼은 팡세에서 이렇게 썼다. <신은 존재하거나 존재하지 않는다. 하지만 우리는 어느 쪽으로 기울 것인가? 이 문제에서 이성은 아무것도 결정하지 못한다.>

3부 기대

사람들은 혜성과는 달라서 정해진 일정에 따라 태어나고 죽지 않는다. 핼리는 영국인들의 출생&사망 통계를 이용해서 특정 수령자에 대해 여러 수명들의 확률을 추정할 수 있었고, 그로부터 연금의 기대값을 계산해냈다. 한마디로, 기대 수명이 더 짧은 할아버지는 기대 수명이 더 긴 어린아이보다 연금에 돈을 덜 내야 한다는 것이다. 수학적 접근법은 우리가 타고난 정신적 이해를 형식화한 것일 뿐이며, 다른 수단을 동원한 상식의 연장일 뿐이다.

모든 복권은 공통점이 있는데, 바로 손해 보는 내기라는 사실이다. 복권은 티켓 판매 수익의 일정 비율을 국가가 가져가도록 설계된 사업이다. 그러기 위해서는 국가가 당첨금으로 주는 돈보다 티켓으로 버는 돈이 더 많아야 한다. 여기서 등장하는 것이 기대값이다. 내가 맥도널드 점포 하나와 커피숍 하나를 갖고 있다고 하자. 맥도널드의 연간 기대 수익은 10만불, 커피숍의 기대값은 5만불이다. 물론 해마다 금액이 오르고 내릴 것이다. 기대값이란 장기적으로 맥도널드가 벌어 줄 수익의 평균값이 연간 10만불쯤 될 것이고 커피숍의 평균값이 5만불쯤 되리란 뜻일 뿐이다. 내가 빅맥과 모타치노를 팔아서 버는 돈의 총 합은 평균 15만불일 것이다. 즉, 두 사업 각각의 기대수익을 더한 값이다. 복권구매자들에게 적절한 질문은 당첨 확률이 얼마냐가 아니다. 평균적으로 얼마를 따거나 잃을 것으로 기대되느냐는 기대값이 더 중요하다.

가산성 = 어떤 두 가지를 합한 기대값은 첫 번째의 기대값과 두 번째 기대값을 합한 것과 같다.

프랑 카로(정사각형에 똑바로란 뜻) 내기에서 필요한 것은 동전 하나와 정사각형 타일바닥뿐이다. 내기는 동전을 바닥에 던져서 하는데, 타일 안에 쏙 들어갈지 아니면 타일 사이의 금을 건드릴지를 본다. 뷔퐁이 제출한 논문은 기하학과 확률을 기발하게 엮어 놓은 것이었다. 뷔퐁은 이렇게 생각했다. 동전이 한 타일 안에 쏙 들어갈 확률은 얼마나 될까? 그가 문제를 푼 방식은 이렇다. 동전의 반지름이 r이고 정사각형 타일의 변의 길이가 L이라면, 동전은 그 중심이 타일보다 더 작은 정사각형, 즉 변의 길이가 L-2r인 정사각형 위에 놓일 때 정확하게 금을 건드린다. 작은 정사각형의 넓이는 (L-2r)²이고 큰 정사각형의 넓이는 L²이므로 당신이 정사각형 안에 똑바로 떨어진다는 데 내기를 건다면 이길 확률은 (L-2r)² / L² 이다. 게임이 공평하려면 이 확률이 1/2이어야 한다. 이 수식의 해는 타일의 변의 길이가 동전 반지름의 (4+2√2)배이고 이 때가 공평한 게임 조건이 된다는 것을 뷔퐁은 발견했다.

바다는 알아차릴 수 없을 만큼 조용히 다가간다. 아무 일도 벌어지지 않는 것 같고, 아무것도 움직이지 않으며, 물이 너무 멀어서 우리에게는 소리도 잘 안 들리지만, 마침내 저항하던 물체를 둘러싸고 마는 것이다. 이해의 수준을 점진적으로 부드럽게 상승시켜, 얼마간 시간이 흐르면 한때 장애물로 보였던 것이 고요한 바다에 삼켜져 온데간데 없게끔 만드는 것이다. 수학은 정신을 한계에 이르기까지 압박하는 게 아니라 오히려 강화한다.

삶의 모든 것에는 효용이 있다. 이 효용을 유틸이라고 표현하기도 하는데, 당신이 이륙 15분 전에 공항에 도착한다면, 비행기를 놓칠 확률은 대단히 높을 테고 다른 한편으로 너무 일찍 나와도 많은 유틸을 대가로 치른다. 최적의 행동은 그 사이 어딘가에 자리할 것이다. 낭비를 없애는 데에도 비용이 든다. 규칙을 준수하고 늘 경계하는 것은 가치 있는 일이지만, 모든 낭비를 없애려는 것은 비행기를 놓칠 가능성을 깡그리 없애려고 하는 것처럼 편익을 상회하는 비용이 따르는 일이다.

파스칼은 신의 존재에 관한 질문은 논리가 범접할 수 없는 영역이라고 보았다. 신은 존재하거나 존재하지 않는다. 하지만 우리는 어느 쪽으로 기울어야 하는가? 이성은 여기에 아무런 결정도 내릴 수 없다. 믿음은 그만한 가치가 있다. 그 선택의 기대값은 그냥 양수도 아니고 무한한 양수다. 파스칼은 신의 존재에 대한 증거를 전혀 제공하지 않았는데, 그가 제한한 것은 그게 아니라 우리가 믿어야 할 이유였는데, 그 이유는 믿음의 정당성이 아니라 믿음의 효용에 관련된 것이다. 파스칼은 우리에게 신이 존재한다는 사실을 납득시키려는 것이 아니었다. 다만 그렇게 믿는 것이 우리에게 이롭다는 것임을 이해시키려고 했던 것이다.

(1/2)x1 + (1/4)x2 + (1/8)x4 + (1/16)x8 + . . . . . = 1/2 + 1/2 + 1/2 + 1/2 + . . . . .

이 합은 하나의 수가 아니다. 이 합은 발산한다. 더 많은 항을 더할수록 합이 점점 더 커져서, 어떤 유한한 한계도 지나쳐서 무한히 커진다. 베르누이는 금화 한 닢은 금화 한 닢이라고 말하는 것이 잘못이라고 지적했다. 부자의 금화 한 닢은 농부의 금화 한 닢만큼 값지지 않다고 보았던 것이다. 금화가 두 배 더 많다고 해서 유틸(효용)도 두 배가 되는 것은 아니다. 모든 곡선이 직선은 아니고, 돈과 효용의 관계는 비선형 곡선을 따른다. 베르누이는 효용이 로그처럼 증가한다고 생각했다.

1/2 + 1/4 + 1/8 + 1/16 + 1/32 + ….. = 1

1/4 + 1/8 + 1/16 + 1/32 + ….. = 1/2

1/8 + 1/16 + 1/32 + …. = 1/4

1/16 + 1/32 + …. = 1/8

1/32 + …. = 1/16 1

:

:

:

이 합은 이제 더 이상 무한하지 않고, 심지어 아주 크지도 않다. 그리고 이 무한급수의 합은 2가 된다. 결국 상트페테르부르크 게임의 기대효용에 대해 치러야 할 금액은 2만큼의 가치가 있음을 말해준다. (*효용 곡선은 어떤 정확한 실재가 아니라 느슨한 가이드라인 정도로 봐야 한다.) 최소한 우리는 보편적인 효용곡선은 없다는 것을 안다. (누구나 다른 주관적 효용치를 가지고 있고 이는 서로 다 다르기 때문에) 서로 다른 환경의 사람들은 같은 돈에 서로 다른 효용을 매긴다. 이것은 중요한 사실이다. 효용과 돈이 비선형관계임을 간파한 사람이 베르누이 혼자만은 아니었다. 뷔퐁 역시 “돈을 수량으로 측정해서는 안 된다. 10만 에퀴를 버는 부자가 1만 에퀴를 버는 사람보다 10배 더 행복한 것은 아니다. 한계량을 넘어서자마자 거의 아무런 실질적 가치를 지니지 못하게 되고 소유자의 안녕을 더 이상 증가시키지 못한다.”라고 보았다.

확률이론은 결국 계산으로 귀결된 상식일 뿐이다. 확률이론은 이성적인 사람들이 자신이 안다는 사실조차 인식할 필요 없이 그저 직관적으로 이해하는 내용을 정확한 방식으로 알려 줄 뿐이다. 이게 바로 수학이 다른 수단을 동원한 상식의 연장이란 의미이다. 불확실성 아래에서의 인간의 행동은 우리 삶에 근본적인 문제인 선택과 경쟁을 다룬다. 세상에는 알려진 미지의 것과 알려지지 않은 미지의 것이 있으며 이 둘은 다르게 다뤄져야만 한다. 우리는 알려진 미지를 위험이라 부르고 알려지지 않은 미지를 불확실성이라고 이야기한다. 위험한 전략은 수치적으로 분석할 수 있지만, 불확실한 전략은 수학분석의 범위를 넘어선다.

우리는 이미 알고 있는 원칙을 수학적으로 표현할 수 있다. 부자일수록 더 큰 위험을 감당할 수 있다는 원칙이 그 하나인데, 간헐적인 손실을 감당할 만큼 모아 둔 돈이 많은 부자는 그런 투자를 해서 더 부자가 될 것이고, 부자가 아닌 사람들은 그냥 원래 상태로 머물 것이다. 사람들은 대부분 불확실성을 싫어한다. 여기에서 유용한 용어가 분산이다. 분산은 결정의 가능한 결과들이 얼마나 넓게 퍼져 있는지, 양 극단의 결과가 발생할 가능성이 얼마나 되는지를 측정하는 척도이다. 채권은 돈을 돌려받을 것을 확신할 수 있지만, 분산이 더 큰 주식에 투자하면 그보다 더 벌 가능성이 높긴 해도 만에 하나 훨씬 더 나쁘게 끝날지도 모른다. 퇴직 기금이 보유 주식을 다변화하는 것은 분산 때문이다. 절반은 가스에 절반은 기술주에 투자한다면, 한쪽이 크게 요동치더라도 다른 쪽까지 꼭 그러지는 않는다. 이런 분산전략은 지루하지만 잘 통한다.

사람들은 사물의 실체와 사물이 보이는 모습 둘 다 알아야 하고 그 중에서도 핵심은 우리가 보는 상이란 대상에서 반사된 빛이 우리 눈으로 들어와서 형성된다는 사실을 깨달은 것이었다. 우리가 보는 장면과 보이는 대상의 관계를 체계적으로 이해하고 싶었던 철학자들과 화가들은 우리 눈을 지나는 선들은 지면의 점들보다 더 많다는 사실을 알아차렸다. 이런 선은 화폭에서 철로가 만나는 점, 즉 소실점으로 수렴한다. 수학자들이 무한 원점이라 부는 그 점이다. 사영 평면에는 점이 그보다 더 많다. 평면에서 선이 취할 수 있는 가능한 모든 방향마다 이른바 무한 원점이 하나씩 더 있다. 눈 앞에 깊이 너머의 깊이가 드러난다. 심연 너머의 심연과도 같이.

수학적 우아함과 실용적 효용은 긴밀한 짝이다. 어떤 관이 흘릴 수 있는 물의 양에는 한계가 있듯이, 어떤 채널이 전송할 수 있는 정보량에도 한계가 존재한다. 기계가 오류를 스스로 바로잡고 계속 계산하면 좋겠다는 아이디어는 그래서 등장했다. 하나의 부호는 파노평면에서 하나의 선을 이루는 세 점들의 집합과 같다는 것이 해밍부호를 품은 기하학이다. 기하학 공리 덕분에 해밍부호는 마술적 오류 정정 성질을 갖게 된다. 메시지가 전송 도중 딱 한 비트 변형된다면, 수신자는 발신자가 보내려고 했던 원래 메시지가 무엇인지를 늘 알아낼 수 있다.

수학증명은 컴퓨터의 도움을 받았든 사람이 연필로 풀었든 이미 복잡성과 상호 의존성이 워낙 깊어진 상황이기 때문에 우리는 더 이상 그것이 옳은지 아닌지 완벽하게 확신할 수 없다. 방대한 수학적 지식을 기계로 검증 가능한 형식 구조 속에서 재구성해야만 한다. 섀넌의 천재성은 그런 시각이 완전히 틀렸다는 것을 꿰뚫어본 데 있었다. 오류 정정 부호는 전혀 특별하지 않다. 섀넌이 증명한 사실은 거의 모든 부호어 집합들에 오류 정정 성질이 있다는 것이었다. 그는 불가능한 질문을 던졌다. 평균적인 무작위 부호는 무엇을 할 수 있을까? 그리고 그는 평균적인 부호가 임의의 수준으로 훌륭할 수 있다는 것을 따라서 언제든 좋은 부호가 최소 하나는 있어야 한다는 것을 증명했다. 무한한 용기를 가진 사람이 아니고서야 누가 감히 그런 생각을 떠올리겠는가? 용기, 그것은 위대한 과학자들의 특징이다. 그들은 터무니없는 상황에서도 전진한다. 그들은 생각하고 계속 생각한다. 이 사실이 밝혀진 때로부터 지금까지 수십년 동안 수학자들은 구조와 무작위성의 개념적 경계에서 줄타기를 하며, 속도가 빠를 만큼 충분히 무작위적이지만 동시에 해독 가능할 만큼 충분히 구조화된 부호를 만들려고 노력하고 있다.

200년도 더 전에 애덤 스미스는 복권의 인기가 아주 높다는 사실을 난처하게 여겼다. 특정 부류의 경제학자들에게 이 비합리적인 행동은 받아들일 수 없는 일이었다. 그런 일은 그들의 모형에서 허락되지 않는다. 그러나 그 현상은 엄연히 존재한다. 행동경제학에서는 어떻게 행동해야 하느냐가 아니라 실제로 어떻게 행동하느냐를 따진다. 가장 단순한 설명으로, 복권을 사는 행위는 당첨되든 말든 사소하나마 재미있는 일이라는 것이다. 몇 달러 정도의 재미로 충분하다. 복권은 역진세가 아니라 게임이고, 사람들은 적은 대가를 지불해서 국가가 값싸게 제공하는 오락을 즐기며, 그 수익금은 도서관과 가로등을 세우는데 들어간다. 당신은 성공할 가능성보다 실패할 가능성이 훨씬 더 크다. 애초에 바로 그것이 기업가 정신의 속성이다. 복권구매자와 마찬가지로 사업가들은 자신의 성공확률을 과대평가한다. 다른 한편으로 복권을 사는 것은 꼭 금전적 기대값만으로 측정되지 않는다. 꿈을 이루는 행위와 그것을 이루려고 노력하는 자체가 하나의 보상으로 작용하기 때문이다.

4부 회귀

왜 어떤 기업들은 번성하는데 어떤 기업들은 비틀거릴까? 1933년 시크리스트는 기업활동에서 평범의 승리라는 책에서 이렇게 적고 있다. “기업의 경쟁 활동에서는 평범이 득세하는 경향이 있다. 이것은 수천 개 사업체들의 지출과 수익을 분석한 내 연구가 분명하게 가리키는 결론이다. 이것은 산업의 자유에 다른 불가피한 대가이다.” 최상위 집단의 기업들은 이미 시장 최고 수준의 기술을 더 연마하여 우수해짐으로써 시간이 갈수록 이익이 더 높아질 것으로 예상했지만, 결과는 정반대였다. 시크리스트는 모든 종류의 사업체들에서 비슷한 현상을 목격했다. 최고의 성과를 내던 자들도 시간이 흐르면 평범한 구성원들과 비슷한 행동을 보이기 시작한다. 버팔로 대학의 로버트 리첼은 이렇게 썼다. “이 결과는 기업가와 경제학자들로 하여금 지속적이고도 약간은 비극적인 문제에 직면하게 한다. 예외는 있겠지만, 기업체가 유능함과 효율성 덕분에 초기의 고생을 딛고서 성공 궤도에 오른 뒤 이후 오랫동안 보상을 거둘 수 있다는 생각은 산산히 부서져 내렸다.”

예욋값들을 중간으로 밀어 넣는 힘은 무엇일까? 그것은 인간의 행동과 관련된 것일까? 큰 부모에게서는 큰 자녀가 태어나는 경향이 있다. 그런 골턴의 놀라운 발견에 따르면, 실제로는 그 자녀들이 자기 부모만큼 크지 않았다. 키가 작은 부모들에게도 같은 효과가 반대 방향으로 적용되어, 그 자녀들은 평균보다는 작겠지만 그 부모만큼 작진 않았다. 골턴이 발견한 것은 오늘날 평균 회귀라고 불리는 현상이다. 1889년 골턴이 쓴 자연의 유전에서 그는 “첫눈에는 역설처럼 보이겠지만, 성인이 된 자식의 키가 전반적으로 그 부모의 키보다 좀더 평범하다는 것은 관찰로 분명히 확인된 사실이다.”라고 적었다. 훗날 시크리스트가 기업체의 운명에서 밝혀낸 현상을 키에서 관찰했던 것이다. 탁월함은 지속되지 않고, 시간이 흐르면 평범함이 자리를 굳히기 마련이라는 사실을.

내 키가 185cm인 것은 아버지가 185cm이고 아버지가 지녔던 성장 촉진 유전물질을 내가 물려받았기 때문이다. 하지만 동시에 내가 어릴 때 충분한 영양섭취와 성장을 저해하는 스트레스 등을 겪지 않아서이기도 하다. 큰 사람들이 큰 것은 유전적으로 키가 클 성향을 지녔기 때문일 수도 있고, 외부 영향에 의해 성장이 촉진되었기 때문일 수도 있고, 둘 다 일 수도 있다. 키가 큰 사람들은 좋은 유전자를 갖고 태어나기도 했지만 환경과 운의 도움도 받은 것이다. 그러니 평균적으로 자녀들은 평균에 비해서는 키가 크겠지만, 부모들만큼 아주 크진 않을 것이다. 그것이 바로 평균으로의 회귀를 일으키는 원인이다. 어떤 신비로운 힘이 있는 것이 아니다. 그저 유전과 운이 뒤섞여서 함께 작동하며 이런 저런 결과를 만들 뿐이다. 사업도 마찬가지다. 시크리스트가 1922년 가장 두둑한 수익을 올린 회사들은 정말로 해당분야에서 가장 잘 운영된 회사들로 꼽을 만했을 것이다. 그러나 한편 그들은 운도 좋았다. 그들의 경영 능력은 지혜와 판단에서 시간이 흘러도 여전히 우수할 수 있겠지만, 1922년 운이 좋았던 회사라고 해서 십 년 뒤에도 다른 회사들보다 운이 좋으리란 법은 없다. 그러니 최상위 집당에 속했던 회사들은 세월이 흐르면 순위에서 미끄러지기 마련이다. 첫 소설로 대박을 터뜨렸던 신예 작가의 두 번째 소설이 첫 번째만큼 좋은 경우가 드물까? 인생의 모든 것이 그렇듯이 예술적 성공은 재능과 운의 결합이고 따라서 평균으로의 회귀가 적용되기 때문이다. 슬러거들은 평균적으로 후반기에는 리그 선두였던 전반기 홈런 개수갯 60%만을 때려 냈다. 이런 감소는 피로 탓은 아니고, 8월의 열기 탓도 아니다. 이것은 그저 평균으로의 회기일 뿐이다. 우리 마음은 왠지 평균으로의 회귀에 저항을 느낀다. 겉으로 강력해 보이는 것이 실제로도 보기만큼 강력한 경우는 드물다는 사실을 인정하는 것만으로는 왠지 만족스럽지 않은 것이다. 시크리스트는 경쟁이 시간이 갈수록 파괴적인 영향을 미치기 때문에 평범으로의 회귀가 발생한다고 믿었다. 생물학자들은 평범으로의 회귀가 생물학에서 비롯된 현상이라고 보았고, 경영이론가들은 그것이 경쟁 때문이라고 생각하고, 문학 비평가들은 그것을 창조성의 소진 탓으로 돌린다. 또한 과학자들도 틀린다. 회귀에 따르면, 올해 최악의 품행을 보였던 아이들은 내년에도 여전히 문제가 있긴 하겠지만 올해만큼 심하진 않을 가능성이 높다.

골턴은 우리가 연구하는 현상이 우연의 영향을 받을 때면 언제든 평균으로의 회귀가 작동한다는 것을 보여 주었다. 골턴의 실제 산포도는 극단의 두 경우 가운데 어느 쪽도 닮지 않았다. 그 중간쯤 되는 형태였다. 아버지가 73인치 영역에 가까운 점들이 대각선 아래에 좀 더 많이 몰려 있는 것은 아들들이 아버지들보다 평균적으로 더 작다는 뜻이다. 이 데이터 집합에서 실제 이 아들들의 평균 키는 72인치에 약간 못 미친다. 즉, 평균보다는 크지만 아빠만큼 크진 않은 것이다. 여러분은 지금 평균으로의 회귀를 그림으로 보고 있다. 골턴은 산포도가 결코 무작위적이지 않은 기하학적 구조를 갖고 있다는 사실을 금방 알아차렸다. 그 구조는 대체로 타원에 쏙 담기는 것 같았다. 부모와 자식이 둘 다 정확히 평균 키인 지점을 중심으로 삼은 타원 속에. 골턴은 놀라운 규칙성을 발견했다. 그가 그린 등치 곡선들은 모두 똑 같은 점을 중심으로 차곡차곡 포개진 타원들이었다. 마치 완벽한 타원형 산의 등고선들과 같아서, 타원은 모두 원이 되고 산포도는 대략적으로 원의 모양이 된다. 2004년 존케리에게 투표했던 사람들의 비율과 2008년 오바마가 얻었던 득표율의 관계도 타원이 뚜렷하게 드러난다. 게다가 그것은 아주 가느다란 모양이다. 그것은 곧 케리의 득표율과 오바마의 득표율이 상관관계가 높다는 뜻이다. 도표의 점들은 대각선 위에 떠 있는데, 이것은 오바마가 전반적으로 케리보다 더 많은 표를 얻었다는 뜻이다. 한 변량이 증가하면 다른 변량도 증가하면(동일한 대각선 방향 분포양상을 띠면) 양의 상관관계를, 대각선 분포와 직교하는 분포를 보이면 음의 상관관계를 띤다고 해석한다.

타원은 원뿔을 평면으로 자른 면, 즉 원뿔 곡선이다. 수학에 복잡한 개체는 아주 많은 데 비해 단순한 개체는 아주 적다. 따라서 어떤 문제의 해답이 수학적으로 단순하게 묘사될 경우, 그 해답이 취할 수 있는 선택의 종류는 몇 가지로 한정된다. 그러니 가장 단순한 수학적 개체들은 온갖 과학문제에서 중복으로 근무해야 하고, 그렇게 때문에 사방에서 보일 수밖에 없다. 가장 단순한 곡선은 직선이다. 다음으로는 이차 방정식 곡선이 있고 모든 이차 곡면들은 타원, 포물선, 쌍곡선이라는 세 범주에 속하게 된다.

Ax² + Bxy + Cy² + Dx + Ey + F = 0

x² + xy + y² -1 = 0 (타원)

xy – 1 = 0 (쌍곡선)

y² – x = 0 (포물선)

골턴은 상관관계 개념이 서로 연관성이 있기만 하다면 어떤 특성들이 쌍에 다 적용된다고 보았다. 상관관계가 유효정보량을 줄인다는 통찰은 정보를 조직하는 핵심 원칙으로 기능하게 되었다. 4메가픽셀 카메라로 찍은 사진은 숫자 400만개 가 담긴 정보이고, 그것은 메모리 용량의 많은 부분을 차지하게 된다. 그러나 이 숫자들은 서로 상관관계가 아주 높다. 한 픽셀이 밝은 녹생이라면, 바로 옆 픽셀도 그럴 가능성이 높다. 이미지에 실제 포함된 정보량은 400만 개에 해당하는 정보량보다 훨씬 적다. 그 때문에 우리가 이미지를 압축할 수 있는 것이고, 압축 덕분에 이미지, 동영상, 음악, 텍스트를 훨씬 작은 공간에 저장할 수 있다. 상관관계가 압축을 가능케 한 것이다.

시크리스트의 발견의 진실은 우수한 경영과 사업적 통찰도 중요하지만 그것과 대충 동일한 정도로 순수한 운도 중요하다는 것이었다. 삶의 수학적 측면에 주의를 기울이는 것이 실수를 피하는 데 도움이 된다면, 어째서 골터처럼 명징한 시각을 가졌던 과학자가 인간 교배로 바람직한 특성을 얻으려는 우생학이란 그릇된 시각을 가질 수 있었을까? 수학은 틀리지 않게 해주는 방법이지만, 모든 것에 대해서 틀리지 않도록 해주는 것은 아니다. 오류는 원죄와 같다. 우리는 그것을 안고 태어났고, 그것은 언제까지나 우리에게 깃들어 있을 것이므로, 끊임없이 경계하는 수밖에 없다. 주의 깊게 감시하라.

다윈은 우리가 목적을 끌어들이지 않고서도 발전을 얼마든지 유의미하게 논의할 수 있다는 것을 보여주었고, 골턴은 우리가 바탕의 원인을 끌어들이지 않고서도 연관성을 얼마든지 유의미하게 논의할 수 있음을 보여 주었다. 대수의 이점은 형식화하거나 컴퓨터에 입력하기 쉽게 하고, 기하학의 이점은 우리의 타고난 물리적 직관을 문제에 적용할 수 있게 해준다. 실제 우리가 머릿속에 그리는 그림은 이차원이나 기껏해야 삼차원이다. 우리 뇌가 다룰 수 있는 한계가 그뿐인 것이다. 우리가 살아가는 세상이 삼차원이기 때문에 더욱 그렇다. (거기에 시간을 더하면 사차원이 되고) 상관관계를 기하학적으로 이해하면, 그러지 않았을 때는 모호하게 느껴졌던 통계의 일부가 아주 명료해진다. 오늘날 미국 선거에서 부유한 주일수록 가난한 주보다 민주당에 투표할 가능성이 크다. 한마디로, 부유한 주 출신인 것과 민주당에 투표하는 것은 양의 상관관계를 갖는다. 사실 부자들은 수십 년간 일관되게 그랬던 것처럼 아직도 가난한 사람들에 비해 공화당을 더 많이 찍는다. 정의상, 부자인 것은 부유한 주 출신인 것과 대충 양의 상관관계를 갖고, 부유한 주 출신인 것은 민주당을 찍는 것과 양의 상관관계가 있다. 그렇다면 부자인 것은 당연히 민주당을 찍는 것과 상관관계가 있어야 하지 않을까? 그러나 상관관계는 이런 추이를 따르지 않는다. 상관관계의 비추이성은 자명하면서도 어쩐지 불가사의하게 느껴진다. 이런 점에서 본다면 우리의 직관은 덜 맞는 편이다. 니아신은 높은 HDL농도와 상관관계가 있고, 높은 HDL농도는 낮은 심장 마비와 상관관계가 있지만, 그렇다고 해서 니아신이 심자마비를 예방한다는 뜻은 아니다. 우리는 여성 에스트로겐 수치와 낮은 심장 질환 질환 발생률에 상관관계가 있다는 것을 알고, 호르몬 대체 요법이 에스트로겐 수치를 높인다는 것도 아니까, 호르몬 대체 요법에 심장질환 예방효과가 있을 것이라고 기대하기 쉽다. 실제로 지금까지는 이것이 임상적 사실로 통했다. 그러나 진실은 그보다 훨씬 더 복잡하다. 2000년 초, 대규모 무작위 임상 시험을 수행해 온 장기 연구 호르몬 대체 요법조사 결과, 조사 대상의 심장 질환 발생률은 오히려 더 높아진 것으로 나타났다. 현실에서는 어떤 약이 HDL이나 에스트로겐 수치 같은 생체 지표에 어떤 영향을 미치는지 속속들이 알더라도, 그 약이 특정 질병에 어떤 영향을 미칠지 예측하기란 불가능에 가깝다. 인체는 어마어마하게 복잡하며, 우리가 인체에 관해 측정할 수 있는 속성은 한 줌밖에 안 된다.

좌파들은 좀 더 좌측으로 쏠리고, 우파들은 좀 더 우측으로 쏠리며, 중간의 희박한 공간은 좀 더 희박해 진다. 이 그래프는 정신 번쩍 들게 만드는 사실을 반영한다. 부동표들은 신중하게 저울질하기 때문이 아니라 대체로 신경을 거의 안 쓰기 때문이라는 사실을 말해준다. 어떤 두 자연적 혹은 사회적 현상이 상관관계가 없는 것으로 밝혀졌다는 이야기를 들을 때면 이 점을 늘 염두에 두길 바란다. 그것은 둘 사이에 아무 관계가 없다는 뜻이 아니다. 상관 계수가 감지할 수 있는 관계만을 우리에게 보여주고 있다는 의미이다. (이말은 다른 상관관계를 지니고 있음에도 불구하고, 우리가 그것을 못 볼 수도 있음을, 그러니 너무 도표만 믿지 말기를, 그리고 항상 비판과 검증의 자세를 가지고 있어야 함을 말해준다.)

모든 것이 다른 모든 것과 상관관계가 있다고 선언한다면 우리는 아무런 정보도 얻을 수 없다. 우리가 세상에서 무언가를 바꾼다면 상황이 어떻게 변할까? 상관관계와 인과관계에 대한 우리의 이해는 약간 애매한 점이 있다. 우리의 직관은 어떤 상황에서는 상당히 확고한 통찰을 발휘하지만 또 다른 상황에서는 영 종잡지 못한다. 인과관계가 있는 상관관계와 그렇지 않은 상관관계를 가려내는 것은 미치도록 어려운 일이다. 폐암은 20세기 초에는 드문 질환이었다. 그러나 1974년 영국 암 사망자의 1/5이 폐암이었고, 그 사망자는 몇십년 전에 비해 15배 증가했다. 그러나 무엇이 원인인지 아무도 몰랐다. 공장의 매연, 늘어난 자동차 배기가스, 혹은 담배? 1950년대 초에는 영국과 미국의 대규모 연구에서 흡연과 폐암의 강력한 연관을 시사하는 결과가 나왔다. 비흡연자들에게는 폐암이 여전히 드문 질환이었으나 흡연자들의 발병 위험은 비교도 안 되게 더 높았다. 데이터는 폐암과 흡연이 상관관계가 있다는 것을 보여주었다. 비록 엄밀하게 결정짓는 것은 아니더라도 말이다. (강한 흡연자들 중에서 폐암에 걸리지 않는 사람도 있고, 비 흡연자에게서도 폐암이 나타나는 현상) 현대 통계학의 창시자 피셔는 정확히 이런 이유로 담배-암의 연관성을 의심했다. 당시에는 흡연이 폐암을 일으킨다는 가설도 이것 못지않게 근거가 희박했다. 하지만 이제 우리는 폐암에 대해서도, 담배가 어떻게 폐암을 일으키는가에 대해서도 훨씬 더 많이 안다. 1959년 당시에도 아주 많은 상관관계자료가 발견된 데다가 다른 혼란 변수들은 제거되어 갔기 때문에 미국 공중위생국장 버니는 <현재의 묵직한 증거들은 흡연이 폐암 발생률을 높이는 주된 요인임을 암시한다>고 말할 수 있었다. 우리는 이 이야기의 결말을 안다. 버니의 후임 루서 테리는 1960년대 초에 저명인사들로 위원회를 꾸려 흡연과 건강 관계를 조사하게 했고, 1964년 결과를 언론에 발표했다. “여러 출처로 지속적으로 증거가 쌓이고 있음을 감안할 때, 흡연이 몇몇 질환의 사망률에 상당히 크게 기여 한다고 판단됩니다. 흡연은 건강상의 위험요소입니다.” 담배를 많이 피우는 사람들은 적게 피우는 사람들보다 암에 더 많이 결렸으며, 암은 담배와 신체 조직이 접촉하는 지점에서 가장 자주 발생했다.

대체 우주를 한번 상상해보자. 요상하게 들리는 피셔의 가설이 옳다고 밝혀져, 흡연이 암을 유발하는 것이 아니라, 암이 흡연을 일으킨다는 결론이 나왔다고 하자. 그렇다면 어떻게 되었을까? 정책수립자들은 어쨌든 최선의 추측을 해야 하고, 그것을 근거로 결정을 내려야 한다. 과학자와 정책 입안자는 서로 손발을 맞춰 일한다. 과학자는 우리가 어느 정도 불확실성을 견뎌야 하는지를 예측하고, 정책 입안자는 그렇게 규정된 불확실성 아래에서 어떻게 행동할지를 결정한다. 문제는 그렇게 단순하지 않다. 틀리는 것이 늘 틀리는 것은 아니다. 기억할 점은, 기대값은 말 그대로 당장 벌어질 결과를 뜻하는 것이 아니라 똑 같은 결정을 거듭 내렸을 때 평균적으로 벌어질 예상되는 결과를 뜻한다. 만일 스스로가 절대적으로 옳은지 확신할 수 없기 때문에 스스로에게 좀 더 엄격한 증거를 적용하여 결국 아무 권고도 내리지 않는다면 우리는 그 대가로 많은 목숨을 잃게 될 것이다. 우리에게 주어진 확률은 여러 가설에 대한 우리의 신뢰도를 반영하는 혼란스럽고 애매한 수치들뿐이다. 불확실성의 속성상, 우리는 어떤 선택이 금연권고처럼 도움이 되고 어떤 선택이 호르몬 대체 요법처럼 피해를 입힐지 하나하나 알 수는 없다. 그러나 한 가지는 분명하다. 권고가 틀릴지도 모른다는 이유에서 아무 권고도 내리지 않는 것은 확실히 패하는 전략이라는 것이다. 확실히 옳다고 자신할 수 있을 때만 조언을 주는 것은 조언을 충분히 주는 것이 아니다.

5부 존재

사람들은 무엇을 원할까? 미국인은 매년 여론 조사에서 세금을 더 내느니 정부 사업을 줄이는 편을 택했다. 하지만 어떤 정부 사업을 줄일 것인가? 미국인들에게 정부 지출 가운데 13개 부분에 대한 의견을 물었는데, 지출을 줄이기보다는 늘리기를 바라는 응답자가 더 많았다. 결론은 사람들이 공짜 점심을 바란다는 것이다. 사람들은 정부의 주된 기능을 전혀 건드리지 않으면서도 정부에 돈을 덜 내기를 바란다. 사람들은 지출삭감을 바라지만 동시에 지출삭감을 반대한다. 이것이 바로 미국 대중의 적나라한 모습이다. “많은 사람들은 숲을 깎되 나무들은 보호하고 싶어하는 것 같다.” 이것이 바로 우리가 여론 조사에서 늘 접하는 자기 모순적인 상황이다. 우리는 삭감을 바란다. 그러나 모든 사업들의 예산을 유지하기를 바란다. 각각의 유권자는 완벽하게 합리적이고 일관된 정치적 입장을 갖고 있다. 다만 그 입장들을 다 합하면 비합리적인 입장이 될 뿐이다.

평균적 미국인은 연방 사업들 가운데 쓸데없이 혈세를 낭비하는 사업이 많다고 생각하며, 기꺼이 그런 사업들을 도마에 올려서 적자를 메우고 싶어한다. 단 문제는 어떤 사업이 쓸데없는 사업인가 하는 측면에서 합의가 없다는 점이다. 옳은 대답은 답이 없다고 답하는 것이다. 여론은 존재하지 않는다. 여론이 존재하지 않는다면, 선출 공무원은 어떻게 해야 할까? 답은 간단하다. 대중이 일관된 메시지를 주지 않는다면, 그냥 자기가 하고 싶은 대로 하면 된다. 다른 많은 게임에서 그렇듯이, 예산 게임에서도 수를 먼저 두는 것이 대단히 유리하다.

무관한 대안들의 독립성이란 점균류든, 인간이든, 국가이든 두 선택지 A와 B가 있을 때 세 번째 선택지 C가 주어진다고 해서 A와 B 중 어느 쪽을 선호하는가 하는 문제에 영향이 미쳐서는 안 된다는 법칙이다. 과반수가 늘 제 뜻을 관철할 수 있는 건 아니고 무관한 대안이 결과를 통제하기도 한다는 것은 엄연한 사실이다. 투표자들이 정말로 원하는 것을 이해하기란 대단히 어렵다. 가장 많은 표를 얻은 후보자가 당선되는 것 말고 어떤 공정한 선택의 대안이 있을까? 수학자들은 이렇게 말할 것이다. <풀려는 문제에 관련되어 있을지도 모르는 정보를 누락해서는 안 된다> 우리는 한 투표자가 제일 좋아하는 후보자가 누구냐 하는 선호만 볼 게 아니라 그 투표자의 모든 선호들을 고려하는 방법을 찾아야 한다.

왜 고어가 1등일까? 무관한 대안 네이더, 실제로 2000년 선거에서 고어의 당선을 망쳤던 바로 그 대안의 존재 때문이다. 우리는 완벽하게 합리적인 개인들의 집단행동에서 비합리적으로 보이는 여론이 생겨날 수도 있다는 것을 보았다. 우리가 경험으로 알듯이, 사실은 개인도 완벽하게 합리적이지는 않다. 우리 한 명 한 명이 작은 국가와도 같아서, 각자의 내면에서 옥신각신하는 여러 목소리들 사이에서 분쟁을 해소하고 타협을 중재하고자 최선을 다하고 있을지도 모른다. 그 결과가 늘 합리적이진 않다. 민주주의는 뒤죽박죽이다. 그러나 그럭저럭 작동은 한다.

오스트레일리아 사람들은 투표용지에 제일 좋아하는 후보자 한 명만 기입하는 게 아니라 제일 좋아하는 후보자부터 제일 싫어하는 후보자까지 모든 후보자들의 순위를 매긴다. 우선 1 등만을 기준으로 득표를 헤아린 뒤, 제일 적게 득표한 후보자를 지운다. 다음 단계가 정말 기발하다. 모든 표에서 네이더의 이름을 지운 뒤(이것을 즉석 결선 투표방식이라고 부른다), 마치 그가 처음부터 없었던 것처럼 다시 득표를 헤아리는 것이다. 즉석 결선 투표의 매력은 명백하다. 랠프 네이더를 좋아하는 사람들이 자기 때문에 자기가 제일 싫어하는 후부자가 유리해지면 어쩌나 하고 걱정할 필요 없이 네이더에게 표를 던질 수 있는 것이다. 즉석 결선투표 제도는 역사가 150년이 넘었다. 이 제도는 오스트레일리아뿐 아니라 아일랜드와 파푸아뉴기니에서도 사용된다. 늘 수학을 좋아했던 존 스튜어트 밀은 이 발상을 듣고서 정부 이론과 실행 분야에서 등장한 가장 훌륭한 개선책 중 하나라고 칭찬했다고 한다. 그러나 여기에도 약점은 존재한다. 다들 좋아하지만 누구도 첫 손가락에 꼽진 않은 중도적 후보자는 이기기가 어렵다.

콩도세르는 “나는 내가 합리적이라고 여기는 것에 따라 행동해서는 안 되고, 나처럼 자기 개인의 견해를 꺼리는 다른 모든 사람들이 이성과 진실에 순응한다고 여긴 것에 따라 행동해야 한다”고 말했다. 그러면서 그는 공리 하나를 적었다.

“투표자 과반수가 후보자B보다 후보자A를 더 좋아한다면, 후보자B는 대중의 선택이 될 수 없다”

콩도세르는 자신의 공리로부터 수학적 투표이론을 구축할 생각이었다. 유클리드가 점, 선, 원에 관한 다음 다섯 가지 공리로부터 기하학 이론을 구축했던 것처럼 말이다.

-임의의 두 점을 잇는 직선은 하나뿐이다.

-임의의 선분은 양 끝으로 얼마든지 연장할 수 있다.

-임의의 선분 L에 대하여, L을 반지름으로 삼는 원을 하나 그릴 수 있다.

-직각은 모두 서로 같다.

-임의의 점 P와 P를 지나지 않는 임의의 직선 L에 대해서, P를 지나며 L에 평행하는 직선은 하나

그러나 모순의 안개를 뚫고서 대중의 실제 의지를 알아맞히는 일은 여전히 숙제로 남아있다. 콩도세르에게 민주주의와 다수결은 틀리지 않는 방법이었다. 요즘 우리는 민주주의를 그렇게 말하지 않는다. 오늘날 대부분의 사람들에게 민주적 선택의 매력은 그것이 공정하다는 점이다. 우리는 무엇이 진실인지를 알아내려고 하는가? 바라기로는 두 개념이 대체로 일치한다면 좋겠으나, 모든 어려움은 두 개념이 갈리는 지점에서 생겨난다. 과연 무엇이 정의일까? 다시 유클리드의 다섯 번째 공리로 돌아가 보자. 야노시 보여이의 통찰력은 문제를 뒤에서부터 접근한 점이다. 그는 평행선 공준을 다른 공리들로부터 이끌어 내려고 애쓰는 대신, 다음가 같은 질문에 자유롭게 마음을 열었다. 만일 평행선 공리가 거짓이라면 어떨까? 그러면 모순이 발생할까? 그리고 그는 그 대답이 아니오라는 것을 발견했다. 그럴 경우에는 첫 네 공리는 옳지만 평행선 공준은 옳지 않은 다른 기하학, 유클리드 기하학이 아닌 뭔가 다른 기하학이 생겨나게 되었다. 따라서 평행선 공준을 나머지 공리들로부터 증명해 낼 방법은 없었다. 그런 증명이 존재한다면 보여이의 기하학이 존재할 가능성 자체가 차단되겠지만, 보여이의 기하학은 엄연히 존재하니까 말이다. 보여이가 오스트리아-헝가리 제국에서 비유클리드 기하학을 구축하고 있을 때, 러시아에서는 니콜라이 로바쳅스키가 같은 일을 하고 있었다. 이른바 쌍곡 기하학이다. 이 단순한 기하학은 이상하고 새로운 우주는 전혀 아니다. 우리가 잘 아는 구의 기하학이다. 지금 중요한 것은 점이나 직선 같은 단어들의 진정한 의미에 관해서 우리가 품었던 기존의 선입견으로부터 벗어나는 것이다. 리만의 구면 기하학에서 점과 직선의 의미는 다음과 같다. 점이란 구에서 대척점, 즉 정반대 지점에 놓여 있는 한 쌍의 점을 말한다. 직선이란 대원, 즉 구 표면에 존재하는 원을 말한다. 그리고 선분이란 그 원의 한 조각을 말한다. 원은 그냥 원, 다만 어떤 크기라도 가능한 원을 뜻한다. 리만은 이 공리를 직선이 무한한 길이를 갖는다는 뜻이 아니라 경계가 없다는 뜻이라고 해석했다. 두 개념은 미묘하게 다르다. 리만의 직선, 즉 원은 길이는 유한하지만 경계는 없다. 우리는 영원히 멈추지 않고 그 위를 나아갈 수 있다. 사실 P를 지나고 L에 평행한 직선은 무한히 많다. 짐작하듯이, 이 기하학은 시각화하기가 좀 더 어렵다. 리만의 기하학이 사영 평면의 기하학과 같다는 사실은 증명되어 있다. 이 정리들은 그저 수학적 요지를 증명하기 위해서 지어낸 추상적 기하학에 관한 이야기만은 아니다. 아인슈타인 이후 시대를 살아가는 우리들은 비유클리드 기하학이 그저 놀이만은 아님을 잘 알고 있다. 우리가 좋든 싫든, 우주의 시공간이 실제로 그렇게 생겼기 때문이다.

수학은 기호와 단어를 가지고 하는 일종의 놀이이다. 어떤 명제가 정리로 인정되는 것은 그것이 공리로부터 논리적 단계를 따라 유도되었기 때문이다. 그러나 공리와 정리가 언급한 내용은 무엇인가? 그 뜻이 무엇인가는 확정되지 않은 무엇이다. 점, 선, 원. . . 순수하게 형식적인 기하학은 원칙적으로 우리가 점이나 선을 전혀 보지도 상상하지도 않고서도 수행될 수 있어야 한다. 그런 기하학에서는 우리가 일상적으로 이해하는 점과 선의 실체가 무엇인가는 아무런 영향을 미치지 않는다. 우리의 선거제도는 형식주의적이다. 투표 용지에 표시된 기표가 중요할 뿐, 그 기표가 투표자의 어떤 심중을 뜻하는지가 중요한 것이 아니란 점에서. 일반적으로, 법에서의 형식주의는 절차와 법규를 규정한 문장들에 대한 집착으로 드러난다. 심지어 그것이 사람들의 상식과 어긋나는 경우에도. “판사들은 법의 하인입니다. 법이 판사들의 하인인 게 아닙니다. 판사는 심판과 같습니다. 심판은 규칙을 만들지 않지요. 규칙을 적용할 뿐입니다. 심판과 판사의 역할은 중요합니다. 그들은 모든 사람들이 규칙에 따라 경기하도록 감독합니다. 그러나 그 역할은 제한적입니다. 누구도 야구 경기에 심판을 보러 가진 않습니다.” 가끔 법정은 파스칼의 길을 따른다. 합리적 판단에 이를 도리가 없을 경우, 최선의 결과를 가져올 것처럼 보이는 판단을 내리는 것이다.

형식주의에는 엄격한 우아함이 있다. 그러나 원칙을 늘 고수하기가 쉽지는 않고, 늘 그러는 것이 과연 현명한지도 의심스럽다. 우리는 어리석은 결론에 대해서는 규칙이야 어떻든 추가의 회의주의로 무장하고서 대하려고 한다. 힐베르트의 두 번째 문제는 다른 문제들과 달랐다. 그것은 수학적 질문이라기보다 수학 자체에 관한 질문이었다.

“과학의 토대를 찾으려고 할 때, 우리는 먼저 그 과학의 기본 개념들 간의 관계를 정확하고 완전하게 묘사하는 공리들로 구성된 체계를 세워야 합니다. 그렇게 구축된 공리들은 동시에 그 기본 개념들의 정의이기도 합니다. 그리고 우리는 문제의 과학의 영역에 속하는 어떤 명제에 대해서도, 그것이 기본 공리들로부터 유한한 수의 논리적 단계를 거쳐서 유도되지 않는 한 옳다고 인정해서는 안 됩니다.”

힐베르트는 기하학에서 멈추는 것으로 만족하지 않았다. 그의 꿈은 순수하게 형식적인 수학을 창조하는 것이었다. 어떤 명제가 참이라고 말하는 것은 그 명제가 게임의 시작에 구축된 규칙들을 따른다는 뜻일 뿐 그 이상도 이하도 아닌 수학을 말이다. 놀라운 점은 이 빈약한 시작으로부터 상당히 많은 수학이 생성된다는 것이다.

“우리는 공리들이 모순되지 않는다는 것을 증명할 수 있는가?”

힐베르트는 공리들 속에 시한폭탄처럼 모순이 잠복해 있을 가능성을 내버려 두고 싶지 않았다. 힐베르트는 무모순성이 보장되는 수학적 틀을 원했다. 그는 무한 집합을 함부로 추론하는 것이 가져올 위험을 똑바로 인식했다. 1931년 괴델은 산술의 무모순성에 대한 유한적 증명은 불가능하다는 내용의 그 유명한 제2 불완전성 정리를 증명했다. 괴델은 힐베르트의 프로그램을 단칼에 베어 버렸다. 이런 토대들은 정말로 회의와 모순에서 자유로울까?

수학을 가르치는 선생의 입장에서 가장 가슴 아픈 것은 학생들이 천재성의 신앙에 망가지는 모습을 보는 것이다. 운동선수들은 같은 팀에 자신보다 나은 선수가 있다고 해서 스포츠를 그만두지 않는다. 그러나 유망한 젊은 수학자들이 수학을 사랑함에도 불구하고 자신보다 앞선 사람이 있다는 이유로 수학을 그만두는 모습을 목격한다. 나는 수학자가 되지 않는 수학전공자가 더 많아야 한다고 생각한다. 그러나 우리가 수학은 신동들만 하는 일이라는 고정관념을 버리지 않는 한, 그렇게 되기는 힘들 것이다. 수학을 시작했을 때, 노력이란 모욕이나 다름없다고 나도 생각했다. 그러나 노력하는 능력, 즉 하나의 문제에 관심과 에너지를 집중시켜 그 문제를 체계적으로 고민하고 또 고민하며 한계까지 밀어 붙이는 것, 더구나 겉으로는 뚜렷한 발전의 신호가 보이지 않는데도 계속 그렇게 하는 것은 아무나 가진 능력이 아니다. 영감의 순간은 이전 몇 주 동안 의식적으로든 무의식적으로든 수행해 온 작업의 산물이고, 그 작업 덕분에 우리는 머릿속으로 드디어 여러 발상들을 연결할 준비를 갖추게 되는 것이다. 가만히 앉아서 영감이 찾아오기를 기다리는 것은 실패의 지름길이다. 당신이 아무리 신동일지라도. 수학을 하며 깨달은 사실 하나는, 당신보다 앞선 사람은 늘 있다는 사실이다. 수학은 대체로 공동 작업이다. 공통의 목표를 추구하는 거대한 지적 네트워크가 만들어 낸 산물을 각자가 조금씩 더 발전시킨다. 쏜살 같이 달려 나가는 와이드 리시버에게 쿼터백이 눈부신 터치다운 패스를 하는데 성공했을 때, 우리는 많은 사람들의 협동 작업을 보는 것이다. 쿼터백과 리시버뿐 아니라 수비팀이 뚫고 들어오는 것을 막아서 쿼터백이 제대로 자세를 잡고 던지도록 시간을 벌어 준 공격팀 라인맨들이 있었고, 그 방어는 또 결정적인 순간에 수비팀의 주의를 흩뜨리기 위해서 핸드오프를 하는 척했던 러닝백 덕분에 가능했으며, 그 밖에도 경기를 조직한 감독, 클립보드를 든 조수들, 훈련 스태프들… 우리는 이 사람들을 다 천재라고 부르지 않는다. 그러나 그들은 천재성이 벌어질 수 있는 조건을 만들었다.

테리 타오는 이렇게 썼다. “수학에 대해서 근사하고 심오하고 놀라운 결과들과 통찰들은, 많은 훌륭하고 위대한 수학자들이 수 년, 수십 년, 심지어 수백 년에 걸쳐서 착실히 연구하고 발전시켜 온 끝에 힘들게 얻어 낸 누적적 성과다. 이해의 한 단계에서 다음 단계로 넘어가는 발전은 굉장히 중대한 사건일 수도 있지만, 그것은 완전히 새롭게 시작된 작업이 아니라 이전 연구들의 토대 위에 구축된 결과물일 뿐이다.” 힐베르트를 천재라고 부르는 건 틀린 말이 아니다. 그러나 그보다는 힐베르트가 해낸 일이 천재적이었다고 말하는 게 더 옳다. 천재성은 어떤 발생한 사건이지, 어떤 종류의 사람이 아니다.

우리로 하여금 재능을 키우고 올바르게 활용하도록 이끄는 수단은 바로 우리의 선택이다.

에필로그

루즈벨트가 <공화국의 시민>이란 연설에서 나라와 정부를 이끌어 가려는 의도에서 개인의 땀과 덕성과 일상의 자질을 강조할 때 애시버리는 그의 글 <회복의 길>에서 우리 마음속엔 불확실성과 앎이 하나로 녹아 들지 않은 채 그저 뒤엉켜 있다는 사실을 이야기 해준다.

보다시피 우리 둘은 다 옳았고,

그렇다고 해서 무로 돌아갔는가 하면, 그렇지는 않았다.

규칙에 순응하고 집 가까이에 살아가는 우리 아바타들은

어떤 의미에서 우리를 훌륭한 시민으로 만들었다.

고된 시절에 조금씩 분배되는 자선을 받아들일 줄 아는 것,

왜냐하면 이것은 행동이므로, 이 확신하지 않는 것은,

이 무모한 준비는,

고랑 속에 구부러진 씨앗들을 박아 심는 것은,

잊을 준비를 하는 것은, 그리고 늘 되돌아오는 것은,

우리가 출발했던 정박지로, 너무도 오래된 그 날로.

애시버리는 옳았다. 애시버리에게 있어서, 확신하지 않는 것은 나약한 인간의 태도가 아니라 강한 인간의 태도이다. 수학은 우리에게 원칙적인 방식에 따라 확신하지 않을 방법을 알려 준다. 포기하고 마는 것이 아니라, <나는 확신하지 않고, 확신하지 않는 이유는 이것이며, 확신하지 않는 정도는 대충 이 수준입니다>라고 말할 수 있게 해준다. 혹은 더 나아가 <나는 확신하지 않습니다. 그리고 당신도 확신하지 말아야 합니다>라고.

i) 단정짓지 말며 속단은 금물 ‘절대 확신 말라!’

ii) 그 근거와 이유를 따져보기 ‘설명하고 이해 시키라!’

iii) 반론과 대안 제시 ‘그 문제에 대한 새로운 방법은 무엇인가?’

철학자 콰인은 이렇게 말했다. <무언가를 믿는다는 것은 그것이 참임을 믿는다는 것이다. 따라서 합리적인 사람이라면 자신이 품은 믿음들 각각이 모두 참이라고 믿는다. 그러나 또한 그는 경험을 통해서 자신의 믿음들 중 일부는, 정확히 무엇인지는 알 수 없지만, 결국 거짓으로 밝혀지리라고 예상해야 한다는 사실도 안다. 요컨대, 합리적인 사람은 자신의 믿음이 각각은 모두 참이라고 믿지만 그 중 일부는 거짓이라고 믿는다>

우리의 형식 체계에 아주 작은 모순 한방울만 떨어뜨려도 전체가 엉망이 된다. 이런 취약함은 결국 모순으로부터는 모든 것이 가능하다는 상황에 우리를 떨어뜨린다. 우리 인간은 모순을 어느 정도까지는 견딘다. 피츠제럴드가 말했듯이 <지성을 시험하는 잣대는 반대되는 두 개념을 동시에 머릿속에 간직하면서도 계속 기능할 줄 아는 능력이다> 수학자들은 이 능력을 사고의 기본 도구로 사용한다. 예를 들자면, 어떤 정리를 증명하는 일에 매달릴 때 낮에는 그것을 증명하려고 애쓰고 밤에는 반증하려고 애쓰는 식이다.

왜 어긋나는 두 목표를 동시에 추구하라는 것일까? 첫째는 당신이 결국 틀릴 수도 있기 때문이다. 만일 당신이 참이라고 생각하는 명제가 실제로 거짓이라며, 당신의 노력은 모조리 헛수고가 되 버릴 것이다. 밤에 반증하는 것은 그런 커다란 낭비에 대한 대비책이다. 그러나 좀더 심오한 이유가 있다. 만일 어떤 명제가 참인데 당신이 그것을 반증하려고 애쓴다면, 당신은 결국 실패할 것이다. 우리는 실패를 나쁜 것이라고 생각하는 경향이 있지만, 모든 실패가 나쁜 것은 아니다. 우리는 실패에서 배울 수 있다. 만일 당신이 왜 자꾸 반증에 실패하는가 하는 이유를 제대로 이해한다면, 이전에는 미처 깨닫지 못했던 방식에 따라 왜 정리가 참인지를 좀더 깊이 이해할 수 있기 때문이다. 피츠제럴드의 1936년 <붕괴 The Crack-up>에 나오는 반대되는 두 개념은 <노력의 헛됨을 느끼는 것과 계속 노력해야 한다는 것을 동시에 느끼는 것>이다. 사뮈엘 베케트는 훗날 이보다 더 간겨랗게 표현했다. <나는 계속할 수 있다, 나는 계속할 수 없다>

일단 대립되는 것처럼 보이는 두 가지를 모두 믿자. 거기에서부터 나아가는 것이다. 한 발 한 발, 덤불을 쳐내고, 아는 것과 믿는 것을 분리하며, 모순되는 두 가설을 마음속에 나란히 놓아 두고서 각각을 대립되는 상대편의 시각에서 바라보는 것이다. 그리하여 마침내 진실이, 혹은 우리가 얻을 수 있는 한 진실에 가장 가까운 무언가가 선명하게 드러날 때까지. 베케트가 수학을 얼마나 알았는지는 분명하지 않지만, 그는 수학 창조 과정에서 실패의 가치를 어느 수학자보다도 간명하게 들려준다.

“늘 시도했다. 늘 실패했다. 상관없다. 다시 시도하라. 다시 실패하라. 더 잘 실패하라.”

모든 수학자는 새로운 것을 창조한다. 그리고 우리가 수학적으로 창조할 수 있는 대상들에 한계는 없다. 그것은 유한할 수도 있고 무한할 수도 있다. 수학적 이해는 일순간 깨닫는 동시에 바닥까지 철저히 확신하면서 깨닫게 되는 특별한 감각이다. 그런 감각은 삶의 다른 영역에서는 거의 존재하지 않으며 존재하더라도 극히 드물다. 그때 수학자는 자신이 어떤 핵심에 도달하여 깊은 비밀을 엿보았다는 느낌을 받는다.

수학의 교훈은 단순하다. 여기에는 숫자는 나오지 않는다. 그것은 바로 세상에는 구조가 존재하며, 우리는 그 일부나마 이해할 수 있으므로 멍하니 바라만 보는 대신, 수학적 확실성과 우리가 일상에 적용하는 확신을 구별하면서 가능하다면 그 차이를 인식하도록 애써야 한다는 것이다. 만약 좋은 일이 많이 일어났다고 해서 그보다 좋은 일이 더 주어지지 않음을 당신이 이해하거나, 일어나지 않을 법한 일도 어떨 때는 일어난다는 사실을 알고, 집단의 신념은 개개인의 신념과 동일한 규칙을 따른다는 생각을 버릴 때 비로소 당신은 방정식이나 그래프 하나 그리지 않고서도 수학을 하고 있는 것이다. 언제 써먹느냐고? 여러분이 태어난 순간부터 수학을 해왔고, 앞으로 영원히 그만두지 않을 것이다. 부디 잘 사용하기를.