틀리지 않는 법 - 조던 엘렌버그(Jordan Ellenberg)

틀리지 않는 법

조던 엘렌버그(Jordan Ellenberg)

신동 출신의 수학자로 유명한 위스콘신 주립대 수학과 교수 조던 엘렌버그의 첫 수학 대중서. 특유의 유머, 대중적 글쓰기 감각, 촉망받는 수학자로서 전문성이 결합된 책이다. 2014년 출간 이후 뉴욕 타임스 베스트셀러로서 많은 독자들의 사랑을 받았으며, 미국 수학회AMS가 매년 1권 선정하는 오일러 북 프라이즈 2016년 수상작으로서 수학자들이 인정하는 뛰어난 수학 저술로도 자리매김했다.

저자는 우리가 수학을 대할 때 느끼는 근본적인 의문에 답한다. 즉, 우리가 살아가는 데 왜 수학이 필요한지, 실제로 어디에 어떻게 써먹을 수 있을지를 다른 어떤 책보다도 치밀하게, 명료하게 그리고 유쾌하게 보여준다. 엘렌버그는 학계를 선도하는 수학자의 한 사람으로서, 세상에 수학 전공자가 더 많아야 한다고 말한다. 복잡한 현실에서 수학이 없다면 우리가 얼마나 틀리기 쉬운지, 반대로 수학을 통해 어떻게 틀리지 않을 수 있는지를 보여주고 있다.

책 읽으러 가기

책속에서

비행기가 제일 많이 총알을 맞는 부분에 갑옷을 집중시키면 철갑을 덜 쓰고도 똑같은 보호 효과를 누릴 수 있을 테니까. 그러나 정확히 얼마나 더 갑옷을 둘러야 할까? 그들이 발드에게 원한 것은 그 대답이었다. 그러나 그들이 얻은 것은 그 대답이 아니었다. 발드는 말했다. 「갑옷을 총알구멍이 난 곳에 두르면 안 됩니다. 총알구멍이 없는 곳, 즉 엔진에 둘러야 합니다.」

「그게 어째서 수학이죠? 그건 그냥 상식 아닌가요?」 그렇다. 수학은 곧 상식이다. 이 사실은 기본적인 차원에서는 더없이 명백하다. 당신은 어떤 것 다섯 개에 일곱 개를 더한 결과가 어떤 것 일곱 개에 다섯 개를 더한 결과와 같은 이유를 남에게 설명할 수 있겠는가? 아마 못할 것이다. 이 사실은 합산에 관한 우리의 생각에 그냥 기본으로 깔려 있는 내용이다.

수학의 모든 것이 덧셈과 곱셈처럼 직관적으로 완벽히 투명하게 이해되는 것은 아니다. 미적분을 상식으로 해낼 수는 없다. 그러나 미적분을 상식으로부터 유도해 낼 수는 있다.

『오비시티』 논문에는 수학과 상식에 대해서 이보다 더 나쁜 범죄가 숨어 있다. 선형 회귀는 쉽다. 일단 한 번 했으면 한 번 더 하는 것은 식은 죽 먹기다. 그래서 왕과 동료들은 데이터를 인종 집단과 성별로 좀 더 세분화했다. 그 결과, 흑인 남성들은 평균적인 미국인보다 과체중이 될 가능성이 더 낮았다. 더 중요한 점은 흑인 남성들의 과체중 비율 상승 속도가 전체의 절반밖에 안 된다는 것이었다. (……) 자, 문제가 뭔지 알겠는가? 만일 2048년에 모든 미국인이 과체중이 된다면, 다섯 명 중 한 명꼴로 체중 문제를 겪지 않는다는 흑인 남성들은 다 어디 있단 말인가? 앞바다에?

내가 동전을 던지기 시작해서 연속으로 열 번이나 앞면이 나왔다고 하자. 그러면 어떻게 될까? (……) 이 대목에서 우리의 상식은 다음 번에는 뒷면이 나올 가능성이 약간 더 높을 것이라고 말해 준다. 그래야 기존의 불균형이 바로잡힐 테니까. 그러나 상식이 그보다 더 단호하게 말해 주는 바, 동전은 내가 던졌던 지난 열 번의 결과를 전혀 기억하지 못한다!

종교적 신념은 수학적인 사람들에게 잘 어울린다. 신을 믿는 이유가 천사의 강림 때문이 아니고, 어느 날 마음이 활짝 열리고 빛이 쏟아져 들어와서도 아니고, 부모가 믿으라고 해서는 더더욱 아니고, 마치 8 곱하기 6은 6 곱하기 8과 같을 수밖에 없듯이 신은 존재해야만 하니까 존재한다니.

죽은 물고기의 뇌를 ?fMRI 기기로 찍으면서 사람의 얼굴이 찍힌 사진들을 차례차례 보여 주었더니 물고기가 사진에 찍힌 사람들의 감정을 놀랍도록 정확하게 알아맞히는 능력을 보여 주었다는 것이다. 죽은 사람이나 산 물고기라고 해도 상당히 인상적일 텐데 죽은 물고기라니, 노벨상 감이다!

규모가 어느 정도 예상되는 현상을 감지해 내지 못하는 통계 연구를 가리켜 우리는 검정력이 낮다고 말한다. 이것은 쌍안경으로 행성을 보는 것과 마찬가지다. 그러면 위성이 있든 없든 같은 결과가 나올 테니, 구태여 해볼 필요도 없다. 망원경이 할 일을 쌍안경에게 시켜선 안 되는 것이다.

무언가가 불가능하다는 것과 확률이 대단히 낮다는 것은 전혀 같지 않다. 비슷하지도 않다. 불가능한 일은 절대 벌어지지 않지만, 확률이 낮은 일은 많이 벌어진다.

소수는 전혀 무작위적이지 않다! 소수에게는 임의적이거나 우연에 좌우되는 성질 따위는 전혀 없다. 오히려 정반대다. 우리는 소수를 우주 불변의 속성으로 여긴다. 그렇기 때문에 외계인들에게 우리가 바보가 아니란 사실을 보여 주기 위해서, 항성간 공간으로 내보낸 보이저 호의 금제 음반에 소수를 새겨 넣었다.

많은 사람들이 빅데이터 시대의 도래를 두려워하고 있다. 두려움의 일부는 만일 알고리즘에 충분한 데이터가 공급된다면 그것이 우리보다 추론을 더 잘 해낼 것이라는 암묵적인 전망 때문이다. 초인적 능력은 무섭다. 변신할 줄 아는 존재는 무섭고, 죽었다가 부활한 존재는 무섭고, 우리가 못 하는 추론을 해내는 존재는 무섭다.

질문 1: 어떤 사람이 테러리스트가 아닐 때, 그가 페이스북 위험자 명단에 오를 확률은 얼마일까?
질문 2: 어떤 사람이 페이스북 명단에 올랐을 때, 그가 테러리스트가 아닐 확률은 얼마일까?
두 질문을 구별하는 한 가지 방법은 답이 서로 다른지 확인하는 것이다. 그리고 답은 정말 다르다. 앞에서 보았듯이, 첫 번째 질문의 답은 2,000분의 1이지만 두 번째 질문의 답은 99.99%다.

기대값은 유의성과 마찬가지로 이름이 그 뜻을 제대로 포착하지 못한 수학 용어 중 하나다. 우리는 사실 복권 티켓에 60센트의 가치가 있으리라고 <기대하지> 않는다. 600만 달러 혹은 0달러 둘 중 하나라고 기대하지, 그 중간이라고 기대하진 않는다.

내가 사람들에게 에드먼드 핼리와 연금 가격 이야기를 들려주면, 종종 이런 말로 끼어드는 사람이 있다. <하지만 어린 사람이 돈을 더 많이 내야 한다는 건 명백한 사실이잖아요!> 그것은 전혀 명백하지 않다. (……) 이런 개념들이 정말로 그토록 명백하다면, 인류의 사상사에서 그토록 늦게 나타나진 않았을 것이다.

공항에 일찍 나가는 데 비용이 들듯이, 낭비를 없애는 데도 비용이 든다. 규칙을 준수하고 늘 경계하는 것은 가치 있는 목표이지만, 모든 낭비를 없애려는 것은 비행기를 놓칠 가능성을 깡그리 없애려고 하는 것처럼 편익을 상회하는 비용이 따르는 일이다. (……) 스티글러의 말을 빌리자면, 정부가 낭비를 전혀 하지 않는다면, 우리는 정부의 낭비를 막는 데 너무 많은 시간을 쓰고 있는 것이다.

섀넌의 천재성은 그런 시각이 완전히 틀렸다는 것을 꿰뚫어본 데 있었다. 오류 정정 부호는 전혀 특별하지 않다. 섀넌이 증명한 사실은(그리고 일단 그가 무엇을 증명해야 하는지 이해하자, 증명 자체는 그다지 어렵지 않았다) 거의 모든 부호어 집합들에 오류 정정 성질이 있다는 것이었다. (……) 이것은 아무리 축소해서 말하더라도 그야말로 충격적인 발전이었다. 당신이 호버크라프트를 만들라는 과제를 받았다고 하자. 당신이 맨 처음 택할 방법이 설마 엔진 부속들과 고무 튜브를 바닥에 아무렇게나 던져서 그 결과가 용케 물에 뜨리라고 예상하는 것이겠는가?

그러나 못생긴 남자들 중에서 당신이 좋아하는 남자들은, 이들은 삼각형에서 아주 작은 한구석만을 차지하는데, 다들 엄청나게 착하다. 그래야만 한다. 그러지 않으면 애초에 당신 눈에 들어오지도 않을 테니까. 데이트 후보자들의 외모와 성격이 음의 상관관계를 보이는 것은 엄연히 실재하는 현상이다. 그러나 만일 남자 친구의 외모를 개선할 요량으로 그에게 못된 행동을 하라고 가르친다면, 당신은 벅슨의 오류에 빠지는 셈이다.

<다수결>은 간단하고 깔끔하고 공정한 기법으로 느껴지지만, 단 두 선택지 사이에서 결정할 때만 최선의 기법이다. 선택지가 둘을 넘어서면, 다수결의 선호에 모순이 스미기 시작한다.

우리 인간은 그림을 그리지 않고서는, 도형을 상상하지 않고서는, 기하학적 대상을 실체로 여기지 않고서는 기하학적 발상을 단 하나도 떠올리지 못할 것이다. 보통 플라톤주의라고 불리는 이 관점은 내 철학자 친구들 사이에서 평판이 대체로 나쁘다. 그들은 묻는다. 대체 어떻게 15차원 하이퍼 큐브가 실체일 수 있어? 그러면 나는 그저 내게는 그것이 가령 산봉우리만큼 어엿한 실체로 느껴진다고 대답할 수 있을 따름이다. 게다가 누가 뭐래도 나는 15차원 하이퍼 큐브를 정의할 줄 안다. 당신은 산봉우리에 대해서 그렇게 할 수 있는가?

수학을 처음 시작했을 때, 나는 <노력>이란 점잖은 모욕이나 다름 없는 말이라고 생각했다. 학생에게 차마 똑똑하다고 말해 줄 수 없을 때 대신 말해 주는 표현인 줄 알았다. 그러나 노력하는 능력, 즉 하나의 문제에 관심과 에너지를 집중시켜 그 문제를 체계적으로 고민하고 또 고민하며 틈이 있는 듯한 지점은 모조리 밀어 보는 것, 더구나 겉으로는 뚜렷한 발전의 신호가 보이지 않는데도 계속 그렇게 하는 것은 아무나 가진 기술이 아니다. 요즘 심리학자들은 그 능력을 <기개>라고 부르는데, 기개 없이는 수학을 할 수 없다.