crossroads webzine

[1회] 뉴턴, 그는 과학자였을까 마법사였을까?

[그림 1] 고드프리 넬러(Godfrey Kneller)가 1702년에 그린 뉴턴의 초상화. 

1962년 노벨물리학상을 수상한 이론물리학자 레프 란다우(Lev Landau)는 '소련의 폰 노이만(soviet von Neumann)'으로 불린다. 그는 물리학자들의 업적과 지적 능력을 다소 주관적으로 평가하는 '란다우 척도'를 고안한 것으로도 유명하다. 란다우 척도에 따르면 매우 높은 수준의 물리학자는 상대적으로 작은 값을 부여받는다. 이 수치는 마이너스 로그 스케일로 나타내기 때문이다. 여기서 양자역학 방정식을 만든 하이젠베르크와 슈뢰딩거는 각각 1점을, 아인슈타인은 0.5점을 받아 최상위권에 위치하고 있다. 

그런데 란다우로부터 궁극의 점수이자 최고점인 0점을 받은 이가 있으니 바로 아이작 뉴턴(Isaac Newton)이다. 란다우 척도는 로그 함수를 따르기 때문에 뉴턴은 하이젠베르크보다 10배나 더 위대하다고 평가받은 셈이다. 란다우는 초유체 수학 이론을 개발한 자신에게는 스스로 2점을 매겼다. 란다우 자신을 다른 과학자들에 비해 과대평가했다며 눈을 흘기는 이들이 있을지도 모르지만, 또 달리 보면 뉴턴에 비해서 자신을 100배나 낮추는 겸손을 보여준 것으로도 봐줄 만하다. (그러나 그는 노벨상을 받은 직후 자신의 점수를 1.5로 상향 조정했다!)

굳이 란다우의 고평가가 아니었더라도 뉴턴을 역사상 가장 위대한 물리학자의 반열에 올려놓지 않기란 어려운 일이다. 생전 뉴턴에게 된통 당한 적이 있었던 로버트 훅(Robert Hooke)이나 라이프니츠라면 아마 죽어도(?) 그를 후보에조차 올리고 싶지 않았겠지만. 뉴턴보다 먼저 왕립학회의 핵심 인물로 활동했던 훅은 광학 이론을 놓고 뉴턴과 심하게 충돌했으며, 중력 이론의 핵심인 ‘역제곱 법칙’의 소유권을 놓고 그와 격렬히 대립하다 역사 속에서 거의 흔적도 없이 사라질 뻔했다. 훅이 사망한 후 왕립학회 회장이 된 뉴턴이 전권을 휘둘러 훅의 모든 실험 기구와 연구 성과의 삭제를 지시했으며, 심지어 그의 몇 안 되는 초상화마저도 죄다 없애버렸기 때문이다. 뉴턴이 후대에 남긴 “내가 더 멀리 보았다면 거인의 어깨 위에 서 있었기 때문”이라는 유명한 겸손의 문구는 실상 훅과 논쟁할 당시 키가 작고 꼽추처럼 몸이 굽었던 그의 외모를 조롱하기 위해 사용한 비열한 표현이었다는 해석도 있다. 그것이 진실이건 아니건 그 말을 들은 훅이 심히 불쾌해했다는 이야기가 전해진다.

뉴턴은 역사상 처음으로 달 위의 역학과 달 아래의 역학이 다르지 않다는 사실을 발견한 인물이다. 이는 아리스토텔레스 이래로 천상계와 지상계를 엄격히 구분했던 고대와 중세의 낡은 세계관을 단숨에 통합해 버린 지적 혁명이었다. 사과를 잡아당겨 땅으로 떨어뜨리는 힘과 달을 궤도에 붙잡아두는 힘이 근본적으로 동일하다는 이 통찰은 인류가 우주를 이해하는 방식을 뿌리부터 뒤바꾸어 놓았다. 몇 세기가 훌쩍 지난 오늘날에도 뉴턴은 합리적이고 이성적인 유물론자의 모범으로서 추측이 아닌 수학적 증명을 통해 자연법칙을 설명하는 과학자의 상징으로 남아 있다. 

[그림 2] 연금술의 성배라 불리는 ‘현자의 돌’에 대한 뉴턴의 필사 도해.

그러나 어딘가 수상하고 은밀한 꿍꿍이 과학자

하지만 뉴턴을 ‘과학의 화신’으로만 기억한다면, 우리는 그를 절반밖에 모르고 있는 셈이다. 만유인력의 법칙과 미적분학을 만든 그 이성적인 뉴턴은 동시에 수상한 연금술사이자 이단적인 신학자였으며, 성서를 암호문처럼 해독하려 했던 집요한 외골수였다. 그는 오늘날의 기준으로 보자면 전혀 과학자답지 않게도, 괴상한 분야에 놀라울 정도의 열정과 시간을 쏟아부었다. 대중의 미신과 신화를 애써 제거한 빈자리를 자신만의 광기와 새로운 신비주의적 열망으로 채워 넣었다고나 할까. 

뉴턴이 남긴 원고 가운데 상당수는 물리학이나 수학이 아니라 연금술에 관한 것이다. 이는 1936년에 열린 런던 소더비 경매에서 뉴턴의 미출간 원고를 대량 낙찰받은 것으로 알려진 영국의 경제학자 존 메이너드 케인스(John Maynard Keynes)에 의해 알려졌다. 뉴턴이 평생 연금술에 관해 쓴 기록을 모아 분석한 결과 약 50만 개가 넘는 단어가 사용된 것으로 드러났다. 이는 톨스토이가 대작 『전쟁과 평화』를 쓰는 데 사용한 전체 단어 개수와 맞먹는 분량이다. 그는 값싼 금속을 금으로 변환시킬 ‘현자의 돌(philosopher’s stone)’을 노골적으로 탐구했으며, 그의 실험 노트에는 연금술사들만의 암호와 은유, 기호가 빽빽하게 적혀 있었다. 이는 단순한 취미나 호기심이 아니었음을 말해준다. 뉴턴에게 연금술은 자연의 가장 깊은 비밀, 다시 말해 신이 물질에 부여한 자연의 숨은 질서를 파헤치는 진지한 학문이었다. 오늘날 우리가 ‘과학 이전의 미신’으로 치부하는 영역을, 그는 자연철학의 최전선으로 받아들이고 전력을 다해 추구했던 것이다.

더 흥미로운 점은 뉴턴이 연금술 연구를 철저히 숨겼다는 사실이다. 광학 연구조차 쉽게 공개하지 않았던 그였지만 연금술과 신학에 관해서는 유난히 비밀스러웠다. 게다가 연금술 연구는 훗날 영국의 조폐국장으로 임명되어 일하게 된 그에게 치명적인 자격 위반이 될 법한 사유였다. 연금술로 값비싼 금을 만들어 내려 한 행위는 위조지폐를 찍어 시장을 교란하려 한 것이나 마찬가지였으니까. 뉴턴은 조폐국 감사로 일할 때 실제로 화폐 위조범들을 추적하고 검거하기도 했으며, 유죄 판결을 받은 위조범들을 교수형에 처하게끔 하는 데 적극 일조했다. (사실 연금술 문제로 뉴턴만을 비난하는 건 다소 불공평한 처사인지도 모른다. 뉴턴의 시대 영국의 국왕이자 왕립학회를 왕명으로 공인하기도 했던 찰스 2세는 웨스트민스터에 있는 궁전 지하실에 개인 실험실을 가지고 있었다고 전해진다. 그는 국왕이었음에도 불구, 장난삼아 연금술에 발을 디뎠다가 깊이 심취하게 되었고, 결국 수은 중독으로 잦은 경련과 언어장애에 시달리다 일찍 고인이 되고 말았다.)

뉴턴이 자신의 연구를 철저히 감춘 것은 단지 이단 시비를 두려워했거나 사회적 비난을 피하려 했기 때문만은 아니었다. 뉴턴은 지식이란 아무에게나 공개될 수 있는 것이 아니며, 준비되지 않은 자에게 진리를 드러내는 것은 오히려 신성모독이라고 믿었다. 이는 토론과 동료평가를 통한 과학적 지식의 공개성과 재현 가능성을 중시하는 현대 과학의 규범과 정면으로 충돌하는 태도이다. 요즘 같은 시대에 태어났더라면 뉴턴은 흔한 연구과제 하나를 따내기도, 자신의 연구 결과를 저명 저널에 게재하기도 만만치 않았을 것이다.

신학에서도 그는 철저히 ‘반(反) 정통’이었다. 뉴턴은 삼위일체 교리를 거부한 ‘반(半) 이단자’였고, 따라서 예수의 신성을 인정하지도 않았다. (물론 그는 이 모든 것을 속으로만 간직했다. 케임브리지 대학교에서 학위를 받고 교수로 임용되기 위해서는 삼위일체의 신념이 담긴 ‘영국 성공회 39개 신조’를 받아들이고, 그 앞에서 여러 차례 선서해야만 했기 때문이다.) 뉴턴이 종교와 신학에 관해 쓴 글은 무려 14만 단어에 달하는 분량이었다. 그는 성경을 문자 그대로 믿는 대신, 연대기와 예언의 암호를 해독하려는 분석적 작업에 몰두했다. 심지어 다니엘서와 요한계시록을 계산해 세상의 종말 연도를 추정하기도 했다. (뉴턴은 예수의 재림이 19세기에 일어날 것이라 예언했으며, 나중에 이를 1948년으로 수정해 연기한 바 있다.) 중력 법칙을 세운 사람이 종말의 날짜를 계산하고 있었다는 사실은 합리성의 아이콘으로만 여겨져 온 그의 고고한 이미지에 커다란 균열을 내고 만다.

[그림 3] 르네 데카르트의 ‘소용돌이 이론(vortex theory)’. 데카르트는 우주가 에테르로 가득 차 있으며, 에테르 속에서 일어나는 소용돌이가 행성의 운동을 일으킨다고 생각했다.

『프린키피아』와 『광학』 속에 숨어 있는 ‘반(反) 과학’

뉴턴의 명성은 거의 전적으로 단 두 권의 저서 덕분이다. 하나는 만유인력의 법칙이 담긴 『프린키피아Principia』(자연철학의 수학적 원리)이고, 또 하나는 『광학Opticks』(빛의 반사, 굴절, 변화 및 색채에 관한 논문)이다. 두 책은 완성된 이후로도 오랜 세월 동안 책으로 펴내지 않았다는 공통점이 있다. 『프린키피아』는 1666년 중심 내용이 거의 완성되었으나 21년간 서랍 속에 감춰두었고, 『광학』은 무려 32년이라는 세월이 넘도록 묵혀두고 일부러 발표를 미루었다. 사실 『광학』의 주요 내용은 일찍이 철학회보에 일부 게재된 적이 있긴 하다. 그러나 논문 내용 중 빛의 입자성에 대한 훅의 끈질긴 반론과 트집, 그리고 아이디어 도용과 관련한 끊임없는 시비로 진절머리가 난 뉴턴은 출판을 무기한 연기하게 된다. 『광학』이 마침내 출간된 것은 훅이 사망한 바로 다음 해인 1704년이었다.

『프린키피아』의 1권과 2권은 주로 유클리드에게서 발견할 수 있는 기하학적인 증거와 증명으로 이루어져 있으며, 힘과 운동에 관한 내용이 수학적으로 빈틈없이 전개된다. 그러나 마지막 3권에서는 만유인력의 법칙을 포함해 이 법칙들의 응용을 보여주는데, 여기에는 차마 과학자의 머리에서 나왔다고는 믿기 어려운 추론이 담겨있다. 뉴턴은 혜성에서 발생한 수증기가 지구로 끌려와 강과 바다의 수량을 유지하는 데 중요한 역할을 하고 있으며, 지구상에 존재하는 모든 생명체가 가지고 있는 ‘생기(spirit)’도 혜성으로부터 온 것이라고 주장한다. 더 뒤쪽으로 가면 태양계처럼 우아하고 질서정연한 체계의 존재야말로 바로 그것을 만든 전능한 신이 존재함을 보여주는 결정적인 증거라고 결론짓는다. 그는 이렇게 덧붙였다. “자연현상으로부터 신의 존재를 유추하는 것도 분명히 자연철학의 일부이다.” 

『광학』에서는 빛의 반사와 굴절 현상, 프리즘을 이용한 백색광의 분광, 시각의 작용 방식, 무지개 색깔의 원리 등 다양한 빛의 성질을 상세하게 소개했다. 그러나 놀랍게도 빛의 특성과는 전혀 관계가 없는 주제의 글도 여기저기서 발견된다. 인체의 대사 작용과 소화, 혈액 순환의 원리, 심지어는 신의 천지창조와 노아의 홍수 이야기까지도 거침없이 등장한다.

또한 『광학』에서 뉴턴은 빛의 반사와 굴절 현상을 설명하기 위해 ‘에테르’의 개념을 사용했는데, 사실 이 에테르가 진동한다는 개념은 먼저 발표된 훅의 책 『마이크로그라피아』에서 아이디어를 얻은 것이었다. 아니, 사실은 그보다 앞서 우주 공간에서 에테르가 소용돌이(vortex)를 일으키며 행성의 운동을 추동한다고 주장한 데카르트에게서 그 개념을 가져왔을 가능성이 더 크다. 그러나 문제는 뉴턴이 케플러가 제시한 행성의 운동 법칙을 설명할 수 없다는 이유로 데카르트의 소용돌이 우주론을 배격했었다는 사실이다. 데카르트의 우주는 물질의 소용돌이로 가득 찼지만 뉴턴의 세계는 입자들이 드문드문 움직이는 텅 빈 공간이었다.

뉴턴은 『프린키피아』에서 중력을 설명할 때는 에테르를 거의 언급하지 않았다. (3장에서 혜성의 꼬리를 설명할 때 에테르가 잠깐 등장하긴 한다.) 하지만 『광학』에서는 에테르의 존재 가능성을 크게 열어두는 아이러니한 자세를 보였다. 뉴턴은 데카르트의 자석에 대한 설명이나 소용돌이 이론처럼 실험이나 관측에 의해 검증할 수 없는 설명을 ‘가설’이라고 불렀고, 실험을 통해 입증할 수 없는 방식으로 현상의 원인을 설명해서는 안 된다고 생각했다. 그것이 바로 뉴턴이 『프린키피아』에서 “나는 가설을 세우지 않는다(Hypotheses non fingo)”라고 강조했던 이유이기도 하다. 그러나 그런 이유로 에테르의 존재를 믿지 않았던 그가 때때로 에테르의 개념을 적극 활용하기도 했었다는 사실은 틀림없이 모순적이다.

[그림 4] 윌리엄 블레이크가 1795년에 그린 <뉴턴>. 

중력이란 연금술적 믿음이 만들어 낸 가상의 힘 

뉴턴은 중력이 왜 잡아당기는 힘으로 작용하는지 원리를 설명하지 못했다. 데카르트의 주장대로 우주가 에테르로 가득 차 있다면 그것이 매질이 되어 힘이 전달될 수도 있었다. 하지만 뉴턴의 우주는 텅 빈 진공 상태였다. 프랑스의 데카르트주의자들은 뉴턴이 주장하는 힘에 대해 강한 거부감을 나타냈다. 뉴턴의 만유인력은 두 물체가 직접 충돌하거나 접촉하지 않아도 원격 작용에 의해 힘이 전달되는데, 이는 데카르트가 기계론적 철학을 통해 제거하려 했던 마술적인 힘을 연상시켰기 때문이다. 아마도 뉴턴은 오랜 연금술의 전통에서 받아들여지고 있었듯이, 물질 입자들 사이에 비밀스러운 인력과 척력이 작용한다는 점을 그리 어렵지 않게 받아들였는지도 모른다. 그의 연금술적 상상이 광대한 규모의 진공을 가로질러서도 중력이라는 기운이 작용할 수 있다는 생각을 가능하게 했다. 따라서 뉴턴의 결론은 기계적 사고와 마술적 믿음의 완벽한 혼합이었다고 볼 수 있다.

영국이 자랑하는 낭만주의 화가 윌리엄 블레이크는 뉴턴을 그린 작품을 남겼다. 다소 엉뚱하게도 만유인력의 법칙을 발견한 이성의 화신 뉴턴을 어마어마한 근육의 소유자로 그려놓았다. 그림에서 뉴턴은 땅에다 종이와 컴퍼스를 놓고 높은 의자에 왠지 불편하게 앉아서 뭔가 골똘히 계산하고 있다. 블레이크는 뉴턴을 위대한 모습으로 그린 게 아니라 융통성 없이 불편한 모습으로 계산에 집중하고 있는, 머리로 피가 쏠릴 것만 같은 모자란 모습으로 그렸다. 실제로 블레이크는 뉴턴을 아주 싫어했다고 한다. 뉴턴은 영국인들에게는 최고의 자랑이자 위대한 과학자이지만 블레이크는 그가 세상을 아름답게 상상할 수 있는 예술적인 시각을 없애버리고 단순하고 기계적인 힘의 법칙으로만 세상을 그려낸 차가운 이성의 수학자로 본 것이다. 블레이크의 그림은 영국인들 사이에서도 인기가 아주 많아서 영국 국립도서관 입구 오른쪽에 비슷한 컨셉의 청동상으로 만들어져 전시되어 있기도 하다. 

우리나라 조선 후기의 실학자 최한기(崔漢綺)도 윌리엄 블레이크처럼 뉴턴을 싫어했던 인물 중 하나였다. 뉴턴은 중력을 계산할 수 있는 공식을 만드는 데는 성공했지만, 그 중력이 어디서 온 것인지, 물질이 어째서 서로 잡아당길 수 있는지 설명하지 못했다. 기(氣) 철학자였던 최한기는 기를 이용해서 만물이 어떻게 작동하는지 설명하려 한 학자였다. 그러니 중력이 어떻게 작동하는지 설명하지 못하는 뉴턴을 보고 ‘반쪽짜리 과학자’라고 폄하했던 것은 당연하다. 미분법 우선권을 놓고 뉴턴과 오랫동안 진흙탕 싸움을 해야 했던 라이프니츠도 뉴턴이 중력의 원인을 알아내려고 하지 않은 것에 대해 매우 당혹스러워했다고 전해진다.

코페르니쿠스의 천문학 혁명에서 시작된 과학혁명은 뉴턴에 이르러 마침내 완성되었다는 평가를 받는다. 그의 발견으로 인해 우주는 더 이상 신비로운 미지의 영역이 아니라, 수학적 원리로 설명 가능한 거대한 기계 장치라는 사실이 드러났다. 그러나 거기서 뉴턴이 본 것은 우주라는 거대한 기계 장치 앞에 서 있는 신이었다. 그에게 더 중요한 건 우주라는 기계의 작동 방법이 아니라, 그 기계를 움직이게 하는 신의 섭리를 이해하는 것이었다. 뉴턴 인생의 가장 큰 역설은 많은 사람들이 그의 업적을 보고 그와는 정반대의 생각을 했다는 점이다. 사람들은 뉴턴이 신을 쓸모없게 만들어버렸다고 결론 내렸다. 그러나 뉴턴이 보기에 신이 없다면 우주라는 기계는 바로 멈춰버릴 것이 틀림없었다. 이러한 아이러니는 에드먼드 핼리(Edmond Halley)가 『프린키피아』의 서문 중 뉴턴을 위해 남긴 헌시(獻詩)의 마지막 구절에서 여실히 드러난다. “어느 누가 그보다 더 가까이 신에게 다가갔으랴.”

마법사가 되고자 했던 과학자 뉴턴

이쯤 되면 중요한 질문이 떠오른다. 뉴턴은 과연 과학자였을까? 아니면 과학혁명 이전의 마지막 거인, 혹은 과학혁명 이후에도 남아 있던 몇 안 되는 신비주의자였을까? 어쩌면 그는 우리가 생각하는 ‘과학자’라는 범주 자체가 아직 굳어지기 이전의 인물이었는지도 모른다. 자연을 수학으로 기술하면서도, 그 수학적 질서의 배후에 신의 의지가 있다고 굳게 믿었던 사람. 실험과 계산을 신뢰했지만, 동시에 계시와 암호에도 귀를 기울였던 사람. (사실상 뉴턴은 과학자라 불린 적이 없다. 그는 ‘자연철학자(natural philosopher)’였다. ‘과학자(scientist)’라는 용어는 19세기 중반에 이르러서야 윌리엄 휴얼(William Whewell)에 의해 처음 제안되어 비로소 사용되기 시작했다.)

그에게 자연이라는 거대한 책은 수학으로 쓰여 있었지만, 그 책의 행간을 읽어내는 열쇠는 신학과 연금술의 신비 속에 숨겨져 있었다. 그래서 뉴턴은 과학에 충실했던 과학자인 동시에, 과학만으로 만족하지 못했던 과학자였다. 그는 과학의 토대를 닦았지만, 그 토대 위에 머물러 있지 않았다. 이러한 배반 혹은 일탈이야말로 뉴턴을 더욱 거대하게 만든 요소였는지도 모른다. 완전히 과학자가 되기에는 너무나도 신학자에 가까웠고, 완전히 신비주의자가 되기에는 지나치게 수학적이었던 인물. 

뉴턴은 자연이 전능한 존재에 의해 만들어진 암호라고 여겼다. 그는 연금술을 통해 그 암호를 해독하려 했다. 뉴턴의 연금술 연구는 결국 그의 자연철학과 일치하는 데까지 이르렀으며, 중력에 대한 그의 해석은 다분히 신비주의적이었다. 그래서 케인스가 뉴턴을 “이성의 시대를 연 최초의 과학자라기보다 고대의 지혜를 복원하려 했던 인류 최후의 연금술사"라고 평가한 것은 지극히 온당한 판단이었다.

뉴턴은 실제로 어떤 사람이었을까? 그는 부정적이고 병리학적인 증오감을 가지고 있었고, 복수심과 원한에 자주 시달렸다. 한때 성정체성 문제로도 힘들어했다는 이야기 또한 전해진다. 노년에 뉴턴과 매우 가까운 친구가 되었던 정치철학자 존 로크(John Locke)는 뉴턴을 “다루기 어려운 사람(nice man to deal with)”이라고 묘사한 바 있다. 17세기에 ‘nice’라는 영어 단어는 지금과 완전히 달라서 ‘까탈스러운’이라는 뜻으로 사용되었다. 『멋진 신세계』를 쓴 소설가 올더스 헉슬리(Aldous Huxley)도 “뉴턴은 인간으로서는 실격이었고, 괴물로서는 위대했다”라는 인상적인 평을 남기기도 했다. 

뉴턴은 말년에 죽음을 앞두고 자신의 삶과 업적을 돌아보며 다음과 같은 유명한 말을 남겼다. “세상이 나를 어떻게 보는지 모르겠다. 하지만 내 눈에 비친 나는 바닷가에서 노는 어린아이와 같다. 나는 다만 남들보다 조금 더 매끄러운 조약돌이나 더 예쁜 조개껍데기를 찾으며 즐거워했을 뿐이다. 내 앞에는 발견되지 않은 채 그대로 놓여 있는 거대한 진리의 바다가 펼쳐져 있다.” 이 비유는 학문에 대한 뉴턴의 겸손한 태도와, 자신이 이룬 업적보다 후대의 과학자들이 앞으로 탐구해야 할 미지의 세계가 훨씬 더 광대하고도 중요하다는 것을 강조하는 말로 자주 해석된다. 그러나 이는 어쩌면 뉴턴의 말로 다할 수 없는 심적 고통과 애잔함을 넌지시 드러낸 표현인지도 모른다. 그는 진실의 대양을 홀로 항해하며 그 심연으로부터 고대의 신학과 마법의 초자연적인 비밀을 발견하고자 온몸으로 부딪혀 싸웠으나, 그저 자연이 허락한 진리의 파편만을 건진 채 돌아왔을 뿐이었다. 뉴턴은 끝내 마법사의 꿈을 이루지 못하고 과학자로 남고 말았다.

참고문헌

박민아, 2006, 『뉴턴 & 데카르트』, 김영사.

Christianson, Gale E., 1996, Isaac Newton: And the Scientific Revolution(『뉴턴』, 정소영 옮김, 바다출판사, 2025).

Dolnick, Edward, 2011, The Clockwork Universe(『뉴턴의 시계』, 노태복 옮김, 책과함께, 2016).

Henry, John, 2011, A Short History of Scientific Thought(『서양과학사상사』, 노태복 옮김, 책과함께, 2013).

Levenson, Thomas, 2009, Newton and the Counterfeiter(『뉴턴과 화폐위조범』, 박유진 옮김, 뿌리와이파리, 2015).

Levy, Joel, 2010, Newton’s Notebook(『뉴턴의 비밀노트』, 정기영, 김혁, 이은주 옮김, 씨실과 날실, 2012).

Newton, Isaac, 1687, Philosophiae Naturalis Principia Mathematica(『프린키피아』, 박병철 옮김, 휴머니스트, 2023).