우주관 오디세이 - 양자론의 아버지 닐스 보어

양자론 하면 물리학자 단연 닐스 보어(Niels Bohr)를 떠나 생각하기 힙듭니다. 보어는 ‘양자론의 아버지’라 불립니다. 그는 원자 모형 연구를 통해 양자역학의 기초를 닦았을 뿐 아니라 ‘코펜하겐 학파’의 리더로서 양자론의 완성에 결정적인 역할을 했기 때문입니다. 보어는 양자역학의 표준해석인 ‘코펜하겐해석’을 주도함으로써 상식과 직관에 반하는 양자론을 철학적으로 정립했습니다. 따라서 보어의 철학을 살펴보는 것은 양자론을 이해하는 데 큰 도움이 될 것입니다.

보어는 아인슈타인과는 상반된 성격과 연구 스타일을 보였습니다. 아인슈타인이 유아독존형 천재라면 보어는 리더형 천재였습니다. 보어는 1885년 10월 7일 덴마크의 수도 코펜하겐에서 교수 집안의 장남으로 태어났습니다. 아버지 크리스티안 보어(Christian Bohr)는 당시 코펜하겐 대학의 생리학 교수였고, 어머니는 유태계 은행가의 딸이었습니다. 보어의 가정은 아버지의 친구들이 모여드는 개방적인 지적 살롱이었습니다.

보어는 두 살 아래의 동생 하랄드(Harald Bohr)와 함께 부모와 주위의 기대를 모았습니다. 둘은 일찍부터 쌍둥이처럼 저희들만의 ‘오붓한’ 세계를 만들었습니다. 둘은 무엇을 하든 함께 행동하여 ‘분할 불가의 닐스, 하랄드’로 불렸다고 합니다. 하랄드는 상식과 위트가 풍부할 뿐만 아니라 민첩하고 완력도 세어서 형제 간의 다툼에서 이기는 쪽은 언제나 동생인 하랄드였습니다.

1903년 코펜하겐대학에서 물리학에 입문한 닐스 보어는 일찍부터 탁월한 재능을 보였습니다. 1907년 물의 표면장력에 관한 논문으로 덴마크왕립과학인문아카데미에서 금메달을 받았습니다. 당시 물리학계의 현안이었던 금속 안의 전자이론을 주제로 석사논문을 시작했고, 이것을 확대해 1911년 박사논문을 완성했습니다.

보어는 그해 전자의 발견자인 톰슨(J. J. Thomson)과 연구하기 위해 영국 케임브리지대학에 갔다가 사정이 여의치 않자 맨체스터대학의 러더포드 문하로 들어갔습니다. 1908년 노벨화학상을 수상한 러더포드는 당시 태양계 원자모형을 발표하는 등 물리학 연구의 첨단을 달리고 있었습니다.

보어 원자모형, 물리학계 등단작품이자 양자론 연구 견인차

보어는 1913년 원자는 일정한 불연속적인 에너지 상태(정상상태)를 가지며, 정상상태에서는 빛을 방출하거나 흡수하지 않는다는 ‘보어 원자모형’을 발표했습니다. 전기(前期)양자론으로 불리는 이 연구로 그는 1922년 노벨물리학상을 수상했습니다. 보어의 원자모형은 걸출한 물리학자의 등장을 예고한 등단작품이자 본격적인 양자론 연구의 견인차가 되었습니다.

보어는 이후 코펜하겐대학에 이론물리학연구소를 세우고 하이젠베르크 등 젊은 천재 물리학자들을 모아 양자론을 완성했습니다. 양자론의 주류 해석인 ‘코펜하겐 해석’은 바로 보어가 이끄는 코펜하겐 이론물리학연구소의 이론물리학자들이 내놓은 것입니다. 코페하겐 해석은 양자론에 대한 철학적 해석이라고도 할 수 있는데, 이는 대부분 보어의 견해가 바탕이 되었습니다.

보어의 세계관 형성에는 일찍부터 아버지의 서재 분위기가 큰 영향을 미쳤습니다. 코펜하겐대학의 생리학 교수였던 크리스티안 보어는 당대의 지식인들과 교류했는데, 그의 서재는 바로 코펜하겐의 지식인 살롱이었습니다. 아인슈타인에게 토론클럽 ‘올림피아 아카데미아’가 있었다면 보어에게는 ‘에클립티카(ecliptica, 황도)’가 있었습니다. 이 모임은 보어 아버지의 친구인 코펜하겐대학의 철학 교수 회프딩(Harald Hoffding), 물리학 교수 크리스찬센 등 지식인 12명으로 구성된 토론클럽이었습니다.

아인슈타인의 올림피아 아카데미 vs 보어의 에클립티카

보어는 아버지를 포함한 세 사람으로부터 인식론 등 그의 학문과 세계관의 골격이 된 철학을 배웠습니다. 특히 회프딩의 철학은 그에게 직접적인 형향을 미쳤습니다. 회프딩은 연속성과 불연속성 사이의 관계가 중요한 철학적 문제의 근간을 이루고 있다고 주장했습니다. 즉, 연속성과 불연속성 사이에 기본적인 이중성이 있다는 점을 간파했던 것입니다.

보어는 대학시절 이 토론 모임을 통해 철학서를 즐겨 읽었는데, 특히 덴마크의 철학자 소렌 키에르케고르(Soren Kierkegaard) 철학에 심취했습니다. 회프딩의 철학은 키에르케고르가 연원입니다. 덴마크의 코펜하겐에서 유복한 모직상인의 7남매 중 막내로 태어난 키에르케고르는 선천적으로 우울, 끊임없는 자기성찰, 자신에게 솔직·결백하고, 종교에 경건한 성격의 소유자였습니다.

이 같은 성향은 코펜하겐 신학교에 입학하면서 쓰기 시작한 일기에 강하게 나타나 있습니다.

‘나는 무엇이든 할 수 있다. 그러나, 나의 우수만은 어찌할 도리가 없다.’ ‘나는 야누스와 같이 두 개의 얼굴을 가지고 있다. 한 얼굴로는 웃고, 한 얼굴로는 운다.’

키에르케고르는 일기에서 짐작할 수 있듯이 철두철미한 자기성찰의 인간이었습니다. 더욱이 그는 가장 주체적이고도 실존적인 사상가였기에 항상 자기 자신의 문제들이 모든 사색의 근원이었습니다. 따라서 자기가 없는 철학, 자기를 떠난 철학, 자기를 문제로 삼지 않는 철학은 그에게 있어서 아무런 의미가 없었습니다. 그는 인간이 세상을 초월한 입장에 설 수 있다는 환상을 엄격하게 비판한 반 헤겔주의자였습니다. 실존주의 철학자인 그는 실체는 단일 사고체계로 표현할 수 없는 ‘다름과 대립’으로 가득 차 있다고 주장했습니다.

보어 양자론 철학의 뿌리, 키에르케고르와 마르틴 뮐러

보어는 흔히 청년기에 그러하듯이 키에르케고르에게서 자기 사상의 표현을 발견했습니다. 이 사상에 빠져든 그의 청년기는 자기부정, 양심성(兩心性), 경계인 등의 성격 특징이 가장 강하게 드러납니다. 한계성의 의식에 바탕을 둔 그의 세계관 역시 이런 기질에서 비롯되었습니다. 키에르케고르의 실체 개념은 곧 보어의 파동-입자 상보성 원리의 배경이 되었습니다.

보어는 시와 소설에도 관심을 보였는데, 덴마크와 독일의 많은 시들을 암송했습니다. 그는 특히 덴마크의 국민 시인·작가이자 키에르케고르의 멘토였던 포울 마르틴 뮐러(Poul Martin Møller)의 「덴마크 학생의 모험(Adventures of a Danish Student)」에 매혹되었습니다.

‘종종 사람은 그 자신을 두 사람으로 나눈다. 한 사람은 다른 쪽을 바보로 만들려고 애쓴다. 반면 제 3의 인물, 즉 본래 그 사람은 이 같은 혼란에 놀라움으로 가득 찬다. 간단히 말하면 사고(thinking)는 드라마틱해지고, 조용히 가장 복잡한 플롯을 행한다. 그리고 관객은 점차 배우가 되어간다.’

닐스 보어 "우리는 인생이라는 연극의 배우이자 관객"

이 마지막 문장은 보어가 양자물리학의 철학을 얘기할 때 자주 인용합니다. 보어는 이 문장을 인생의 원리로 통찰하고 "생(生)의 조화를 추구함에 있어서 우리는 삶이라는 연극의 관객이자 동시에 배우라는 사실을 결코 잊어서는 안 된다"고 말했습니다. 키에르케고르가 고백한 야누스적 성격과 이 작품에서 나오는 분신 이야기는 보어의 핵심 철학인 상보성 원리의 원형(原形)이라고 할 수 있습니다. 이중성에 대한 매혹은 이때부터 그의 사고 체계에 자리잡았던 것입니다.

보어의 사상적 출발점은 키에르케고르 철학에 영향을 받은 ‘인간은 자연의 일부다.’라는 한계성의 인식입니다. 키에르케고르가 헤겔의 초월적 존재와 절대 의지를 부정했듯이, 보어는 뉴턴이나 아인슈타인과 달리 한계의 초월을 지향하지 않고, 반대로 한계성에 투철해지려고 하였습니다.

보어 철학의 출발점 : '인간은 자연의 일부다'는 한계성의 인식

아인슈타인이 “물리학이란 실재를 개념적으로 파악하려는 시도.”라고 정의한 데 반해, 보어는 “물리학은 ‘자연에 대해 우리가 무엇을 말할 수 있는가’에 관한 것”이라며 “물리학의 의무가 ‘자연이 어떻게 존재하는가’를 발견하는 것이라고 생각하는 것은 잘못”이라고 주장했습니다.

또 아인슈타인에게는 ‘자아로부터 해방되어 신의 눈에 얼마만큼 접근하는가’가 문제였지만, 보어는 ‘원래 자연의 일부인 인간, 자연과 이어진 인간이 자연을 인식하려는 것 자체가 역설적’이라고 생각했습니다.

보어의 이 같은 인간의 한계성에 대한 강한 의식은 고전역학적인 신성불가침인 인과율과 연속성의 개념, 이론의 정합성에의 집착으로부터 벗어나게 해주었습니다. 보어는 곧 양자역학을 향한 가장 창조적인 지적 해방을 준비했던 것입니다.

당면의 실험적 사실을 설명하기 위해 연속성이나 인과율의 개념을 버린다는 것은 아인슈타인에게는 상상조차 할 수 없는 일이었습니다. 그는 법칙이 알려지면 모든 작용은 예지되어야 한다는 신념을 가지고 있었습니다. 그런 그에게 양자역학의 통계적 확률적 성격은 이 이론이 불완전하다는 것을 드러내는 결정적인 증거나 다름없었습니다.

아인슈타인에게는 우선 정합적인 전체로서의 세계가 출발점이었으며, 보어에게는 세계 속에 있는 인간이 출발점이었습니다. 아인슈타인에게 중요한 것은 법칙이 세계를 남김없이 비추는 것이었으며, 보어에게는 반드시 그래야만 하는 것은 아니라고 생각되었습니다. 때문에, 보어는 입자성이 겉으로 나타날 때 파동성이 숨겨지는 것(이중성)이 거부감 없이 수용되었습니다.

양자역학의 대상은 물론 원자나 전자 등 미시세계입니다. 그러나 보어에 의하면 양자역학적 대상이 무엇이냐는 물음에 단순히 ‘미시세계’라고 말하면 인식론적으로 옳은 답이 아닙니다. 왜냐하면 거시세계(관측자, 즉 인간)와 절대 분리된 미시세계를 관측한다는 것이 원리적으로 불가능하기 때문입니다. 미시세계에 대한 인식 자체가 거시세계에 사는 인간에 의한 관측이나 실험과 떼놓을 수 없는 것이며, 그 관측의 결과는 다시 인간의 인식과정을 거쳐 표현되지 않으면 무의미한 것입니다.

이 같은 관측의 결과는 결국 거시세계의 관측자인 인간의 인식과 분리될 수 없고, 고전역학의 언어로 표현되어야 합니다. 이 경우 빛의 ‘파동-입자 이중성’ 예에서 보듯이 측정 조건에 따라 배타적이거나 양립 불가능한 결과가 도출될 수 있습니다. 이 같은 현상에 대한 올바른 이해를 위해 제안된 것이 상보성 원리입니다. 이는 미시세계의 입자, 예를 들면 전자가 때로는 입자, 때로는 파동으로서 고찰되지 않으면 안 된다는 모순을 해결하기 위해 세워진 것입니다.

전자가 입자성을 드러내는가, 파동성을 보이는가는 전자가 무엇과 상호작용을 하는가에 의해 , 즉 전자가 놓여 있는 ‘상황’에 의해 결정됩니다. '전자 자체가 어떠한가' 라는 물음은 의미를 갖지 못합니다. 전자를 관측하는 것은 전자를 어떤 관측 장치와 상호 작용시키는 것, 즉 전자를 하나의 상황 속에 두는 것이기 때문입니다.

전자 관측은 전자를 관측 장치와 상호작용시키는 행위

하이젠베르크의 불확정성 원리와 함께 상보성 원리는 관측의 이론인 동시에 미시세계에서의 법칙입니다. 보어에게는 이 법칙들이 내포하는 철학적 의미는 커다란 감정적 만족을 주는 것이었습니다. 그는 이들 원리를 양자역학(물리학)의 범주를 넘어선 일반적인 관점으로까지 전개하려고 하였습니다.

보어의 제자 오게 페터센(Aage Petersen)에 의하면 그의 석사논문은 원래 철학논문으로 기획되었습니다. 보어는 그 논문에서 주체와 객체를 서로 대립하는 것으로서가 아니라 하나의 연속체로서 포착하였고, 그 둘의 분할점은 고정된 것이 아니라는 관점에서 이를 수학적으로 표현하였습니다.

이것이 바로 “관측 대상은 항상 관측자와 연결된 것이며, 관측의 대상과 관측자와의 경계는 고정된 것이 아니다”라고 주장하는 코펜하겐 해석의 핵심 사상입니다. 나중에 보어는 이 사고방식을 장님이 지팡이라는 관측 장치에 의지해서 지면의 요철을 인식하면서 걸어가는 경우에 비유하였습니다. 지팡이를 단단히 쥐고 있을 때 지팡이는 손의 연장이며 관측자에 속합니다.

그러나 지팡이를 느슨하게 쥔다면 지팡이는 지면의 요철이 연장된 것이며 관측 대상의 일부가 됩니다. 이 사상의 수학적 표현은 훨씬 뒤에 폰 노이만이 양자역학을 엄밀한 수학적 기초 위에 세웠을 때 비로소 달성되었습니다.

이제 보어의 과학철학을 정리해보겠습니다. 그에 의하면 관측 대상은 관측자와 분리된 상태에서 독립적인 속성을 가질 수 없습니다. 즉, 대상의 물리적 속성은 관측자와 상호작용 속에서만 드러납니다. 전자가 파동인가 입자인가 하는 물음은 의미가 없습니다. 전자의 입자성과 파동성은 전적으로 각각의 관측 장치와의 상호작용에 따라 결정됩니다.

물리적 변수인 위치와 운동량도 측정 장치와 상호작용 아래에서만 값을 가질 수 있다는 점에서 마찬가지입니다. 그러나 이 두 물리량은 동시에 측정하는 것이 불가능하기 때문에 서로 양립 불가능합니다. 입자-파동, 위치-운동량은 서로 배타적이면서 동시에 보완적입니다. 보어는 이를 상보적이라고 불렀습니다.

‘관측자 및 관측 장치와 독립적인 물리적 대상을 생각할 수 없다는 것은 관측하지 않으면 그 대상은 존재하지 않는다는 것인가?’ 이런 물음에 대해 보어는 “관측하지 않으면 존재하지 않는다는 뜻은 아니다.”라고 말했습니다. 다만, 물리적 대상은 외부 세계와 어떤 형태로든지 연결되어 있다는 점을 강조했습니다.

보어는 원자의 실재와 외부 세계의 존재를 믿었으며, 원자에 관한 지식이 개별 관측자에 좌우되지 않는다는 점에서 객관성을 갖는다고 생각했습니다. 관측과 관측자의 상호작용이 완벽히 기술되지 않는다는 것은 원자의 존재가 인간에게 의존한다는 뜻은 아니라는 의미입니다.

보어의 입장을 새겨보면 관측과 독립적인 실재가 존재하지 않는다거나 의미가 없다는 것이 아닙니다. 그가 강조하는 것은 원자와 같은 대상의 존재와 객관성에 대한 부정이 아니라 관측 대상은 관측자와 분리된 상태에서 독립적인 속성을 가질 수 없다는 것입니다

"관측 대상의 존재와 객관성 부정이 아니라 관측 대상은 관측자와 분리된 독립적인 속성을 가질 수 없다"

객관성이 반드시 주관의 제거를 의미하지 않습니다. 관측 대상과 주체를 분리할 수 없다면 객관성은 주체와 더불어 획득됩니다. 따라서 양자론의 철학, 특히 보어의 철학을 인간의 의식과 독립된 실재를 부정하는 반실재론으로 보는 것은 옳지 않습니다. 왜냐하면 관측 대상과 관측자의 분리 불가능성이 바로 개별 관측자의 특정한 성질, 특정한 주관성이 개입되는 것으로 연결되지 않기 때문입니다. 다만, 기존의 물리적 실재론, 아인슈타인이나 뉴턴의 실재론과는 다르다는 것은 분명합니다.

그렇다면 원자가 우리와 독립적으로 존재함에도 불구하고 고전적 실재론에 익숙한 우리에게는 기괴하게 보이는 이유는 무엇일까요? 원자 세계는 상보적 기술을 허용할 수밖에 없는 존재들의 세계라는 것이 보어의 주장입니다.

만약 관측 장치와 관측 대상이 분리 불가능하다면 관측을 통해 얻어지는 값은 무엇을 의미할까요? 관측은 대상에 이미 존재하는 값을 드러내는 것일까요, 아니면 관측을 통해 물리량이 창조되는 것일까요? 이 같은 질문에 대해 보어는 관측은 대상에 이미 존재하던 값을 드러낸다는 입장입니다.

그러나 이미 존재하던 값은 대상의 절대적인 속성이 아니라 실험 장치에 대한 상대적인 속성입니다. 관측은 곧 관측 대상과 관측 장치 사이의 상호작용입니다. 과학은 관측을 통해서 이론을 증명하고 관측을 통해 객관성을 획득한다는 것입니다.

양자역학은 인간과 독립적인 실재와 인간의 상호작용에 관한 수학적 기술 

양자역학은 관측에 독립적인 실재를 취급하는 것이 아니라, 관측의 수단과 관측에 독립적으로 존재하는 실재 사이의 상호작용을 취급합니다. 양자역학은 인간의 정신과 독립적인 실재에 관한 완전한 기술이 아니라, 인간의 정신과 독립적인 실재와 인간의 상호작용에 관한 기술입니다. 왜냐하면 우리 역시 실재의 한 부분이기 때문입니다. 관측은 대상에 이미 존재하는 값을 드러내는데, 관측 장치와 독립적인 절대 값이 아닙니다. 이것은 관측 장치에 대한 상대 값입니다.

물리학은 세계가 어떠한가를 재현해야 하는데 그 재현의 결과가 이성적으로 납득되지 않은 이유는, 고전물리학(고전역학, 뉴턴역학)적인 실재론이 잘못이고 우리는 거기에 익숙한 탓이라는 것이 보어의 주장입니다. 보어는 양자계의 현상이, 비록 고전역학적인 관점에서 반직관적이지만 이를 이성적으로 이해하기 위해서는 우리 인식의 틀을 변화시켜야 한다고 생각했습니다. 그래서 고안한 것이 바로 상보성 원리입니다.

보어의 성향을 간단히 정의한다면 매우 인간적인 과학자입니다. 양자역학이 다른 사람의 손에 의해 만들어졌다면 어떻게 되었을까 하고 묻는 것은 역사가 가정을 허용하지 않으므로 소용없는 물음이겠지만, 보어가 양자역학을 풍요롭게 꽃피운 역사적 사실을 생각한다면, 그와 양자역학의 만남은 인간과 과학의 아름다운 만남이었다고 하겠습니다.

<'우주관 오디세이' 저자·인저리타임 편집위원장>