우주관 오디세이 - 코펜하겐해석

뉴턴역학·상대론은 천재의 단독작품, 양자론은 천재들의 합작품

물리학의 주요 이론체계가 기본 공리를 토대로 세워졌다면, 양자론은 실험 결과를 바탕으로 수학적 구조가 세워진 뒤 그에 대한 해석을 통해 이론체계가 정립되었습니다. 이를테면 뉴턴역학은 공리인 3개의 운동법칙 위에 세워졌습니다. 상대성이론은 어떨까요? 뉴턴역학과 비슷한 형식체계라고 할 수 있습니다.

아인슈타인은 뉴턴역학의 뼈대가 된 상대성의 원리와 광속불변의 원리를 2대 공준(postulate)으로 삼아 수학적 연역을 통해 특수상대성이론을 세웠습니다. 일반상대성이론도 등가 원리라는 절대가정(공준)이 바탕이 되었습니다. 이들 공준 역시 뉴턴의 운동법칙과 마찬가지로 실험사실에 의해 잘 뒷받침되었습니다. 비록 이를 공준으로 채택한 데는 아인슈타인의 천재적 영감을 필요로 했지만 말입니다.

그런데 양자론은 이들 두 이론체계와 성립 과정이 확연하게 대비됩니다. 양자론에는 애당초 이론의 기초와 출발점인 공준이라는 게 없습니다. 뉴턴역학과 상대론은 천재 과학자의 단독 작품인데 반해 양자론은 여러 과학자의 발견들이 하나씩 쌓여 구축되었습니다.

게다가 ‘양자 가설’, 광양자 가설’, ‘물질파 가설’ 등 근거가 명확하지 않고, 실험으로도 확인되지 않는 가설을 바탕으로 수수께끼 같은 원자현상을 풀어가는 과정에서 체계가 세워진 것입니다. 이렇게 창안된 양자역학의 수학 공식은 실험사실을 잘 만족시켰으나 파동함수와 같은 핵심개념은 엄청난 논란을 야기했습니다. 이에 따라 양자론을 구성하는 원리와 핵심개념에 대한 일관된 해석이 필요했던 것입니다.

이제 양자론의 정립에 화룡정점이 된 코펜하겐 해석의 내용을 알아보겠습니다. 1920년대 후반 들어 틀을 갖추기 시작한 양자역학에 대해 물리학자들은 흔쾌히 받아들이기를 주저했습니다. 아인슈타인을 비롯한 일부 물리학자들은 이에 혐오감마저 갖기도 할 정도였습니다. 왜냐하면 양자역학이 일상적인 상식과 직관과는 너무 거리가 멀었기 때문입니다.

1927년 9월 볼타(Alessandro Volta) 서거 100주년을 기념하여 개최된 코모(como) 회의에서 보어는 ‘양자 가설과 원자이론의 최근의 전개’라는 제목의 강연을 통해 “양자역학의 핵심은 원자 수준의 현상에서 불연속성을 부여하는 플랑크의 양자 가설로 상징된다.”고 전제하고 “양자역학이 이제까지의 물리적 개념을 전혀 새롭게 재정식화할 것을 요구한다.”며 코펜하겐 해석을 제안했습니다.

그해 10월 브뤼셀에서 열린 제5회 솔베이회의와 1930년 제6회 솔베이회의에서 양자역학의 기초에 관한 뜨거운 논쟁이 일었습니다. 보어는 이 논쟁에서 자신이 코모 강연에서 제창했던 양자역학의 해석을 당시 물리학계가 수용하도록 설득하는 데 성공을 거두었습니다. 보어와 함께 이에 동조한 이른바 코펜하겐학파는 하이젠베르크, 보른, 디랙, 파울리, 폰 노이만 등입니다. 코펜하겐 해석은 주류 해석이며 이 해석에 의한 양자역학을 표준이론이라 부릅니다.

코페하겐 해석(Copenhagen interpretation)에 마음이 편치 않은 이유는 뭘까?

보어는 ‘양자역학적 사건은 고전역학의 언어로 표현되어야 한다’(대응원리)는 것이 코펜하겐 해석의 대전제라고 강조하고 다음과 같은 네 가지 핵심 내용을 제시했습니다.

(1)양자계(quantum system)는 하이젠베르크의 불확정성 원리의 지배를 받는다.
(2)양자계는 관측자에 의해 영향을 받는다.
(3)양자계의 상태는 파동함수로 기술되며, 확률적 특성을 갖는다.
(4)양자계는 파동-입자 이중성을 가지며, 상보성 원리를 만족한다.

위의 코펜하겐 해석의 핵심은 인간이 ‘자연에 대해 실제로 이야기할 수 있는 것은 무엇인가?’라는 질문입니다. 다시 말하면 양자계가 관측 행위에 의해 영향을 받고, 불확정성 원리를 따른다면 ‘원래의 자연은 어떤 것인가?’라는 의문을 가질 수밖에 없습니다. 코펜하겐 해석은 어떤 물리량의 값이 측정 전에도 존재하고 있다고 말하는 것이 무의미하다(부적절하거나 불필요하다)고 강조합니다.

오늘날 물리학자들까지도 코펜하겐 해석에 마음이 편치 않아 하는 까닭은 바로 수식으로 표현한 물리량이 실제로 존재한다고 말할 수 없다는 데 있습니다. 보어는 “양자역학은 관측자의 지식과 무관한 객관적 실재를 기술하는 이론이 아니라, 관측자와 대상 사이의 관계를 말해주는 이론.”이라고 주장했습니다. 그는 또 양자계는 관측 또는 측정과 무관하게 개별적인 물리량을 고유하게 가지고 있는 것으로 보아서는 안 된다며 “측정으로 나타난 것만을 확실하게 말할 수 있다.”고 강조했습니다.

코펜하겐 해석의 내용을 자세하게 살펴보겠습니다. 먼저 코펜하겐 해석의 기본 토대인 ‘양자 현상을 고전역학 언어로 기술해야 한다.’는 의미는 무엇일까요? 모든 물리학 실험은, 비록 양자세계에 관한 것이라고 할지라도 고전역학의 개념으로 서술되어야 합니다. 우리가 시도하는 실험 장치와 그 결과를 규정하는 언어는 고전물리학의 개념이기 때문입니다.

다른 언어로 대체할 경우 우리는 소통을 할 수 없게 됩니다. 그런데 양자 현상은 고전역학으로는 설명되지 않습니다. 그럼에도 불구하고 이를 불확정성 원리의 범위 안에서 고전역학의 개념과 언어로 설명해야만 한다는 것이 바로 코펜하겐 해석의 패러독스(역설)입니다.

우선 (1)양자계가 불확정성 원리의 지배를 받는다는 명제는 양자론과 고전물리학을 구별짓는 가장 충격적인 선언일 것입니다. 전제 (2) ‘관측 대상은 관측자에 의해 영향을 받는다’는 사실을 받아들인다면 관측 대상의 실체는 도대체 무엇일까 하는 의문이 자연스럽게 들게 됩니다. 고전물리학에서는 관측 대상은 관측자와 독립적으로 존재한다고 전제하고 있으니까요.

관측자가 관측 대상을 파악하기 위해서는 관측 장치가 있어야 합니다. 그런데 앞에서 설명한 ‘입자-파동 이중성’에서 보듯, 그 대상은 관측 장치에 따라 얼굴을 달리합니다. 관측 장치는 관측 대상과 관측자의 중간적 위치에 있다고 생각할 수 있습니다. 보어는 양자 세계의 탐구에서는 대상과 관측자 그리고 관측 장치가 모두 하나의 계를 이룬다고 강조했습니다.

여기서 (2)의 내용을 조금 더 확장하면 ‘모든 물리량은 관측 가능 양으로서만 의미를 갖는다.’는 언명이 가능해집니다. 이 부분은 양자론의 핵심으로 고전역학 및 상대성이론에서의 ‘물리적 실재’ 개념과 갈등을 빚고 있습니다. 고전역학과 상대성이론에서는 관측과 관계없이 ‘물리적 실재’ 혹은 ‘객관적인 실재’가 존재합니다. 그러나 양자론에서는 관측하지 않고 ‘물리적 실재’가 존재한다고 말할 수 없습니다. 그래서 ‘그렇다면 관측하기 전에 물리적 대상은 어떤 상태에 있나.’하는 의문을 야기합니다.

(3)의 내용을 달리 표현하면 양자계는 우연과 확률의 지배를 받는다는 것입니다. 위에서 설명한 (1)과 (2)가 실재론 논쟁을 불러일으키고 있다면 (3)은 고전역학의 철칙인 인과론적 결정론을 부정하는 내용입니다.

이 전제는 양자 세계를 기술하는 역학체계인 슈뢰딩거의 파동역학과 하이젠베르크의 행렬역학에서 도출된 해석입니다. 양자계의 확률적 특성은 양자역학에 의해 수학적으로 잘 설명됩니다. 달리 말하면 양자계의 확률적 해석은 양자역학의 수학공식과 실험결과를 일치시키기 위해 도출된 것이라고 할 수 있습니다. 바로 파동함수의 확률해석은 이 선상에 있습니다.

그래서 (3)은 ‘파동함수의 절대값 제곱은 측정값에 대한 확률밀도 함수이다.’로 한층 구체적으로 표현됩니다. 이는 막스 보른이 제시한 파동함수의 확률해석입니다. 파동함수는 실제 파동이 아닌 수학적 기술이며, 측정한다는 것은 관측 행위입니다. 따라서 이는 실험적으로 측정(확인)되는 양자계의 확률적 특성을 수학적으로 해석한 내용인 셈입니다.

확률적 특성을 제시한 코펜하겐 해석 (3)은 필연적으로 측정의 문제와 파동함수의 붕괴(collapse of wave function) 문제를 수반합니다. 슈뢰딩거방정식의 해(solution)로서 양자계의 상태를 기술하는 파동함수는 앞에서 설명한 확률파동의 다른 이름입니다. 파동함수가 수학적인 용어라면 확률파동은 이를 시각화한 용어입니다.

하이젠베르크에 의하면 파동함수는 양자계에 대한 실재적 기술이라기보다는 양자계 사건의 경향과 그 사건에 대한 우리의 인식을 서술합니다. 그것은 아리스토텔레스가 말한 ‘잠재태’라는 개념과 유사한 의미입니다. 즉, 파동함수는 ‘가능태’와 ‘현실태’의 중간쯤에 있는 일종의 기묘한 물리학적 상태라는 것입니다. ‘가능’에서 ‘실재’에로의 이행은 관측 행위 중에 시작됩니다. 즉, 파동함수는 양자계의 상태를 확인하기 위해 관측이 이루어졌을 때만 현실과 연관을 갖습니다.

하이젠베르크는 측정과 측정 장치 사이에 일어나는 상호작용의 불확정성을 발견하고, 잠재태적 실재를 불확정성의 관계 속에서 기술했습니다. 그는 그러한 실재를 ‘제3의 실재’ 혹은 ‘중간실재’라고 불렀습니다. 이것은 고전물리학적 의미의 실재는 아니지만, 물리적 실재를 낳는 가능태이며 현실태를 지향하는 경향을 갖습니다. 이 경향은 관측 행위에 의해 실현됩니다.

파동함수의 가장 큰 특징은 여러 가능한 상태의 중첩이라는 점입니다. 양자계의 상태를 기술하고 있는 파동함수는 측정하려고 하는 물리적 속성을 가질 수 있는 여러 가지 가능한 결과들의 합으로 전개됩니다. 앞에서 설명한 대로 파동함수는 여러 가능한 상태의 겹침(중첩) 상태이므로, 역으로 이를 여러 가능한 상태들을 분리해 전개할 수 있다는 뜻입니다.

파동함수가 이렇게 가능한 상태(각 상태는 측정하려고 하는 물리량에 해당하는데, 위치, 운동량, 에너지 등이 될 수 있다.)로 전개되었을 경우 관측하면 그 상태가 나올 확률은 전개계수의 절대값 제곱에 비례합니다. 이를테면 파동함수는 a%의 확률로 A에서 발견될 상태와 b%의 확률로 B에서 발견될 상태 등 가능성 있는 여러 가지가 중첩된 상태를 기술하고 있습니다.

심지어 파동함수는 배타적인 가능성들의 겹침 상태를 기술하기도 합니다. 이를테면 방사능 원소를 기술하는 파동함수는 핵이 붕괴하는 상태와 붕괴하지 않는 상태의 중첩을 기술합니다. 이중슬릿 실험에서 광자나 전자의 상태를 나타내는 파동함수는 오른쪽 슬릿을 통과하는 파동과 왼쪽 슬릿을 통과하는 파동의 겹침을 나타냅니다. 따라서 이 경우 ‘전자가 동시에 두 슬릿을 통과한다.’고 말할 수 있습니다.

그런데 이런 파동함수를 입자의 기술로 생각하면 황당해집니다. 입자가 어떻게 동시에 두 개의 구멍을 통과할 수 있단 말일까요? 심지어 코펜하겐 해석은 ‘죽은 고양이’와 ‘산 고양이’가 공존하고, ‘살아 있으면서 죽은 고양이’라는 기묘한 상태를 상상할 수 있는 문을 활짝 열어 놓았습니다.

그러나 전자의 위치를 관측하면 특정의 한 지점(단 불확정성 원리가 허용하는 범위 안에서)에서 발견됩니다. 여러 곳에서 발견될 확률이 갑자기 단 한곳으로 수렴되는 것입니다. 이중슬릿 실험에서도 마찬가지입니다. 두 슬릿을 통과할 가능성의 겹침으로 존재하던 파동함수는 경로를 탐지할 수 있는 측정 장치를 설치하면 입자는 단 하나의 경로를 택합니다. 겹침이 갑자기 깨지고 사라지는 것은 왜 일까요?

이 물음에 대한 코펜하겐 해석은 다음과 같습니다. 양자계는 관측에 의해 수렴됩니다. 즉, 측정의 순간에 불연속성이 필연적으로 발생하는 것입니다. 하지만 이 가정은 또 다른 의문을 낳습니다. 입자가 발견된 그곳 외에 온 우주에 걸쳐 있던 다른 수많은 파동은 모두 어떻게 된 것일까? 어떻게 측정을 하자마자 순식간에 모두 사라질 수 있을까? 이것이 ‘파동함수의 붕괴(collapse)’ 문제입니다.

예를 들어 전자의 위치를 측정합니다. 전자를 기술하고 있는 파동함수는 온 우주에 걸쳐 존재합니다. 그런데 관측을 실시하는 그 순간에, 그 전자가 측정된 장소, 예를 들어 지구의 A지점 외에 존재하던 모든 파동함수는 즉각적으로 붕괴되고 맙니다. 어떻게 동시에 온 우주의 파동이 관측과 동시에 사라질 수 있을까요? 상식적으로 납득하기 힘든 게 사실입니다. 특히 특수상대성이론에 의하면 정보전달은 빛의 속도보다 빠를 수 없습니다. 지구에서의 관측 행위가 즉각 먼 우주에까지 영향을 미쳤다면 이는 특수상대성이론을 위배하는 게 아니냐는 것이 ‘비국소성(non-locality)’ 논란입니다.

그렇다면 결국 파동함수, 곧 확률파동이란 무엇일까요? 풀러렌 분자의 간섭실험에 성공한 실험물리 학자 안톤 차일링거는 다음과 같이 답합니다.

“확률파동이 공간 속을 퍼져나가거나 이중슬릿의 경로를 따라 간다는 고전물리학적 직관은 한 곳에서 입자가 발견됨에 따라 다른 곳에서 확률파동이 붕괴한다는 생각을 만들어 낸 것에 불과합니다. 이것은 훌륭한 직관이 아닐 뿐 아니라 필연성에 근거를 두고 있지 않습니다. 즉 수학적 기술과 실험사실을 일치시키기 위한 소박한 직관일 뿐입니다."

안톤 차일링거는 확률파동의 붕괴에 대해서도 “실제 공간에서 일어나는 일이 아니다”면서 다음과 같이 해석합니다. 수학적인 파동함수를 고전물리학적 직관을 이용해 시각화한 확률파동은 정신적인 구성물에 불과합니다. 우리가 특정 장소에서 입자를 발견하는 순간 구면 파동은 완전히 무의미해집니다. 다른 곳에서 입자를 발견할 확률이 0이 되었기 때문입니다. 당연한 일이지만 입자는 오직 하나뿐입니다. 확률파동의 붕괴라는 상황을 굳이 상정할 필요가 없습니다.

요약하면, 안톤 차일링거의 코펜하겐 해석은 더는 공간 속을 퍼져 나가는 파동도, 특정 경로를 거치는 입자도 언급하지 않습니다. 다만, 실제로 관찰되는 개별 현상들에 대해서만 이야기할 뿐입니다.

마지막으로 코펜하겐 해석 (4)파동-입자 이중성과 상보성 원리는 앞에서 설명한 바 있습니다. 고전역학에서는 서로 대립적이고 모순적인 개념이 양자론을 이해하는 데 상호 보완적이라는 해석입니다. 하나의 물체는 입자(공간적으로 아주 좁은 범위에 존재)이거나 동시에 하나의 파동(공간적으로 넓은 범위에 존재)으로 있을 수 없기 때문에 이 두 개념은 언제나 상호 대립적이면서 동시에 상호 보완적입니다. 이러한 상보성은 모든 물리적 대상에서 발견됩니다. 불확정성 원리가 자연을 이해하는 데 있어 한계를 규정하고 있다면, 상보성은 양자역학적인 기묘한 세계를 잘 들여다보게 해주는 창인 셈입니다.

고전물리학의 성취는 세계에 대한 객관적인 설명이라는 보편적 이상으로 인류를 인도했습니다. 객관성이란 오랜 세월 과학의 지고한 가치로 간주되어 왔습니다. 양자론에 대한 코펜하겐 해석도 이 이상에 부합할까요? 어느 정도는 부합한다고 말할 수도 있습니다. 양자론은 고전역학 언어로 기술하는 기초 위에 세워졌습니다. 그러나 코펜하겐 해석은 양자계는 관측자에 의해 영향을 받는다고 전제합니다. 그러므로 양자론의 서술이 완전히 객관적이라고 말하기 힘듭니다.

양자역학은 우리들의 실험이 고전물리학의 개념으로 설명되어야 한다는 사실, 그리고 이 개념은 자연과 정확하게 부합하지 않는다는 역설적 인식과 더불어 출발합니다. 종종 이 고전 개념을 완전히 포기해야 한다는 제안이 나오기도 했습니다. 고전물리학의 개념은 일상의 개념을 세련되게 만든 것에 불과하고, 모든 자연과학의 전제조건인 언어의 본질적인 부분을 형성하고 있습니다. 자연과학의 현실은 실험이나 이론에서 고전개념을 실제로 사용하고 있으며, 사용해야 하는 상황입니다. 고전개념을 포기하면 우리는 서로를 이해하지 못합니다.

양자론의 과제는 이런 기초 위에서 실험을 이론적으로 해석해 내는 데 있습니다. 독일 물리학자 바이츠제커가 “자연은 인간에 앞서 있으나, 인간은 자연과학에 앞서 있다(Nature is earlier than man, but man is earlier than natural science.).”¹라고 한 말을 음미할 필요가 있습니다. 완벽한 객관성이라는 이상과 더불어 이 구절의 첫 문장은 고전물리학을 정당화합니다. 그러나 뒤의 문장은 왜 우리는 양자론의 패러독스를 피할 수 없는가, 왜 고전개념을 적용해야만 하는 필연성으로부터 해방될 수 없는가를 말하고 있습니다.

관측 장비가 외부세계와 매우 가까이 접촉하고 있고, 그것과 관찰자 사이에 물리적인 상호작용이 있을 때만 관측 장비입니다. 세계의 미세한 운동과정의 불확실성은 최초의 해석(고전물리학)에서와 꼭 같이 원자구조에 대한 양자역학 서술에서도 나타납니다. 관측 장비가 외부세계와 단절되어 있다면, 그것은 더 이상 관측 장비일 수도 없고, 고전역학의 개념으로 설명될 수도 없습니다. 관측 장비는 결국 관찰자에 의해 구성되기 때문에, 이로써 다시금 원자의 진행과정을 서술함에 있어서 하나의 주관적 요소가 개입됩니다.

보어는 이런 상황에 대해 “우리가 관찰하는 바는 자연 그 자체가 아니라 우리 방식대로 문제를 제기한 자연.”²이라는 유명한 말을 남겼습니다. 우리들의 물리학 연구는 일상 언어를 통해 자연에 관해 질문을 던지고, 우리의 유일한 수단인 실험을 통해 답을 얻고자 노력하는 것이라는 뜻입니다. 양자론은 또 다음과 같은 경구를 떠올리게 한다고 보어는 말했습니다.

‘생의 조화를 추구함에 있어서 우리는 삶이라는 연극의 관객이자 동시에 배우라는 사실을 결코 잊어서는 안 된다.’³

※ 1, 2, 3. 구승희 역(1993), 하이젠베르크의 물리학과 철학, 29~43p. Werner Heisenberg, Physics and Philosophy, 1962.

<'우주관 오디세이' 저자·인저리타임 편집위원장> 

인저리타임 조송현 pinegoo3141@gmail.com 조송현의 기사 더보기

저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지