우주관 오디세이 - 파동함수가 기술하는 것은 무엇인가?

슈뢰딩거 방정식의 해인 파동함수가 기술하는 것은 무엇일까요? 슈뢰딩거는 드 브로이의 물질파 가설을 전제로 파동방정식을 만들었습니다. 드 브로이 가설에 따르면 전자는 파장의 정수배에 해당하는 궤도에 ‘퍼진 상태’로 존재하는 파동입니다. 이런 전자의 운동 상태가 파동함수로 기술된다면 전자는 파동처럼 펼쳐져 있다는 것일까요?

하지만 전자는 어디까지나 입자이며, 구름처럼 펼쳐져 있는 걸 본 적이 없습니다. 그렇다면 전자의 운동을 기술한 파동함수는 도대체 뭘 말하는 걸까요?

다시 말하면 전자의 파동함수가 전자 자체를 의미하는지, 아니면 전자에 관한 정보를 담고 있는 간접적인 실체인지, 이도 저도 아니면 방정식을 유도하는 과정에서 부수적으로 개입된 수학적인 양에 불과한 것인지 오늘날까지 명확한 결론이 내려지지 않았습니다.

슈뢰딩거의 파동방정식과 파동함수가 기술하는 파동의 정체에 대한 논란이 가열될 즈음 막스 보른의 확률해석이 등장합니다. 양자론의 수학적 골격이 완성된 후에 독일계 영국인으로 아인슈타인의 절친인 보른은 슈뢰딩거 방정식의 해인 파동함수에 대한 새로운 수학적 해석, 즉 확률해석을 내림으로써 양자론 발전에 고속도로를 닦았습니다.

그의 해석은 1924년 보어, 크라머르스, 슬레이터가 제시한 이른바 BKS이론의 확률파동 해석과 궤를 같이 하는데, 수학적으로 명백한 규정을 내렸다는 점에서 획기적입니다. BKS이론의 등장했을 당시 확률파동 개념은 많은 물리학자들을 당혹하게 했는데, 특히 아인슈타인은 이를 ‘도깨비 파동(ghost wave)’이라며 정교하면서도 격렬한 반론을 제기했습니다. 그런데 아인슈타인의 절친인 막스 보른에 의해 또다시 확률파동이라는 개념이 물리학사의 전면에 등장한 것입니다.

파동함수에 대한 확률해석이 나온 뒤 파동함수와 확률파동은 같은 개념으로 쓰이고 있습니다.

하이젠베르크 행렬역학의 최대 단점은 전자의 실체를 직접 기술할 수 없다는 점이었습니다. 아인슈타인은 하이젠베르크-디랙의 행렬역학을 인정하면서도 “실재의 냄새를 맡을 수 없다.”며 불만을 표시한 것은 이런 이유 때문입니다.

이런 점에서 슈뢰딩거 파동방정식도 마찬가지였습니다. 전자의 파동함수가 위상공간의 추상적인 파동인 이상 그 파동이 실재하는 전자를 기술한다고는 믿기 어려웠습니다. 파동함수는 하나의 전자를 3차원 상에서 하나의 파동으로 완벽하게 기술했으나 한 쌍의 전자(2개의 전자)는 6차원 공간에서 하나의 단일 파동으로 기술했던 것입니다. 이것은 삼차원 상에서 두 개의 파동으로 기술될 것이라는 우리의 직관에 배치되는 것이었습니다. 그러나 슈뢰딩거는 자신의 방정식의 파동이 실재의 물리적 그림으로 판명될 것이라고 주장했습니다.

파동함수의 확률해석

그러나 막스 보른은 명료한 사고실험을 통해 슈뢰딩거의 주장을 반박했습니다. 그것은 바로 두 입자가 산란(scattering)하는 사고실험입니다. 두 개의 다른 입자가 충돌하면 이들은 역학 법칙에 따라 정해진 방향으로 움직여야 합니다. 이는 ‘콤프턴 산란’에서 벌어지는 현상과 같습니다.

그런데 슈뢰딩거에 따르면 충돌 후 산란하는 입자에 해당하는 파동들은 연못 위의 물결처럼 퍼져나갑니다. 이는 입자들이 모든 방향으로 흩어진다는 것을 의미합니다. 하지만 이것은 도무지 이치에 맞지 않습니다. 입자는 어디까지나 한정된 공간에 밀집돼 있어야 합니다. 전 공간을 균일하게 퍼져나갈 수 없는 것입니다.

보른은 입자 산란 사고실험을 통해 슈뢰딩거의 부자연스러운 해석을 반박하는 깔끔한 결론에 도달했습니다. 그것은 문제의 충돌현장을 떠나 퍼져가는 파동은 실제 입자가 아니라 그들이 발견될 확률이라는 것입니다. 다른 말로 하면 강한 파동이 생기는 방향은 산란된 입자가 나타날 가능성이 높은 곳입니다. 반면 파동이 약한 곳은 입자가 발견될 확률이 낮은 곳이라는 것입니다.

이렇게 되면 슈뢰딩거 방정식은 고전적인 파동과 달리 새로운 그 무엇을 표현하는 것이 됩니다. 원자 안의 전자의 경우 파동은 질량이나 전하가 물리적으로 퍼져나감을 표현하는 것이 아니라 전자가 이곳이나 저곳, 혹은 어떤 곳에서 발견될 확률을 기술한다는 뜻이 됩니다. 이리하여 전혀 새로운 형태의 확률이 물리학의 전면에 나서게 되었습니다.

보른은 1926년 논문에서 이 같은 아이디어를 정리해 발표했습니다. 산란의 결과를 구체적으로 예측하는 것은 더 가능하지 않으며, 다만 결과에 대한 확률을 규정할 수 있을 뿐입니다. 그는 “여기에 결정론 문제가 제기된다. 양자역학에서는 충돌의 결과를 결정하는 개개의 요소는 존재하지 않는다. 나는 원자 세계에서는 결정론을 포기하고 싶다.”1)고 말했습니다.

신은 주사위놀이를 하지 않는다

보른이 자신의 발견에 당혹해 하고 있을 때 아인슈타인은 단호했습니다. 아인슈타인은 그해 말 보른에게 그 유명한 ‘신은 주사위 놀이를 하지 않는다.’는 내용의 편지를 썼습니다.

“양자역학은 매우 인상적이네. 그러나 나의 내면의 목소리는 그것은 진짜가 아니라고 말하고 있네. 그 이론은 많은 것을 전달하지만 우리를 고전역학의 비밀에 가깝게 데려다 주지는 못할 것이네. 나는 확신한다네. 신은 주사위를 던지지 않는다는 것을.”2)

만약 확률이 인과율을 대체한다면 적어도 아인슈타인에게는 물리학을 건설하는 이성적 기초가 무너지는 것이었습니다.

지금까지 보른이 확률해석에 도달한 과정에서 본 대로 슈뢰딩거 방적식의 해인 파동함수(확률파동)는 물결파동과 같은 실제파동이 아니라 위상공간의, 수학적인 파동입니다. 눈으로 보거나 사진으로 찍을 수 있는 것이 아니라 단지 이론적으로 파동의 형태를 그려볼 수 있다는 뜻입니다.

그렇다면 그 가상적인 파동은 무엇을 의미하는 것일까요? 맥스웰 방정식에서 전자기파의 파동함수는 진동하는 전기장 E와 자기장 B의 세기를 뜻합니다. 하지만 보른은 전자의 파동함수를 ‘확률’의 관점에서 해석해야 한다고 주장했습니다. 파동함수의 절대치 제곱은 확률밀도함수, 즉 입자를 발견할 확률이라는 것입니다.

파동함수는 파동처럼 펼쳐져 있는 전자를 기술하는 것이 아니라 이곳저곳에 펼쳐져 있는 전자를 발견할 확률을 나타내는 것입니다. 전자의 파동은 이론적으로 전 우주에 걸쳐 펼쳐집니다. 파동함수의 진폭이 큰 곳은 전자가 발견될 확률이 큰 지점이고, 진폭이 작은 곳은 전자가 발견될 확률이 낮은 지점입니다. 이런 파동들이 중첩의 원리에 의해 모두 중첩돼 전자의 파동함수로 나타나는 것입니다(물론 실제파동이 아니라 수학적인 기술에 의해서이다.).

좀 더 정확하게 말하자면, 전자가 특정 지역에서 발견될 확률은 그곳에 존재하는 파동의 진폭의 제곱에 비례합니다. 슈뢰딩거의 파동함수로 표현하면, 계의 상태를 기술하는 파동함수 계수(파동의 진폭을 나타냄)의 절대치 제곱이 바로 에너지, 운동량, 위치 등 관측 값을 얻을 확률이라는 것입니다. 이것이 바로 말도 많고 탈도 많은 ‘파동함수의 확률해석’의 핵심 내용입니다.

보른의 이 같은 해석은 양자역학이 갖고 있는 가장 기이한 특성 중 하나이지만, 지금까지 실행된 수많은 실험들로 미루어볼 때, 그의 해석이 옳다는 데에는 이견의 여지가 없습니다. 이는 보어학파에 의해 더욱 구체화되면서 오늘날까지 정설로 받아들여지고 있습니다.

이것은 당시 물리학자들을 당혹하게 했습니다. 심지어 양자역학을 전면 거부하는 학자들도 나타났습니다. 그 대표적인 인물이 바로 아인슈타인입니다. ‘신은 주사위 놀이를 하지 않는다.’는 아인슈타인의 말은 확률론에 근거한 양자론을 비판하는 상징적인 문구가 되었습니다. ‘결정론적 우주관’을 철석같이 믿었던 아인슈타인에게 우주의 운행이 확률에 의해 좌우된다는 것은 허튼소리처럼 들렸던 것입니다. 하지만 그동안 진행된 수많은 실험사실들은 양자론이 옳으며, 아인슈타인이 틀렸음을 입증하고 있습니다.

당시 학자들은 ‘물리학의 기본체계가 도대체 확률과 무슨 상관이 있다는 말인가’ 하는 의문과 당혹감을 떨칠 수 없었습니다. 룰렛게임에서 확률에 의존하는 것은 우리가 결과를 예측하는 데 지식이 부족하기 때문입니다. 만약 우리가 룰렛의 돌아가는 속도와 구슬의 무게, 구슬이 룰렛에 굴러 떨어질 때의 위치와 속도 등을 정확히 알아낼 수 있다면 슈퍼컴퓨터를 이용해 구슬이 최종적으로 도달하게 될 번호를 예측할 수 있습니다.

다시 말해 당시 고전물리학의 우주관에 의하면 우리 우주는 현재의 상태를 알면 미래를 예측할 수 있는 결정론적인 세계인 것입니다. 이는 틀림없는 사실로 받아들여지고 있었습니다. 이런 상황에서 전자의 상태를 확률로써 알 수 있다는 양자론의 주장이 나온 것입니다. 도대체 이를 어떻게 이해해야 할까요? 그렇다면 이 우주는 가장 근본적인 단계에서 확률이라는 개념에 의해 그 운명이 좌우된다는 말일까요?

파동함수에 대한 보른의 해석과 그 후 50여 년 동안 얻어진 방대한 양의 실험결과들로 미루어볼 때, 모든 물질을 가장 근본적인 단계에서 확률적인 방법으로 서술하는 것 외에는 아직 별다른 방법이 없습니다. 현실에서 노트북은 책상 위에 있다고 자신 있게 말할 수 있습니다(거시적 세계에 대해 양자역학을 적용하면 고전역학과 동일한 결과를 얻게 된다. 드브로이의 물질파 이론에서 거시세계의 물체는 파동성이 거의 나타나지 않아 고전역학만으로 충분히 설명할 수 있다.).

그러나 미시세계에서는 사정이 다릅니다. 우리는 ‘전자가 이곳에 있다’고 자신 있게 말할 수 없는 것입니다. 다만, ‘전자가 이곳에 존재할 확률은 X%이다’고 말할 수 있을 뿐입니다.

전자가 이곳에서 발견될 확률이 X%라면 결국 다른 곳에도 동시에 존재한다고 생각하기 십상입니다. 하지만 이는 분명히 잘못된 생각입니다. 전자가 파동적 성질을 갖는다고 해서 그것이 공간상에 구름처럼 흩어진 채로 존재한다는 뜻은 아닙니다. 전자의 파동이 진정으로 의미하는 것은 하나의 전자가 특정 시간에 발견될 ‘가능성’이 동시에 여러 개 존재한다는 뜻입니다. 여러 장소에 동시에 있을 가능성이 있다면 동시에 발견될 수도 있지 않을까요? 이것도 물론 아닙니다.

파동이 나뉜다고 전자가 쪼개진 것은 아니다!

이해를 돕기 위해 흥미로운 다음과 같은 사고실험을 살펴보겠습니다. 작은 상자 안에 전자를 하나 넣고 밀폐시킵니다. 전자가 파동성을 가지므로 전자는 상자 안에서 어떤 범위를 갖고 존재할 것입니다. 슈뢰딩거 방정식을 사용해서 계산하면 전자의 파동은 시간의 경과와 함께 거의 균일하게 상자 속에 펼쳐져 있는 것을 알 수 있습니다.

이제 상자 한가운데 판자를 넣어 좌우로 나누어보겠습니다. 그러면 전자는 상자의 좌, 우측 중 어느 한 곳에서 발견될 게 분명합니다. 전자 파동은 어떻게 될까요? 판자에 의해 두 개로 나누어질 것임에 틀림없습니다.

그런데 원래 상자에는 전자를 하나 넣어 두었습니다. 판자에 의해 전자 파동이 둘로 나뉘어졌다면 전자는 어떻게 된 것일까요? 전자도 둘로 쪼개졌단 말일까요? 그러나 전자는 최소 입자이기 때문에 분할된 상태로 존재할 수 없습니다. 그렇다면 판자에 의해 분할된 것은 도대체 무엇일까요? 이는 존재와 인식에 관한 양자역학의 본질을 나타내는 중요한 사고실험입니다.

보른은 ‘나누어져 있다.’는 개념을 이렇게 해석했습니다. 그것은 전자가 좌우 어느 쪽의 한 공간에서 발견될 ‘확률’입니다. 즉 전자의 파동이 반으로 나뉘어 졌다는 것은 전자가 발견될 확률이 나뉘어 졌다는 뜻입니다. 전자의 파동함수는 전자가 왼쪽에서 발견될 상태와 오른쪽에서 발견될 상태가 중첩된 것입니다.

※ 1)Davod Lindley(2007), Uncertainty : Einstein, Heisenberg, Bohr, And the struggle for the soul of science, NY:Doubleday, 136p
2)같은 책 137p

<'우주관 오디세이' 저자·인저리타임 편집위원장>

인저리타임 조송현 pinegoo3141@gmail.com 조송현의 기사 더보기

저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지