우주관 오디세이 - 불확정성 원리

“하이젠베르크의 불확정성 원리 이후 이뤄진 모든 이론물리학의 새로운 발견은 불확정성 원리의 재해석에 불과하다.”

아인슈타인 이후 최고의 천재 물리학자라는 평가를 듣는 파인만의 말입니다. 불확정성 원리의 물리학사적 평가라고 할 수 있는데, 이 원리의 영향력이 그만큼 깊고 넓다는 뜻일 것입니다.

명불허전이라, 불확정성 원리는 고전역학과 양자역학을 가르는 이정표이자 가장 은밀하면서도 가장 신비로운 자연의 속성이 아닌가 합니다.

그렇다면 하이젠베르크는 이처럼 엄청난 비밀을 어떻게 발견하게 되었을까요?

하이젠베르크가 불확정성 원리를 정식화한 것은 1927년 2월입니다. 그러나 그 전해인 1926년 하이젠베르크는 절친한 친구인 파울리로부터 불확정성 원리의 맹아가 담긴 편지를 받았습니다. 파울리는 10월 19일 하이젠베르크에게 다음과 같은 내용이 담긴 편지를 보냈습니다.

“자네는 p(운동량)의 눈으로 세상을 볼 수 있고, 또 q(위치)의 눈으로도 세상을 볼 수 있네. 그러나 만약 자네가 동시에 두 눈을 뜨고 세상을 보려한다면 아마 미쳐버릴 것이네.”1)

파울리의 이 편지 내용은 바로 양자적 물체의 운동량과 위치를 동시에 정확하게 규정할 수 없다는 불확정성 원리의 비유적인 표현으로 읽히기에 충분합니다. 이 구절은 하이젠베르크의 마음속에서 큰 공명을 일으켰음에 틀림없습니다.

하이젠베르크는 막스 보른이 자신의 행렬역학에서 유도한 방정식 'pq-qp = -iℏ'을 보고 불확정성 원리에 대한 영감을 가졌다고도 합니다. 파울리의 편지 구절은 불확정정 원리의 은유적 표현이나 마찬가지입니다.

하이젠베르크는 불확정성 원리를 완성한 직후 스승인 보어보다 먼저 파울리에게 그가 얻은 결론을 설명하는 장문의 편지를 보냈습니다. '전자의 위치에 관한 정보를 더 많이 알려고 하면, 운동량에 관한 정보를 그만큼 잃는다. 그 반대의 경우도 마찬가지이다.’

하이젠베르크는 이를 피할 수 없는 ‘부정확성 inexactness(Ungenauigkeit)’이라고 표현했습니다.

한편 하이젠베르크는 자전적 양자론 저서 '부분과 전체'에서 불확정성 원리의 착상과 관련해 아인슈타인의 ‘무엇을 관찰할 것인가를 결정하는 것이 이론’이라는 말에서 결정적인 힌트를 얻었다고 밝혔습니다.

1926년 새해 벽두 슈뢰딩거의 파동역학과 그해 가을 보른의 확률해석이 나온 이후 보어와 하이젠베르크는 양자역학에 대한 올바른 물리적 해석을 도출하기 위해 수개월 동안 토론을 거듭했습니다. 안개상자의 전자 궤적처럼 매우 간단한 현상을 설명하는 데 있어서 행렬역학과 파동역학의 수학적 기술이 어떻게 조화될 수 있는가 하는 문제는 단적인 예입니다.

영국의 실험물리 학자 윌슨(Charles Wilson)이 개발한 안개상자는 전자의 궤적을 보여줍니다. 슈뢰딩거의 파동역학은 전자를 파동으로 가정했으므로 선으로 나타나는 전자의 궤적을 설명할 수 없었습니다. 보른이 해석한 확률파동 개념도 시간에 따라 계속 퍼져나가야 하므로 실험결과를 설명하기 어려웠습니다. 하이젠베르크의 행렬역학은 애초 전자의 궤도를 무시했으므로 안개상자의 전자궤적을 설명할 수 없었습니다.

결국 안개상자의 전자 궤적은 두 이론이 직면한 모순점을 선명하게 드러내고 있었습니다. 이 모순을 어떻게 해결하느냐가 양자역학을 완성하는 데 핵심과제가 된 것 같아보였습니다. 보어와 하이젠베르크는 이 문제에 장기간 매달린 끝에 기진맥진 상태에 빠지고 말았습니다.

1927년 2월 하이젠베르크와의 양자역학 토론에 지친 보어는 노르웨이로 스키 휴가를 떠났습니다. 혼자 남은 하이젠베르크는 매일 공원을 산책하며 ‘안개상자 딜레마’와 씨름했습니다. ‘양자들은 자신의 모습을 드러내지 않았으며, 그들은 늘 상반되는 그림을 내놓고 있다. 양자 시스템 내부에서 진행되고 있는 것을 볼 수 있는 양자역학을 만드는 길은 없는가?’

그러던 어느 날 밤 아인슈타인이 했던 말이 떠올랐습니다. 1년여 전 하이젠베르크는 베를린 대학에서 행렬역학을 발표한 뒤 아인슈타인의 초대를 받아 그의 집에서 토론을 한 적이 있습니다. 그때 아인슈타인은 “관찰 가능한 양만으로 물리학 이론을 세우려는 것은 잘못이네. 오히려 사람이 무엇을 관찰할 수 있는가를 결정하는 것이 이론이라네.”이라고 말했던 것입니다.

하이젠베르크는 산책을 하다 문득 돌아서서 서리 속에 찍힌 자신의 발자국을 보았습니다. 그러자 안개상자 속의 전자 궤적이 다름 아닌 안개에 찍힌 전자의 발자국이라는 생각이 들었습니다.

‘사람들은 실험을 통해 안개상자 안에 있는 전자의 궤적을 관찰할 수 있고, 그래서 원자 안에 전자의 궤도가 있다고 말한다. 그러나 우리는 안개상자 안에서 전자의 궤적을 보았다고 너무 경솔하게 말해 온 것이 아닐까? 아마도 사람들이 정작 관찰한 것은 실제 전자의 궤적이 아닐지도 모른다. 사람들이 본 것은 안개상자 안의 물방울일 뿐이고, 이 물방울은 실제 전자보다는 훨씬 확대된 것임에 틀림없다.’

하이젠베르크의 뇌리에는 삽상한 바람처럼 한 줄기 깨달음의 빛줄기가 스쳤습니다. ‘안개상자의 ‘전자 궤적’은 실제 전자의 비행 궤적이 아니라 전자에 의해 만들어진 ‘관찰되는 두꺼운 액체방울의 배열(전자 궤적)’이다. 따라서 올바른 질문은 다음과 같은 것이어야 한다. 즉 양자역학은 한 전자가 ‘대략’ 어떤 장소에 있고, 그때 ‘대략’ 얼마의 속도를 갖고 있는 상태를 기술할 수 없는 것일까? 그리고 부정확성의 정도를 나타내는 이 ‘대략’의 크기를 최소화할 수는 없는 것일까?‘

연구소로 돌아온 하이젠베르크는 곧바로 수학적 정식화에 착수했습니다. 그는 디랙-요르단의 ‘양자역학-고전역학 변환이론’을 통해 간단한 수식을 도출할 수 있었습니다. 후에 ‘불확정성 원리’로 명명된 이 수식은 위치 변화와 운동량 변화의 곱은 플랑크 상수보다 더 작아질 수 없음을 규정합니다.

하이젠베르크는 드디어 ‘안개상자 안의 관찰’을 양자역학의 수학으로 해석하는 데 성공했다고 생각했습니다. 이제 남은 것은 어떠한 임의의 실험에서도 이 불확정성 관계가 성립한다는 것을 증명하는 것, 즉 일반화시키는 일이었습니다.

하이젠베르크는 자신의 통찰이 일반적인 원리임을 보여주기 위해 ‘감마선 현미경’ 사고실험을 고안했습니다. 이는 괴팅겐대학 시절 친구인 부르크하르트 드루데와의 대화에서 힌트를 얻은 것입니다. 그런데다 3년 전 콤프턴이 실시한 광자와 전자의 충돌 실험 결과 산란 후 광자의 진동수가 변하는 ‘콤프턴 효과’가 만천하에 알려지면서 하이젠베르크의 머릿속에 뚜렷하게 각인돼 있었습니다.

하이젠베르크의 ‘감마선 현미경’ 사고실험의 개념은 다음과 같습니다. 전자를 위치를 정확하게(높은 해상도로) 보기 위해선 강한(진동수가 큰) 빛을 쏘여야 합니다. 그런데 진동수가 큰 빛 알갱이를 맞은 전자는 그만큼 큰 충격을 받아 속도(운동량)가 크게 변할 수밖에 없습니다. 따라서 정확한 위치를 알려고 하는 행위가 곧 운동량의 부정확성을 키우는 결과를 가져오는 것입니다.

하이젠베르크는 감마선 현미경 사고실험에서도 불확정성 원리를 수학적으로 성립함을 증명했습니다. 그는 마침내 불확정성 원리가 자연의 근원적인 원리라는 확신을 갖게 되었습니다.

불확정성 원리에 관한 보어 - 하이젠베르크 토론

하이젠베르크의 이 발견은 스키 휴가에서 돌아온 보어와 격렬한 토론을 거쳐 보완되고, 이름도 ‘불확정성(uncertainty principle)’로 바뀌게 됩니다. 하이젠베르크는 관측 행위를 광자와 전자라는 ‘두 입자’의 충돌문제로 가정했습니다. 따라서 ‘부정확성’은 측정 과정에서 수반되는 불연속성 및 불예측성으로부터 연유한다고 보았습니다.

그러나 보어는 파동역학을 적용해 부정확성의 연원이 ‘파동-입자의 이중성’에 있다고 주장했습니다. 보어는 관측자가 입자인 광자로써가 아니라 작은 파동다발로써 파동인 전자를 관측한다고 해석했습니다. 따라서 부정확성을 드러내는 입자의 특성을 추론하는 것은 바로 이 파동을 통해 주어진 정보를 해석하는 행위이라는 것이 보어의 설명입니다.

다시 말하면 부정확성의 비밀은 배타적인 두 개의 개념, 입자와 파동, 양자 충돌과 광학적 분해능의 결합에 기인한다는 것입니다. 이는 또 양자역학적 원리와 고전역학의 원리 사이의 내적 불일치가 외적으로 드러난 형태라는 해석입니다.

보어 해석의 근저에는 스키 휴가 동안 고안한 상보성의 원리가 자리하고 있었습니다. 그는 처음에는 불확정성 관계가 일반적인 상보성 원리의 특수한 경우 중 하나라고 느꼈습니다. 하이젠베르크는 자신의 새로운 발견에 대한 보어의 재해석을 몹시 못마땅하게 생각했습니다. 그는 입자의 관점에서 행렬역학을 수립했던 것입니다.

그러다가 당시 코펜하겐에서 일하고 있던 스웨덴의 물리학자 오스카 클라인의 중재로 두 사람은 서로 간의 해석에는 큰 차이가 없다는 사실을 확인했습니다. 물론 여기에는 보어의 의견이 더 강하게 반영되었습니다. 보어는 입자와 파동이라는 배타적인 두 개념을 하나로 통합할 때 비로소 원자에 대한 완전한 기술이 가능해진다는 상보성 원리로 하이젠베르크를 설득했던 것입니다.

이제는 두 사람이 완전히 이해한 사실을 일반 물리학자들에게 어떻게 표현하느냐가 남았습니다. 보어와 하이젠베르크는 새로운 사실을 남들에게 이해시키는 것이 매우 중요한 일이라는 것을 인식하기 시작했습니다. 두 사람은 그것을 표현하는 가장 좋은 방법을 놓고 씨름할 때, 피할 수 없는 어려움은 바로 우리의 언어가 도무지 맞지 않는다는 점이었습니다.

하이젠베르크는 보어에게 “우리의 언어가 꼭 들어맞지 않는 것 같습니다.”고 말했습니다. 아마 어떤 단어도 그의 아이디어를 정확하게 붙잡지 못한다고 느꼈기 때문입니다. 양자역학을 익숙한 용어로 표현해야 물리학자들이 수학적 관계식 이상으로 그것을 잘 이해하기를 희망할 수 있다는 것이 보어의 지론이었습니다.

하이젠베르크는 줄곧 ‘부정확성’이란 단어를 썼습니다. 그러나 이 단어는 그의 새로운 발견을 기술하기에는 빈약한 것이 사실이었습니다. 예전부터 겪어온 정확한 측정에의 어려움과 그런 관측이 본질적으로 불가능하다는 새로운 사실을 구별하기에 충분하지 않기 때문입니다. 하이젠베르크는 논문의 한 부분에서 실험결과의 부정확성 외에 수학적 기술의 불확실성 또는 미결정성을 의미하는 의미로 ‘indeteminancy(Unbestimmtheit)’란 단어를 쓰기도 했습니다.

그러나 논문 말미에 보어와의 토론 내용을 첨부한 엔드노트에 ‘불확정성(Uncertainty, Unsicherheit)’이란 단어를 썼고, 이것이 영어권 물리학자들에게 즉각 수용되면서 보편화되었습니다. 보어는 불확정성이라는 이상한 개념을 잘 이해할 수 있는 건강한 철학의 정식화하는 일에 착수했습니다. 이것은 곧 상보성 원리로 나타납니다.

불확정성 원리는 양자론의 핵심으로 심오한 철학적 의미를 내포하고 있습니다. 이것은 관측 행위 자체가 관측 대상에 영향을 미치기 때문에, 그리고 미시적 물체가 입자와 파동의 이중성을 가지기 때문에 발생하는 자연의 속성입니다. 전자의 위치를 정확하게 측정하려고 하면 전자는 더욱 크게 교란될 수밖에 없습니다. 위치를 정확하게 측정하려는 행위 자체가 전자의 속도를 바꿔 놓기 때문입니다. 실험자가 원한다면 전자의 위치를 정확하게 측정할 수 있지만, 그렇게 되면 관측이 이루어지는 순간에 전자의 속도를 알 수 없게 됩니다.

이와 반대로 전자의 속도를 정확하게 측정하고자 한다면 전자의 위치를 정확하게 측정하는 것은 포기해야 합니다. 무엇보다 중요한 사실은 불확정성이 입자의 위치와 운동량을 측정하는 인간의 능력이 모자라기 때문에 발생하는 것이 아니라는 것입니다. 입자가 잘 정의된 위치와 운동량을 가지고 있으나 우리가 (기술 부족으로) 그것들을 정확하게 측정하지 못할 뿐이라는 식으로 말하는 것은 전적으로 오류입니다.

하이젠베르크가 발견한 것은 한 입자가 잘 정의된 위치와 잘 정의된 운동량을 동시에 가질 수 없다는 것입니다. 그러나 사람들은 여전히 ‘관측하기 전에는 잘 정의된 위치와 운동량을 속성적으로 가지고 있지 않았는가?’ 하고 반문할 수 있습니다. 하지만 원리적으로 측정할 수 없는 본래의 속성에 대해 말하는 것은 의미가 없다는 것이 양자역학의 표준해석인 코펜하겐 해석입니다.

자연은 이런 식으로 상보적인 물리량들 사이에 불확정성을 부여함으로써 측정상의 한계를 지워놓았습니다. 불확정성 원리는 전자뿐 아니라 우주에 존재하는 모든 만물에 똑같이 적용됩니다. 하이젠베르크의 불확정성 원리는 ‘자연계에 불확정성이 있다.’는 사실뿐 아니라 어떠한 환경에도 적용되는 ‘최소한의 불확정성’을 명확하게 규정하고 있습니다. 이것은 고전역학이 자연은 근사치로 기술하고 있음을 극명하게 폭로해주었습니다.

이 같은 불확정성 원리에 대해 영리한 독자들은 다음과 같은 반론을 펼 수도 있을 것입니다. ‘전자를 가늘고 긴 실린더 안에 넣고 조금씩 압축해나가면 전자의 위치는 확정되고 그 순간 속도도 정확하게 측정할 수 있을 것 아닌가.’ 즉, 초강력 압축기로 실린더의 부피를 줄이면, 공간이 점차 줄어들어 거의 0에 가깝도록 실린더를 압축하면 전자의 정확한 위치를 파악할 수 있을 것이므로 불확정성 원리가 적용되지 않는 게 아니냐고 의기양양하게 반문할지도 모릅니다.

그러나 이는 실제 전자의 행태를 모르는 발상입니다. 실린더가 압축되어 공간이 좁아질수록 전자는 격렬하게 난동을 부립니다. 즉 위치의 변화가 줄어드는 대신 속도의 변화 폭이 커지는 것입니다.

심지어 전자는 실린더가 점차 압축되어 공간이 매우 좁아지면 실린더가 아무리 견고한 강철로 만들어졌다 하더라도 이를 뚫고 나가기도 합니다! 이른바 ‘터널링 효과(tunneling effect)’라는 놀라운 현상이 발생하게 됩니다.

불확정성 원리는 전자 등 미시세계의 위치와 운동량을 동시에 확정할 수 없다는 것을 나타냅니다. 다시 강조하지만, 이는 오차 없이 측정할 수 없다는 기술적인 한계를 뜻하는 것이 아닙니다. 측정의 정도 문제가 아니라 미시세계의 본질적인 속성으로서 피할 수 없다는 뜻입니다. 이것은 인간이 그동안 가지고 있던 물질관과 자연관을 근본부터 뒤집었습니다.

뉴턴 이래 물질세계에 대한 물리학자의 인식은 ‘처음에 일정한 조건만 정해지면 그 다음의 상태나 운동은 모두 예상할 수 있다.’는 것이었습니다. 곧 결정론입니다. 물리학의 대상인 자연현상이 ‘진리’에 의해 정연하게 결정되어 있기 때문에 그 진리를 해명하는 물리학도 결정론이어야만 한다고 의심 없이 믿어왔던 것입니다.

불확정성 원리가 나타내듯이 물질이 모호한 위치나 운동량을 가진다고 하면 ‘최초의 조건’이 역시 하나로 정해지지 않습니다. 그리고 그 장래도 복수의 가능성이 있고, 어느 것이 실현될지는 확률적으로 우연에 의해 이루어진다고 양자론은 주장합니다. 물론 실제로 실현되는 미래에도 모호함은 남아 있습니다. 양자론은 물질이나 자연이 단순히 하나의 상태로 정해지지 않고 굉장히 애매하다는 사실을, 그리고 그 모호함이야말로 자연의 본질이라는 것을 우리에게 말해주고 있습니다.

※ 1)David Lindley(2007), Uncertainty : Einstein, Heisenberg, Bohr, And the struggle for the soul of science, NY:Doubleday, 145p

<'우주관 오디세이' 저자·인저리타임 편집위원장>