우주관 오디세이 - 하이젠베르크와 헬골란트 섬

1900년 플랑크의 에너지 양자로부터 시작된 양자론(양자역학)의 싹은 아인슈타인의 광양자 가설에 이어 보어가 이를 원자모형에 적용시키면서 서서히 모습을 드러냈습니다. 원자가 방출하는 스펙트럼의 정체와 메커니즘을 규명하는 연구는 ‘보어-좀머펠트 원자 모형’을 탄생시키는 성과를 거두기도 했습니다.

그러나 아직 풀리지 않은 중요한 문제는 스펙트럼의 강도였습니다. 물론 전자가 특정 궤도에서 언제, 어디로 전이(점프)하느냐는 문제도 아직 풀리지 않은 상태였습니다. BKS(Bohr-Kramers-Slater) 이론은 원자를 가상 진동자(virtual harmonic oscillator)로 간주하고 고전역학과 조화를 시도했으나 실패했습니다.

BKS 이론이 실패한 근본적인 이유는 원자가 방출하는 스펙트럼을 광양자로 보지 않고 파동으로 취급한 데 있습니다. 여기서 교훈을 얻은 하이젠베르크는 원자 안의 전자가 방출하는 복사를 아인슈타인의 광양자로 간주하면서 동시에 BKS 이론의 ‘원자=가상 진동자’ 가설을 차용했습니다. 또 그는 전자의 위치(전자궤도)를 무시하고 고전역학 방식대로 관측 가능한 물리량, 이를테면 복사의 진동수와 강도를 기초로 이론을 수립했습니다.

문제의식

하이젠베르크(Werner Heisenberg, 1901~1976)는 뮌헨대학 시절 좀머펠트 교수에게 배운 보어의 원자이론에 혼란과 흥미를 동시에 느꼈습니다. 보어의 양자조건은 마치 피타고라스의 ‘수의 신비’를 상기시키면서 지적 흥미를 끌었습니다. 하지만 빛을 방출하지 않는 정해진 전자 궤도와 전자의 ‘뜀뛰기(양자도약)’란 개념은 도무지 이해가 되지 않았습니다.

하이젠베르크는 한 살 위인 볼프강 파울리와 이 문제에 관해 많은 토론을 가졌습니다. 파울리는 어느 날 하이젠베르크에게 “원자 안에 전자 궤도라는 것이 있다고 믿느냐?”며 시니컬한 표정으로 물었습니다.

하이젠베르크 역시 이에 대해 의문을 갖고 있던 터라 다음과 같이 대답했습니다.

“보어 이론은 의문투성이다. 고전역학의 범주를 벗어난 양자조건을 내세워 정상상태의 전자 궤도를 부여하면서 한편으로는 고전역학에 따라 궤도 반경을 계산하니까 말이다. 전자가 한 궤도에서 다른 궤도로 전이할 때 빛을 방출한다고 주장하는데, 이처럼 기묘한 전자의 도약(전이) 과정에 대해선 침묵하고 있다. 보어가 말하는 전자 궤도의 표상이 정확히 무엇인지 도무지 모르겠다.”

파울리도 그의 말에 동조했습니다.

“전자의 궤도가 원자 안에 있다면 그 전자는 명백히 일정한 진동수를 가지고 주기적으로 회전해야 한다. 그렇다면 맥스웰의 전자기이론에 따라 주기적으로 운동하는 전하로부터 전기적인 진동이 발생하고, 그 진동수를 갖는 단색광이 방사된다는 결론이 나온다. 그런데 보어모형에서 방사된 광선의 진동수는 그 신비한 ‘뛰기’(전이) 전후의 진동수 중간쯤에 있다고 한다. 미치광이 같은 소리이다.”

하이젠베르크와 파울리는 호기심과 의구심을 동시에 자극하는 원자이론의 주창자인 보어를 직접 만날 기회를 갖게 되었습니다. 이들은 1922년 좀머펠트 교수의 권유로 괴팅겐대학에서 열리는 ‘보어 축제(보어의 특강)’에 참가한 것입니다. 하이젠베르크는 강의 후 보어에게 반론을 제기했고, 보어는 답변을 시원하게 주지 못했습니다.

토론이 끝난 뒤 보어는 하이젠베르크에게 하인베르크산 산책을 제안했습니다. 이날 산책은 하이젠베르크의 학문 여정에 큰 영향을 끼쳤습니다.

보어가 오전의 강연과 토론 내용을 언급하며 “내 이론의 출발점은 고전물리학의 관점에서 볼 때 그야말로 경이라고밖에는 말할 수 없는 물질의 안정성”이라고 말했습니다. 보어는 이어 “고전물리학의 원칙, 즉 인과론적 결정론에 따르면 현재의 상태는 바로 직전의 상태에 의해 명확히 결정되어야 하는데, 원자 안의 현상은 여기에 부합하지 않네. 일찍부터 이 같은 모순이 나를 괴롭혔네.”

보어는 말을 이어갔습니다. “지금까지 과학자들은 새로운 현상을 설명하려고 할 때 기존 개념과 법칙을 사용할 수 있었지. 그러나 원자물리학에서는 우리가 지금까지 알고 있는 개념과 법칙이 결코 충분치 않다는 것을 깨달았네. 고전물리학은 원자 내부에 적용이 될 수 없다네. 그러므로 원자구조에 대한 직관적 서술도 불가능하지. 직관적이어야 한다는 것 자체가 이미 고전물리학의 개념이기 때문이네.”

보어의 이 말은 하이젠베르크가 가졌던 문제의식을 고스란히 담고 있었습니다. 하이젠베르크는 다시 한 번 자신이 올바로 이해하고 있는가를 확인하기 위해 되물었습니다. “그렇다면 교수님이 지난 며칠 동안 강의에서 설명하신 원자 상(像)은 도대체 무엇을 뜻합니까?”

보어가 대답합니다. “그 원자 상(像)은 확실히 경험에서 나온 것이며 학생이 원한다면 추측된 것이라고 말해도 좋지만, 여하튼 이론적 추론에 의해 얻어진 것은 아니네. 나의 원자 상(원자 모형)이 원자의 구조를 잘 서술할 수 있기를 바라지만, 고전물리학의 직관적 언어로 가능한 범위 안에서 잘 서술되기를 바랄 뿐이네.”

하이젠베르크가 다시 묻습니다. “이론적 추론이 아니라 추측에 의지한다면 어떻게 과학적 진보를 이룰 수가 있는 것입니까? 결국 물리학이란 정밀과학이어야 할 터인데 말입니다.”

그러자 보어는 이렇게 대답합니다. “시간이 지나면서 새로운 경험이 쌓이면 원자 안의 비직관적인 현상들을 설명할 수 있는 새로운 개념을 형성하리라고 기대할 수가 있을 것이네. 그러나 유감스럽게도 우리는 아직 그와 같은 상황과는 멀리 떨어져 있다는 것을 부인할 수 없네.”

하이젠베르크가 다시 따지듯이 묻습니다. “만약 원자의 내부 구조가 교수님이 말씀하시는 것과 같이 그렇게 직관적 서술로써는 접근하기 어렵고, 또 우리가 이 구조에 관해서 말할 수 있는 언어를 갖고 있지 못하다면 우리는 도대체 언제 원자를 이해할 수 있단 말입니까?”

이에 보어는 잠시 머뭇거린 다음 이렇게 대답합니다. “아니, 그렇게 비관하지 말게. 우리는 현재 원자의 신비를 풀어가는 중이고, 그 과정에서 ‘이해’라는 말의 진정한 의미도 배우게 될 것이네.”

하이젠베르크는 보어와의 대화 이후 그의 이론이 비록 완전하지는 않지만 상당한 진리를 내포하고 있다는 것도 부인할 수 없는 사실임을 분명히 인식했습니다. 그의 이론은 원자의 안정성을 설명했고, 방사 스펙트럼의 진동수를 정확하게 예측했기 때문입니다.

다만, 하이젠베르크를 비롯한 물리학자들은 다음과 같은 의문을 갖고 있었습니다. 원자 안에 있는 전자의 ‘궤도 운동’의 진동수가 왜 방출된 복사의 진동수로 나타나지 않는가? 그렇다면 궤도 운동이란 없다는 의미인가? 만약 궤도운동 가설이 옳지 않다면, 원자 안에서 전자는 움직이지 않는다는 말인가? 그러나 윌슨이 발명한 안개상자를 통해 운동하고 있는 전자를 우리는 볼 수 있지 않은가?

하이젠베르크는 원자 내 전자 궤도의 전자 진동수와 방출된 빛의 진동수 사이에 차이가 엄연히 발생한다는 데 주목했습니다. 이는 ‘전자 궤도’라는 개념이 적절치 않기 때문이라고 그는 결론을 내렸습니다. 사실 보어의 이론이 처음 나왔을 때부터 전자 궤도에 대해 의문이 많았던 것입니다.

1924년 7월 덴마크 코펜하겐에서 보어와 함께 연구를 시작한 하이젠베르크는 이듬해 여름부터 수소원자 스펙트럼선의 강도에 대한 공식을 세우기 위한 연구에 착수했습니다. 처음엔 너무 복잡한 수학적 미로에 빠져들어 실패했습니다.

그러나 이 시도로부터 그는 원자 안에서는 전자의 궤도를 상정할 필요가 없으며, 진동수와 스펙트럼선의 강도를 결정하는 양(진폭)을 궤도의 대용으로 사용할 수 있겠다는 확신을 갖게 되었습니다. 원자 궤도는 추정된 개념인데 반해 이들 물리량은 직접 관찰할 수 있기 때문입니다.

하이젠베르크는 당시 유럽 과학계를 지배했던 실증주의적인 과학 방법론에 따라 관찰할 수 있는 양만을 원자의 결정요소로 간주해야 한다고 믿었던 것입니다. 특히 그는 원자에서 방출되는 복사를 아인슈타인의 ‘광양자 가설’에 따라 입자인 광양자로 취급했습니다. 광양자 개념을 수용하기를 거부한 보어와는 다른 접근 방식입니다.

하이젠베르크는 이 같은 아이디어를 바탕으로 수학적으로 좀 더 간단한 역학계를 찾기 시작했습니다. 그러한 계로서 진동하는 진자, 원자물리학에서 원자나 분자 안의 진동 모형으로 나타나는 이른바 조화 진동자(harmonic oscillator)를 생각해냈습니다. 원자를 가상 조화 진동자(virtual harmonic oscillator)로 다룬 BKS(Bohr-Kramers-Slater) 이론에서 힌트를 얻은 것입니다.

하이젠베르크는 ‘전자 궤도’라는 개념을 일단 포기하는 접근방법을 취했습니다. 이것은 스펙트럼의 진동수와 강도로 전자 궤도를 설명할 수 있다는 물리적 직관에서 출발한 방식입니다. 복사는 수학자들이 전자 궤도에 관한 ‘푸리에 급수’라고 부르는 것과 일치합니다. 그래서 역학 법칙을 전자의 위치나 속도에 대한 방정식이 아니라 ‘푸리에 급수’의 진동수나 진폭에 대한 방정식으로 서술되어야 한다는 착상을 하게 되었던 것입니다.

헬골란트 섬에서의 축복

1925년 7월 하이젠베르크는 꽃가루 알레르기 일종인 건초열병(hay fever)에 시달리게 되었습니다. 그는 2주간의 휴가를 얻어 북해의 헬골란트(Helgoland, 영어 헬리고랜드 Heligoland) 섬으로 요양을 떠났습니다. 쾌적한 환경에서 심신을 추스른 하이젠베르크는 불과 며칠 만에 원자 스펙트럼선의 강도에 관한 수학적 정식화에 성공했습니다. 그리고 연이어 일련의 에너지 준위들의 표현도 정식화했는데, 이는 고전물리학과 달리 양자화된 형태로 나타났습니다. 드디어 하이젠베르크는 수학적으로 모순이 없는 완전한 양자역학의 한 체계를 세운 것입니다.

하이젠베르크가 이때 사용한 수학은 당시 물리학자들이 잘 사용하지 않던 행렬이었습니다. 행렬은 함수를 변환시키는 연산자 역할을 하는데, 물리적으로는 슈뢰딩거 파동방정식의 오퍼레이터(operator)처럼 관측 값을 도출하는 기능을 합니다. 하이젠베르크는 당초 자신의 수학적 기술이 ‘행렬’인지 알지 못했습니다. 괴팅겐 대학의 막스 보른(Marx Born)이 하이젠베르크의 수학적 기술이 행렬임을 간파하고 이를 더욱 정교하게 다듬었습니다. 그래서 하이젠베르크의 양자에 관한 수학적 기술을 행렬역학이라고 부르기도 합니다.

하이젠베르크의 행렬역학은 전자의 궤도(위치)를 무시하고 복사의 진동수와 진폭(세기)을 기초로 수립된 것입니다. 그럼에도 불구하고 행렬역학의 운동방정식은 에너지 보존법칙과 보어의 진동수 조건을 모두 만족시켰습니다. 고전역학에서 운동방정식과 운동에너지는 모두 해당 물체의 위치에 대한 미분형태로 나타납니다. 그러니까 위치가 아닌 양을 대입해서 계산한 에너지는 결코 지금까지 알려진 에너지와 같다고 할 수 없습니다.

하지만 행렬역학의 운동방정식에서 도출된 에너지는 에너지 보존법칙이 성립되고 보어의 진동수 관계와도 서로 모순이 없었기 때문에 그것을 에너지라고 부르지 못할 하등의 이유가 없다고 하이젠베르크는 생각했습니다. 그뿐만 아니라 고전역학의 언어가 그대로 양자역학에서도 사용될 수 있었습니다. 이것은 놀라운 결과라 하지 않을 수 없습니다.

행렬역학은 뉴턴역학의 조건을 모두 만족시키면서 수소원자 문제 등 새로운 사실들을 재발견함으로써 뉴턴역학을 대체할 수 있게 되었습니다. 특히 행렬역학을 발전시킨 보른과 요르단(Pascual Jordan), 디랙(Paul Dirac)은 전자의 위치와 운동량을 기술하고 있는 ‘행렬’은 서로 교환할 수 없다는 사실(PQ≠QP)을 보여주었습니다. 이는 수학적 언어에서 양자역학과 고전역학 사이의 본질적인 차이를 극명하게 보여주는 것이었습니다.

※본문의 대화는 하이젠베르크의 『부분과 전체: 원자물리학을 둘러싼 대화(Der Teil und Ganze:Gesprache im Umkreis der Atomphysik)』(김용준 역, 지식산업사)(50~60p)를 참조했습니다.

<'우주관 오디세이' 저자·인저리타임 편집위원장>

인저리타임 조송현 pinegoo3141@gmail.com 조송현의 기사 더보기

저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지