우주관 오디세이 - 플랑크 상수의 의미

세계 물리학계를 곤경에 빠뜨린 ‘흑체복사의 무한대 에너지’ 문제는 19세기의 마지막해인 1900년 마침내 해결되었습니다. 독일 물리학자 막스 플랑크(Max Planck)가 획기적이면서 황당한 가설, 즉 흑체로부터 방출되는 전자기파의 에너지는 극히 작은 ‘에너지 알갱이’로 구성되어 있다는 ‘양자 가설(quantum hypothesis)’을 세워 말끔하게 풀어낸 것입니다.

플랑크는 이 공로로 1918년 노벨물리학상을 받았으며, 독일 물리학계의 거장으로 존경받는 인물이 됩니다. 그런데 플랑크의 물리학 입문 때를 상기하면 이 같은 성공은 그야말로 극적인 반전이라고 할 만합니다.

1858년 북부 독일의 항구도시 킬에서 태어난 플랑크는 뮌헨의 막스밀리언 김나지움을 졸업하고 뮌헨대학에 들어갔습니다. 2년간 철학을 공부한 그는 물리학을 공부할 결심을 하고 지도교수인 욜리(Philipp von Jolly)를 찾아갔습니다. 욜리 교수는 이론물리학은 거의 완성상태에 도달했기 때문에 더 연구할 것이 없으니 다른 전공을 택하는 게 좋을 것 같다고 조언했다고 합니다.

그러나 플랑크는 욜리 교수의 조언을 받아들이지 않았습니다. 플랑크는 천재형은 아니었으나 책임감이 강하고 성실한 성품을 지닌 청년이었습니다. 목사 법률가 집안 출신답게 매우 보수적이었다고 합니다. 베를린 대학 교수로 당대의 물리학 권위자인 헬름홀츠와 키르히호프 밑에서 공부한 플랑크는 뮌헨대학에서 박사학위를 받은 뒤 1889년 키르히호프 후임으로 베를린대학의 교수가 되었습니다.

플랑크가 유럽 물리학의 중심이었던 베를린대학에 입성한 데는 행운도 따랐습니다. 베를린대학 교수 임용 심사에서 당시 전자기파를 발견하여 세계적인 실험물리학자로서 명성을 얻은 헤르츠(Heinrich Hertz)가 최고 점수를 받았습니다. 그런데 헤르츠는 본 대학을 선택하는 바람에 차점자였던 플랑크가 임용되었던 것입니다.

게다가 플랑크는 베를린에서 루벤스(Heinrich Rubens), 쿠를바움(Ferdinand Kurlbaum) 등 실험물리 학자들을 지속적으로 만날 수 있었습니다. 그 덕분에 그는 흑체복사에 관한 엄밀한 실험 결과들을 세부까지 정확하게 알게 되었고, 흑체복사를 이론적으로 설명하는 다양한 시도들을 항상 실험과 직접 비교할 수 있었습니다.

플랑크는 1894년 흑체복사 문제를 주목하고 연구에 돌입했습니다. 그는 가족들의 불평을 사면서까지 물리학자들을 자주 집으로 초대하여 활발한 토론을 벌였다고 합니다. 플랑크는 빈(Wilhelm Wien)의 ‘흑체복사 강도의 분포’ 공식에 주목했습니다. 실험물리학자인 빈은 기존의 이론을 적용하지 않고 독자적으로 실험에 근거한 공식을 만들어낸 것입니다.

그런데 빈의 공식은 진동수가 큰 부분에서는 정확하게 일치했으나 진동수가 작은 부분에서는 실험값과 일치하지 않았습니다. 반면 영국의 물리학자 레일리(John William Rayleigh)와 진즈(James Jeans)가 이론적으로 도출한 공식은 파장이 긴(진동수가 작은) 부분에서는 정확히 일치했으나 파장이 짧은(진동수가 큰) 쪽에서는 전혀 맞지 않았습니다. ‘자외선 파탄(ultraviolet catastrophe)’으로 불리는 현상입니다.

플랑크는 어느날 ‘이 두 공식을 결합하면 정확한 공식을 얻을 수 있겠다’는 생각을 하게 됩니다. 수많은 시도와 오류를 거쳐 1900년 10월 중순 플랑크는 드디어 흑체복사의 강도 분포식을 만드는 데 성공합니다. 그것은 놀랍게도 빈의 공식의 분모에 단지 ‘-1’을 추가한 형태로 나타났습니다.

이를 두고 일설(양자전기역학 연구로 리처드 파인먼, 줄리언 슈윙거와 함께 1965년 노벨 물리학상을 수상한 도모나가 신이치로 박사가 간담회에서 언급했다는 설.)에는 플랑크의 제자가 “교수님, 빈의 공식 분모에서 1을 뺐더니 실험과 꼭 일치하는 식이 되는데요.”라고 말해 그대로 해보았더니 정말로 맞았다고 합니다.

하지만 플랑크의 공식은 그의 성실성과 끈기로 볼 때 집념 어린 노력의 산물일 것임에 틀림없습니다. 루벤스는 즉시 이 공식을 자신의 실험 자료와 검토해본 결과 정확하게 일치한다는 것을 확인했습니다. 용기를 얻은 플랑크는 그때까지 단지 수학적인 제안에 불과했던 자신의 공식에 대한 이론화 작업에 들어가 역시 성공했습니다. 플랑크는 그해 12월 14일에 열린 베를린 물리학회의 역사적인 모임에서 흑체복사 이론을 발표했습니다. 과학계는 이날을 양자물리학의 탄생일로 기록하고 있습니다.

플랑크가 흑체복사 문제를 해결한 이론의 핵심 아이디어는 무엇일까? 그는 흑체로부터 방출되는 전자기파의 에너지가 극히 작은 알갱이들, 이른바 ‘에너지 양자’의 형태로 방출된다고 가정했습니다. 그리고 구체적으로 특정 진동수의 빛이 지니는 에너지의 값은 그 '진동수(ν)에 작용양자(플랑크 상수  ℎ)를 곱한 값'(ℎν = 에너지 알갱이, 양자)의 정수(n)배만 가질 수 있다.’(E= nℎν)고 가정한 것입니다. 그는 이를 ‘양자 가설 quantum hypothesis’이라고 명명했습니다.

이렇게 해서 최소 덩어리라는 의미의 양자(quantum)란 용어가 물리학사의 전면에 등장하게 되었습니다. 이 양자 가설에 따르면 에너지는 이 최소 덩어리의 정수배에 해당하는 값만 가질 수 있으며, 기본 덩어리의 0.3배, 1.7배와 같은 값은 존재할 수 없습니다. 플랑크는 이처럼 과감한 가설을 바탕으로 흑체에서 방출되는 ‘무한대의 에너지’라는 터무니없는 값을 유한한 값으로 현실화하는 데 성공했습니다.

그렇다면 물리학계의 숙원을 해결하며 양자론을 촉발시킨 플랑크의 논리가 어떤 것이었는지 따라가 보겠습니다. 에너지의 최소 단위는 에너지를 가진 전자기파의 진동수에 의해 결정됩니다. 즉, 에너지의 최소 단위인 양자의 크기는 전자기파의 진동수에 비례합니다. 진동수가 크면 에너지 양자가 크고, 진동수가 작으면 양자가 작다는 뜻입니다.

플랑크의 가설에 따르면 용광로(흑체)에서 나오는 전자기파들이 운반하는 에너지를 계산하는 방식은 19세기의 물리학이론과 근본적으로 달라지게 됩니다. 19세기 물리학의 성공적인 이론 중 하나인 열역학이론의 ‘에너지 등분배 법칙’에 의하면 특정 온도로 달구어진 용광로나 도자기(흑체) 속에서는 모든 진동수의 전자기파들(엄밀히 말하면 각 전자기파의 자유도)이 각기 동일한 양의 에너지를 운반합니다. 즉, 특정 온도에서 방출되는 모든 진동수의 전자기파들에게 일종의 ‘책임량’이 일괄적으로 할당되어 있는 상태라고 보면 됩니다.

그런데 플랑크의 양자 가설에 의하면 전자기파가 운반할 수 있는 에너지 양자는 진동수에 비례합니다. 진동수가 작은 전자기파가 1원짜리 동전(양자) 꾸러미라면 진동수가 큰 전자기파는 100원짜리, 500원짜리 동전(양자) 꾸러미에 비유할 만합니다.

자, 그렇다면 최소 단위 에너지, 즉 에너지 양자가 자신에게 부과된 할당량을 초과할 만큼 큰 진동수를 가진 전자기파(짧은 파장)들은 어떻게 되느냐가 문제입니다. 진동수가 작은 전자기파들은 에너지 양자가 작기 때문에 여러 개의 양자를 운반함으로써 할당량을 채울 수 있습니다. 그러나 진동수가 매우 커 에너지 양자 한 개가 이미 할당량을 넘어서는 전자기파들은 에너지 운반에 전혀 기여하지 못합니다. 곧 존재할 수 없게 되는 것입니다.

특정 온도의 용광로(흑체)에서 방출되는 전자기파의 에너지 할당량이 400원이라고 가정하겠습니다. 물론 온도가 높아지면 할당량은 많아지게 됩니다. 에너지 양자가 1원짜리인 전자기파는 양자 400개를 매달고 운반하면 됩니다. 에너지 양자가 100원짜리인 전자기파는 4개의 양자 꾸러미를 실어 나르면 임무를 완수하게 됩니다. 하지만 에너지 양자 하나가 500원짜리에 해당할 정도로 진동수가 매우 큰 전자기파는 양자 한 개만 해도 할당량을 넘게 됩니다. 플랑크 가설에 의하면 이런 전자기파는 아예 존재할 수 없게 되는 것입니다. 왜냐하면 전자기파는 진동수에 비례하는 최소단위 에너지 양자로만 에너지를 운반한다고 가정했기 때문입니다.

이 같은 이치로 도자기(흑체) 내부의 에너지에 기여할 수 있는 전자기파의 개수가 유한하게 줄어들고, 따라서 방출되는 전체 에너지양도 유한한 값이 되는 것입니다. 전자기파의 진동수가 클수록 그 전자기파가 갖는 최소 단위 에너지(양자)가 커지기 때문에 에너지 할당량 운반에 기여하는 전자기파의 갯수가 제한되고 이에 따라 방출되는 에너지 총합은 항상 유한할 수밖에 없습니다.

반면 고전 열역학에서는 모든 진동수의 전자기파는 특정 온도에서 동일한 에너지를 갖고 있다고 가정했고, 흑체 내부에서 발생되는 전자기파의 숫자가 무한대이기 때문에 방출되는 에너지 총합이 무한대라는 터무니없는 결과가 나왔던 것입니다.

플랑크의 양자 가설은 결과적으로 연속적인 맥스웰의 전자기학과 불연속적인 기체분자(원자)를 가정한 볼츠만의 열역학이론을 조화시킨 것입니다. 이는 아인슈타인이 뉴턴역학과 맥스웰 전자기학의 충돌을 조화시키는 과정에서 특수상대성이론을 창안한 것에 비견됩니다.

플랑크는 그해 늦가을 정열적인 검토를 마친 뒤 결국 이외에 어떤 다른 가능성도 없다는 확신을 가졌다고 합니다. 그는 아들과 숲길을 산책하면서 자신의 새로운 생각을 설명했습니다. 그는 이 같은 생각이 뉴턴의 발견에 버금가는 위대한 발견이거나, 아니면 하나의 완벽한 허구이거나 둘 중의 하나라일 것이라는 생각도 털어놓았다고 합니다. 플랑크는 이때 이미 자신의 가설이 고전물리학의 기초를 완전히 뒤흔들어 놓을 것이라는 점을 예감한 듯합니다. 그러나 매우 보수적인 세계관을 가졌던 플랑크는 이 결과를 스스로 믿지도, 만족해하지도 않았다고 합니다.

플랑크의 양자 가설은 흑체복사의 ‘무한대 에너지 문제’를 시원하게 해결해 주었습니다. 그의 계산 결과는 믿기 어려울 정도로 실험값과 정확하게 일치했습니다. 그리고 플랑크는 자신이 도입한 상수 값을 조절하여 임의의 온도에서 생성되는 도자기 속의 에너지양을 계산할 수 있었습니다. 이 상수는 레일리-진즈 공식과 빈의 공식에 나타나는 볼츠만 상수 k와 빈이 자신의 공식에 도입한 상수 베타(β)의 곱입니다. 이 상수의 단위는 일정 시간 동안 가해지는 에너지 즉, ‘에너지 × 시간’(Joule sec)로서 일정한 작용(action)을 나타냅니다. 그래서 플랑크는 이를 작용의 가장 최소 단위라는 뜻으로 ‘작용양자(elementary quantum of action)’라 명명했습니다.

플랑크가 새로운 불연속적인 양을 표현하기 위해 도입한 ‘양자 quantum(복수형 quanta)’란 단어는 ‘얼마나 많은(how much)’이란 뜻을 가진 라틴어에서 따왔습니다. 작용양자는 후에 발견자의 이름을 따서 ‘플랑크 상수’라는 이름으로 불리고 있으며, 기호로는 ℎ(영어로 에이취, 라틴어·독일어로 '하'로 읽음) 혹은 이를 2π로 나눈 ħ(하바로 읽기도 하지만, 영어로 '에이취 바', 독일어로 '하 크베어'로 읽음)로 표시합니다.

플랑크 상수 ℎ는 에너지 최소 단위와 전자기파의 진동수 사이의 비례관계를 연결시켜 주는 자연상수입니다. 이 상수는 우리 주변이나 먼 은하계에서 동일하며 시간이 흘러도 변하지 않습니다. 빛의 속도 c나 중력상수 G도 이와 같은 성격을 갖고 있습니다. 그런데 플랑크 상수는 일상적으로 통용되는 상수의 10억×10억×10억 분의 1 정도(6.626×10⁻³⁴joule sec)인, 너무나도 작은 값입니다. 플랑크 상수가 이렇게 작다는 것은 곧 에너지 최소 단위 즉, 양자가 엄청나게 작은 양임을 의미합니다. 인간이 실생활에서 에너지가 양자로 이루어져 있다는 사실을 감지하기 어려운 것은 이 때문입니다.

플랑크 상수와 양자의 발견은 흑체복사 문제 해결에 그치지 않고 물리학과 자연관의 혁명을 가져왔습니다. 당시 물리학계는 플랑크의 양자 가설을 수용하기를 주저했습니다. 그 이유는 플랑크가 비록 물리학계의 난제였던 흑체복사 문제를 해결했지만 양자 가설이 자연관의 전환을 요구했기 때문입니다. 플랑크 자신도 작용양자를 선뜻 인정하기 어려워 양자 가설을 동원하지 않고 기존 복사설과 조화시키려고 무던히 애썼으나 실패했을 정도입니다.

‘양자 가설’을 받아들이면 모든 것이 사실과 잘 들어맞긴 했지만, 플랑크를 포함한 어느 누구도 에너지가 불연속적인 값으로 존재하는 이유를 시원하게 설명하지 못했습니다. 에너지는 ‘불연속적인 에너지 양자’의 형태로 방출, 흡수될 수 있다는 생각은 과거의 물리학의 영역에 접목될 수 없는 그야말로 혁명적인 것이었습니다.

작용양자, 다시 말해 플랑크 상수가 존재한다는 사실은 자연이 연속적이지 않다는 의미입니다. 왜냐하면 작용양자는 더는 분할될 수 없는 한계를 설정했고, 따라서 우리는 0과 플랑크 상수 사이의 간극에 대해서 말하기 힘들기 때문입니다. 그렇다면 원인과 결과 사이가 끊어지지 않고 매끄럽게 이어져 있다고 2000년 넘게 믿어왔던 인과율도 이제는 신성시 할 수 없게 된 것이 아닐까요? 결국 작용양자는 세계를 인과적으로 서술하는 데 대해 한계를 분명히 제시한 셈입니다. 이에 따라 직관과 경험으로 형성되어온 인과론적이고 기계론적 우주관과 세계관은 도전에 직면하게 되었습니다.

<'우주관 오디세이' 저자·인저리타임 편집위원장>

인저리타임 조송현 pinegoo3141@gmail.com 조송현의 기사 더보기

저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지