우주관 오디세이 - 코펜하겐 해석의 비판과 대안 ... 숨은 변수와 결어긋남

숨은 변수(hidden variable)

다세계 해석에서는 중첩이 항상 실현되고 측정에 의해서도 사라지지 않는다고 본 반면 데이비드 보옴(David Joseph Bohm)은 양자계의 어떤 대상도 중첩의 상태로 존재하지 않는다고 가정했습니다. 그는 양자역학적 실험 속에서 입자는 항상 입자이며 한 순간도 파동이 아니라고 주장합니다. 보옴은 양자역학이 임시방편적이며, 따라서 파동함수에 대한 실재론적 재해석을 통해 양자역학을 실재론적 결정론의 영역으로 환원시켜야 한다고 보았습니다.

코펜하겐 해석에 의하면 모든 물체는 입자 ‘또는’ 파동이지만 보옴은 모든 물체는 입자이면서 ‘동시에’ 파동이라고 간주합니다. 또 입자의 확률파동을 입자와 함께 존재하는 또 하나의 실체로 간주했습니다.

그뿐만 아니라 보옴은 확률파동이 입자 자체와 상호작용하면서 입자의 운동을 ‘인도’하거나 ‘강제’하고 있으며, 한 지점에서 발생한 확률파동의 변화는 즉각적으로 멀리 있는 다른 입자에 영향을 줄 수 있다(비국소성)고 생각했습니다.

예를 들어 이중슬릿 실험의 경우 개개의 입자는 두 개의 슬릿 중 하나를 통과하는 반면, 입자의 확률파동은 두 개의 슬릿을 동시에 통과하면서 간섭무늬를 만듭니다. 그런데 확률파동은 입자의 운동을 인도하고 있으므로 확률파동의 값이 큰 곳일수록 입자가 도달할 확률이 커져서 간섭무늬가 나타난다는 것입니다.

이 같은 보옴의 이론에서는 확률파동의 붕괴를 따로 가정할 필요가 없습니다. 입자의 위치를 관측하여 ‘이곳’에 있음이 확인되었다면, 입자는 관측되던 순간에 정말로 그곳에 있었기 때문입니다. 그러나 보옴의 이 해석 역시 검증 불가능하다는 한계를 갖습니다.

특히 보옴은 전자와 같은 입자들이 고전물리학의 주장대로 정확한 위치와 속도를 갖고 있지만 그 특성이 우리의 눈에 보이지 않는다고 생각했습니다. 그는 불확정성 원리가 우리가 알 수 있는 한계를 설정하고 있지만, 그것이 입자의 실제적인 속성이 없다는 것을 의미하는 것은 아니라고 주장했습니다.

즉, 모든 물체는 고유한 속성을 가지고 있으나 우리가 숨은 변수를 알지 못해 그 속성을 설명하지 못할 뿐이라는 것입니다. 이것이 바로 숨은 변수 이론입니다. 이를테면 ‘슈뢰딩거 고양이’의 상태를 분명하게 알려주는(혹은 상자 안의 방사성물질이 붕괴했는지 안 했는지) ‘숨은 변수(hidden variable)’가 있어야 한다고 주장했습니다. 보옴을 비롯한 일부 물리학자들은 양자론이 이 숨은 변수를 빠뜨렸기 때문에 불완전한 이론이라는 주장을 폈습니다.

EPR(아인슈타인, 포돌스키, 로젠) 논문을 통해 양자론의 불완전성을 주장한 아인슈타인은 양자론이 완전한 이론이 되기 위해서는 숨은 변수가 추가되어야 한다고 강조했습니다. 그는 양자론이 물리적 실재를 제대로 기술하지 못하는 것은 양자론 학자들의 말처럼 자연의 속성이 본래 그래서가 아니라 물리적 실재를 제대로 기술할 숨은 변수를 찾지 못했기 때문이라고 공격했습니다.

숨은 변수 이론에서는 관측 가능한 물리량들(위치 운동량 스핀 등) 외에 관측으로 접근 가능하지 않는 하위 양자 차원의 물리량들의 존재를 가정하고, 이들의 값이 관측 가능한 물리량들의 값을 결정한다고 봅니다. 이렇게 도입된 숨은 변수들은 미시세계의 실재에 대한 완전한 기술을 제공한다고 주장합니다.

아인슈타인은 EPR 논문에서 다음과 같이 ‘숨은 변수’ 이론을 지지하고 있습니다.

“파동함수가 물리적 실재에 대한 완전한 기술 방식을 제공하지 못함을 보여주었지만, 한편 그러한 완전한 기술 방식이 과연 있는지 없는지의 질문을 열어 놓아야 합니다. 그러나 우리는 그러한 이론이 가능하다고 믿습니다.”

아인슈타인의 계승자들은 양자론의 불완전성을 주장하는 데 있어 ‘숨은 변수 이론’을 전가의 보도처럼 사용했습니다. 그런데 숨은 변수 이론에도 주창자에 따라 개념의 다소 차이가 납니다. 당초 보옴이 제창한 숨은 변수 이론은 국소성의 원리를 위배합니다.

그러나 아인슈타인에게 국소성은 신성불가침이나 마찬가지이기 때문에(왜냐하면 국소성은 특수상대성이론의 기본 전제이므로) 숨은 변수와 국소성은 조화되어야만 했습니다. 다시 말하면 아인슈타인의 ‘숨은 변수’는 반드시 국소성의 원리를 위배하지 않는다는 조건이 붙습니다. 이른바 ‘국소적 숨은 변수 이론’입니다.

다시 말하면 숨은 변수 도입의 근본취지는 미시적 영역에서도 결정론과 인과율을 유지하고, 고전역학적 현상과 양자역학적 현상 간의 이분법을 거부하여 고전물리학을 기초로 물리세계에 관한 일관된 해석을 추구하는 데 있습니다.

그렇다면 이 같은 숨은 변수 이론은 양자론의 불완정성을 해결할 수 있는 대안일까요? 만약 그렇다면 양자계에 대한 한층 완전하면서도 고전적인 실재론적 기술이 가능할 것입니다.

그러나 1964년 벨(John Stewart Bell)은 숨은 변수 이론은 양자론과 양립할 수 없음을 밝혔습니다. 국소성과 양자역학은 서로 모순이라는 사실도 드러났습니다. 국소성이 옳다면 양자역학적 기술 방식은 불완전한 것이며, 양자역학적 기술 방식이 옳다면 그것은 국소적이지 않다는 것입니다.

양자역학과 실재론적 국소성의 원리에 지배받는 숨겨진 변수 이론은 원리적인 측면에서 상호 모순일 수 있습니다. 그러나 과학적 예측이라는 유용성의 측면에서 볼 때 상호조화가 요청됩니다. 이러한 조화 가능성은 비국소적 인과율을 인정해야만 가능하기 때문에 실제로 많은 어려움을 갖습니다.

다시 말해서 비국소성을 받아들이면서도 실재론이 가능할 수 있는가의 질문에 대한 물리학적 답변은 지금으로서는 오히려 형이상학으로 흐를 수 있습니다.

결어긋남(Decoherence) ... 간섭 현상을 일으키는 결맞음의 잃음

결어긋남은 양자계가 간섭 현상을 일으킬 수 있는 결맞음(coherence)을, 외부와의 상호작용을 통하여 잃어버리는 것을 말합니다.

예를 들어, 전자는 파동처럼 행동하고 파동함수로 기술됩니다. 이들 파동은 양자입자의 기묘한 행동의 하나인 간섭을 일으킬 수 있습니다. 입자의 간섭은 양자역학의 가장 근본적인 성질인데, 이 간섭을 가능하게 하는 양자계의 상태를 결맞음(coherence)라고 합니다. 그런데 이런 상태가 관측 같은 외부와의 상호작용에 의해 깨지고 결국 양자적 특성을 잃는 과정을 양자 결어긋남이라고 부릅니다.

결어긋남은 1970년 독일의 물리학자 디터 제(H. Dieter Zeh)에 의해 제안되었고, 1980년대 이후 활발하게 연구되고 있습니다.

다세계 해석은 중첩을 매우 진지하게 받아들여 겹침에서 갈라지는 모든 가지들이 동시에 그리고 항상 존재한다고 주장하고, 보옴의 해석은 그 반대의 입장을 취하여 중첩이 전혀 존재하지 않는다고 주장합니다. 이에 비해 결어긋남 이론은 비록 중첩의 존재를 인정하지만 그것의 의미를 미시세계 영역으로 제한하여 희석시키는 것이라고 할 수 있습니다.

결어긋남의 개념은 이중슬릿 실험에서 쉽게 이해할 수 있습니다. 두 개의 물질파동이 간섭무늬를 만들기 위해서는 이중슬릿 장치의 두 슬릿을 모두 통과해야 합니다. 그 두 파동이 관찰 영역에서 일부 장소에서는 상쇄되고 일부 장소에서는 서로 보강되는 방식으로 겹치는 것입니다.

그러나 그런 상쇄와 보강은 두 파동이 서로에 대해서 일정한 관계에 있으면서 규칙적으로 진동해야만 가능합니다. 상쇄 간섭의 경우에는 두 파동이 정확히 반대로 진동해서 서로를 상쇄해야 합니다. 한편 보강 간섭의 경우에도 두 파동이 동일하게 진동하여 서로를 보강해야 합니다.

이렇게 두 파동이 상대적으로 일정한 방식으로 진동할 때, 우리는 그 둘이 결이 맞는 파동들이라 하거나, 혹은 일반적으로 완벽한 결맞음(coherence)이 이루어졌다고 말합니다. 양자역학적 중첩에서는 중첩되는 상태들의 결맞음이 매우 중요합니다. 이중슬릿과 관련해서뿐만 아니라 슈뢰딩거의 고양이와 관련해서도 결맞음은 매우 중요합니다. 이 경우에도 상태 ‘죽음’과 상태 ‘삶’이 서로 결이 맞아야 합니다.

그런데 우리의 양자역학적 계가 시간의 흐름 속에서 결맞음을 잃을 가능성은 얼마든지 있습니다. 그런 일은 주변과의 상호작용에 의해 일어날 수 있습니다. 그 상호작용은 매우 다양한 형태로 일어날 것입니다. 예를 들어, 우리가 이중슬릿 실험에서 입자가 어디에 있는지 보려고 계에 빛을 비추면, 계와 주변의 상호작용이 일어납니다.

우리는 조명으로 계를 교란한 것입니다. 두 부분 파동들의 고정된 관계를 교란시켜 그들이 더는 서로에 대해 고정된 관계로 진동하지 못하게 만듭니다. 따라서 그들은 예전처럼 완벽하게 서로를 상쇄하거나 보강하지 못하게 됩니다. 즉, 우리는 결맞음을 잃는 것입니다. 결과적으로 스크린의 간섭무늬가 사라집니다. 최종적으로 우리는 줄무늬가 없는 균질적인 희색을 얻습니다.

이것이 바로 결어긋남입니다. 앞에서 이미 배운 것을 이어서 다음과 같이 매우 일반적으로 말할 수 있습니다. 계의 상태에 대한 정보가 계로부터 주변으로 옮겨질 때 결어긋남이 일어납니다. 그런 정보가 없다면 결이 맞는 중첩이 이루어집니다.

슈뢰딩거 고양이의 경우에는 수많은 다른 결어긋남 메커니즘도 있습니다. 예를 들어 온도가 절대영도가 아닌 한, 모든 충분히 큰 계가 주변에 열을 방출한다는 사실도 결어긋남 메커니즘입니다. 고양이가 호흡을 한다는 것, 즉 주변의 공기 분자들과 상호작용한다는 것은 차치하더라도, 체온을 지닌 고양이가 열선을 방출한다는 것은 분명한 사실입니다.

그러므로 고양이는 전혀 닫힌계에 있지 않습니다. 고양이는 주변으로부터 끊임없이 교란당하며, 따라서 고양이의 양자역학적 상태들은 서로 거의 결맞음을 이루지 않습니다. 계가 클수록 결어긋남도 더 강해진다는 것을 쉽게 생각할 수 있을 것입니다. 왜냐하면 계가 클수록 계가 더 많은 열선을 방출할 것이기 때문입니다.

이제 결어긋남 해석 지지자들은 다음과 같이 논증합니다. ‘작은 계들이 결맞음 상태에 있는 이유는, 즉 기본입자를 이용한 이중슬릿 실험이 작동하는 것은, 계들이 주변으로부터 교란을 당할 가능성이 매우 낮기 때문이다. 그러나 계가 커질수록 교란을 당할 가능성이 커지고, 따라서 결어긋남이 더 강해진다.’

이 논증은 의심의 여지없이 매우 근거 있는 논증이며, 이것이 바로 우리가 일상에서 양자역학적 중첩을 보지 못하는 이유라는 것도 아마 맞는 말일 것입니다. ‘삶’과 ‘죽음’의 겹침 상태에 있는 고양이가 없는 것은 교란이 있기 때문입니다.

이 같은 결어긋남 해석을 이용하면 ‘고양이 역설’도 간명하게 설명됩니다. 결어긋남을 고려하면 고양이가 살아 있는 상태와 죽어 있는 상태는 동시에 존재할 수 없습니다. 고양이는 살았거나 아니면 죽었거나, 둘 중의 하나의 상태에 있습니다. 물리학자들은 지난 수십 년 동안 “살았으면서 동시에 죽어 있는 고양이란 대체 어떤 상태를 의미하는가? 상자의 뚜껑을 열고 그 안을 들여다봄으로써 둘 중 하나의 상태로 결정되는 과정을 어떻게 설명해야 하는가?”라는 문제를 놓고 격렬한 논쟁을 벌여왔으나 이렇다 할 결론을 내리지 못했습니다.

그러나 결어긋남을 고려하면 문제는 쉽게 해결됩니다. 즉, 당신이 상자의 뚜껑을 열기 훨씬 전에 상자 내부의 주변 환경은 고양이와 수십억 차례의 상호작용을 주고받았으므로 신비한 양자적 확률은 이미 고전적 확률로 바뀐 상태입니다.

그러므로 당신이 고양이를 눈으로 확인하기 전에 고양이는 살아 있거나 아니면 죽었거나, 둘 중의 하나의 상태로 이미 명확하게 결정되어 있습니다. 이와 같이 결어긋남은 거시적 물체에 존재하는 ‘상식을 벗어난 양자적 특성’을 희석시킵니다. 주변 환경과 주고받는 상호작용에 의해 양자적 특성이 상실되는 것입니다.

양자적 관측 문제에 관하여 이보다 더 만족스러운 답을 구하기는 쉽지 않을 것입니다. 결어긋남의 개념은 주변 환경을 고려하지 않는 등의 문제를 지나치게 단순화시키는 가정을 내세우지 않고서도 양자역학에 위배되지 않는 답을 제시하였으며, 관측문제에 항상 따라다니던 ‘인간의 역할’ 문제도 일거에 해결했습니다.

인간의 의식, 인간이 만든 관측 장비, 인간의 관측 행위 등은 더는 중요한 요소가 아닙니다. 이 모든 것들은 공기분자나 광자처럼 관측 대상과 상호작용을 하는 주변 환경의 일부일 뿐입니다. 또한, 관측 대상과 관측자는 동등한 입장에서 동일한 양자역학의 법칙, 즉 슈뢰딩거 파동방정식을 따르고 있을 따름입니다. 그러므로 관측 행위 자체를 유별난 행위로 취급할 필요가 없습니다. 관측이란 주변 환경과의 상호작용을 보여주는 하나의 사례에 불과합니다.

거시세계와 미시세계의 경계는 어디인가?

그러나 결어긋남은 ‘거시세계와 미시세계의 경계는 어디인가?’라는 물음을 필연적으로 던집니다. 물리학자들 사이에는 거시세계에는 양자역학적 중첩이 원리적으로 일어나서는 안 된다고 주장하는 사람이 있는가 하면, 일부는 중첩이 이론적으로는 허용될지 몰라도 현실적으로 불가능하기 때문에 결코 관측되지 않을 것이라는 견해를 내놓기도 합니다. 이 두 가지 견해는 미시세계와 거시세계에 대한 막연한 경계를 설정하고 있을 뿐입니다.

미시-거시세계의 경계에 대한 의문을 조금 확장하면, ‘거시적인 계에서는 중첩이 결코 일어나지 않으리란 것을 어떻게 원리적으로 증명할 수 있을까?’로 바꿀 수 있습니다. 이와 관련해 중요한 것은, 현재 양자론은 그런 중첩을 결코 배제하지 않는다는 점입니다. 오직 미시세계에서만, 매우 작은 입자들의 집합인 양자계에서만 중첩이 원리적으로 가능하다는 이야기가 양자론 어디에도 없습니다.

이런 점에서 오스트리아 빈 대학의 안톤 차일링거Anton Zeilinger 교수팀이 성공한 풀러렌 (Fulleren, 일명 축구공 분자)의 간섭실험은 중대한 시사점을 던져줍니다. 실제로 그 실험에서 분자들은 온도가 섭씨 약 650도였으므로 많은 열선을 방출했습니다. 다시 말해서 그 실험에 사용된 풀러렌 분자들은 주변으로부터 고립되지 않았습니다. 그럼에도 간섭이 일어났고, 결맞음이 실제로 관찰되었습니다. 주변과의 상호작용이 풀러렌 분자를 교란했지만, 그 교란이 너무 작아서 결어긋남을 일으키지 않은 것입니다.

그러므로 우리는 언젠가 실험이 발전되면 결맞음과 양자역학적 중첩이 커다란 대상에서도 입증되고, 따라서 양자 중첩이 미시세계에 국한된다는 말을 할 수 없게 될 것이라고 충분히 기대할 수 있습니다.

그러나 파동함수에 내재되어 있는 다양한 가능성들은 아직도 현실적인 개념으로 이해되지 않고 있습니다. 관측이 실행되었을 때 왜 단 하나의 결과만 우리에게 모습을 드러내는 것일까? 그 많던 나머지 가능성들은 다 어디로 사라졌는가? 속 시원한 답은 아직 발견되지 않았습니다.

결론적으로 결어긋남을 통해 양자역학과 고전역학의 연결 다리가 어느 정도 그 모습을 드러냈고 많은 물리학자들이 여기에 희망을 걸고 있지만, 다리가 완성되려면 아직도 갈 길이 멉니다.

<'우주관 오디세이' 저자·동아대 겸임교수>