아무도 달을 보지 않으면 달의 존재를 확인할 수 없다
양자론에 대한 보어-아인슈타인 논쟁의 하이라이트인 ‘EPR 논증’의 핵심은 실재론 논쟁입니다. EPR(Einstein-Podolsky-Rosen)은 완전이론의 조건으로 (1)완전성 기준 (2)실재성 기준 (3)국소성의 가정을 내세운 뒤 양자론이 이를 만족시키지 못하기 때문에 불완전한 이론이라고 논증했습니다.
이들 세 가지 기준을 하나로 압축한다면 실재성 기준이라고 할 수 있습니다. 즉 EPR은 양자론이 불확정성 원리로써 물리적 실재를 제대로 기술하지 못한다고 논증한 것입니다. 물론 EPR의 논증은 후에 벨의 부등식과 아스페의 실험에 의해 부정되었습니다. 이제부터 양자론의 비실재론적 성격에 대해 알아보겠습니다.
실재론(實在論 realism)은 ‘인식론에서, 인간이 인식하는 대상이 의식이나 주관과 관계없이 독립적으로 존재한다’는 이론입니다. 여기서 논의하는 실재론이라고 할 때 이 개념이 철학적 범주를 완전히 만족시키는 것은 아닙니다. 여기서 '실재'는 아인슈타인이 주장하는 실재의 정의 즉, ‘물리적 실재(physical reality)’ 혹은 '과학적 실재' 개념으로 사용하겠습니다.
양자론적 '비실재론'이라 한 것은 양자역학의 철학이 실재론을 만족시키지 않는다고 해서 반드시 반실재론을 뜻하는 것은 아니기 때문입니다. 양자역학의 실재론은 아인슈타인과 뉴턴의 과학적 실재론과 상충되지만 그렇다고 대상이 인간의 의식에 의해 창조된다는 관념론이나 반실재론이라고 할 수는 없습니다. ‘비실재론’이란 고전적인 과학적 실재론이 아니라는 의미입니다.
관측된 물리량만 의미가 있다
아인슈타인의 실재론의 기본 가정은 (1)인간의 관찰 여부와 독립적인 실재 세계의 존재, (2)동일한 실험에 의해 보편적 결과 획득, (3)국소성의 원리 만족 등 세 가지입니다. 이들 기본 가정도 하나로 압축한다면 (1)이 될 것입니다. 즉, 우리의 관측 대상은 인간의 의식과 의도에 관계없이 실재한다는 것입니다.
아인슈타인은 보어와의 논쟁에서 이를 거시세계의 비유를 들었습니다. “저 하늘의 달은 인간이 바라보지 않아도 존재한다.” 이에 대한 보어의 답변은 “아인슈타인 박사와 내가 그리고 이 세상 그 누구도 달을 바라보지 않았다면 달이 그곳에 있는지 누가 확인할 것인가. 달의 존재를 확인하는 방법은 달을 바라보는 것이다.”였습니다.
양자론은 아인슈타인의 실재론 조건을 만족하지 않습니다. 그 본질적인 이유는 ‘측정’에 있습니다. 양자론의 표준해석인 코펜하겐 해석에 의하면 관찰자는 상보적인 두 물리량을 동시에 정확히 측정할 수 없으며, 단지 원하는 측면을 선택해 측정할 수 있습니다. 양자론에 대한 인식론적 해석의 핵심은 측정 과정에서 나타나는 선택입니다.
따라서 양자론에서는 측정된 물리량만을 의미 있는 것으로 받아들입니다. 측정 이전의 혹은 측정할 수 없는 ‘어떤 실재’를 상정하는 것은 무의미합니다. 양자론의 다양한 해석들은 결국 측정 문제의 수수께끼를 풀고자 하는 다양한 시도로 간주될 수 있습니다.
여기서 파동함수가 과연 개별 입자의 상태를 실제로 완전하게 기술할 수 있는가 여부에 대한 문제가 제기됩니다. 즉, 미시 물리적 대상이 단지 현상적 과정일 뿐인가, 아니면 실제적인 실재인가의 문제입니다. ‘숨은 변수 이론’은 이에 대해 숨은 변수들을 추가하면 파동함수가 완전한 실재를 기술할 것이라고 주장합니다.
아인슈타인은 이에 대해 “파동함수가 물리적 실재에 대한 완전한 기술 방식을 제공하지 못함을 보여주었지만, 완전한 기술 방식이 과연 있는지 없는지의 질문을 열어 놓아야 한다. 그러나 우리는 그러한 이론이 가능하다고 믿는다.”고 말했다. 현재 불완전한 양자론이 ‘숨은 변수’의 보완을 거쳐 실재를 기술하는 완전한 이론이 될 수 있다는 것입니다.
그러나 이 같은 ‘숨은 변수’는 벨의 부등식과 아스페의 실험에 의해 부정되었습니다. 결국 아인슈타인의 시각에서는 터무니없는 것으로 여겨지는 코펜하겐 해석을 인정하지 않을 수 없다는 것입니다. 즉, 파동함수가 실제 입자를 완전하게 기술하건 못하건 간에 확률해석을 받아들여야 합니다. 그리고 측정 이전의 실재에 대해 묻는 것은 무의미합니다.
‘슈뢰딩거 고양이’의 경우 관측자가 상자를 열어보기 전에 고양이의 생사를 말하는 것이 불가능합니다. 안드로메다은하로 가져간 전자상자 사고실험이나 스핀보존 사고실험에서도 한쪽을 확인하기 전에 다른 쪽의 상태를 결코 미리 알지 못합니다. 만약 영원히 열지 않으면 어떻게 될까요? 이 물음에 대한 답은 ‘영원히 알 수 없다’입니다. 다시 말하면 양자론은 측정을 떠나 실재를 얘기할 수 없습니다.
양자론의 실재론 논쟁은 EPR 논문이 노골적으로 제기했습니다. EPR에게 중요한 것은 입자의 실체(reality)였고, 실체를 서술하지 못하는 양자론은 불완전한 이론이라는 주장이었습니다. 그래서 그들은 입자의 실체를 파악하는 데 한계를 규정한 불확정성 원리의 오류를 파고들었습니다.
EPR의 논증은 기막힐 정도로 정교했으나 결국 벨의 부등식과 아스페의 실험에 의해 오류로 판명되었습니다. 오히려 ‘국소성 가정’이 부정되고 우주가 비국소적임(얽힘)이 확인된 것입니다. 불확정성 원리대로 미시세계의 입자는 위치와 운동량, 스핀 등의 물리량에 있어 측정과 무관한 본래의 속성을 갖고 있지 않은 것으로 밝혀졌습니다.
여기서 확인된 것은 관찰 대상은 관측자와 분리된 상태에서 독립적인 속성을 가질 수 없다는 사실입니다. 즉, 대상의 물리적 속성은 관측자와 상호작용 속에서만 드러난다는 것입니. 전자의 입자성과 파동성은 전적으로 각각의 관측 장치와의 상호작용에 따라 결정됩니다. 물리적 변수인 위치와 운동량도 측정 장치와 상호작용 아래에서만 값을 가질 수 있다는 점에서 마찬가지입니다.
그러나 이 두 물리량은 동시에 측정하는 것이 불가능하기 때문에 서로 양립 불가능합니다. 입자-파동, 위치-운동량은 서로 배타적이면서 동시에 보완적입니다. 보어에 의하면 입자와 파동, 위치와 운동량은 상보적 관계에 있습니다.
코펜하겐 해석에 따르면 실재의 기술은 개체들 간의 관계를 어떻게 설명하느냐에 달렸습니다. 즉 실재의 올바른 기술은 관측 장치와의 관계 안에서만 가능합니다. 아인슈타인의 실재론에 따르면 실재는 다른 실체들과의 어떤 관계와도 독립적인 속성들을 갖는 그런 실체입니다. 반면 보어에게 실재는 실체들 사이의 관계이며, 측정은 그 관계의 한 가지 특수한 경우입니다.
아인슈타인에게는 ‘독립적으로 존재하는 상태들의 발견’이 물리학의 목적이며, 보어에게는 ‘전에는 전혀 없었던 실재의 구성’이 과제가 됩니다. 관찰된 것만이 확실하게 존재한다고 말할 수 있습니다. 다만, 측정 과정에서 양자적 대상의 상태와 측정 장치의 거시 물리적 상태 사이의 상관성을 해명하는 일이 문제가 됩니다.
관측자와 독립적인 ‘물리적 실재’를 가정한 EPR 논증에 대한 보어의 해결책은, 근본적으로 관찰을 통해서만이 실재가 비로소 드러나게 된다는 가정에 의존하며, 따라서 독립적으로 존재한다는 실재의 가정을 거부합니다.
보어의 입장은 관계성과 통일성의 두 가지로 요약됩니다. 보어는 양자 현상의 결과는 독립적 실재로부터 나오는 것이 아니라 측정 장치와 대상의 관계에서 나온다고 본 것입니다. 그는 “고립된 물질 입자는 추상적인 것이며, 그것의 속성들은 다른 체계와의 상호 작용을 통해서만 정의되고, 인지될 수 있다.”고 말했습니다.
‘관측하지 않으면 존재하지 않는다’는 뜻은 아니다
여기서 양자론의 반실재론 논란은 다음과 같은 질문을 던질 때 드러납니다. ‘관찰자 및 관측 장치와 독립적인 물리적 대상을 생각할 수 없다는 것은 관찰하지 않으면 그 대상은 존재하지 않는다는 것인가?’ 양자론의 해답은 ‘관찰하지 않으면 존재하지 않는다는 뜻은 아니다.’ 입니다.
결론적으로 양자론은 물리적 대상은 외부 세계와 어떤 형태로든지 연결되어 있다는 점을 강조할 따름입니다. 관측 대상을 관측자와 분리할 수 없다는 것은 과학적 실재론의 첫째 전제인 ‘관측자와 독립된 존재’를 위반하지만 이것이 개별 관측자의 인식이 개입된다는 뜻은 아닙니다.
마찬가지로 원자를 기술할 때 관측과 관측자의 상호작용이 완벽하게 기술되지 않는다고 해서 원자의 존재가 우리에게 의존한다는 의미는 아닙니다. 그러므로 양자론을 관념론이나 반실재론으로 보는 것은 지나친 비약입니다. 잊지 말아야 할 것은, 원자와 같은 미시세계의 대상은 객관적으로 존재하지 않는 것이 아니라 관측자와 분리된 상태에서 독립적인 속성을 가지고 있다고 말할 수 없다는 것입니다.
앞에서 언급했듯이, 빛의 입자성과 파동성의 확인은 순전히 관측 장치에 달렸습니다. 즉, 관측 대상은 관측 장치와 독립적이지 않은 것입니다. 그렇다면 관측을 통해 얻어지는 값은 무엇일까요? 관측은 측정 대상에 이미 존재하는 값을 드러내는 것일까요? 아니면, 관측을 통해 물리량이 창조되는 것일까요?
이 질문에 대한 코펜하겐 해석은 ‘대상에 이미 존재하던 값을 드러내는 것’이라는 답을 던집니다. 여기서 이미 존재하던 값은 대상의 절대적인 속성이 아니라 실험 장치에 대해 상대적인 속성입니다. 관측이란 곧 관측 대상과 관측 장치 간의 상호작용입니다.
이를 기술하는 것이 바로 양자역학입니다. 다시 말하면 양자역학은 우리의 의식과 독립적인 실재에 관한 기술이 아니라, 우리의 의식과 독립적인 실재와 우리(관측 장치를 포함한)와의 상호작용에 관한 기술입니다.
그렇다면 엄연히 존재하는 원자가 우리에게 괴이하게 여겨지는 이유는 무엇일까요? 그것은 우리가 기존 과학적 실재론에 익숙해 있기 때문이라는 것이 보어의 설명입니다. 그는 양자역학적 현상을, 비록 고전역학의 관점에서 반직관적이긴 하지만 이성적으로 이해하기 위해서는 우리의 인식의 틀을 변화시켜야 한다고 생각했습니다.
그래서 고안한 것이 바로 상보성 원리입니다. 상보성은 경험에 기초하여 실재에 충실하려는 실재론적인 개념입니다. 양자역학에 대한 보어의 이 같은 철학적 관점을 일부 물리학자와 철학자들은 ‘상보적 실재론’이라 부릅니다. 물론 상보적 실재론은 과학적 실재론에 속합니다. 이들에 따르면 보어의 실재론은 고전역학적인 실재론의 관념을 보다 경험에 충실하게 일반화시킨 것이라고 평가합니다.
아인슈타인에게 실재는 물리적 실체로서 이해되며, 보어에게 실재는 하나의 관계입니다. 다시 말해서 아인슈타인은 실체를 통해 관계를 해명하려 했으며, 보어는 실재의 개념을 시스템 전체의 관계망 속에서 밝히려 했습니다.
아인슈타인의 희망과는 달리 관측자(관측 장치)와 독립적인 물리적 실재를 추출해내기는 불가능하다는 것은 분명해보입니다. 거시세계로 비약한다면, 우리 자신을 제외한 본질적인 우주의 모습을 상상하는 것은 원리적으로 불가능합니다.
<'우주관 오디세이' 저자>
저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지