우주관 오디세이 - 벨 부등식과 아스페 실험

EPR 논쟁의 심판관 존 벨, 철학 논쟁에서 물리학 논쟁으로

양자적 실체에 관한 추상적인 EPR 논쟁은 시원한 승부를 가리지 못한 채 미궁 속에 빠졌는가 싶다가, 아인슈타인 사후인 1964년 존 벨이 획기적인 실험을 제안함으로써 검증 가능한 물리학 문제로 바뀌었습니다.

물리학자 헨리 스탭은 존 벨의 이 업적을 “과학 역사상 가장 심오한 발견”이라고 극찬할 정도였습니다. 또 데이비드 머민(David Mermin)은 “이 결과에 대해 황당함을 느끼지 못하는 사람은 머리가 돌로 가득 차 있음에 틀림없다”고 말했습니다.

존 벨의 이론이 얼마나 충격적이었기에 이토록 야단들인지 이제부터 알아보겠습니다. 앞서 말한 대로 양자역학의 불확정성 원리는 입자가 갖는 두 개의 상보적인 물리량(예를 들면 위치와 속도)을 동시에 정확하게 측정할 수 없다고 선언합니다.

그런데 벨은 불확정성 원리를 조금 확장하여 ‘동시에 측정이 불가능한 특성이 세 개 이상 존재한다면(즉, 셋 중 하나를 정확하게 측정했을 때 나머지 두 가지 특성들을 결정할 수 없다면) 이들 물리량의 존재 여부를 실험적으로 확인할 수 있다.’는 사실을 발견했습니다.

다시 말하면 그는 “임의의 축에 대한 두 개의 스핀 성분을 정할 수 없다 해도 입자가 모든 방향의 스핀 성분을 갖는면 그로부터 파생되는 결과를 실험으로 확인 가능하다”고 주장한 것입니다.

그러므로 존 벨의 실험에는 앞서 소개한 EPR-보옴 논증에서 스핀이 보존되도록(두 스핀의 합이 0이 되도록) 연관된 입자 S₁, S₂의 사고실험을 그대로 적용할 수 있습니다. 이 경우 S₁의 스핀을 측정했더니 1/2이 나왔다면 S₂의 스핀은 측정하지 않고도 -1/2라는 사실을 합니다. 왜냐하면 두 쌍전자 S₁, S₂는 스핀의 합이 0이 되도록 연관되었기 때문입니다.

붉은 구슬이 든 주머니와 파란 구슬이 든 주머니가 있을 경우, 하나의 주머니를 열었더니 붉은 구슬이 나왔다면 다른 주머니의 구슬은 100% 파란 구슬일 것입니다. 이 경우는 EPR이 주장한 것과 비슷합니다. S₁의 스핀 측정과 관계 없이 S₂의 스핀은 결정되었다는 것입니다. 하지만 슈테른-게를라흐 실험과 스핀보존 사고실험에 의하면 연관된 쌍입자의 경우 꼭 그렇지 않다는 사실을 우리는 알고 있습니다.

존 벨은 이를 구분할 수 있는 수학적 방법을 고안했습니다. 이른바 벨의 부등식입니다. 이에 따르면 만약 EPR의 주장대로 입자가 세 가지 스핀 성분을 모두 확정적으로 갖고 있다면 쌍입자 S₁과 S₂의 두 스핀 성분의 합이 보존될 확률, 즉 S₁이 1/2(시계방향 회전)이라면 S₂가 그 반대인 -1/2(반시계방향 회전)가 나올 확률이 전체 실행횟수의 50%를 넘어야 한다는 계산이 도출되었습니다.

따라서 만일 두 입자의 스핀이 보존되지 않는 경우(스핀이 같은 경우)가 50% 혹은 그 이상 나타난다면 EPR의 주장은 틀린 것입니다! 이것은 입자가 모든 축에 대해 명확한 스핀을 갖고 있는지의 여부를 판단할 수 있는 현실적인 검증방법으로 벨이 이루어낸 위대한 발견입니다.

벨의 성과를 좀 더 설명해보겠습니다. 벨은 실험적 검증이 불가능할 것 같았던 사고실험인 EPR 논증을 실제 실험을 통해 확인할 수 있는 방법을 제시했습니다. 즉, 그는 실제 실험으로 아인슈타인과 보어의 상반된 입장을 구별해낼 수 있다는 사실을 발견한 것입니다.

벨은 EPR 실험의 기본 가정이기도 했던 실재성과 국소성을 모두 채택하여 ‘국소적 실재(local reality)’라는 가정을 전제로 서로 떨어진 두 입자를 동시에 측정할 때 얻어지는 결과 사이의 상관관계를 연구했습니다. 그 결과 만일 고유의 불확정성을 갖는 양자역학이 옳다면 결코 충족시킬 수 없는 어떤 실험적 예측을 할 수 있었습니다.

이 예측은 벨의 부등식이라는 수학적 표현으로 나타낼 수 있는데, 만일 국소적인 세계에 대한 아인슈타인의 생각이 옳다면 벨의 부등식은 실제 실험결과를 만족시키지만, 만일 보어가 옳다면 이 부등식은 깨어질 것입니다. 조금 다른 말로 표현하면, 아인슈타인의 ‘국소적 실재’ 가정이 맞을 경우, 즉 자연에 대한 아인슈타인의 신념이 맞을 경우 자연현상이 만족해야 하는 부등식을 벨이 만들어 냈던 것입니다.

실제 검증 - 아스페 실험

벨의 부등식이 나온 이후 세계 물리학계에서는 그 결과를 확인하기 위한 수많은 실험이 시도되었습니다. 그 가운데 1982년 프랑스 알랭 아스페(Alain Aspect) 팀의 실험이 가장 성공적인 것으로 평가됩니다. 아스페와 그의 동료들은 레이저로 칼슘원자를 때려 쌍둥이 광자를 만들어낸 다음 각각의 광자를 서로 반대방향으로 날아가게 하여 특수한 필터에 통과시키는 방법을 썼습니다.

이때 방출된 한 쌍의 광자들은 동일한 스핀을 갖도록 서로 완벽하게 연관되어 있습니다. 즉, 아스페 팀은 EPR-보옴 논증의 전자 대신 광자를 실험대상으로 삼은 것입니다. 이 실험에서 감지기를 동일한 축에 대한 스핀을 측정하도록 똑같이 세팅한다면 두 광자의 스핀은 항상 동일한 값을 나타낼 것입니다.

아스페 팀은 벨이 제안한 대로 두 감지기의 세팅 상태를 무작위로 바꾸면서 실험을 진행했습니다. 이 실험에 벨의 부등식을 적용하면, 만일 EPR 주장대로 입자가 세 가지 스핀 성분을 확정적으로 갖고 있다면 두 대의 감지기가 동일한 스핀 값을 나타내는 경우는 전체 시행횟수의 50%를 넘어야 합니다.

아스페의 실험에서는 과연 어떤 결과가 나왔을까요? 1982년 발표된 이 실험결과는 놀랍게도 두 감지기에 동일한 스핀 값을 나타내는 경우는 전체 시행횟수의 꼭 50%였습니다. 50%를 넘지 않은 것입니다. 벨의 부등식을 만족하지 못한 것입니다. 아인슈타인의 패배였습니다.

따라서 EPR 논증의 가정인 실재성과 국소성 중 어느 하나, 혹은 둘 다 틀렸다는 결론이 나타난 것입니다! 이 결과는 양자역학에서 불확정성 원리가 자연의 본질임을 다시 한 번 확인함과 동시에 보어의 견해를 강화시켜주었습니다.

특히 이것은 벨과 EPR의 기본가정인 국소성과 실재성 둘 중의 하나를 포기할 것을 주문합니다. 국소성을 지키려면 공간 사이에 빛보다 빠른 정보 전달은 불가능하다는 상대성이론의 대원칙과 두 입자의 상태는 공간에 의해 분리되어 있다는 원리는 지켜지지만 실재성을 포기해야 합니다.

반대로 물리적 실재성을 지키려면 비국소성을 인정해야 합니다. 보어 등의 양자역학 표준해석은 대체로 객관적인 실재를 지키고 국소성을 포기(비국소성을 인정)하는 경우라 할 수 있습니다.

아스페 팀의 실험에서도 실제로 비국소성이 나타났습니다. 서로 반대방향으로 날아간 광자는 필터를 통과하여 두 개의 편광분석기 중 하나로 향하게 됩니다. 필터가 한 분석기에서 다른 분석기로 전환하는 데 걸리는 시간은 100억 분의 1초로 광자가 파이프를 통과하는 데 걸리는 시간보다 300억 분의 1초 짧게 하여 두 광자쌍이 가능한 어떠한 물리적 작용을 통해서도 서로 교신할 수 없도록 했습니다.

그런데 아스페 팀은 광자가 그 자신의 짝이 되는 광자의 편광각과 자신의 편광각을 일치시킨다는 사실을 발견했습니다! 이것은 앞에서 지적한 대로 아인슈타인의 특수상대성이론이 불가능하다고 선언한 초광속 교신이 일어났거나, 두 광자가 비국소적으로 상호 연결되어 있음을 의미합니다. 대부분의 물리학자들은 초광속 현상을 인정하려 하지 않으므로 아스페 팀의 실험은 두 개의 광자 사이에 비국소적인 연결이 있음을 사실상 증명한 것으로 받아들여지고 있습니다.

벨 부등식과 아스페 실험의 의미

아인슈타인과 그의 동료들이 양자역학에 회심의 일격을 가한 EPR 논증은 결국 소기의 성과를 거두지 못하고 오히려 양자역학의 타당성을 강화시켜주었습니다. 특히 이에 대한 벨 부등식과 아스페의 실험은 아인슈타인의 신념과 달리 이 우주가 국소적이 아님을 강력하게 웅변하고 있습니다.

EPR은 불확정성 원리의 오류를 논증하면서 국소성의 원리를 전제로 내세웠습니다. 즉, "임의의 순간에 입자 S₁의 특성을 측정하여, 그와 멀리 떨어진 그 쌍입자 S₂의 특성을 간접적으로 알아낸다면 S₂는 '간접적으로 밝혀진’ 그 특성을 계속해서 간직한다"는 가정이 바로 그것입니다.

상식적으로 무리가 없는 가정입니다. S₁과 S₂는 공간적으로 떨어졌기 때문에 S₁에서 일어난 일이 순간적으로 S₂에 전달되지 않는다는 게 상대성이론을 포함해 물리학의 상식입니다. 상대성이론에 의하면 S₁에게 일어난 사건이 S₂에 알려지려면 최소한 빛이 달려가는 데 걸리는 시간이 필요합니다.

그런데 EPR의 논리나 실제 실험에서는 S₁과 S₂의 특성을 동시에 측정할 수 있습니다. 따라서 S₁을 측정하여 간접적으로 알아낸 S₂의 특성은 S₁을 측정하는 순간에 갑자기 나타난 게 아니라 원래부터 S₂에 내재되어 있는 속성이어야 한다는 게 EPR의 주장입니다. 우리가 온갖 실험 장비를 동원하여 S₁을 관측해도 S₂의 속성은 이로부터 아무런 영향을 받지 않는 것 같습니다. 간단히 말해 EPR의 핵심은 S₁과 S₂가 공간적으로 완벽하게 고립되어 있다는 것입니다.

그러나 아스페의 실험결과는 그렇지 않았습니다. 그러므로 EPR의 가정이 틀렸음을 인정할 수밖에 없습니다. 결론은 공간의 ‘이곳’에 있는 S₁에게 일어난 일이 즉각적으로 ‘저곳’에 있는 S₂에게 알려진다는 것입니다!

양자역학에 의하면 우리가 물체를 측정할 때마다 물체는 자신의 특성을 무작위로 보여줍니다. 하지만, 그 무작위라는 것은 이렇듯 공간을 가로질러서 연결되어 있습니다. 이처럼 서로 연관성을 갖는 한 쌍의 입자 S₁과 S₂를 ‘얽힌 입자(entangled particles)’라고 합니다.

한 장소에서 우리가 행한 행위의 결과는 다른 장소와 긴밀하게 연결되어 있으며, 그렇다고 두 장소 사이에 모종의 신호가 오가는 것도 아니었습니다. 이처럼 즉각적인 장거리 상호관계가 가능하려면 입자는 서로 연관된 속성을 미리부터 가졌어야 한다는 것이 EPR의 주장입니다.

그러나 그들의 논리는 실험에 의해 잘못되었음이 입증되었고, 결국 물리학자들은 우주가 비국소적임을 인정해야 했습니다. ‘두 물체가 양자적으로 상호 연관되어 있으면 하나가 받은 영향은 공간을 초월하여 즉각적으로 다른 하나에게 전달된다.’

이것은 수많은 물리학자들이 각고의 노력 끝에 얻은 결론이긴 하지만 쉽게 납득이 가지 않는 것입니다. 그러나 실험적 증거가 있는 한, 우리는 이 사실을 부정할 수 없습니다. 물리학자들은 이 현상을 가리켜 ‘양자 얽힘(quantum entanglement)’이라고 부릅니다.

<'우주관 오디세이' 저자·동아대 겸임교수>

인저리타임 조송현 pinegoo3141@gmail.com 조송현의 기사 더보기

저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지