특수상대성이론은 전자기학과 고전역학의 새로운 융합이다. 전자기파동이 곧 빛이므로 광학에 해당되기도 한다. 실제 광학은 전자기학 및 진동과 파동의 고전역학 내용을 모두 담고 있으며 특수상대성이론을 실험적으로 확인할 수 있게 해주었다. 빛의 매질인 '에테르'에 대한 19세기의 중요한 연구는 광학 교과서에서 자주 이름을 볼 수 있는 프레넬, 피조, 사냑, 마이켈슨에 의해 진행되었는데, 이들 모두는 빛의 매질 ‘에테르’의 존재를 굳게 믿고 있었다. 그래서 그들이 고안한 실험 장치들은 모두 에테르의 존재를 확인하기 위한 것들이었다.

어쩌면 19세기 물리학자들에게 ‘에테르’는 신념 이상의 믿음에 가까운 것이었다. 하지만 특수상대성이론은 ‘에테르’라는 빛의 매질을 버림으로써 비로소 전자기학을 역학적 상대운동의 프레임 속으로 끌어들였다. 그렇다면 100여 년 동안 ‘에테르’라는 매질의 개념에서 벗어나지 못했던 19세기 과학자들의 잘못된 믿음은 인류의 과학 발전을 저해한 것일까? 그들의 잘못된 가정이 없었더라면 특수상대성이론이 좀 더 빨리 만들어지고, 21세기는 지금보다 더 앞선 모습이 될 수 있었을까? 나는 그렇지 않다고 생각한다. 이렇게 지난 시행착오를 시간 낭비라고 생각하는 발상의 근저를 따져 보면 과정보다 정답을 우선시하고 정답을 가장 빨리 찾아가야 한다는 조급증이 내재되어 있기 때문이다. ‘정답’을 ‘결실’이라는 단어로 대체하고 ‘시행착오’를 ‘효율’이라는 단어로 바꿔보면 왠지 한국의 과학 정책이 떠오른다. '에테르'를 사용한 잘못된 이론과 헛수고 같았던 실험들은 다른 방식으로 현대 과학기술에 기여하고 있다.

19세기 초 프레넬은 우주공간의 에테르가 물질 속으로 더 많이 스며들어가 있다고 생각했다. 그래서 물질이 움직이면 그 물질 속을 진행하는 빛의 속력에도 영향을 준다고 생각했다. 피조는 프레넬의 가설을 실험적으로 검증하기 위해 흐르는 물과 같은 방향으로 빛이 진행하는 경우와, 반대 방향으로 진행하는 경우 두 빛의 속력이 다르다는 것을 실험적으로 측정했다. 즉, 흐르는 물의 방향으로 빛이 진행하면 에테르 당김 효과가 발생하여 빛의 속력이 빨라진다고 생각한 것이다. 실제 그 실험결과는 프레넬의 에테르 당김 가설로 설명할 수 있었으므로 ‘에테르’의 존재가 규명된 것처럼 보였다. 마이켈슨은 피조의 실험을 좀 더 큰 스케일에서 상상했다.

“우주가 에테르라는 매질로 가득 채워져 있다면 공전하는 지구 위에서는 분명 ‘에테르’의 바람이나 물살을 느낄 수 있을 것이다. 그렇다면 빛이 지구가 공전하는 방향과 같거나 반대 혹은 수직으로 진행하는 경우 빛의 속력은 달라질 것이다. 지구 위 실험실 광학 실험테이블을 회전시키면 에테르 바람의 방향도 달라질 것이다.”

하지만 처음 그가 고안한 장치로는 기대했던 에테르 바람의 효과를 측정할 수 없었다. 그리고 그 실패의 원인은 예상 신호의 크기에 비해 장치 정밀도가 너무 좋지 않았기 때문이었다. 그래서 광학 실험을 잘하는 ‘몰리’라는 화학자와 함께 다시 장치의 정밀도를 높이는 방법에 몰두했다. 마침내 이론적으로 예측되는 신호 값의 수십 분의 1까지 측정할 수 있는 정밀도가 높은 장치가 만들어졌다. 하지만 기대했던 신호는 여전히 측정되지 않았다. 지구의 공전궤도가 계절에 따라 바뀌는 것이 원인일지도 모른다는 생각에 몇 달에 걸쳐 실험을 반복하며, 월별 결과를 비교했다. 밤낮으로 너무 실험에 몰두한 나머지 마이켈슨은 한 달가량 정신 나간 사람이 되기도 했다. 다시 건강을 회복한 후 실험을 지속했지만 여전히 ‘에테르 바람’이 만들어 내야 할 실험결과는 관측되지 않았다. 예상되는 신호는 장치 정밀도보다 수십 배나 크게 나와야 하므로 실험장치의 오차탓을 할 수도 없었다. 이후 특수상대성이론(1905)이 세상에 알려지고 ‘에테르 바람’ 효과의 부재를 광학 실험으로 확인한 공로로 마이켈슨에게는 최초의 미국인 노벨상 수상자(1907)라는 영예가 주어졌다. 예상되는 이론 결과를 측정할 수 없었다는 실패의 실험 고백으로 노벨상을 받은 것이다.

십여 년 이상 대학교 학부생들의 실험 리포트를 받아 봤지만 ‘검토’ 항목에는 항상 기재되는 똑같은 문장이 있다. “실험장치가 정교하지 못해 오차가 생긴 것 같다. 장치가 좀 더 좋으면 이론과 가까운 결과를 얻어낼 수 있을 것 같다.” 이를테면 학생들은 정답이 있는데 실험이 그걸 맞추지 못한 것은 기본적으로 잘못한 거라고 생각하는 것이다. 그리고 그 잘못을 탓하기 가장 쉬운 대상이 애꿎은 장치 정밀도인 셈이다. 그렇다면 교과서에 나오는 18세기, 19세기 과학자들이 사용했던 장치는 21세기 학생들이 사용하는 장치보다 정밀도가 높았을까? 우리나라 학생들은 정답 같은 이론 결과와 다르게 나오는 실험 결과 자체에 별로 흥미를 가지지 못하고, 이론과 실험의 차이를 단지 불편해하는 것 같다. 왜냐하면 시험 답안지에는 늘 하나의 정답만 정해져 있고, 정답이 아니면 틀린 것이고, 틀리면 점수를 받을 수 없기 때문이다. 이론이라는 정답과 어긋난 실험 노이즈 속에 숨겨진 물리 현상은 이렇게 처음부터 관심의 대상에서 제외되고, 실험은 단지 정답이라는 이론을 확인하는 지루한 도구로만 이해되는 것이다. 이런 식의 가치관은 실험 리포트가 학점과 관련되어 있는 경우 데이터를 조작해서라도 이론과 일치하는 실험결과를 만들어 내는 극단적인 태도를 유발할 수도 있다.

이론이 사유의 결과인 반면, 실험데이터는 장치라는 작은 우주가 보여 주는 일종의 물질적인 증거다. 그러므로 이론을 아주 조금 어긋난 무작위의 노이즈가 때로는 기존의 이론보다 더 중요한 비밀을 담고 있을 수 있다. 그런 측면에서 특수상대성이라는 새로운 진리를 알아가는 과정에서 마이켈슨이 보여준 솔직한 실패의 고백은 무엇보다 소중하다. 연구실에서 학생들이 처음 일을 시작하면 학생들의 관심을 예상 이론이 아닌 실험 노이즈 자체로 옮기는 데 집중시킨다. 노이즈로 보이는 실험과 이론의 차이는 장치의 정밀도 탓도 있겠지만 또 다른 물리 현상이 개입되는 경우가 많다. 노이즈가 장치 정밀도의 문제라도 정밀도와 관련된 어떤 물리 현상이 관련되었는지를 알아내야 한다. 이 과정을 통해 하나의 정답 같은 이론보다 열린 문제의 답을 찾아낼 수 있는 노이즈의 매력에 빠질 수 있다. 또한 노이즈를 제대로 이해하는 과정을 통해 오히려 관련 이론을 더욱 깊게 이해할 수 있다. 에테르 논쟁과 특수상대성이론이 지지를 얻어가는 과정에는 이렇게 실험과 이론의 불일치를 통한 수많은 착오와 수정이 관련되어 있다. 하지만 그 100년의 논쟁을 통해 겨우 특수상대성이론 하나를 이해한 것이 아니다. 온갖 종류의 실험 기법과 이론과 실험의 불일치를 설명하려는 다양한 가설의 장단점을 파악한 것이다. 이를테면 산속을 구석구석 헤매고 난 이후 산에 대한 지도를 모두 알아버린 것과 같다. 산에서 수없이 길을 잃고 살아남는 법을 터득한 심마니는 깊은 산 어디에서도 길을 찾아낼 수 있다. 성공이라는 결과보다 실패의 경험이 사실은 더 소중한 자산인 것이다.

지구 공전에 의한 에테르 바람의 효과를 관측할 수 없다는 마이켈슨의 실험결과가 알려졌지만 여러 가지 대안들이 제시되었다. 그중 하나가 에테르가 중력에 의해 투명한 보호막처럼 지구 표면에 코팅되어 있다고 생각이었다. 그러면 지구가 공전을 해도 지상에서는 에테르 바람을 느낄 수 없다. 하지만 이 결과는 멀리서 오는 별빛의 위치가 지구 공전 속력에 의해 바뀌는 현상을 설명할 수 없다. ‘광행차’로 알려진 이 효과는 비가 지면을 향해 수직으로 떨어지지만 앞으로 뛰어가는 동안 빗줄기가 기울어지는 원리와 유사하게, 빛을 통해 추정하는 별의 위치가 지구 공전에 의해 다른 위치에 있는 것처럼 관측되는 현상이다. 따라서 ‘광행차’ 효과와 중력에 의해 지표면에 에테르가 단단하게 고정되어 있다는 가설은 서로 상충하는 것이다.

한편, 아인슈타인의 특수상대성이론이 발표된 이후에도 프랑스의 실험 물리학자 사냑은 원판 위에서 회전하는 간섭계를 만들어 에테르의 바람이 여전히 존재함을 주장했다. 즉, 두 갈래로 갈라진 빛이 각각 회전하는 원판과 같은 방향과 다른 방향으로 돌다 다시 만날 때 둘 사이 빛의 속력 차이가 존재한다면, 원판이 정지한 경우에는 볼 수 없었던 다른 빛의 보강·상쇄의 간섭무늬를 만들 수 있다. 이 결과는 프레넬과 피조의 ‘에테르 바람’ 개념을 다시 부활시켜야 한다는 것을 의미하는 것이었다. 그러자 이미 노벨상까지 수상한 마이켈슨은 다시 한 번 에테르 바람의 존재를 확인하기 위해 사냑의 실험을 거대 스케일로 확장하는 과제를 기획한다. 그는 간섭계를 회전하지 않아도 지구가 자전하고 있으니 거대한 간섭계를 지상 위에 만들어도 지구 자전에 의한 에테르 바람 효과를 관측할 수 있을 것이라고 상상한 것이다.

직진하는 레이저 광원이나 진동 억제 장치도 없던 1925년, 수 km에 달하는 거대 간섭계에서 실험이 수행되었고, 사냑의 실험결과와 일치하는 간섭무늬가 측정되었다. 게다가 이 결과를 토대로 추정한 지구의 자전 속력은 기존의 알려진 값과 일치했다. 1887년 지구 공전에 의한 에테르 바람의 효과를 측정할 수 없다는 결과를 얻고 그 공로로 노벨상까지 받았지만, 그로부터 38년이 지나서는 지구 자전에 의한 ‘에테르 바람’ 효과로 추정되는 실험결과를 얻은 것이다. 하지만 공전에 의한 에테르 바람 효과는 없지만 자전에 의한 에테르효과가 있다는 결과는 서로 상충되는 것이었다. 이제 서로 모순되는 실 험결과를 설명하기 위해 에테르에 대한 다양한 조건과 해석이 등장했다. 그러다 에테르 바람이 부는 방향으로 공간이 찌그러지고 시간도 다를 것이라는 가설이 점점 더 설득력을 얻기 시작했다. 사실 특수상대성이론의 핵심을 이루는 상대운동에 의한 공간 수축과 시간 지연의 아이디어는 아인슈타인 이전 과학자들에 의해 이미 제안된 적이 있었다.

그러나 그들 대부분은 여전히 '에테르'를 버리지 못했다. 과학사를 연구하는 학자들은 아인슈타인의 특수상대성이론 논문이 아무런 인용을 하지 않았고 그 전에 이미 에테르 부재에 대한 실험결과와 공간 수축 및 시간 지연의 개념들이 다른 물리학자들에 의해 등장하고 있었기 때문에 특수상대성이론에 대한 공로를 전부 아인슈타인에게 주는 것은 바람직하지 않다고 주장하기도 한다. 심지어 아인슈타인이 특수상대성이론을 출판한 거의 같은 시기에 프랑스의 푸앵카레는 비슷한 이론을 발표하기까지 했다. 그럼에도 불구하고 지금까지 아인슈타인이 특수상대성이론의 공로를 독점하는 결정적 이유는 확실히 에테르를 버렸기 때문이다. 실험결과를 설명하기 위해 에테르에 대한 작위적인 가정을 하는 것보다 차라리 통째로 버리는 것이 더 합리적이라는 대담성. 아인슈타인의 위대함은 바로 그 지점에 있다.

2017년 일반상대성이론에서 이론적으로 예측하는 중력파의 존재를 실험적으로 측정한 성과에 노벨물리학상이 수여되었다. 40여 년간 집요하게 노이즈와 씨름을 벌인 그 장치는 아이러니하게도 지구 공전에 의한 에테르 바람을 측정하기 위해 고안한 마이켈슨 간섭계였다. 황량한 서부를 개척하던 카우보이들처럼 수 km의 거대 장치를 만들어 원자보다 작은 공간의 변화를 감지하겠다는 도전정신 역시 마이켈슨에게서 물려받은 정신적 유산이다. 또한 특수상대성이론을 반박하기 위해 고안해 낸 사냑 간섭계 역시 중력파의 신호 안정화를 위해 사용될 수 있다. 수많은 실패의 역사가 고스란히 현대 실험과학의 핵심 기술로 다시 사용되고 있는 것이다. 연구를 하다 보면 오랜 시간 공을 들인 실험이 기대했던 것과 다르게 실패로 돌아갈 수 있다. 하지만 눈앞에 보이는 실패는 그냥 사라지지 않는다. 어쩌면 그 경험들은 미래의 어느 날 새로운 모습으로 나타나 난관을 헤쳐 갈 핵심 단서가 될 수도 있다. 하지만 그러기 위해서는 우선 실험결과에 대한 솔직함과 이론과 어긋나는 원인을 찾아내려는 노력이 전제되어야 한다. 민주화를 위해 투쟁한 박노해 시인의 삶과 과학은 별로 상관이 없어 보이지만 그의 <참된 시작>이라는 시의 한 구절은 실험 과학자들에게도 나름 힘을 줄 수 있는 것 같다.

그해 겨울,

나의 시작은 나의 패배였다

…

그해 겨울,

나의 패배는 참된 시작이었다

◇김광석 교수 : ▷부산대학교 나노과학기술대학 광메카트로닉스공학과 교수, 나노물리학자 ▷양자점, 양자링 같은 인공나노구조물이나 나노소재에서 일어나는 양자광학적 초고속현상을 주로 연구하고 생체조직의 광영상기술도 개발한다. ▷10여 년간 과학영재 고등학생 대상의 다양한 실험프로젝트를 운영 중이며 국제신문 <과학에세이> 칼럼 필진으로도 참여하고 있다.

인저리타임 김광석 KKyhm@injurytime.kr 김광석의 기사 더보기

저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지