글쓴이 : 답없는나라

조회 : 2,403  

지금으로부터 16년 전, 2월의 어느 추운 날 예일대학교 교정에 붙어 있던 포스터는 질 칼라이의 눈을 사로잡았다. 포스터에는 양자 컴퓨터 실험 전문가로 잘 알려진 미쉘 데보레의 강의가 소개되어 있었다. 그 중 한 발표의 제목은 “양자 컴퓨터, 기적인가 신기루인가?” 였고 칼라이는 양자컴퓨터의 장단점에 대한 뜨거운 논쟁을 기대하며 세미나에 참석했다. 그러나 그는 그 세미나에서 “회의적인 주장은 소개되지 않았다”고 기억한다. 이후 그는 자신이 그 일을 하기로 결심했다.

이제 예루살렘 소재 헤브루 대학에서 수학자로 근무하는 칼라이는 양자 컴퓨터가 그 이론적 가능성에도 불구하고 실은 신기루에 불과하다고 생각하는 여러 분야의 학자들 중 가장 잘 알려진 인물이 되었다. 어떤 이들은 양자 컴퓨터의 기본 단위인 큐빗이 양자 컴퓨터의 동작에 필요한 복잡한 연산을 수행하는데 근본적으로 부적합하다고 주장한다. 어떤 이들은 양자 컴퓨터가 만들어지기 어려운 현실적 이유를 이야기하며, 설사 만들어진다 하더라도 그 효용이 제작 비용에 미치지 못할 것이라 주장한다.

칼라이는 수학자이자 컴퓨터 과학자의 입장에서 이 문제를 다룬다. 그는 계산 복잡성 문제와 노이즈 문제를 연구해왔다. 그는 모든 물리 시스템은 노이즈를 가지고 있으며 큐빗은 극도로 민감한 “중첩(superposition)”이라는 성질을 가지고 있어 외부와의 상호작용을 통해 노이즈를 가질 수 밖에 없게 된다고 주장한다. 또한 이 노이즈를 줄이는 것은 단지 기술적인 문제가 아니며 근본적인 계산 이론이 노이즈의 최소값을 결정한다고 말한다.

칼라이는 자신이 소수파라는 것을 알고 있다. IBM이나 인텔, 마이크로소프트와 같은 회사들이 양자 컴퓨터에 큰 돈을 투자하고 있으며 데보레와 그의 예일대 동료들이 세운 퀀텀 서킷과 같은 양자 컴퓨터 스타트업도 많은 돈을 투자받고 있다. 중국과 같이 국가 수준에서 수 조 원을 쓰고 있는 나라도 있다.

퀀터 매거진은 최근 칼라이와 양자 컴퓨터, 노이즈, 그리고 지난 수 십 년 동안의 연구가 앞으로 몇 주 안에 틀린 것으로 판명날 가능성에 대해 이야기했다. 아래는 그 인터뷰를 정리한 것이다.

Q: 언제 처음 양자 컴퓨터를 미심쩍게 생각하게 되었나요?

A: 나는 처음에는 많은 다른 이들처럼 양자 컴퓨터의 열렬한 지지자였습니다. 하지만 2002년 미쉘 데보레의 “양자 컴퓨터: 기적인가 신기루인가”세미나에서 사람들이 양자 컴퓨터에 회의적인 입장에 서지 않는다는 느낌을 받았습니다. 제목과 달리 그 세미나는 양자 컴퓨터가 얼마나 멋진 것인지만 이야기했습니다. 신기루일 가능성은 다루어지지 않았죠.

Q: 그래서 그 문제를 생각하게 되었군요.

A: 2005년, 나는 이 문제를 다루기로 결심했습니다. 나는 1999년부터 이타이 벤자미니, 오데트 쉬람과 같이 연구해온 노이즈 민감성과 노이즈 안정성 분야가 이 문제와 연결되어 있다는 것을 알았습니다.

Q: 노이즈란 무엇인가요?

A: 노이즈란 어떤 처리 과정에서 발생하는 오류를 말합니다. 노이즈 민감성이란 어떤 처리과정의 결과물이 얼마나 노이즈의 영향을 받기 쉬운지를 말합니다. 양자 컴퓨터 역시 랜덤한 주변 신호의 영향을 받는다는 점에서 다른 자연의 처리과정과 같습니다. 양자 컴퓨터가 무언가를 처리할 때 매 처리 과정마다 큐빗은 노이즈에 오염될 가능성이 있습니다.

Q: 이 오염이 그렇게 중요한 문제인가요?

A: 큐빗의 오염을 해결하기 위해서는 양자 오류 보정(quantum error correction)이라 불리는 기술이 필요합니다. 하지만 이를 위해서는 하나의 정교한 “논리(logic)” 큐빗을 위해 100개에서 때로 500개에 이르는 “물리(physical)”큐빗이 있어야 합니다. 또한 이들을 이용한 양자오류보정 회로가 동작하기 위해서는 전체 노이즈가 어떤 특정 값 이하야여 합니다.

우리는 노이즈를 수학적으로 모델링 하여 그 특정 값을 계산했습니다. 이는 흥미로운 작업이었습니다.

Q: 그래서 어떻게 됐나요?

A: 나는 노이즈에 의한 오류가 서로 연관되어 있을 경우 어떻게 되는지를 보았습니다. 히브리 속담에는 ‘사건은 항상 동시에 발생한다’는 말이 있지요. 영어로는, ‘비가 왔다 하면 쏟아진다’는 속담 정도가 될겁니다. 이는 상호작용하는 시스템에서는 오류가 동시에 발생할 수 있다는 뜻입니다. 즉 모든 큐빗에 에러가 동시에 발생할 가능성이 있다는 것이죠.

지난 10여년 동안 나는 복잡한 양자 컴퓨터 계산에서 발생할 수 있는 연쇄 오류의 종류를 연구했으며 그 중 어떤 연쇄 오류들이 양자 컴퓨터에 문제를 일으키는지를 연구했습니다.

초기 우리는 복잡한 파형을 간단한 성분으로 분리하는 푸리에 해석을 사용했습니다. 우리는 오류의 파형이 저주파일때는 시스템이 안정적이지만 고주파로 갈 경우 전체 과정이 오류의 영향을 받게 된다는 것을 발견했습니다.

2014년 논문에서 나는 헤브루 대학의 컴퓨터 과학자 가이 킨들러와 함께 양자 컴퓨터의 노이즈가 푸리에 변환결과의 모든 고주파 성분을 망가뜨릴 수 있음을 보였습니다. 쉽게 말해, 계산 과정을 베토벤 교향곡에 비유하자면 소음 때문에 우리는 바이올린, 비올라, 첼로의 음이 사라지고 콘트라 베이스의 소리만 듣게된다는 것입니다.

한편 이 결과는 노이즈가 어떤 수준 이하로 줄어들 수 없을 가능성을 암시합니다. 즉 양자 우위(quantum supremacy) 혹은 양자 오류 보정에 필요한 노이즈 수준으로 낮출 수 없다는 뜻입니다.

Q: 왜 노이즈를 특정한 값 이하로 낮출 수 없나요?

A: 많은 연구자들이 노이즈를 그 값 아래로 낮출 수 있다고 생각하며, 양자 컴퓨터를 만드는 일은 단지 기술적인 문제일 뿐이라 생각합니다. 하지만 우리는 근본적 계산 요소(primitive computational devices)의 성능과 관련된 계산 이론이 노이즈 수준의 최소값을 결정한다고 생각합니다. 즉 소형, 혹은 중형 양자 컴퓨터의 노이즈는 그 근본적 계산 성능을 결정하게 됩니다. 이는 매우 근본적인 원칙으로 “양자 우위”를 달성하지 못하게 만들며, 또한 양자 오류 보정 코드 또한 불가능하게 만듭니다.

Q: 당신의 주장을 반대하는 이들은 무엇이라고 말하나요?

A: 우선 나와 킨들러가 제한된 종류의 양자 컴퓨터만을 다루었으며 또한 우리의 노이즈 모델이 실제 물리적인 노이즈와 다른 수학적으로 단순화된 형태라고 말합니다. 하지만 나는 우리가 제안한 단순화된 형태가 매우 일반적인 현상을 설명할 수 있다고 확신합니다.

또한 그들은 내 연구에서 두 가지 이상한 점이 있다고 이야기합니다. 하나는 계산이 이루어지는 물리적 기기 부분의 내용이며, 다른 하나는 내가 보통 거대한 시스템에 적용되는 계산 이론의 결과를 작은 양자 시스템에 적용했다는 것입니다. 나도 이 부분이 일반적이지는 않으며 어쩌면 독특하게 보일 수 있다는 점은 인정합니다.

마지막으로, 그들은 내가 제시하는 기술적 한계가 근본적인 것이 아니며 충분한 연구를 통해 극복할 수 있을 뿐 아니라 노이즈를 거의 0에 가깝게 만들 수 있을 것이라 주장합니다. 하지만 나는 만능 양자회로를 구현할 수 있도록 충분한 수준의 낮은 오류를 만들기 위해서는 기하급수적인 수의 큐빗이 필요하며, 따라서 양자 컴퓨터는 불가능하다고 생각합니다.

Q: 당신은 그 문제에 대해 어느 정도로 확신을 가지고 있나요?

A: 상당한 확신을 가지고 있습니다. 물론 내가 틀렸을 가능성 때문에 신경이 쓰이기도 합니다. 내 연구는 노이즈 때문에 양자 컴퓨터의 계산결과가 틀려질 경우 그 결과를 기존의 컴퓨터로도 쉽게 계산할 수 있음을 보여줍니다. 이를 확인하기 위해서는 50큐빗이 아니라 10~20 큐빗이면 충분합니다. 구글이나 IBM이 만들고 있는 양자 컴퓨터는 그들의 계획대로 된다면 기존의 컴퓨터로는 확인하기 어려운 정도의 계산을 일관성있게 해낼 것입니다. 나는 전혀 그렇게 생각하지 않지요. 그러니 나는 확신을 가지기 보다는 그저 그들의 컴퓨터가 만들어지고 어떤 결과를 내는지를 기다리면 됩니다.