(김동욱 증권부 기자) 1964년 영국의 공상과학소설(SF)작가 아서 C. 클라크가 발표한 『2001 스페이스 오디세이』는 오늘날 시각으로 보더라도 절로 소름이 돋는 구석이 많은 작품이다.

이 작품의 등장인물로 가장 유명한 존재로는 인공지능을 지닌 컴퓨터 HAL을 꼽을 수 있을 것이다.(오늘날 IT업계의 거인 ‘빅블루’IBM의 회사명도 이 HAL에서 나왔다는 얘기도 있는데 HAL의 이름을 한 글자씩 알파벳 다음 순서로 쓰면 IBM이 되기 때문이다.)

문제는 이 슈퍼컴퓨터가 예상치 않게 인공지능뿐 아니라 감정을 지닌 일종의 ‘생물’이 되면서부터 발생한다. 토성 탐사 우주선이 여행하는 도중 우주선 주 컴퓨터인 HAL은 “멀쩡한 장치를 고장이 났다”며 우주인들이 우주선 밖에서 수리하도록 유인해 우주 속에 그들을 던져버려 죽게 만드는 것. 결국 미쳐버린 HAL의 광기를 목격한 주인공 데이비드 보먼은 HAL을 정지시키기 위해서 HAL의 중앙 데이터뱅크에 들어가서 생각하는 부문의 패널을 빼버렸고,HAL은 자신의 제작자 찬드라 박사가 입력한 초기정보를 토해내다 정지(죽게)하게 된다.

아서 클라크가 “인간 두뇌의 발달과 놀랄 만큼 유사한 과정을 통해 길러낸 인공두뇌”로 “작동원리가 무엇이든 간에 최종적으로 인간 두뇌의 거의 모든 활동을 재현할 수 있고,속도와 신뢰성이 훨씬 더 뛰어나다”고 묘사했던 첨단과학은 예상 밖 변수로 통제할 수 없는 괴물로 변해, 극한의 상황에서 인간을 덮치는 것으로 그려진다.

“자신에게 입력된 프로그램을 완전하게 실행하는 것에 집착 이상의 열의를 가졌다”는 HAL은 여행 초기엔 사소한 실수를 저질렀고, 누가 그 실수를 지적했다면 “자신의 증상을 객관적으로 관찰할 수 없는 신경증 환자처럼 그 사실을 부인했을 것”이라며 거의 인간과 동일한 존재로 그려진다.

프로 바둑기사 이세돌 9단과의 대결에서 구글의 인공지능 ‘알파고’가 만만찮은 실력을 과시했다. 인간은 자신이 만든 피조물의 능력에 ‘두려움’을 느끼기 시작했다. 『2001 스페이스 오디세이』에서 가장 인상적인 마지막 장면을 인용해 본다.

“자 이제 간다. 내가 전자두뇌를 수술하는 아마추어 의사가 될 줄은 몰랐어. 목성 궤도 너머에서 전자두뇌의 전두엽 절제 수술을 하게 되다니…”

그(데이브)는 ‘인지 피드백’이라는 꼬리표가 붙어있는 부분의 잠금장치를 풀고 첫 번째 메모리 블록을 빼냈다. 놀라울 정도로 복잡한 이 3차원 네트워크는 사람의 손안에 들어갈 만큼 작았지만 수백만 개의 구성 요소들을 지니고 있었다. 이제 그 네트워크가 허공에 둥둥 떠서 방 저편으로 멀어져 갔다.

“이봐요 데이브,뭘하는 겁니까?” HAL이 말했다.

“저 녀석도 통증을 느낄 수 있을까?”그는 잠시 이런 생각을 해봤다.“아마 아니겠지…”그는 ‘자아 강화’라고 표시된 패널에서 작은 유닛들을 하나씩 빼내기 시작했다. 유닛들은 그의 손을 떠나자마자 허공에 뜬 채 계속 움직여서 벽에 부딪혔다가 다시 튀어나왔다.

“날 좀 봐요,데이브.몇년에 걸친 근무 경험이 내안에 입력돼 있습니다. 나를 지금의 모습으로 만드는 데 그 무엇으로도 대신할 수 없을 만큼 엄청난 노력이 들었단 말입니다.”HAL이 말했다.

그가 십여 개 유닛을 빼냈는데도 원래 여러 장치들이 중복 기능하게 설계돼 있는 덕분에 컴퓨터는 아직도 무너지지 않고 있었다. 그는 ‘자동사고(思考)’라고 표시된 패널에 손을 대기 시작했다.

“데이브,당신이 나한테 왜 이런 짓을 하는지 모르겠습니다…나는 이번 임무에 최고의 열의를 가지고 있었는데…난 아이처럼 변할 거예요…난 아무것도 아닌 존재가 될 거예요…”HAL이 말했다.

“생각보다 힘들군. 나는 지금 내 주위에서 유일하게 자의식을 갖고 있는 녀석을 파괴하고 있다. 하지만 내가 다시 우주선을 장악하려면 어쩔 수 없어.”데이비드는 속으로 생각했다.

“나는 HAL 9000 컴퓨터 생산번호3 입니다. 나는 1997년 1월12일 일리노이주 어바나 HAL 공장에서 작동을 시작했습니다. 날랜 갈색 여우가 게으른 개의 몸위로 뛰어오른다. 스페인에서는 주로 평원에 비가 내린다.데이브 내말 듣나요? 10의 제곱근이 3.162277660168379라는 걸 아나요?…2곱하기 2는…2곱하기 2는…약 4.101010101010…저한테 조금 문제가 있는 것 같습니다…저의 첫 선생님은 찬드라 박사였습니다.…”

여기서 HAL의 목소리가 갑자기 멈추는 바람에 데이비드는 아직 회로 안에 있는 메모리 유닛 하나를 움켜진 채 잠시 얼어붙어 꼼짝도 하지 않았다. 그런데 뜻밖에도 HAL이 다시 말을 하기 시작했다. 그러나 말을 하는 속도가 아까보다 훨씬 느렸고, 억양도 단조롭고 기계적이었다.

“안녕…하십니까…찬드라…박사님…저는…HAL…입니다…오늘…첫……수업을……받을………준비가 ……”

데이비드는 더 이상 듣고 있을 수가 없었다. 그가 마지막 유닛을 확 빼 버리자 HAL은 영원히 입을 다물었다.

(아서 C. 클라크,『2001 스페이스 오디세이』 中)

출처

 

 ====================================================================

 

인공지능이 자의식에 눈뜨는 날, 인간은 살아남을 수 있을까?

스탠리 큐브릭 감독의 작품 <2001 스페이스 오딧세이>에서 우주선의 인공지능 HAL 9000은 자신의 실수를 은폐하기 위해 승무원들을 말살시키려 한다. 사진은 영화 <2001 스페이스 오딧세이>의 한 장면. / 경향신문 자료사진