IT혁명의 영웅들: 컴퓨터의 탄생을 함께 한 괴물 수학자, 존 폰 노이만

우리에게 장기 기억이 없다면 어떤 일이 벌어질까요? 과거에 했던 일을 다시 하려고 할 때 매번 새롭게 배워야 할 것입니다. 몇 달 동안 도보로만 걸었다고 해서 1년 전에 자전거를 탔던 기억을 잃어버리지는 않습니다. 기억 속에 저장된 자전거 타는 법을 알기 때문에 다시 자전거를 손쉽게 이용할 수 있는 것이죠. 자전거 타는 프로그램이 우리의 두뇌 속에 내장되어 있기 때문입니다.

컴퓨터도 마찬가지입니다. 컴퓨터의 기억 즉 메모리에 혁신적인 변화를 일으킨 것이 프로그램 내장형 컴퓨터의 탄생입니다. 최초의 컴퓨터라고 불리는 에니악은 프로그램을 기억하는, 프로그램이 메모리에 내장된 구조가 아니었습니다. 그렇기 때문에 새로운 연산을 할 때 늘 외부에서 새롭게 프로그래밍을 해야 하는 불편이 있었습니다.

그 프로그래밍이라고 하는 것은 전기 배선을 새롭게 바꾸는 것이었는데, 이것은 매우 복잡하고 힘든 과정이었습니다. 수 천 개의 전선을 새로 꽂는 작업을 해야 했는데, 컴퓨터가 계산을 하는 데는 몇 시간밖에 걸리지 않았지만, 새로운 연산 명령을 내리는 프로그래밍 작업에는 전문가가 동원되어 며칠에 걸쳐 전선을 재배치해야 했습니다.

이러한 비효율과 괴로움은 프로그램을 기억할 수 있는 컴퓨터, 프로그램이 메모리에 저장되어 있는, 프로그램 내장형 컴퓨터의 등장으로 일거에 해소되었습니다. 폰 노이만은 내장형 컴퓨터에 관한 설계도를 정리한 사람으로, 이후의 모든 컴퓨터는 이러한 구조에 따라 만들어졌습니다. 이렇게 폰 노이만 구조로 만들어진 컴퓨터를 폰 노이만 기계라고 부르기도 하였습니다.

그렇게 폰 노이만은 현대 컴퓨터의 구조를 설계한 사람으로 높은 명성을 얻었으며, 그 외에도 150여 편의 논문을 쓴 천재 수학자로 유명하기도 합니다. 이번 챕터에서는 현대 컴퓨터 탄생의 역사를 함께하며 상당한 기여를 한 괴물 수학자 존 폰 노이만에 대해서 지금부터 조금 더 알아보도록 하겠습니다.

괴물 수학자의 고난과 성공

폰 노이만을 그냥 천재라고 부르지 않고, 괴물이라고 표현한 이유는 천재라는 수식어가 부족할 정도로 대단한 인물이었기 때문입니다. 동료들은 그런 그를 심지어 외계인이라고 부르기도 했는데, 그의 천재성에서 가장 부각되는 부분은 무엇보다 기억력에 관한 것입니다. 괴물 같은 기억력을 가졌던 그가, 컴퓨터의 기억 방식 즉 메모리에 혁신을 일으킨 것은 어쩌면 우연이 아니라고 할 수 있을 것입니다.

존 폰 노이만(John Von Neumann)은 1903년 헝가리의 수도 부다페스트에서 출생하였습니다. 노이만의 아버지는 귀족 칭호를 하사 받은 부유한 은행가였으니, 어린 노이만은 당연히 넉넉한 집안에서 좋은 교육을 받으며 성장할 수 있었습니다. 좋은 씨앗이 좋은 토양을 만났기 때문에 그의 천재적 자질은 더욱 극대화될 수 있었던 것입니다.

그의 기억에 관해 대표적인 사례로 많이 언급되는 것은 아버지가 친척들 앞에서 노이만에게 전화번호부를 펼쳐 보여주면 한 번 보고는 이름과 전화번호, 주소까지 모두 암기해서 읊어주었던 일화입니다. 그 외에도 한 번 본 책은 글자 하나 틀리지 않고 모두 외웠다고 합니다. 더 믿기 어려운 일은 나이가 들면서 기억력이 더 좋아져 성인이 된 노이만은 남들이 며칠 동안 해야 할 계산을 단 몇 분만에 해내며 충격을 주었습니다. 노벨 물리학상을 받은 노이만의 친구 유진 위그너는 한 인터뷰에서 진정한 천재는 폰 노이만 한 명뿐이라고 말하기도 했습니다. 한편 아무리 기억력과 산술 능력이 좋은 천재라 할지라도 운명의 질곡은 피해 갈 수 없는가 봅니다.

폰 노이만 16살이 되던 1919년 초, 프롤레타리아 혁명으로 헝가리는 공산주의 정권이 지배하게 되었습니다. 노이만의 아버지는 자신이 소유하던 은행을 강탈당했고, 지역 유지였던 노이만의 가족들은 생명의 위험을 느끼고 외국으로 피신을 했습니다. 노이만 일가는 그렇게 외국에서 몇 달간 지독한 가난에 시달리다, 1919년 8월에 공산 정부가 패망한 이후에야 고향으로 돌아올 수 있었습니다.

노이만은 중고등학교 과정에 해당하는 김나지움에 진학하여 역시 천재적인 수학 실력을 보였고, 학교에서 배울 게 없었던 그는 가정교사를 통해서 개인 교습을 받았고, 김나지움을 수석으로 졸업하였습니다. 1921년 부다페스트 수학과에 진학하였고, 아버지의 권유에 따라 스위스 취리히 연방 공과대학 화학공학과에 입학했습니다. 한때 독일 베를린에서 아인슈타인의 강의를 들으면서 한편으로는 스위스 공과대학을 졸업했습니다. 독일에서 당대 최고의 수학자인 데이비드 힐베르트의 눈에 띄어 그의 제자가 되었고, 1927년 24세의 어린 나이에 베를린 대학에서 수학을 가르치게 됩니다.

1930년 미국 프린스턴 대학교에 객원 교수로 초빙되었으며, 같은 해에 프린스턴 고등연구소가 설립되면서 알베르트 아인슈타인을 비롯한 당대 최고의 수학자와 과학자들이 이 연구소에 몰려들었고 폰 노이만은 1932년, 채 서른 살도 되지 않은 나이에 프린스턴 고등연구소의 전임 교수가 되었습니다. 천재 수학자답게 누구나 부러워할만한 승승장구하는 길을 걸었던 것입니다.

컴퓨터 구조 혁명을 함께 하다

그러면 컴퓨터와는 어떻게 본격적인 인연을 맺었을까요? 1943년 영국을 다녀오던 길에 군사 기밀이었던 엄청난 연산 능력을 자랑하는 최초의 전자식 컴퓨터 에니악의 개발에 관한 소식을 듣고 큰 관심을 가지게 됩니다. 그러다 폰 노이만은 군에 요청하여 프로젝트를 관람할 수 있는 허가를 받아냈고, 1944년 9월 7일 펜실베니아 에니악 개발팀에 합류하여 자문 역할을 하면서 최초의 컴퓨터 에니악의 개발에 동참하게 됩니다. 그러면서 자연스럽게 차세대 컴퓨터인 에드박 프로젝트에도 참여하게 되었습니다. 1945년 6월 30일 에드박 보고서 초안을 발표하며 프로그램 내장형 컴퓨터 구조에 관한 설계를 선보이며, 2021년 현재에도 우리가 지금 쓰고 있는 새로운 컴퓨터의 세계를 열었습니다.

여기서 한 가지 생각해 볼만한 점은 컴퓨터가 계속 폰 노이만 기계라고 불리지도 않았을뿐더러 폰 노이만의 컴퓨터에 관한 명성은 업적에 비해서 축소되는 경향이 있다는 것입니다. 그 이유는 내장형 프로그램의 아이디어가 어디서 나왔느냐 하는가에 대한 논란 때문입니다. 컴퓨터의 아버지라 불리는 앨런 튜링이 처음 고안했다는 말도 있으며, 에니악 제작자인 에커트와 모클리에게서 나왔다는 말도 있습니다.

폰 노이만이 자신의 이름으로 이 설계도를 발표했을 때 에커트와 모클리가 분노한 것은 이러한 이유 때문이며, 적어도 두 사람이 프로그램 내장형 컴퓨터에 대한 아이디어를 사전에 기록해두었다는 것은 정설로 받아들여지고 있습니다.

하지만 폰 노이만이 이러한 구조에 대해서 누구보다 앞서서 간단하고 분명하게 정리한 공은 인정받아야 할 것입니다. 폰 노이만은 메모리에 프로그램을 저장하여 처리하는 방식에 대해서 즉 폰 노이만 구조에 대한, 많은 고민의 결과로 차세대 컴퓨터인 에드박 보고서를 작성하였습니다.

내장된 명령어가 CPU가 읽고 있는 데이터와 뒤섞이지 않도록 처리했고, 일의 처리 순서가 뒤섞이지 않도록 컴퓨터 내부에 일정한 주기로 신호를 주고, 그 신호에 따라 처리할 수 있도록 하는 등 자신의 천재성을 십분 발휘하여 현재까지 활용되는 컴퓨터 구조를 설계한 것입니다. 천재 중의 천재라 불렸던 폰 노이만이었기 때문에 이렇게 빨리 프로그램 내장형 컴퓨터 구조를 정립했다고 볼 수도 있는 것입니다. 따라서 컴퓨터가 폰 노이만 기계도 아니고, 폰 노이만이 프로그램 내장형 컴퓨터에 관한 최초의 아이디어를 낸 과학자는 아니었다 하더라도 그가 컴퓨터의 초창기 역사에서 상당한 기여를 했음은 인정할 수밖에 없는 부분입니다.

탁월한 학자의 빛과 그늘

천재적인 학자라고 해서 행복한 생을 영위하라는 법이 없음은 물론이고, 훌륭한 인품을 갖췄다는 보장도 없다는 것을 폰 노이만의 생을 통해서 잘 알 수 있습니다. 그는 젊은 시절 좋은 집안과 천재성 덕분에 비극적인 몇 달을 제외하고는 꽃길을 걸었지만 그의 만년은 그렇지 못했습니다. 1951년에 미국 수학 학회장이라는 영예로운 지위에 올랐지만, 폰 노이만은 많은 세간의 비판을 받아야 했습니다.

2차 대전 중 핵개발 프로젝트인 맨해튼 프로젝트에는 아인슈타인을 비롯하여, 오펜하이머, 엔리코 페르미, 폰 노이만 등 당대 최고의 과학자들이 참여했었습니다. 1945년 원자폭탄이 실제로 일본에 투하되고 그 결과로 인한 참상을 보게 되면서, 핵폭탄 개발 프로젝트에 참여한 많은 과학자들이 핵무기 폐기를 주장했지만, 폰 노이만은 끝까지 핵폭탄 개발을 주장했습니다. 그뿐만 아니라 철저한 반공주의자였던 그는 수소폭탄을 개발해서 소련이 더 나은 핵폭탄을 개발하기 전에 당장 폭격을 해야 한다고 열변을 토했습니다.

1955년 폰 노이만은 52세의 나이에 마루에 넘어져서 어깨를 다쳤는데, 병원에서 골수암이라는 충격적인 진단을 받았습니다. 그런데 아이러니하게도 그 원인이 노이만이 수소폭탄 실험을 직접 참관했기 때문으로 알려졌습니다. 1957년 결국 그때 생긴 병으로 인해 이 역사적인 천재는 세상을 떠나게 되었는데 마지막 순간까지도 그는 소련에 핵폭탄을 투하할 것을 주장했습니다.

돌이켜보면 이해가 가는 측면도 있는데, 모든 것이 완벽했던 그의 성장 과정에서, 공산정권으로부터 겪었던, 하루아침에 모든 것을 잃게 될지도 모른다는 충격적인 경험이 그의 일생을 지배했기 때문일 수도 있을 것입니다. 그렇다 하더라도 인류 전체의 생존을 위협하는 핵에 관해서는, 세계적인 영향력을 가진 학자로 자신이 만든 게임 이론만큼은 아니더라도, 일반인보다도 못한 비합리적이고, 비이성적인 판단력을 보인 것은 사실입니다. 그렇기 때문에 폰 노이만은 우리가 현실을 살면서 만나기 힘든 괴물처럼 희귀하고 탁월하기는 하지만, 존경받지는 못한 학자로 후세에 이름을 남기게 되었습니다.