샘 올트먼이 말하는 AI의 ‘온화한 특이점’
본문은 요즘IT와 번역가 David가 함께 샘 올트먼의 글 <The Gentle Singularity>을 번역한 글입니다. 샘 올트먼은 OpenAI의 CEO로, ChatGPT를 비롯한 혁신적인 AI 시스템 개발을 이끌고 있는 인공지능 분야의 선도적 인물입니다. 그는 인공지능의 안전한 개발과 인류에게 미치는 장기적 영향에 대해 깊이 있는 사고를 하는 것으로 유명합니다. 이 글에서 샘 올트먼은 AI의 특이점이 우리가 상상했던 것처럼 갑작스럽고 충격적이지 않을 것이며, 오히려 점진적이고 인간이 적응할 수 있는 형태로 진행될 것이라고 주장합니다. 동시에 이 강력한 기술이 인류의 가치와 잘 정렬되어야 한다는 경고를 통해, 기술 발전과 인간 중심의 균형 잡힌 방향성을 강조합니다.
글에 포함된 각주(*표시)는 ‘번역자주’입니다.
결론부터 말씀드리자면, 우리는 이미 사건의 지평선을 넘어섰고, 이륙은 시작되었습니다. 인류는 디지털 초지능을 만드는 데 거의 다 와 있는데, 적어도 지금까지는 생각했던 것보다 많이 이상하지 않습니다. 아직 로봇이 거리를 활보하지도 않고, 대부분의 사람들이 하루 종일 AI와 대화하는 것도 아닙니다. 사람들은 여전히 병으로 죽고, 우주로 쉽게 갈 수도 없으며, 우주에 대해 모르는 것이 아직도 많습니다.
그런데도 우리는 최근에 여러 면에서 사람보다 똑똑한 시스템을 만들었고, 이를 사용하는 사람들의 생산성을 크게 높일 수 있게 되었습니다. 가장 어려웠던 부분은 이미 지나갔습니다. GPT-4나 o3 같은 시스템을 만드는 데 필요했던 과학적 통찰은 힘들게 얻어낸 것이지만, 우리를 아주 멀리 데려다줄 것입니다.
AI는 여러 방식으로 세상에 기여할 텐데, 특히 과학 발전을 가속화하고 생산성을 높여 삶의 질을 향상시키는 효과는 정말 대단할 것입니다. 미래는 현재보다 훨씬 나을 수 있습니다. 과학 발전이 전체 발전의 핵심 동력이므로, 우리가 얼마나 더 많은 것을 이룰 수 있을지 생각하면 정말 흥미진진합니다.
어떤 면에서 보면, ChatGPT는 이미 역사상 어떤 인간보다도 강력합니다. 수억 명의 사람들이 매일 그리고 점점 더 중요한 업무를 위해 ChatGPT에 의존하고 있습니다. 작은 새로운 기능 하나가 엄청난 긍정적 파급효과를 낳을 수 있는 반면, 작은 오차 하나가 수억 명에게 확산되면 막대한 피해를 초래할 수 있습니다.
2025년에는 실제 사고력이 필요한 일을 할 수 있는 AI 에이전트들이 등장했습니다. 코드 작성은 다시는 예전과 같지 않을 것입니다. 2026년에는 아무도 생각해보지 못한 새로운 통찰을 스스로 발견해 내는 시스템들이 나타날 가능성이 높습니다. 2027년에는 현실 세계에서 실제 작업을 수행하는 로봇들이 등장할지도 모릅니다.
훨씬 더 많은 사람들이 소프트웨어와 예술을 창조할 수 있게 될 것입니다. 하지만 세상은 이 둘을 더 많이 원하고 있고, 새로운 도구들을 받아들이는 한 전문가들은 여전히 초보자들보다 훨씬 뛰어날 것입니다. 전반적으로 말씀드리자면, 2030년에 한 사람이 2020년에 할 수 있었던 것보다 훨씬 더 많은 일을 해낼 수 있는 능력은 놀라운 변화가 될 것이며, 많은 사람들이 이를 활용하는 방법을 터득할 겁니다.
가장 중요한 측면에서 2030년대는 그리 크게 다르지 않을 수도 있습니다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하고, 게임을 즐기고, 수영장에서 수영을 하겠죠. 하지만 매우 중요한 측면에서 2030년대는 인류 역사상 그 어느 때와도 완전히 다를 가능성이 높습니다. 인간 수준의 지능을 넘어 얼마나 멀리 갈 수 있는지 아직은 모르지만, 곧 알게 될 것입니다.
2030년대에는 지능과 에너지, 즉 아이디어와 그 아이디어를 현실로 만드는 힘이 무한에 가깝게 풍부해질 것입니다. 이 두 가지는 오랫동안 인류 발전을 제약해 온 근본적인 한계였습니다. 풍부한 지능과 에너지, 그리고 현명한 사회 운영이 뒷받침된다면, 이론적으로 우리는 그 밖의 무엇이든 가질 수 있습니다.
우리는 이미 놀라운 디지털 지능과 함께 살고 있으며, 처음의 충격이 지난 후 대부분은 이에 꽤 익숙해졌습니다. AI가 아름답게 쓰인 문장을 생성할 수 있다는 데 놀라다가, 금세 언제 아름답게 쓰인 소설을 만들 수 있을지 궁금해하고, 생명을 구하는 의료 진단을 내릴 수 있다는 데 놀라다가도 언제 치료법을 개발할 수 있을지 궁금해합니다. 또 작은 컴퓨터 프로그램을 만들 수 있다는 데 놀라워하다가, 이제는 언제 새로운 회사를 만들 수 있을지 궁금해합니다. 특이점이란 바로 이런 것입니다. 경이로운 것들이 일상이 되고, 그다음엔 기본 전제가 됩니다.
이미 과학자들로부터 AI 이전보다 2~3배는 더 생산적이라는 말을 듣고 있습니다. 고급 AI는 여러 이유로 흥미롭지만, 우리가 이를 활용해 더 빠르게 AI를 연구할 수 있다는 사실만큼 중요한 건 없을 것입니다. 우리는 새로운 컴퓨팅 기반 기술과 더 나은 알고리즘을 발견할 수 있을지도 모르고, 그밖에 무엇이든 가능할 겁니다. 만약 10년 치 연구를 1년 혹은 한 달 만에 해낼 수 있다면, 발전의 속도는 완전히 달라질 테니까요.
이제부터는 우리가 만든 도구들이 새로운 과학적 발견을 도와주고, 더 나은 AI를 만드는 데도 기여할 것입니다. 물론 이것이 AI가 혼자서 자기 코드를 고쳐 쓰는 것과는 다르지만, 그래도 AI가 스스로를 개선하는 순환구조의 초기 단계라고 할 수 있습니다.
다른 선순환 고리들도 돌아가고 있습니다. 경제적 가치 창출은 점점 강력해지는 AI 시스템들을 운영하기 위한 복합 인프라 구축의 선순환 구조를 만들어냈습니다. 그리고 다른 로봇들을 만들 수 있는 로봇들(그리고 어떤 의미에서는, 다른 데이터 센터들을 만들 수 있는 데이터 센터들)도 그리 멀지 않았습니다.
첫 백만 대의 휴머노이드 로봇을 구식 방법으로 만들어야 하지만, 그다음엔 그들이 전체 공급망, 광물 채굴과 정제, 트럭 운전, 공장 운영 등을 운영해서 더 많은 로봇을 만들 수 있고, 그 로봇들이 더 많은 칩 제조 시설, 데이터 센터 등을 만들 수 있다면, 발전의 속도는 당연히 달라질 것입니다.
데이터 센터 생산이 자동화되면, 지능화의 비용은 결국 전기 비용에 가까워질 것입니다. (사람들은 종종 ChatGPT 쿼리가 얼마나 많은 에너지를 사용하는지 궁금해합니다. 평균 쿼리는 약 0.34와트시를 사용하는데, 이는 오븐이 1초 조금 넘게 사용하거나, 고효율 전구가 몇 분간 사용할 정도입니다. 또한 약 0.000085갤런의 물을 사용하는데, 대략 티스푼의 15분의 1 정도입니다.)
기술 발전의 속도는 계속 가속화될 것이며, 사람들은 거의 모든 것에 적응할 수 있다는 것이 변함없는 사실입니다. 전반적으로 다양한 직업군이 사라지는 것과 같은 매우 어려운 부분도 있겠지만, 다른 한편으로는 세상이 너무나 빠르게 풍요로워져서, 이전에는 꿈도 꿀 수 없었던 새로운 정책들을 진지하게 검토할 수 있겠죠. 아마 새로운 사회 정책들이 한 번에 채택되진 않겠지만, 몇십 년 후에 돌이켜보면 점진적인 변화들이 모여 엄청난 변화를 이뤄냈을 겁니다.
역사가 가르쳐주는 바가 있다면, 우리는 새롭게 할 일과 새롭게 원하는 것들을 찾아낼 것이고, 새로운 도구들을 빠르게 받아들일 것입니다(산업혁명 이후의 직업 변화가 좋은 근거 사례입니다). 기대치는 높아지겠지만, 역량도 그만큼 빠르게 향상될 것이며, 우리는 모두 더 나은 것들을 얻게 될 거고, 서로를 위해 점점 더 놀라운 것들을 만들어낼 겁니다. 사람들은 AI에 비해 장기적으로 중요하고 흥미로운 우위를 가지고 있습니다. 우리는 다른 사람들, 그들이 생각하고 행하는 것에 관심을 갖도록 본능적으로 설계되어 있으며, 기계에 대해서는 별로 신경 쓰지 않습니다.
천 년 전 자급자족하던 농부가 지금의 우리를 본다면, 많은 사람들이 하는 일을 보고 ‘가짜 직업’이라고 말할 겁니다. 우리에겐 충분한 음식이 있고, 상상할 수 없는 사치품에 둘러 쌓여 있기 때문에, 그저 자신의 즐거움을 위해 게임을 하는 것처럼 보일지도 모르죠. 마찬가지로 저는 우리가 천 년 후의 직업들을 보고 ‘가짜 같은 직업’이라고 생각하길 바랍니다. 물론 미래에 그 일을 하는 사람들은 자신의 일을 매우 중요하고, 가치 있는 일이라고 여기고 만족스러워 할 것이 분명합니다.
이처럼 새롭고 경이로운 일들이 달성되는 속도는 엄청날 겁니다. 2035년까지 우리가 무엇을 발견할지는 오늘 감히 상상하기조차 어렵습니다. 어쩌면 어느 해에는 고에너지 물리학을 해결하고, 그다음 해에 우주 식민지화를 시작할 수도 있습니다. 또 어느 해에는 재료 과학 혁신을 이룬 다음, 진정한 의미의 초고속 뇌-컴퓨터 인터페이스를 개발할지도 모릅니다. 아마 대부분의 사람들은 지금과 비슷한 방식으로 살아가겠지만, 적어도 일부는 이 새로운 기술에 직접 "연결"되기로 결정할 것입니다.
앞을 내다봤을 때, 사실 이 모든 것이 잘 상상되진 않습니다. 그래서 실제로 겪어가는 과정들이 놀랍겠지만, 충분히 적응할 만할 겁니다. 상대적인 관점에서 보면, 특이점은 한 번에 오는 게 아니라 서서히 스며들고, 인간과 AI의 결합도 점진적으로 일어납니다. 우리는 지수적 기술 발전이라는 거대한 곡선을 타고 오르고 있습니다. 미래를 바라볼 때는 항상 절벽처럼 보이고, 과거를 돌아볼 때는 평탄해 보이지만, 실제로는 하나의 매끄러운 곡선입니다. (2020년을 떠올려보십시오. 그때 2025년까지 AGI* 수준에 도달한다고 했다면 어떻게 들렸을지와 실제로 지난 5년이 어땠는지를 비교해 보면 됩니다.)
*AGI(범용 인공지능): 다양한 영역에서 지능적 행동을 수행할 수 있는 인공지능 시스템
이제 엄청난 가능성과 함께 직면해야 할 심각한 과제들이 있습니다. 기술적으로나 사회적으로 안전 문제를 해결해야 하는 것이 필수적일 겁니다. 그러나 그 이후 경제적 파급력을 고려할 때, 초지능(superintelligence)에 대한 접근성을 널리 확장하는 것이 매우 중요합니다. 앞으로 우리가 나아갈 최선의 길은 아마 이런 것일 겁니다.
- AI가 우리가 진짜 원하는 대로 작동하도록 만드는 문제를 해결해야 합니다. 다시 말해, AI가 우리의 단기적인 욕구가 아니라, 장기적으로 우리에게 정말 도움이 되는 방향으로 행동하도록 확실히 보장해야 한다는 뜻입니다. (현재 소셜미디어 피드는 방향을 잘못 잡은 AI의 대표적인 예입니다. 이런 알고리즘은 우리를 계속 스크롤하게 만드는 데 탁월하고, 단기적인 선호는 잘 파악합니다. 하지만 실제로는 뇌의 약점을 이용해서 장기적으로는 우리의 행복을 해치는 쪽으로 작동합니다.)
- 그다음에는 초지능을 저렴하고 널리 사용할 수 있게 보급하되, 특정 개인이나 기업, 국가에 너무 집중되지 않도록 해야 합니다. 사회는 원래 회복력이 있고, 창의적이며 빠르게 적응합니다. 우리가 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 물론 그 과정에서 여러 가지 실수를 하고 일부는 심각한 문제가 생길 수도 있지만, 빠르게 배우고 적응하면서 이 기술의 장점을 극대화하고 단점은 최소화할 수 있을 겁니다. 그래서 사회가 정한 큰 틀 안에서 사용자들에게 충분한 자유를 주는 것이 매우 중요해 보입니다. 이때 큰 틀이 무엇인지, 우리 모두가 원하는 방향을 어떻게 정의할 것인지에 대해 전 세계가 하루빨리 대화를 시작해야 합니다.
우리(OpenAI뿐만 아니라 전체 업계)는 전 세계를 위한 ‘뇌’를 구축하고 있습니다. 이 뇌는 개인화되고 모든 사람이 쉽게 사용할 수 있으며, 앞으로 우리의 유일한 제약은 ‘좋은 아이디어가 얼마나 나올 것이냐’가 될 것입니다. 오랫동안 스타트업 개발자들은 "아이디어맨(아이디어만 있는 사람들)"들을 우습게 여겼지만, 이제 드디어 그들이 빛을 볼 때가 된 것 같습니다.
OpenAI는 지금 다양한 일을 하지만, 무엇보다도 우리는 초지능을 연구하는 회사입니다. 앞으로 해야 할 일이 많지만, 우리 앞에 놓인 대부분의 길은 이제 환히 밝혀졌고, 어둠에 가려진 영역들은 빠르게 사라지고 있습니다. 우리는 이런 일을 할 수 있게 된 것 자체에 무척 감사하고 있죠.
이제 AI를 거의 공짜로 사용할 수 있는 시대가 현실로 다가오고 있습니다. 지금으로선 이 말이 터무니없게 느껴질 수도 있지만, 한번 생각해 보세요. 2020년에 지금 같은 기술 발전을 미리 이야기했다면 아마 더 믿기 어려웠을 겁니다. 현재 우리가 2030년에 대해 하는 예측이 그때보다 훨씬 더 현실적이라는 얘깁니다.
저는 앞으로의 날들이 초지능의 시대를 향해 부드럽게, 기하급수적으로, 그리고 평온하게 확장되기를 바랍니다.
<원문>
Sam Altman, The Gentle Singularity
