“AGI 4년 안에 만든다”는 샘 올트먼의 말은 진짜일까?

얼마 전 공개한 오픈AI의 o3 모델은 수학과 과학 분야에서 박사 수준을 크게 웃도는 퍼포먼스를 보여주었습니다. 그와 함께 생성형 AI를 넘어 거의 모든 지적 업무를 인간처럼 해낼 수 있는 일반인공지능(AGI, Artificial General Intelligence) 현실화에 대한 기대감이 점점 고조되고 있습니다.

AGI를 향한 대중의 관심에 기름을 붓듯, 인공지능 업계의 거물들은 긍정적인 전망을 쏟아내고 있습니다.

최근 샘 올트먼 오픈AI CEO는 “이미 AGI의 개발 방법을 알고 있으며, 트럼프 임기 중인 약 4년 이내에 실행될 것”이라고 자신 있게 말했습니다. 오픈AI의 공동 창립자였던 일리야 수츠케버 역시 “스케일링 법칙에 의해 AGI 단계를 건너뛰고 슈퍼인공지능(ASI)마저 단시간 내에 실현이 가능하다”는 장밋빛 전망을 내놓은 바 있죠.

과연 이들의 주장처럼 인간의 지적 능력을 넘어서는 AGI가 단시간 내에 구현될 수 있을까요? 생성형 AI의 현주소를 따져보고 AGI의 허와 실을 구분해 내는 여정으로 여러분을 초대합니다.

AGI를 둘러싼 엇갈린 의견들

현대 사회에는 배경지식과 기술에 대한 숙련도, 그리고 직업적 특성에 따라 다양한 의견이 존재합니다. 그러나 가끔은 이처럼 다양한 의견이 현상을 명확히 파악하는 데에 방해가 되기도 합니다. AGI의 경우도 그렇습니다. 현시점에서 AGI를 두고 연구자와 엔지니어가 합의한 단 하나의 정의는 존재하지 않습니다.

지금의 AGI는 마치 장님이 코끼리 만지는 것과 같은 상황입니다. 즉, 누군가는 다리를 만지면서 ‘이것이 코끼리다.’라고 말하고 있고, 누군가는 코를 만지면서 ‘이것이야말로 코끼리다’라고 주장하는 격입니다.

이처럼 AGI에 대한 인식은 기술을 보는 사람에 따라 하늘과 땅 차이로 나뉠 수 있습니다. 따라서 AGI의 실현 가능성을 엄밀히 따져보려면 AGI란 무엇인지 엄밀히 정의해 보는 과정이 필요합니다. AGI에 대한 지나친 기대와 오해를 막고 기술을 있는 그대로 이해하기 위함이기도 합니다. 특히, o3 같은 최첨단 생성형 AI 모델이 어떻게 구현되어 있는지 기술적 원리를 이해하고, 이것이 진정한 AGI로 진화하기 위한 요소를 살펴보는 과정을 거쳐야 막연함을 걷어낼 수 있을 것입니다.

단순한 정의: 샘 올트먼과 일론 머스크

우선 현상을 제대로 파악하려면 AGI를 둘러싼 유명 인사들의 발언이 어떤 맥락과 배경에서 비롯되었는지 살펴볼 필요가 있습니다.

샘 올트먼은 AGI를 “중요한 업무에서 매우 숙련된 사람이 할 수 있는 일을 해내는 AI”라고 비교적 단순하게 정의합니다. 이처럼 그가 AGI의 실현 방법을 알고 있으며, 이제 ASI 시대에 대비해야 한다고 말한 배경 이면에는 기술의 실현 조건에 대한 다소 모호한 정의가 있습니다.

사실 그의 말처럼 수학과 과학 연구 영역에 특화된 o1, o3 모델은 이미 고도로 숙련된 사람의 지적 능력을 필요로 하는 분야의 태스크를 어느 정도 수행할 수 있습니다. 그 점에서는 샘 올트먼의 AGI 정의에 부합할지도 모릅니다. 그러나 특정 분야의 업무를 능숙하게 수행한다고 이를 정말 AGI라 부를 수 있는지, 회의적인 관점이 나타날 수 있습니다.

또 다른 기업가 일론 머스크 역시 “AGI를 가장 똑똑한 인간보다 더 똑똑한 AI로 정의한다면, 그 등장 시기는 1~2년 후가 될 것이다.”라고 주장합니다. 그의 주장 역시 AGI에 대한 다소 추상적이고 허술한 정의에 근거하고 있습니다.

과연 가장 똑똑한 인간은 어떤 인간을 가리키는 말일까요? 그리고 우리는 인공지능이 인간보다 얼마나 더 똑똑한지 어떻게 평가할까요?

신중한 정의: 제프리 힌턴과 페이페이 리

기업가와 다르게 인공지능 기술을 심도 있게 연구하는 학자, 연구자들은 AGI에 조금 더 신중한 입장을 취합니다.

심층신경망의 역전파 알고리즘 연구로 노벨 과학상을 수상한 제프리 힌턴(Geoffrey Hinton) 박사는 지난해 AP와 진행한 인터뷰에서 “AGI의 개념이 아직은 모호하다”고 밝혔습니다.

AGI가 사람처럼 생각하고 행동하는 지능적인 존재인지 다소 회의적인 입장을 보인 것입니다. 다만, “AI는 우리가 생각하는 것보다 똑똑하며 20년쯤 후에는 AGI가 실현될 수 있다”고 우려 섞인 전망을 내놓았습니다.

2010년, 이미지넷을 구현하며 비전AI를 설립하는 데에 결정적인 역할을 했던 페이페이 리 스탠퍼드대 교수 역시 AGI에 대한 확신을 꺼립니다.

그녀는 미국 샌프란시스코 골든게이트 클럽에서 열린 크레도 AI의 ‘책임 있는 AI 리더십 서밋’에서 “일반인공지능(AGI)이 무엇을 의미하는지 잘 모르겠습니다. 이 단어에 대해 깊이 생각해 본 적도 없습니다. 이보다 더 중요한 일이 많다고 봅니다.”라고 말했습니다. AGI라는 용어 자체의 모호성을 지적한 것입니다.

노엄 촘스키와 ‘확률론적 앵무새’

지금의 AGI 연구가 언어 모델(Language Model) 중심으로 지나치게 한정되어 있다는 점을 지적하는 학자들도 있습니다.

세계적인 언어철학자인 노엄 촘스키는 챗GPT를 두고 ‘확률론적 앵무새’라고 비난한 바 있습니다. GPT가 단순히 이전 단어에 기반해 통계학적으로 확률이 가장 높은 단어를 ‘예측’해 내는 자기 회귀(auto regressive) 방식으로 작동한다는 것이죠. 이를 고려했을 때, LLM을 진정한 의미의 ‘지적인 존재’라고 말하기 어렵다는 그의 주장에 귀를 기울여 볼 필요가 있습니다.

앞서 살펴본 것처럼 AGI에 대한 정의는 아직 통일되지 않았으며, 이에 대한 견해도 사람마다 상이하다 할 수 있습니다. 기업가들은 주로 AGI를 몇 가지 분야에서 고도로 숙련된 전문가의 작업을 대체하는 수준으로 대하고 있지만, 사실 엄밀히 말해 이는 AGI의 일반적 정의와는 조금 다릅니다.

특히 인공지능에 대한 깊은 이해를 바탕으로 한 연구자와 엔지니어들은 AGI 낙관론에 회의적인 입장을 보입니다. 이처럼 AGI 정의가 상이한 만큼 구현 가능성에 대해서도 전문가들 사이 큰 차이를 보입니다. 일부는 AGI가 가까운 미래에 실현될 것이라고 전망하는 반면, 다른 이들은 그 실현은 여전히 먼 미래의 일이라고 보고 있습니다.

생성형 AI는 AGI와 어떻게 다를까?

그렇다면 지금의 생성형 AI 기술이 업계 사람들이 말하는 AGI와는 어떻게 다를까요? 결론부터 말하자면 생성형 AI와 AGI는 개념적으로 밀접한 듯 보이지만, 본질적으로는 매우 다르다고 할 수 있습니다.

현재 생성형 AI 기술은 주어진 데이터를 바탕으로 새로운 콘텐츠를 생성하거나 특정 작업을 수행하는 데 초점을 맞추고 있습니다. 예를 들어 텍스트 생성, 이미지 생성, 번역 등 각자 특화된 분야에서 능숙하게 작업을 수행할 수 있는 능력을 갖추고 있으며, 각자의 강점을 바탕으로 보고서 작성이나 코드 작성 등 모델마다 최적화된 태스크 분야를 가집니다.

다른 말로 하면 코딩, 번역, 이미지 생성 등 각자 특화 분야에서는 높은 성능을 발휘하지만, 그 외 다른 분야로 확장되었을 때는 명확한 한계를 드러낸다는 뜻입니다.

이처럼 한정 분야의 특정 태스크에만 특화된 형태의 인공지능을 약인공지능(weak AI)이라고 합니다.

약인공지능은 특정 분야에서 인간의 지적 능력을 넘어서는 퍼포먼스를 보여주기도 하지만, 이것이 AGI의 출현을 의미하지는 않습니다. 예를 들어 수학과 과학 분야 연구에서 박사 수준을 보이는 o1, o3 모델도 작곡이나 이미지 생성 같은 분야에서는 기대에 전혀 미치지 못한다고 합니다. 현재 SoTA로 꼽히는 생성형 AI 모델들의 현실입니다.

물론 최근에는 텍스트, 이미지, 음성 등 거의 모든 형태의 데이터로 입출력이 가능한 멀티모달(Multimodal) 모델이 점차 보편화 되어가고 있으며, 이를 AGI 개념으로 보아야 한다고 주장하는 연구자들도 있습니다. 그러나 이들 역시 아직 모든 분야에서 통할 종합적인 추론 능력과 뛰어난 성능을 보여주고 있지는 못합니다.

반면, AGI는 거의 모든 분야에서 인간 수준의 지능을 지닌 인공지능을 지칭합니다. 물론 아직 AGI에 관한 명확하고 통일된 정의는 없지만, 일반적으로 AGI에 대해 이야기 할 때 우리가 기대하는 것은 ‘자율성’이라고 할 수 있습니다. 즉, AGI가 종합적이고 다양한 상황에서 새로운 문제를 해결하며, 학습한 경험을 바탕으로 독립적으로 사고할 수 있는 능력을 갖추는 것을 말합니다.

AGI는 요즘의 생성형 AI와 달리 하나의 특정 작업에 국한되지 않고 여러 분야에서 지능적으로 행동할 수 있는 능력을 전제로 합니다. 이처럼 인간 수준의 종합적 지능을 가지며, 인간이 할 수 있는 모든 지적 작업을 수행할 수 있는 인공지능을 강인공지능(strong AI)이라고 합니다.

인간처럼 사고하고 학습할 수 있는 범용적 지능을 지향하는 AI인 만큼, AGI는 여러 작업을 융통성 있게 처리하며 스스로 새로운 지식을 습득하는 능력이 필요합니다. 반면 지금의 생성형 AI 모델은 주로 매우 한정된 범위 내에서만 작동합니다. 즉, 생성형 AI가 AGI로 가는 길목에 있는 중요한 기술이라고 할 수는 있지만, 그 자체로 AGI가 가까운 미래에 실현될 근거라고 보기에는 다소 무리가 있는 것입니다.

AGI 실현의 기술적 요건

그렇다면 현실적으로 AGI를 실현하기 위해 어떤 조건들이 갖추어져야 할까요? 이를 가늠해 보고자 현존하는 최첨단 AI의 핵심 원리인 ‘스케일링 법칙’, ‘물리적 실체’의 필요성을 강조하는 견해에 대해 소개하도록 하겠습니다.

스케일링 법칙

생성형 AI 모델의 크기가 커질수록 성능이 향상된다는 ‘스케일링 법칙(scaling law)’은 지난 몇 년간 인공지능 업계의 발전을 이끌어왔던 논리입니다. 스케일링 법칙에 따르면, 더 많은 매개변수(parameter)와 더 방대한 훈련 데이터는 AI 모델의 기하급수적인 성능 향상으로 이어집니다. 그에 따라 앞으로도 모델이 커지면 커질수록 LLM이 우리가 짐작하기 어려운 지적 능력을 획득할 것이라고 예상해볼 수 있습니다.

예를 들어, 약 1,750억 개의 매개변수를 가진 GPT-3는 100분의 1 수준의 매개변수를 가지고 있는 GPT-2보다 성능이 비약적으로 올랐습니다. 어느 정도 사람처럼 자연스러운 답변이 가능해진 것입니다. 매개 변수가 조 단위에 다다른 GPT-4에 이르러서는 인간이 알려주지 않은 사실까지 스스로 유추해 낼만큼 추론 능력이 눈에 띄게 좋아졌습니다. 최근 등장한 GPT-4o, Claude-3.5-Sonnet 같은 모델 역시 정확한 크기가 공개되지는 않았지만, 앞서 모델들보다 훨씬 더 커진 것을 예상해 볼 수 있습니다.

그러나 이러한 스케일링 법칙이 AGI로 이어질 충분조건으로 작용할지는 미지수입니다. 스케일링만으로 인간과 유사한 사고와 학습 능력을 갖춘 AGI를 실현하기에 한계가 있을 수 있기 때문입니다. AGI로 나아가기 위한 기술 발전은 모델 크기나 데이터양의 증가를 넘어서는 방식으로 이루어져야 합니다. 예를 들어, 단순히 더 많은 데이터를 학습하는 것을 넘어, 이 데이터를 효율적으로 활용해 다양한 문제를 처리할 사고방식을 구현하는 기술 혁신이 필요한 것입니다.

현실 세계 경험과 물리적 체험

현재 생성형 AI 기술은 인간의 언어, 즉, 텍스트 데이터에 절대적으로 의존한 초거대언어모델(LLM)에 기반하고 있습니다. 그렇기에 아직 생성형 AI 모델이 현실 세계의 경험을 전혀 가지고 있지 않다는 점을 지적하는 연구자들도 보입니다. 지금의 생성형 AI는 인간의 데이터를 모방하며 흉내 내고 있을 뿐, 스스로 생각하기 위한 조건이 갖추어지지 않았다는 것입니다.

앞서 말했듯, 언어 철학자 노엄 촘스키는 ‘챗GPT의 거짓된 약속(The False Promise of ChatGPT)’라는 기고문에서 챗GPT를 ‘확률론적 앵무새’라고 비난한 바 있습니다. 그처럼 아직 생성형 AI는 스스로 현실 세계에서 체득한 경험이나 느낌을 바탕으로 생각하거나 행동할 수 없습니다. 인간에 의해 생성된 ‘텍스트’를 피상적으로 받아들이고 있다고 보는 편이 더욱 가까울 수 있겠죠.

이처럼 지금의 생성형 AI는 근본적으로 물리적 실체가 없습니다. 실제로 냄새를 맡을 수도, 아름다운 풍경을 볼 수도, 명곡을 들을 수도 없습니다. 따라서 스스로 어떠한 견해나 감정, 그리고 고유한 관점을 가질 수 없습니다.

이러한 인공지능 모델의 본질적인 문제를 해결하려면 인공지능이 현실 세계를 경험할 메커니즘을 구현할 필요가 있을지도 모릅니다. 장병탁 서울대 AI 연구원장은 생성형 AI가 진정한 AGI로 발전하기 위한 조건으로 ‘지각-행동 능력’을 제시합니다. AGI에 가까워질수록 AI도 물리적 체험이 필요하다는 것입니다.

AGI는 과연 실현될 수 있을까? 

AGI 실현 가능성에 대한 논의는 여전히 뜨겁고, 기술 발전에 대한 기대와 우려는 공존합니다. 이처럼 AGI 개념에 대한 다양한 해석이 존재하며, 이를 실현하기 위한 기술 과제도 상당히 복잡합니다. 무엇보다 지금까지 AGI가 실현되지 않은 이유는, 인간 수준의 종합적 지능을 구현하기 위해 필요한 다양한 능력 모두를 AI 기술로 모방하기 어렵기 때문입니다.

AGI 실현 가능성에 대해 긍정적인 전망을 내놓은 사람들은 기술의 발전 속도와 스케일링 법칙을 근거로, AI가 점차 인간 지능에 가까워질 것이라고 예측합니다. 그러나 AGI를 실현하기 위한 기술, 철학, 윤리 문제들을 해결하려면 단순 모델 구축 기술을 넘어 장기 연구와 혁신이 필요할 것입니다.

특히, 인간의 사고방식과 경험을 어떻게 AI에 효과적으로 통합할 수 있을지 논의가 중요합니다.

현실의 AGI를 위해서는 단순 데이터나 모델의 크기 확장이 아니라, 인간처럼 사고하고, 배우고, 경험을 축적하며 자율적으로 문제를 해결할 수 있는 능력이 필요합니다. AI에 단순히 주어진 정보를 처리하는 것을 넘어, 새로운 상황과 문제를 스스로 해결하는 능력을 요구하는 것입니다.

단기 목표로 보기에 아직은 AGI 실현을 둘러싼 장애물이 존재합니다. 그래도 이를 향한 연구와 발전은 꾸준히 진행되고 있습니다. 그런 만큼 AGI의 현실화 시점을 예측할 수 없다 해도, 그 과정에서 우리가 개발하는 기술이 점차 인공지능의 한계를 넘어설 것이라고 기대할 수 있습니다.

AGI의 구현은 단순히 기술 문제만이 아닌 윤리적, 사회적 문제를 포함한 복합적인 도전입니다. AGI가 과연 우리가 꿈꾸는 인공지능으로 나타날 수 있을까요? 기술 진전뿐만 아니라 인간적인 통찰과 균형으로 함께 해결해 나가야 할 문제가 여전히 많다는 사실을 인식하며 지켜봐야 할 일입니다.

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.