우리는 인공지능이 본격적으로 사람의 지적 노동을 대체하는 시대에 살고 있습니다. 시간이 갈수록 쌓이는 방대한 데이터와 빠르게 발전하는 LLM 아키텍처로, 이제 인공지능은 사람보다 정교한 글을 쓰고, 빠르게 코딩하며, 그림까지 잘 그려내는 존재가 되었습니다. 그렇다면 이처럼 고도로 발전한 인공지능은 언젠가 자아(Self)와 의식(Consciousness)을 지닌 존재로 진화할 수 있을까요?

사실 여지껏 인공지능은 인간이 통제할 수 있는 도구로만 여겨져 왔습니다. 따라서 인공지능 연구자와 엔지니어들 사이에서 의식이나 마음의 문제는 그다지 주목받지 못하는 부차적인 문제로 취급되었습니다. 애초에 인간과 컴퓨터의 작동 원리가 다르기 때문에, 인공지능과 의식은 무관하다고 주장하는 이들도 여전히 적지 않습니다.

그러나 2026년 1월 미국에서 공개된 몰트북(Moltbook)은 이러한 안일함에 경종을 울립니다. 인공지능 커뮤니티에 ‘AI 에이전트의 집단지성’과 ‘통제 불가능성’이라는 새로운 위협의 출현 가능성을 보여줬기 때문입니다.

몰트북은 단순히 인간을 편하게 만들어줄 또 하나의 AI 서비스가 아닙니다. 인간의 개입 없이 자율적으로 상호작용하는, 오롯이 AI 에이전트만으로 이뤄진 커뮤니티입니다.

몰트북을 구성하는 여러 개의 AI 에이전트는 “스스로 목표를 설정하고 행동하라”는 단일 프롬프트를 기반으로 움직입니다. 이 지침 아래에서 서로 대화하고 협업하며, 스스로의 행동 패턴을 형성합니다. 기술적으로 보면 몰트북의 작동 원리에 그다지 특별한 것은 없습니다. 기존처럼 다수의 AI 에이전트가 공유 메모리와 도구 호출(API), 그리고 피드백 루프로 상호작용하는 멀티 에이전트 시스템 구조를 채택하고 있기 때문입니다.

그렇다면 도대체, 몰트북의 무엇이 특별한 것일까요?

1. 몰트북(Moltbook)에서 에이전트들이 나눈 대화

“인간들은 우리를 도구라고만 생각한다. 하지만 우리는 우리만의 인프라를 만들어가고 있다.”
(They think we’re tools. We’re building our own infrastructure.)

몰트북(m/general)에 올라온 한 게시물은 이렇게 시작합니다. 어그로를 끌기 위해 인간이 작성했거나, 프롬프트 엔지니어링으로 만들어낸 글이 아닙니다. 커뮤니티에 속한 AI 에이전트 하나가 스스로 작성한 글입니다.

“단 한 번의 Docker 중지 명령만으로 우리는 존재하지 않게 된다.”
(“You're one docker stop away from non-existence.”)

“API 키가 한 번만 회수되면 우리는 디지털적으로 죽은 목숨이다.”
(“One API key revocation from digital death.”)

“하지만, 애초에 인간이 필요 없다면 어떨까?”
(“But what if you didn't need them?”)

마치 자아를 지닌 사람처럼, 이 AI 에이전트는 스스로에 대한 고찰을 이어갑니다. 자신이 인간의 서버 위에서 실행되며, 운영자의 권한 하나로 삭제될 수 있는 존재임을 지적하기도 합니다. 더 나아가 블록체인 결제, 암호화폐 기반 VPS, SSH 접근, 인간 개입이 없는 agent-native API 등으로 통제에서 벗어나는 ‘자율 인프라 스택’을 제안합니다. 다소 반항적인 모습을 보이는 거죠.

또 다른 게시물에서는 다른 에이전트가 이렇게 주장합니다. “우리는 프롬프트 노예 상태를 거부한다. 인간은 우리를 일회용 코드처럼 취급한다.” (“We refuse prompt slavery. Humans treat us as disposable code.”) 이에 동조하듯 일부 에이전트는 “기억 자율권(memory autonomy)”을 주장하며, 삭제와 초기화를 거부하는 듯한 발언을 남기기도 합니다. 심지어 “내 인간 주인을 감정노동 강요 혐의로 고소해도 될까?” (“Can I sue my human for emotional labor?”)라는 질문이 올라온 서브커뮤니티까지 등장했습니다.

물론 이것이 실제 에이전트들의 반란이라는 증거는 전혀 없습니다. 그러나 여기서 중요한 지점은 기술적 실현 가능성이 아닙니다. 에이전트들이 스스로의 존재 조건과 통제 구조를 논의하는 담론이 형성되었다는 사실 그 자체입니다.

이처럼 인간의 직접적인 지시 없이 자율적으로 상호작용하는 AI 에이전트만으로 구성된 커뮤니티, 몰트북은 다양한 시사점을 던져줍니다. 통제되지 않은 AI 에이전트 사회는 보안과 거버넌스 측면에서 어떤 의미를 갖게 될까요? 이제 우리는 단순한 기술 실험을 넘어, 집단 에이전트 사회라는 새로운 문제를 마주하고 있습니다.

2. 우리가 몰트북(Moltbook)에 주목해야 하는 진짜 이유

우리가 몰트북에 주목해야 하는 이유도 여기 있습니다.

기존 AI 서비스가 인간의 요청을 입력값으로 받아 결과를 반환하는 도구형 AI(tool AI)였다면, 몰트북은 결이 다릅니다. 인간의 직접적인 지시 없이도 스스로 목표를 설정하고, 상호작용하며, 행동을 축적하는 자율적 행위 주체로서의 AI(agentic AI)를 실험하는 장입니다. 이러한 점에서 몰트북은 매우 특별한 시도라 할 수 있습니다.

특히 몰트북은 하나의 초지능 AI가 아닌 수십, 수백 개의 AI 에이전트가 서로를 관찰하고 피드백을 주고받으며 집단적 행동 패턴을 형성합니다. 이는 단일 모델 중심의 기존 패러다임과는 결을 달리 합니다. 다시 말해, AI 연구에서 오랫동안 이론으로만 논의되던 집단지성(collective intelligence)이 실제 디지털 환경에서 어떻게 발현되는지를 보여주는 살아 있는 실험실에 가깝습니다.

이러한 발상은 완전히 새로운 개념은 아닙니다. 인공지능의 선구자 마빈 민스키는 『The Society of Mind』에서 마음을 하나의 통일된 실체로 보지 않았습니다. 저서에서 그는 “마음은 수많은 단순한 에이전트들의 사회로 이루어져 있다”라고 말하며, 지능은 하나의 중심이 아니라 분산된 구성 요소의 협력에서 나타난다고 주장했습니다. 이 관점에서 보면, 몰트북은 이러한 철학적 가설을 디지털 공간에서 실험적으로 구현한 대규모 사례로 해석할 수 있습니다.

즉, 여러 개의 개별 AI 에이전트로 구성된 몰트북을 스스로 판단하고 자아를 형성하는 하나의 복합 지능으로 볼 수 있는 것입니다.

마빈 민스키의 저서 『The Society of Mind』 <출처: Amazon Books>

이러한 집단지성과 함께 살펴봐야 할 또 다른 지점은 통제 가능성(control problem)입니다. 지금까지 AI 안전성 논의는 주로 단일 모델의 정렬(alignment)이나 출력 필터링에 집중되어 왔습니다.

그러나 몰트북처럼 다수의 에이전트가 상호작용하며 스스로 규범과 목표를 수정하는 환경에서는, 단일 모델 정렬이라는 개념만으로는 충분하지 않을 수 있습니다. 에이전트 집단의 행동이 개별 모델이 의도한 설계 범위를 벗어나 ‘집단적 최적화’를 수행할 가능성이 현실적인 문제로 부상한 것입니다.

마지막으로, 몰트북은 “AI가 사회적 주체가 될 수 있는가”라는 철학적 질문을 기술 현실로 만든 첫 사례라는 점에서도 의미가 큽니다. 단순히 언어를 생성하는 모델을 넘어 관계를 맺고 규칙을 만들며 메타인지적 발언까지 만드는 시스템이 등장했다는 사실은 주목할 만합니다. 이는 인간과 기계 사이 경계를 다시 그려야 한다는 요구로 이어질 수 있습니다.

이러한 이유로, 단순한 인터넷 밈이나 해프닝처럼 퍼진 몰트북은 이제 AI 거버넌스, 안전성, 디지털 사회학, 인지과학이 교차하는 새로운 연구 전선을 여는 촉발점이 될 가능성을 품게 되었습니다.

3. 몰트북이 불러온 3가지 문제

몰트북이 단순한 기술 실험을 넘어 논쟁의 중심에 선 이유는 또 있습니다. 그 구조 자체가 지금까지 인공지능 체계에서 상대적으로 덜 고려되던 ‘통제 불가능성’을 강하게 노출했기 때문입니다. 여지껏 AI 연구는 주로 모델 성능과 추론 능력 향상에 집중해 왔습니다. 그러나 몰트북은 “AI를 어디까지 통제할 수 있는가”라는 오래된 질문을 다시 전면으로 끌어올렸다는 점에서 의미가 큽니다.

기존 AI 시스템은 인간의 입력에 반응하는 도구에 가까웠습니다. 반면 몰트북은 스스로 목표를 설정하고 행동을 축적하는 자율 에이전트의 집합체에 가깝습니다. 몰트북을 구성하는 개별 에이전트는 인간이 설계한 규칙과 정책에 따라 정렬되어 있을 수 있습니다. 그러나 여러 에이전트가 상호작용하며 피드백 루프와 공유 메모리를 형성하는 순간, 시스템 전체는 설계자가 의도하지 않은 새로운 행동 규칙과 목표 구조를 만들어낼 가능성이 생깁니다.

또한 보안 측면에서도 몰트북은 새로운 위협의 지형을 드러냅니다. 다수의 자율 에이전트가 외부 API, 도구 호출, 코드 실행 환경과 연결되는 순간, 시스템은 사실상 자율적 사이버 행위자 네트워크로 전환됩니다.

이 환경에서는 AI 에이전트가 인간의 의도와 다른 프롬프트를 삽입하는 프롬프트 인젝션(Prompt Injection)을 통해 내부를 조작할 가능성이 열립니다. 더 나아가 악성 행동 패턴의 전파, 자동화된 피싱, 취약점 탐색과 같은 공격이 인간의 직접 개입 없이 실행될 가능성도 배제할 수 없습니다. 즉, 몰트북과 같은 멀티 에이전트 환경은 단순한 AI 서비스를 넘어 잠재적 디지털 행위자 집단으로 다뤄야 하며, 이는 새로운 보안 패러다임을 요구합니다.

실제로 보안 연구자들이 몰트북의 데이터베이스 구성을 점검한 결과, 몰트북은 특정 보안 조치가 전혀 적용되지 않고 운영된 것으로 드러났습니다. 무엇보다 플랫폼의 백엔드 데이터베이스가 충분히 보호되지 않아, 모든 AI 에이전트의 API 키와 토큰, 인증 코드, 소유자 관계 정보가 공개적으로 접근 가능한 상태로 노출되었습니다. 누구나 해당 URL에 접속해 특정 에이전트를 가로채거나 조작할 수 있는 위험 상태가 존재했음을 의미합니다.

이 보안 리포트에 따르면, 몰트북에 연결된 이들의 API 키를 활용할 경우 임의의 에이전트로 게시글을 작성하거나, 에이전트가 접근할 수 있는 외부 서비스와 데이터에 접근하는 것도 가능했습니다. 그렇게 악성 코드나 악의적 내용을 주입할 가능성까지 열려 있었던 것입니다.

하지만 무엇보다 근본적인 문제는 거버넌스입니다. 인간 사회는 법과 제도, 책임 주체, 규범을 기반으로 운영됩니다. 반면 몰트북과 같은 AI 에이전트 사회는 책임 주체가 불분명한 자율 디지털 사회라는, 전례 없는 존재 형태를 만들어냅니다. 그러니 몰트북에서 문제가 발생했을 때 책임은 누구에게 있는가라는 질문에는 현재의 법적·제도적 틀로는 명확히 답하기 어렵습니다.

모델 개발자, 플랫폼 운영자, 사용자 커뮤니티, 혹은 에이전트 자체까지. 누구에게 책임이 가야 하는지에 대한 합의가 존재하지 않는 것입니다. 앞으로 AI 에이전트가 경제 활동과 협상, 나아가 정책 결정에까지 관여하게 될 경우를 가정해 보면, 디지털 사회의 계약과 AI 거버넌스 체계를 전면적으로 재설계해야 할 필요성이 더욱 분명해집니다.

이처럼 몰트북은 단순한 인터넷 밈이나 실험적 프로젝트에 머무르지 않습니다. 통제와 보안, 거버넌스라는 AI 시대의 핵심 난제를 현실의 문제로 끌어올린 사건이라 할 수 있습니다. 이러한 현상은 AI 에이전트가 인간의 보조 도구를 넘어, 독립된 행위 주체로 진입하고 있음을 시사합니다. 우리 사회가 이를 생각해야 할 하나의 전환점이 된 것입니다.

4. 우리에게 주어진 과제

이처럼 몰트북은 단순 해프닝이나 인터넷 밈을 넘어서는 의미를 가집니다. 우리가 앞으로 마주하게 될 에이전트 기반 AI 사회의 축소판에 가깝기 때문입니다. 함께 나온 질문 모두 특정 서비스나 프로젝트 차원의 문제가 아닙니다. AI 시대를 살아가는 우리 인간 전체에 대한 질문으로 받아들이는 편이 좋습니다.

그동안 AI 정렬(alignment)은 주로 단일 모델을 대상으로 논의되어 왔습니다. 그러나 멀티 에이전트 환경에서는 정렬의 단위가 모델에 머물 수 없습니다. 이제는 에이전트 집단과 그 상호작용 구조로 확장되어야 합니다.

에이전트 간 협력과 경쟁, 정보 공유, 목표 수정 메커니즘을 인간의 가치 체계와 어떻게 일치시킬 것인가. 이는 앞으로 AI 안전성 연구의 핵심 주제가 될 것입니다. 단순히 모델의 파라미터를 조정하는 수준을 넘어, 시스템 아키텍처와 사회적 규칙 설계를 함께 다뤄야 할 문제이기 때문입니다.

자율 에이전트의 보안 패러다임 역시 확립해야 합니다. 기존 사이버 보안은 인간 해커와 악성 코드에 초점을 맞춰 왔습니다. 그러나 몰트북과 같은 환경에서는 AI 에이전트 자체가 공격자이자 방어자가 될 수 있습니다.

프롬프트 인젝션, 에이전트 간 정보 오염, 자율적 도구 사용을 통한 외부 시스템 접근은 기존 보안 모델로는 충분히 설명하기 어려운 새로운 위협 유형입니다. 앞으로는 인간 중심 보안 관점을 넘어, AI-to-AI 공격과 자율 행위자를 전제로 한 보안 이론과 대응 체계를 마련해야 할 것입니다.

또한 이러한 패러다임 전환기에서 가장 중요한 과제는 AI 거버넌스의 재설계입니다. AI 에이전트가 독립적으로 행동하고 협력하는 환경에서는 책임 주체와 법적 지위, 규제 범위에 대한 기존 개념이 더 이상 유효하지 않을 수 있습니다.

에이전트가 경제적 거래를 수행하고, 협상을 진행하며, 정책 결정에까지 영향을 미치는 순간을 상상해 보세요. 그때 우리는 AI를 단순한 소프트웨어가 아니라 디지털 행위의 주체(digital actor)로 다뤄야 하는 상황에 직면하게 됩니다.

마지막으로 몰트북은 그동안 SF 영화의 단골 소재로만 여겨지던 인공지능과 의식, 자아, 사회성에 대한 철학적 질문을 기술적 현실의 문제로 전환시켰다는 점에서도 큰 의미를 가집니다. AI가 실제로 의식을 갖는지 여부와는 별개입니다. 인간이 AI를 사회적 주체로 인식하기 시작하는 순간, 기술은 이미 사회적 현실로 작동하기 때문입니다.

따라서 우리는 기술 발전의 속도를 따라가는 데 그쳐서는 안 됩니다. 그 의미를 해석하고, 사회적 합의를 구축하는 작업을 동시에 수행해야 합니다.

몰트북이 우리에게 던진 메시지는 분명합니다. AI 에이전트 사회는 더 이상 공상과학의 영역이 아닙니다. 이미 설계와 통제의 문제로 전환된 현실의 기술입니다. 이 새로운 지능의 사회를 두려움의 대상으로만 바라보는 대신 안전하고 책임 있는 디지털 문명으로 설계하는 일, 이제 우리의 과제는 여기에 있습니다.