10분 만에 Jev 이해하기

0. 당신의 뇌는, 이미 둘로 나뉘어 있습니다

운전하다 빨간불을 봅니다. 발이 브레이크로 갑니다. 이 상황에 몇 시간씩 고민하는 사람은 없죠. 반사에 가까운 빠른 직관입니다. 반면 “이직을 할까 말까”는 다릅니다. 며칠을 재고, 표를 그리고, 주변에 묻습니다. 느리지만 깊은 숙고죠.

심리학자 대니얼 카너먼은 저서 『생각에 관한 생각(Thinking, Fast and Slow)』에서 이 둘을 System 1(빠른 직관)과 System 2(느린 숙고)라 불렀습니다.

인간이 똑똑한 건 둘 다 가져서가 아니라, 상황마다 둘을 나눠 쓰기 때문입니다. 빨간불 앞에서 숙고를 시작하면, 그건 똑똑한 게 아니라 사고가 납니다.

그런데 2026년, 우리가 만든 AI 에이전트는 정확히 그 짓을 하고 있습니다. 빨간불에 멈출지 말지 같은 사소한 판단마저, 매번 가장 비싸고 느린 ‘숙고의 뇌’에 물어보고 있는 겁니다.

바로 그 반쪽짜리 낭비를 해결하겠다고 정조준한 모델이, 지난 9월 15일에 나왔습니다. OpenAI에서 RLHF(인간 피드백 기반 강화학습: Reinforcement Learning from Human Feedback)와 InstructGPT를 개발했던 디오고 알메이다(Diogo Almeida)가 창업한 타입세이프 AI(TypeSafe AI)가 선보인 모델, 이름은 Jev입니다. 나온 지 한 달이 채 안 됐는데 업계에선 벌써 난리가 났습니다.

그런데 정작 “그게 뭐냐”고 물으면 제대로 답하는 사람은 드물죠. 그래서 오늘, 이 낯선 물건을 10분 안에 풀어 드립니다.

1. 천재에게 온종일 도장이나 찍으라고?

이 그림을 상상해 보세요. 회사가 큰돈을 들여 세계적인 석학을 모셔왔습니다. 그런데 그에게 시키는 일이라곤, 하루 종일 서류를 보며 “이건 A칸? B칸?” 도장을 찍는 겁니다.

여기에는 문제가 하나가 아닌 세개입니다. 한 건을 판단하는 데도 골똘히 생각하니 느리고, 몸값이 비싸니 도장 한 번에 돈이 줄줄 새며, 가끔은 아는 척 장황하게 설명을 붙이다 엉뚱한 칸에 찍습니다.

우스운 얘기 같지만, 이게 지금 대부분의 AI 에이전트가 하는 일입니다.

에이전트가 일하는 과정을 뜯어보면, 화려한 작업은 일부입니다. 대부분은 자잘한 갈림길 판단이에요. “다음에 어떤 도구를 쓸까?”, “이 입력값이 유효한가?”, “이 요청은 어느 팀으로 보낼까?” 같은 O/X에 가까운 단순 분기 말입니다.

그런데 이 O/X 하나하나마다 클로드나 GPT 같은 엄청난 능력의 프론티어 LLM을 불러 세웠습니다. 도장 찍기에 석학을 부른 거죠. 에이전트가 느리고 비쌌던 진짜 이유가 여기 있었습니다. 화려한 최종 답변이 아니라 보이지 않는 수많은 잡무 판단에서 시간과 돈이 새고 있었던 겁니다.

에이전트 데모는 근사한데 나중에 비용 청구서를 보고 놀라신 적 있다면, 범인이 바로 이겁니다.

2. 그래서 Jev: ‘말하지 않는’ 모델

Jev는 우리가 아는 LLM과 근본부터 다릅니다. 한 문장으로 요약하면 이렇습니다.

Jev는 문장을 만들지 않습니다. 오직 ‘결정’만 돌려줍니다.

보통 챗봇은 사람이 읽을 문장이나 마크다운을 씁니다. Jev는 아예 글을 안 씁니다. 대신 상태값(State: 텍스트나 JSON)과 질문(Questions)을 던지면, 답으로 타입이 지정된 결정값과 그 결정에 대한 확신도(Confidence), 확률 분포만 돌려줍니다. 설명도, 근거 서술도, 사족도 없습니다.

만든 사람들은 이걸 System One Model이라 부릅니다. 눈치채셨겠지만, 앞에서 말한 카너먼의 System 1, 즉 소프트웨어 내부에서 빠르게 반복되는 직관적 결정을 전담하는 모델이라는 뜻이죠. 무겁고 느린 숙고(System 2)는 여전히 프론티어 LLM의 몫으로 남겨둡니다.

Jev는 챗GPT의 핵심 학습기법(RLHF·InstructGPT)을 만든 디오고 알메이다가 2년간 스텔스로 준비해, 4천만 달러 투자를 받으며 세상에 내놨습니다.

이름은 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)에서 땄습니다. ‘제번스의 역설’, 즉 “자원을 쓰는 효율이 좋아질수록 오히려 소비가 폭증한다”는 법칙으로 알려진 인물이죠. 이 이름 안에 야심이 통째로 들어 있는데, 그 얘기는 맨 뒤에서 다시 하겠습니다.

3. Jev의 세 가지 무기

본격적으로 뜯어보기 전에, 두 모델의 자리를 한눈에 정리하면 이렇습니다.

이제 Jev가 왜 이 자리를 차지할 수 있는지, 세 가지 무기를 보시죠.

① 말도 안 되게 빠르고, 말도 안 되게 쌉니다

응답 속도가 70~500밀리초입니다. 기존 LLM 대비 수십에서 수백 배 빠릅니다. 비결은 구조에 있어요. 챗봇처럼 단어를 하나씩 순서대로 뱉는 게 아니라, 여러 질문을 한 번에 병렬로 처리합니다. 그래서 질문을 열 개로 늘려도 걸리는 시간은 거의 안 늘어납니다. 비용은 더 놀랍습니다. 입력 100만 토큰당 약 4센트(한화 약 54원), 그리고 출력은 공짜입니다.

② 환각도, 파싱 에러도 구조적으로 없습니다 (타입 안전)

LLM에 “JSON으로 답해”라고 시켜 보신 분은 아실 겁니다. 가끔 괄호가 깨지거나, 없는 필드를 지어내죠. 파이프라인이 거기서 툭 터집니다. Jev는 애초에 글을 안 쓰고 정해진 타입의 값만 내놓기 때문에, 이런 파싱 실패나 환각이 원천적으로 일어날 수 없습니다. 응답이 개발자의 코드(Pydantic, TypeScript 등)에 그대로 꽂힙니다.

③ 자기가 얼마나 확신하는지를, 정직하게 압니다 (교정된 확신도)

이게 진짜 핵심입니다. 그리고 가장 오해가 많은 부분이죠.

기존 LLM에 “네 확신도를 0~1로 말해줘”라고 물으면, 근거도 없이 “0.99”라고 우깁니다. 틀린 답을 하면서도 자신만만한 과신, 허세, 환각이 고질병이에요. 모르는 것보다 무서운 건, 자기가 틀렸는지조차 모르는 겁니다.

Jev의 확신도는 프롬프트로 물어보는 게 아니라, 출력 자체에 통계적으로 보정되어 함께 나옵니다. 확신도 보정을 목표로 삼은 특수 학습(RLCD, Reinforcement Learning for Calibrated Decisions) 덕에, Jev가 “0.85”라고 하면 그건 실제로 정답일 확률이 85%에 수렴한다는 통계적 의미를 갖습니다. 근자감 쩌는 천재가 아니라, 자기 실력을 정확히 아는 전문가인 셈이죠.

4. 확신도로 ‘자동화의 문’을 여닫습니다

이 정직한 확신도가 왜 그렇게 중요할까요? 바로 가드레일이 되기 때문입니다.

에이전트를 짤 때 개발자는 평범한 조건문 하나로 자동화의 수위를 조절할 수 있습니다.

읽어보면 뜻이 그대로 들어옵니다. “꽤 확실하면(0.85 이상) 알아서 처리하고, 애매하면 사람에게 넘겨라.” Jev가 확신하는 쉬운 판단은 초고속·초저가로 자율 처리하고, 애매한 것만 걸러 비싼 상위 LLM이나 사람에게 올리는 겁니다.

엔터프라이즈에서 늘 골치였던 질문, “AI에게 어디까지 전자동을 허용할 것인가?”가 이제 임계값 한 줄(0.85)로 다뤄집니다. 임계값을 높이면 보수적으로, 낮추면 공격적으로. 자동화의 수도꼭지를 숫자 하나로 조이고 푸는 셈이죠.

5. 왜 지금 난리이고, 무엇을 조심해야 하나

2023년부터 지금까지 AI 시장은 온통 ‘더 똑똑한 모델’ 경쟁이었습니다. 다들 더 큰 두뇌, 더 깊은 추론을 향해 달렸죠. 그런데 TypeSafe는 정반대로 갔습니다. “두뇌를 더 키우지 말고, 값싼 두뇌를 하나 더 만들자.” 이 역발상이 통했습니다. 출시 사흘 만에 한 주요 AI 플랫폼에서 역대 가장 빠르게 채택된 모델이 됐을 정도로요.

다만, 냉정하게 짚을 것도 있습니다. 먼저 지금까지의 화려한 수치(수백 배 빠르고 싸다)는 대부분 회사가 스스로 발표한 값이고, 아직 외부에서 완전히 검증되진 않았습니다. 또 Jev도 만능이 아닙니다. 여전히 잘못 분류할 수 있고, 말의 ‘뜻’이 아니라 ‘문자 그대로’를 볼 때가 있으며, 무엇보다 던져준 상태값이 부실하면 결정도 부실합니다.

좋은 판단은 좋은 입력에서 나오니까요. 그리고 애초에 챗봇·글쓰기·코드 생성엔 쓸 물건이 아닙니다. 이건 말하는 모델이 아니라, 결정하는 부품이에요. 핵심은 이겁니다. 천재(프론티어 LLM)를 해고하라는 게 아닙니다. 자리를 나누라는 겁니다. 도장 찍기는 빠르고 저렴한 직관에게, 진짜 기획과 창작은 느리고 비싼 천재에게.

6. 마치며: 결정이 싸지면, 세상은 어떻게 바뀔까

앞에서 미뤄둔 이름 이야기로 끝맺겠습니다. ‘제번스의 역설’

19세기, 증기기관의 석탄 효율이 좋아지자 사람들은 석탄 소비가 줄 거라 예상했습니다. 결과는 정반대였죠. 석탄이 싸지자 온갖 곳에서 석탄을 쓰기 시작했고, 소비는 오히려 폭증했습니다.

TypeSafe의 베팅이 바로 이겁니다. 결정 한 번의 값이 100배 싸지면, 우리는 결정을 100배 더 많이 하게 된다. 지금까지는 “AI한테 물어보긴 너무 비싸서” 그냥 규칙으로 때우거나 사람이 눈대중하던 수만 개의 자잘한 판단들이 전부 자동화의 사정권 안으로 들어옵니다.

그래서 이 작은 모델이 던지는 질문은 생각보다 큽니다. AI 경쟁의 무대가 “얼마나 똑똑한 두뇌를 갖느냐”에서 “어떤 판단에 어떤 두뇌를 배분하느냐”로 옮겨가고 있다는 신호이거든요.

무거운 지능을 아무 데나 쓰던 시대가 저물고, 값싼 직관과 값비싼 숙고를 나눠 쓰는 ‘설계의 시대’가 오고 있습니다. 여러분의 업무에는, ‘빠른 직관’에게 넘겨도 될 판단이 얼마나 숨어 있을까요? 그 목록을 한번 적어보는 것만으로도, 자동화의 지도가 새로 그려질지 모릅니다.

ⓒ요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.