새로운 시대의 AI 프로덕트가 기존의 프로덕트와 무엇이 다른지를 다룹니다. PM의 관점에서 말하지만, AI 프로덕트를 다루는 모두 참고할 만한 이야기를 묶었습니다. 필자가 출간할 예정인 〈AI Product Management(가제)〉 책의 일부를 요즘IT 독자의 시선에 맞춰 재가공했습니다.

① AI는 왜 자꾸 틀리는가
② PM은 LLM을 어디까지 이해해야 할까?
③ AI 기능은 프롬프트가 아니라 시스템으로 만든다
④ AI PRD는 무엇이 달라야 하는가
⑤ 시장에서 이기는 AI 프로덕트를 위한 지표와 운영법
⑥ AI PM의 커리어를 설계하라

2010년 경의 일입니다. 어느 날, “모바일 PM”이라는 직무가 채용 공고에 처음으로 등장하기 시작했습니다. 그전까지 PM은 그냥 PM이었습니다. 웹 PM도 PM이었고, 데스크톱 소프트웨어 PM도 PM이었습니다. 그런데 스마트 폰이 세상에 나오고 몇 년이 지나자, 모바일이라는 환경은 “기존 PM이 조금 더 배우면 되는 영역”이 아니라 “완전히 다른 사고방식이 필요한 영역”이라는 것이 분명해졌습니다. 작은 화면, 손가락 인터페이스, 끊김 없는 네트워크 가정, 배터리, 푸시 알림. 이 모든 것이 데스크톱 시대의 PM에게는 익숙하지 않은 변수였기에 이를 제대로 이해하는 PM이 주목받기 시작한 것입니다.

그로부터 약 5년 뒤, “그로스 PM”이라는 새 직무가 또 한 번 등장했습니다. 시장에 충분한 사용자가 있고, 데이터를 분석할 인프라가 있고, A/B 테스트를 빠르게 돌릴 도구가 있다는 전제 위에서, “퍼널을 최적화하고 리텐션을 끌어올리는 데 특화된 PM”이 필요해졌기 때문입니다. 이 또한 기존 PM의 연장선이 아니라, 데이터 직관과 실험 설계라는 새 근육이 필요한 영역이었습니다.

그리고 지금, 우리 눈앞에서 “AI PM”이라는 직무가 만들어지고 있습니다. 링크드인에 올라오는 “AI 프로덕트 매니저” 채용 공고가 지난 2년 사이 폭발적으로 늘었고, 한국에서도 “LLM 프로덕트 매니저”, “AI 프로덕트 매니저” 같은 타이틀이 빠르게 퍼지고 있습니다. 이 흐름은 모바일 PM, 그로스 PM이 등장했던 흐름과 닮아 있습니다. 기술의 성격이 바뀌니, 그 기술로 프로덕트를 만드는 사람에게 요구되는 사고방식도 바뀌는 것입니다.

지난 다섯 편에서 우리가 “AI 프로덕트가 무엇이며 어떻게 만드는가”를 다뤘다면, 이번 시리즈의 마지막 글에서는 “그것을 만드는 사람이 누구이며 어떻게 성장하는가”를 다룹니다. 오늘 다룰 질문은 단순합니다. AI PM은 어떤 사람인가? 기존 PM은 어떻게 그쪽으로 옮겨갈 수 있는가? 그리고 앞으로 5년을 어떻게 준비해야 하는가?

1. AI PM은 정말로 새로운 직무인가

먼저 솔직한 이야기 하나. “AI PM”이라는 타이틀이 실제로 존재하긴 하지만, 그 직무의 정의는 회사마다 천차만별입니다. 어떤 회사에서는 ML 엔지니어와 가까운 일을 하는 사람을, 어떤 회사에서는 기존 SaaS PM이 AI 기능을 담당하는 경우를, 어떤 회사에서는 AI 도구 자체를 제품으로 만드는 사람을 그렇게 부릅니다. “AI PM이 무엇이다”에 대한 정답은 아직 없습니다.

그렇지만 이 모든 일의 공통점은 분명합니다. AI PM은 “확률적으로 동작하는 시스템”을 다루는 PM이라는 것입니다. 1편에서 우리가 본 “결정론에서 확률론으로의 전환”이 AI PM이란 직무를 정의할 때 핵심에 있습니다. 일반 SaaS PM이 “기능이 잘 동작하는가”를 다룬다면, AI PM은 “이 시스템이 어느 정도 범위 안에서 일관되게 잘 동작하는가”를 다룹니다. 명백히 다른 질문이고, 다른 답이 필요합니다.

그래도 한 가지 안심할 만한 사실은, AI PM이 “완전히 새로운 직무”는 아니라는 점입니다. 기존 PM이 익혀온 사용자 중심 사고, 가설 검증, 데이터 기반 의사결정, 이해관계자 조율 같은 근육은 그대로 쓰입니다. 다만 그 근육들이 “확률적인 시스템”이라는 새 환경에서 어떻게 새롭게 쓰여야 하는지를 배워야 할 뿐입니다. 모바일 PM이 등장했을 때와 비슷합니다. PM의 본질이 바뀌지는 않았지만, 모바일이라는 환경 위에서 PM 일을 어떻게 새로 해야 하는지를 익혀야 하는 상황입니다.

이건 정말로 좋은 소식입니다. “AI PM이 되려면 처음부터 다시 시작해야 한다”는 두려움은 현실과 다릅니다. 여러분이 지난 몇 년간 PM으로서 쌓아온 모든 것이 여전히 유효합니다. 다만 그 위에 새 층을 얹어야 합니다.

2. AI PM에게 필요한 세 가지 새로운 역량

그렇다면 기존 PM이 가진 역량 위에 얹어야 할 새 층은 무엇일까요? 세 가지로 정리합니다.

① AI 리터러시: “엔지니어가 될 필요는 없지만…”

첫 번째는 AI 리터러시입니다. 이때 필요한 건 “엔지니어 수준의 깊이”가 아니라 “의사결정을 할 수 있을 만큼의 직관”입니다. 2편에서 다룬 토큰·컨텍스트·추론·RAG·에이전트 같은 개념들이 여기에 해당합니다. 무엇보다 이 지식이 없으면 PM은 엔지니어와 같은 언어로 대화할 수 없습니다. 그저 “이거 LLM으로 되나요?”라는 질문만 반복하고 맙니다. AI 리터러시가 있는 PM은 다르게 묻습니다. “이 기능은 RAG 기반으로 가는 게 좋겠는데, 자료 출처는 어디로 잡을까요?”, “이 답의 일관성이 중요하니 Temperature를 낮게 가져갑시다”, “이 케이스는 Eval 셋에 추가해서 회귀 테스트로 관리합시다.” 이런 언어로 대화가 오갈 때야 엔지니어는 “아, 이 PM과는 일하기 편하네”라고 느끼고는 합니다.

② 데이터 직관: 숫자가 아니라 분포를 본다

두 번째는 데이터 직관입니다. 그로스 PM이 등장하면서 PM에게 데이터 분석 능력이 필수가 되었는데요. AI PM에게는 한 단계 더 깊은 데이터 감각이 필요합니다.

핵심은 “평균값”이 아니라 “분포”를 보는 감각입니다. 5편에서 핵심 지표 중 하나로 다룬 P95 응답 시간이 좋은 예입니다. 평균만을 본다면 95%의 정상 케이스에 묻힌 5%의 “최악의 경험”을 놓치기 쉽습니다. 그러나 AI 프로덕트에서는 그 5%가 사용자 신뢰를 좌우합니다. 환각률, 근거 충실도(Groundedness), 사용자 개입률(Human Override Rate) 같은 지표들도 마찬가지입니다. 단일 숫자가 아니라, 그 숫자가 어떤 시나리오에서 어떻게 분포되는지를 읽어야 합니다.

이 직관은 통계학 책을 읽어서 생기는 게 아닙니다. 매일 대시보드를 들여다보고, 사용자 피드백을 직접 읽고, “이 숫자 뒤에 어떤 사람의 어떤 경험이 있을까”를 상상하는 훈련에서 만들어집니다.

③ 시스템 사고: 부품이 아니라 흐름을 본다

세 번째는 시스템 사고입니다. 3편에서 다룬 “AI 피처는 프롬프트가 아니라 시스템으로 만든다”는 제목의 그 시스템 말입니다. AI PM이라면 기능을 기획할 때 입력 처리·프롬프트·출력 처리·오케스트레이션이 어떻게 맞물려 돌아가는지 정도는 머릿속에 그릴 수 있어야 합니다.

이러한 시스템 사고에서 가장 중요한 건 “실패가 어디서 일어나는가”를 상상하는 능력입니다. 좋은 AI PM은 피처를 기획하면서 끊임없이 “이 작업이 깨지면 어디서 문제가 커질까”를 묻습니다. 입력이 너무 길면? RAG가 실패하면? 모델이 환각을 일으키면? 비용이 폭주하면? 사용자가 답을 잘못 받으면? 이런 질문을 PRD 단계에서 던질 수 있어야, 4편에서 다룬 “실패 정의”와 “리스크 및 제한사항” 항목이 단단해집니다.

AI 리터러시, 데이터 직관, 시스템 사고. 이 3가지 역량이 PM의 기존 역량 위에 얹히면 AI PM이 탄생합니다. 다만, 이 세 가지 모두 단기간에 얻어지는 것이 아니라, 의식적인 훈련을 통해 시간을 두고 쌓아가야만 하는 종류의 역량입니다. 그 훈련의 출발점은 다음 섹션에서 다룰 “포트폴리오”로 찾을 수 있습니다.

3. AI PM의 포트폴리오: 무엇으로 증명할 것인가

AI PM 채용에서 구직자가 빠지기 쉬운 함정이 있습니다. “AI 관련 경험이 없으니 AI PM이 될 수 없다”는 자기 검열입니다. 채용 시장의 현실은 다릅니다. AI PM 직무가 새롭게 만들어지고 있는 만큼, 지원자 대부분은 “전통적인 AI PM 경력”이 없습니다. 그래서 채용 담당자가 보는 건 “AI PM으로서의 완성된 경력”이 아니라 “AI PM이 될 수 있는 사고방식의 증거”입니다.

그 증거를 만드는 가장 좋은 방법이 작은 사이드 프로젝트와 글로 남긴 케이스 스터디입니다. 어떤 분이 이런 식의 포트폴리오를 만들었다고 해봅시다.

우리 회사의 고객 지원 FAQ를 자료로 한 RAG 챗봇을 만들었고, 한 달간 운영하며 환각률을 12%에서 3%로 줄였다.
내가 매일 쓰는 노션 데이터로 GPT 기반 일정 요약 도구를 만들었다. 처음에는 단순 요약이었는데, 토큰 비용이 예상보다 5배 나와서 시스템을 어떻게 바꿨는지 기록했다.
이전 회사에서 도입한 AI 코딩 어시스턴트의 도입 효과를 측정했고, 코드 채택률이 부서별로 어떻게 다른지 분석한 글을 사내에 공유했다.

이 세 가지는 모두 “AI 프로덕트의 처음부터 끝을 작게라도 경험해 본” 사람의 흔적입니다. 거창한 비즈니스 경력이 아니어도, 작은 사이드 프로젝트 하나가 “이 사람은 AI 프로덕트를 만들어본 사람이다”라는 강한 증거로 쓰입니다.

그리고 이 모든 경험을 해나갈 때 가장 중요한 건 “글로 남기는 것”입니다. 프로젝트 자체보다도, 그 프로젝트에서 무엇을 배웠는지를 기록한 글이 더 강한 포트폴리오가 됩니다. “시도했지만 실패한 것, 그래서 알게 된 무언가”야말로 면접에서 가장 깊은 인상을 남깁니다. 환각률을 어떻게 측정했는지, Eval 셋을 어떻게 만들었는지, 비용 문제를 어떻게 발견하고 어떻게 풀었는지. 이런 글 두세 편이 100줄짜리 이력서보다 강력한 힘을 발휘합니다.

하나 더,의외로 많이 간과되는 건 “회사 내부의 작은 AI 도구를 개선한 경험”입니다. PM이 자기 일을 위해 만든 내부용 AI 도구는, 외부 출시 프로덕트와 달리 시도하기 쉽고 실패 비용도 낮습니다. 회의록을 자동으로 요약하는 도구, 고객 피드백을 카테고리별로 분류하는 도구, 경쟁사 뉴스를 매일 모아주는 도구. 이런 작은 도구를 직접 만들어 본 경험은 면접에서 “AI 프로덕트의 처음부터 끝을 모두 다뤄봤다”는 증거가 됩니다. 게다가 회사 내부 도구이므로 외부 공개 부담도 없단 것도 장점입니다.

마지막으로 흥미로운 통계 하나. 미국 시장의 채용 데이터를 보면, AI PM으로 자리 잡은 사람 중 컴퓨터공학 전공자는 16%에 불과합니다. 나머지 84%는 다른 배경을 가진 사람들입니다. 비즈니스, 마케팅, 디자인, 인문학 출신이 새 직무로 가장 빠르게 이동하고 있다는 뜻입니다. “기술 배경이 없어서 안 된다”는 가정은 현장과 다릅니다.

4. 앞으로 5년을 어떻게 준비할 것인가

AI PM의 역할과 책임은 지금 이 순간에도 변하고 있습니다. 5년 뒤 우리가 무엇을 “AI PM의 일”이라고 부를지 정확히 예측하는 것은 불가능합니다. 하지만 변하지 않을 몇 가지 방향은 있습니다.

에이전트 시대로의 이동

에이전트는 빠르게 AI 프로덕트의 새 표준이 되어가고 있습니다. 단순히 답하는 챗봇이 아니라, 사용자를 대신해 실제로 일을 처리하는 AI. 이 흐름이 강해질수록 PM의 일도 달라집니다. “어떤 정보를 보여줄 것인가” 보다는 “AI에게 어떤 행동을 할 권한을 줄것인가, 어떤 행동은 사람이 한 번 더 확인해야 하는가”가 핵심 설계 결정이 됩니다. 책임과 권한의 설계가 PM 일의 더 큰 부분이 될 것입니다.

멀티모달과 컨텍스트의 확장

지금까지의 AI 프로덕트는 주로 텍스트 중심이었지만, 앞으로 5년 동안 이미지·영상·음성·코드 같은 다양한 모달리티가 한 시스템 안에서 자연스럽게 섞이게 될 것입니다. 컨텍스트 윈도우도 폭발적으로 늘어나서, 회사의 모든 문서를 한꺼번에 모델에 넣고 일하는 시대가 가까워졌습니다. PM이 다뤄야 할 “입력의 형태”가 훨씬 다양해진다는 뜻입니다.

그래서 지금 무엇을 할 것인가

미래를 정확히 예측할 수는 없지만, 지금 시작할 수 있는 세 가지가 있습니다.

첫째, 작은 AI 프로덕트를 직접 만들어보세요.

회사에서 안 시켜도, 사이드 프로젝트로라도 만드세요. ChatGPT의 API를 써서 자신만의 도구를 만들고, RAG를 구현해 보고, Eval을 돌려보세요. 이 경험 하나가 책 한 권 읽는 것보다 많은 것을 가르쳐줍니다.

둘째, 사용자가 AI를 어떻게 쓰는지를 관찰하세요.

주변 사람들이 ChatGPT를 어떻게 쓰는지, 어떤 순간에 만족하고 어떤 순간에 실망하는지를 직접 보세요. 데이터 분석으로는 보이지 않는 사용자 신뢰의 메커니즘이 거기 있습니다.

셋째, 글로 남기세요.

배운 것, 실패한 것, 발견한 것을 짧게라도 정기적으로 기록하세요. 처음에는 자신을 위한 메모지만, 6개월쯤 쌓이면 그것이 여러분의 포트폴리오가 됩니다. 글쓰기는 생각을 정리하는 방식이자, 가장 강력한 자기 마케팅 도구입니다.

이 세 가지 시도에는 공통점이 있습니다. 어느 하나도 “준비가 다 됐을 때” 시작하는 것이 아니라, “지금 부족한 상태에서” 시작하는 일이라는 점입니다. AI PM이라는 새 직무로 옮겨가는 길은, 길게 준비한 다음에 “이제 됐다”고 뛰어드는 길이 아닙니다. 부족한 채로 한 걸음씩 옮기다 보니 어느 순간 그 자리에 서 있었다는 걸 깨닫고 마는 그런 길입니다.

시리즈를 닫으며

지난 여섯 편을 따라 여기까지 오신 여러분께 감사드립니다. 짧은 시리즈였지만 다룬 영역은 작지 않았습니다.

이 여섯 개 글에서 우리는 “AI는 확률 시스템”이라는 가장 기본적인 인식의 전환으로 시작해, 토큰·컨텍스트·추론·RAG·에이전트라는 LLM의 5가지 핵심 지식을 만났습니다. 곧 그 LLM이 거치는 시스템의 네 가지 층위와 “틀릴 수 있다”는 사실을 UX에 넣는 법, 이를 기획해 Eval Plan이라는 핵심과 함께 PRD에 담는 법, 그리고 AI 프로덕트에 최적화된 KPI와 모니터링을 설계하는 법까지 달렸습니다. 오늘은 마지막으로, 이 모든 지식을 다룰 AI PM이란 누구이며 어떻게 성장할지를 다뤘죠.

시리즈 전체를 요약하면 이렇습니다. AI 시대의 PM은 “확률과 함께 사는 법을 설계하는 사람”이며, “LLM이 그 안에서 일할 시스템을 짓는 사람”이고, “행동 범위와 판단 기준을 함께 정의하는 사람”이자, “기능이 살아 움직이는 동안 운전대를 잡고 있는 사람”입니다. 그리고 마지막으로, 이 모든 일을 매일 새로 배우며 자기 자신의 직무를 함께 만들어가는 사람입니다.

PM이라는 직업은 원래도 그래왔습니다. 모바일이 나왔을 때 모바일 PM이라는 직무를 PM들이 함께 만들어냈고, 데이터가 흔해졌을 때 그로스 PM이라는 직무를 PM들이 함께 만들어냈습니다. 지금 AI PM이라는 직무도 책에 적힌 정의대로 누가 만들어주는 것이 아니라, 매일 그 일을 하는 사람들이 함께 만들어가는 중입니다. 여러분도 그중 한 명입니다.

기존 PM에서 AI PM으로 옮겨가는 길은, 완전히 새로운 직업으로 바꾸는 일이 아니라 같은 직업의 다음 챕터로 넘어가는 일입니다. 여러분이 PM으로서 쌓아온 모든 것 위에, 새 직관 몇 가지를 얹는 일입니다. 그리고 그 길을 걷는 동안 여러분은 “내가 이 직무를 다시 정의하는 사람 중 한 명이다”라는 고양감을 느낄 수 있을 것입니다. 모바일 PM 1세대가 그랬듯, 그로스 PM 1세대가 그랬듯, AI PM 1세대인 여러분도 그렇습니다.

좋은 PM이 되는 길에 지름길은 없지만, 지금 우리에게는 이토록 흥미로운 시기에 PM이 된다는 행운이 주어졌습니다. 지금이 그런 시기입니다. 저에게도 지난 20년간 PM으로 일한 역사에서 가장 많은 것이 동시에 바뀌고 있는 순간이고, 그래서 가장 많은 가능성이 동시에 열려 있는 순간이기도 합니다. 그 순간을 함께 살아가게 되어 기쁩니다. 여러분의 다음 한 걸음을 응원합니다.

AI 프로덕트 매니지먼트에 대한 더 깊은 이야기는, 곧 출간될 책 〈AI Product Management〉(가제)에서 이어가겠습니다. 시리즈를 끝까지 함께해 주셔서 감사합니다.