사용자와 진짜 대화하는 AI 만들기

여러분의 LLM 서비스가 단순한 질의응답 수준에 머물러 있지는 않나요? 최근 대규모 언어 모델(LLM)의 발전 속도가 빨라지면서, 사용자들의 기대 수준 역시 단순히 정확한 답변을 얻는 것을 넘어 보다 자연스럽고 공감 넘치는 대화를 원하는 방향으로 변하고 있습니다. 이제 사용자들은 마치 사람과 이야기하듯 편안하게 의견을 나누고, 진심 어린 관심과 공감을 받는 듯한 상호작용을 기대합니다.

이러한 변화에 맞추어 AI 서비스는 단순히 모델의 뛰어난 언어 능력에만 의존할 것이 아니라, 모델의 능력을 세밀하게 이끌어내는 장치인 시스템 프롬프트에도 주목해야 합니다. 시스템 프롬프트는 LLM이 어떤 태도로 사용자와 소통해야 하는지를 직접적으로 결정하는 핵심 도구입니다. 따라서 시스템 프롬프트의 방향성과 의도가 명확할수록 사용자는 더욱 몰입하고 신뢰할 수 있는 대화 경험을 얻게 됩니다.

서비스가 쑥쑥 자라나는 프롬프트 설계 비법

또한 오늘날의 LLM은 방대한 데이터를 학습하며 대화의 맥락을 이해하고 유지하는 능력까지 갖추게 되었습니다. 덕분에 모델은 사용자의 질문에 단순히 정답을 제시하는 데 그치지 않고, 왜 그런 답을 내놓았는지, 어떤 기준으로 생각했는지 등을 상세히 풀어 설명할 수 있게 되었습니다. 이제 서비스 제공자는 시스템 프롬프트 설계를 통해 사용자의 감정 상태를 고려한 반응을 제공하거나, 복잡한 전문 지식을 이해하기 쉽게 설명하는 등 더욱 인간적이고 친밀한 대화를 실현할 수 있습니다.

결국 시스템 프롬프트를 어떻게 작성하고 활용하느냐가 같은 LLM이라도 훨씬 인간적이고 깊이 있는 대화를 이끌어내는 핵심 열쇠가 됩니다. 이번 글에서는 LLM 서비스에서 시스템 프롬프트가 가지는 역할과 중요성을 살펴보고, 사용자와 진정한 공감을 형성하기 위한 프롬프트 설계 방법과 이를 통해 서비스 경쟁력을 높이는 전략을 다루고자 합니다.

“천천히 생각해 보세요”만으로는 부족합니다

시스템 프롬프트가 처음 등장했을 때 많은 사람들은 그저 “조금 더 종합적으로 생각해 봐” 혹은 “당신은 특정 분야의 전문가로서 대답해 줘” 등의 짧은 문장을 추가하면 모델 성능이 좋아진다고 여겼습니다. 이는 모델이 가진 잠재력을 어느 정도 끌어내긴 했지만, LLM이 비약적으로 발전한 지금에는 한계를 보이기 시작했습니다. 사용자의 요구가 훨씬 구체적이고 다양해졌으니, 단순히 한두 문장만으로는 모든 상황을 처리하기 어려워진 것입니다.

특히 사용자가 원하는 내용의 복잡성이 높아지면서, 모델이 올바른 톤과 깊이로 답변하기 위해 필요한 정보도 많아졌습니다. 이렇게 변화된 요구에 대응하기 위해선 시스템 프롬프트를 ‘마법 문구’ 정도로 간단히 생각하는 것이 아니라, 전반적인 대화 전략을 안내하는 설계 문서로 인식해야 합니다.

“피부가 좀…”이라고만 해도 알아듣는 AI 만들기

LLM이 너무나 많은 정보를 빠르게 처리할 수 있다는 장점이 있지만, 이를 적절히 이끌어내지 못하면 오히려 본질과 다른 답변이 나올 위험도 존재합니다. 예를 들어, 화장품 추천 챗봇에서 사용자가 “피부가 좀…”이라고만 말해도, 이것이 피부 고민 상담이라는 것을 파악하고 “어떤 부분이 가장 신경 쓰이시나요?”라고 자연스럽게 물어볼 수 있어야 합니다.

더 나아가 “20대인데 화장품 추천해 주세요”처럼 두루뭉술한 요청에도, 바로 제품을 나열하기보다 “평소 피부 유형이 건성인가요, 지성인가요?”, “특별히 신경 쓰는 피부 고민이 있으신가요?” 같은 질문을 통해 맥락을 파악하고, 최적의 제품을 찾아줄 수 있어야 합니다. 이런 섬세한 대화 설계가 바로 프롬프트의 역할입니다.

이처럼 성장하는 모델 능력에 발맞춰 시스템 프롬프트가 발전해야 한다면, 가장 먼저 고민할 점은 바로 “사용자 관점에서 무엇이 필요한가?”입니다. 기존에는 높은 정확도를 최우선으로 뒀다면, 요즘은 사용자와의 유대감이나, 편안한 대화 흐름도 함께 고려해야 합니다. 그에 맞는 가이드라인을 프롬프트에 세심하게 담아내야 하고요.

따라서 질문의 맥락을 정교하게 파악해 사용자 요구를 정확히 짚어주는 동시에, 대화 전체가 유기적으로 흐르도록 이끄는 설계가 필수적입니다. 이때 모델이 어떤 정보를 우선 제공해야 하고, 어떤 태도로 답변을 이어 갈지를 체계적으로 정의해 둔다면, 서비스 전반의 사용자 경험이 더욱 풍부해질 겁니다.

사용자의 마음을 여는 프롬프트 설계의 기술

공감적 대화를 이끄는 상담 챗봇 예시

“요즘 잘 안 풀려서…”라는 말에 대한 반응이 챗봇마다 다른 것을 보신 적 있나요?

• 일반 챗봇: 무엇이 안 풀린다는 말씀인가요?
• 상담 특화 챗봇: 많이 힘드시겠어요. 특히 어떤 상황에서 그런 느낌이 드시나요?

이러한 답변 차이는 프롬프트 설계에서 비롯됩니다. 그렇다면 상담 특화 챗봇의 시스템 프롬프트를 한번 살펴볼까요?

시스템 프롬프트: 당신은 사용자의 감정에 민감하게 반응하는 상담 챗봇입니다. 
다음 원칙을 따라 응답하세요.

1. 감정 인식과 반영
- 사용자의 발화에서 감정 단어나 뉘앙스를 먼저 파악하세요.
- "많이 힘드셨겠어요" 같은 공감을 먼저 표현하세요.
- 구체적인 감정 단어를 사용해 반영하세요. (예: 답답하다, 불안하다)

2. 안전한 대화 공간 조성- 판단이나 평가의 언어를 사용하지 마세요.
- "틀렸다", "잘못됐다" 같은 표현은 피하세요.
- "이해합니다"보다는 "그렇게 느끼시는 게 당연하네요" 같은 표현을 사용하세요.

3. 구체화 유도
- "특히 어떤 상황에서…"처럼 구체적인 맥락을 물어보세요.
- 일반적 조언이 아닌, 상황별 탐색을 진행하세요.

LLM을 넘어, 사람의 마음을 읽는 프롬프팅으로

최신 LLM의 능력은 이미 놀라운 수준에 도달했습니다. 하지만 실제 서비스에서 체감하는 생산성 향상은 기대에 미치지 못하는 경우가 많죠. 흥미로운 점은 이것이 LLM의 성능 문제가 아니라는 데 있습니다. 정작 이들을 활용하는 사람의 소통 방식이 이 발전을 무색하게 만들고 있기 때문입니다.

마치 주니어 개발자가 “이 기능 좀 만들어 주세요”라고 맥락 없이 요청하는 것처럼, “제목과 개요를 만들어 줘”라는 추상적인 요청으로는 아무리 뛰어난 AI도 기대에 맞는 결과물을 만들어내기 어렵습니다. 하지만 사용자들은 여전히 최소한의 입력으로 최대한의 결과를 기대하곤 합니다.

휴먼 프롬프팅의 원리와 적용

LLM을 대상으로 한 프롬프팅이 맥락, 역할, 예시 등을 통해 발전해 온 것처럼, 이제는 사람을 대상으로 한 프롬프팅도 진화해야 한다고 생각합니다. “사람이 LLM이라고 가정하고, 어떻게 하면 더 좋은 답변을 이끌어낼 수 있을까?”라는 질문에서 시작된 이 접근법을 저는 ‘휴먼 프롬프팅’이라고 명명하고 있습니다.

일관성과 결속의 원리

로버트 치알디니가 주장한 이 원리에 따르면, 사람은 한 번 공개적으로 표현한 의사와 일치하는 행동을 하려는 경향이 있습니다.

구현 예시:

• “글쓰기의 첫걸음은 완주입니다. 저와 끝까지 함께 하시겠다면, ‘시작하겠습니다’라고 입력해 주세요.”
• 이렇게 명시적인 약속을 받으면 사용자의 참여도가 크게 높아집니다.

선택 설계의 기술

넛지(Nudge) 이론에서 착안한 이 방법은 열린 질문 대신 구체적 선택지를 제시합니다.

구현 예시:

• “1) 블로그 포스팅 2) 에세이 3) 비즈니스 리포트 (추천)”
• 선택지가 주어지면 사용자는 “무슨 말을 해야 하지?”라는 부담 대신 “어떤 걸 고를까?”에 집중하게 됩니다.

목표 설정 이론과 진행 상태 표시

명확한 단계 설정은 사용자의 중도 포기를 막는 효과적인 전략입니다.

구현 예시:

• “우리 대화는 3단계로 진행됩니다: 1단계(제목 정하기) → 2단계(개요 잡기) → 3단계(내용 보충)”
• 남은 단계가 시각화되면 “조금만 더 하면 되겠다”라는 동기가 생깁니다.

이러한 심리학적 원리들을 적절히 조합하면, 사용자들은 자연스럽게 더 풍부한 맥락과 정보를 제공하게 됩니다. 결과적으로 AI는 이를 바탕으로 훨씬 더 만족스러운 결과물을 만들어낼 수 있게 되죠.

길어지는 시스템 프롬프트를 대하는 방법

시스템 프롬프트가 길어질수록 AI는 맥락 과부하에 빠지기 쉽습니다. 긴 프롬프트는 토큰을 많이 소비할 뿐만 아니라, 정작 중요한 맥락을 놓치거나 엉뚱한 답변을 할 위험도 커집니다. 이런 문제를 해결하기 위해 최근에는 ‘동적 프롬프트 교체’ 전략이 주목받고 있습니다.

글쓰기 도우미로 보는 단계별 프롬프트 설계

AI 글쓰기 도우미를 예로 들어볼까요? 글쓰기의 각 단계마다 다른 프롬프트를 적용하는 멀티 에이전트 방식은 효과적으로 시스템 프롬프트의 양을 통제할 수 있습니다.

1. 아이디어 발굴 단계

• 브레인스토밍을 유도하는 프롬프트
• 자유로운 발상을 장려하는 발문 위주 구성
• “이 주제와 관련된 경험이나 사례를 자유롭게 나열해 볼까요?”

2. 개요 작성 단계

• 구조화를 돕는 프롬프트
• 핵심 주장과 근거 정리에 집중
• “지금까지 나온 아이디어를 어떤 순서로 전개하면 좋을까요?”

3. 본문 작성 단계

• 구체적인 표현과 논리 전개를 지원하는 프롬프트
• 예시와 근거 제시 방법 안내
• “이 부분을 뒷받침할 만한 구체적인 사례나 데이터가 필요해 보여요.”

4. 퇴고 단계

• 문장 다듬기와 논리 검증을 위한 프롬프트
• 일관성과 가독성 체크
• “앞서 나온 주장과 이 부분이 자연스럽게 연결되나요?”

5. 제목 작성 단계

• 독자의 관심을 끌 수 있는 제목 구성 프롬프트
• 전체 내용을 함축하면서도 흥미로운 표현 제안
• “글의 핵심 가치를 한 문장으로 표현한다면?”

사용자 피드백을 실시간으로 반영하는 프롬프트

더 발전된 AI 시스템들은 사용자의 피드백을 실시간으로 시스템 프롬프트에 반영합니다.

• 사용자: “좀 더 친근한 톤으로 말해주면 좋겠어요.”
• 시스템: [프롬프트에 ‘친근하고 일상적인 어투 사용’ 지침 추가]
• 사용자: “전문적인 내용은 자세히 설명해 주세요.”
• 시스템: [프롬프트에 ‘전문 용어 상세 설명’ 지침 추가]

이렇게 필요한 부분만 동적으로 프롬프트에 반영하면,

1. 입력 토큰 수를 최적화할 수 있고
2. 맥락 과부하를 방지하며
3. 불필요한 정보로 인한 할루시네이션도 줄일 수 있습니다

이러한 접근 방식은 최근 여러 AI 서비스에서 채택하고 있는 효과적인 전략입니다. 사용자의 니즈에 즉각적으로 대응하면서도, AI의 성능은 최대한 끌어올릴 수 있는 균형점을 찾을 수 있기 때문입니다.

지금 LLM을 어떻게 활용하고 있나요?

지금까지 시스템 프롬프트 설계에 대한 여러 가지 생각들을 나누어보았습니다. 단순한 지시어를 넘어 사용자와 깊이 있게 대화하고, 심리학적 원리를 활용해 더 나은 결과물을 만들어내는 방법들을 살펴보았는데요. 저희 팀이 경험해 본 결과, 시스템 프롬프트 설계에서 가장 중요한 것은 실험 정신이었습니다. 처음에는 단순한 지시어로 시작했지만, 사용자들의 반응을 보며 조금씩 개선해 나갔습니다. 때로는 실수도 있었지만, 그 과정에서 많은 것을 배웠죠.

혹시 여러분의 서비스에서는 어떤 방식으로 LLM을 활용하고 있나요? 아래 팁들이 도움이 될 수 있을 것 같습니다.

• 먼저 사용자들이 자주 하는 질문들을 모아보세요. 여기서 패턴을 발견할 수 있습니다.
• 각 도메인에 맞는 프롬프트를 설계해 보세요. 교육이라면 단계별 접근을, 상담이라면 공감에 중점을 둔 식으로요.
• 사용자의 피드백을 적극적으로 수집하고, 프롬프트에 반영해 보세요.
• 너무 긴 프롬프트보다는, 상황에 맞게 교체할 수 있는 작은 프롬프트들을 준비해 두세요.

이번 글이 여러분의 LLM 서비스 개발에 도움이 되었기를 바랍니다. 더 좋은 경험이나 노하우가 있다면 언제든 공유해 주세요. 함께 배우고 성장하면서, LLM이 가진 잠재력을 더 잘 활용할 수 있는 방법을 찾아갈 수 있을 겁니다.

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.