AI 에이전트 시대, 사용자 경험은 어떻게 달라져야 할까

컴퓨터 바탕화면에 정신없이 흐트러져 있는 스크린샷을 클로드에 정리해 달라고 요청했다. 몇 번 권한을 허용해 달라고 요청하더니 금세 48개 이미지를 6개 폴더로 분류했다. 직접 스크린샷의 내용을 읽고 분류한 후, 적합한 폴더명을 써넣어 주기도 했다.

이번에는 좀 더 복잡한 작업을 시켜 봤다. 일출을 보러 가기 위해 적합한 장소와 이동 시간, 일출 시간을 찾아보고 캘린더 앱에 저장하는 것까지 요청한 것이다. 그랬더니 클로드는 일출을 보러 갈 날짜와 이벤트를 추가할 앱이 무엇인지 물어본 후, 구글 크롬에 들어가 스스로 검색하기 시작했다.

캘린더 앱에 이벤트를 추가할 때는 컴퓨터 화면 가장자리가 주황색으로 변했다. 클로드가 내 컴퓨터를 조작하고 있다는 의미다.

두 예시는 모두 클로드의 컴퓨터 유스(Computer Use) 기능이다. 이제 AI는 사람 대신 마우스를 움직이고 키보드를 입력해 컴퓨터를 직접 조작할 수 있다. AI가 작업을 수행하는 동안 인간이 해야 할 일은 정확한 명령을 내리고 권한을 부여하는 정도다.

조작이 필요없는 시대의 UX/UI

이제 더는 사용자가 개별 앱을 탐색하거나 직접 조작할 필요가 없는 환경이 조성되고 있다. 이러한 흐름 속에서 우리가 주목해야 할 질문은 ‘앞으로의 디지털 UX/UI는 어떻게 변화할 것인가’이다. 기존에는 사용자가 편하게 사용할 수 있는 웹과 앱을 디자인하는 것이 핵심이었지만, 앱 없이도 AI가 직접 행동하는 시대가 도래한다면 사용자 경험 자체가 근본적으로 변화할 수밖에 없다.

이에 대해 내가 진행한 AI-UX 디자인 워크숍에 참여했던 실무자들은 다양한 시나리오를 제시했는데, 그중 하나가 앞으로는 사람을 위한 인터페이스가 아니라 AI가 인식하고 처리하기 쉬운 방식의 UI 디자인이 필요하다는 것이었다. 즉, 앞으로의 UI는 인간 친화적 디자인에서 AI 친화적 디자인으로 전환될 가능성이 높다는 것이다. 이렇게 되면 디자이너의 역할은 더 이상 사용자가 행동하게 만드는 것이 아니라 사용자가 안전하게 스스로를 제어할 수 있도록 돕는 것으로 진화하게 된다.

그렇기 때문에 서비스에 AI 에이전트를 도입할 때 가장 먼저 해야 할 질문은 ‘AI가 어떤 기능을 수행할 것인지’가 아니라 ‘사용자가 어떤 작업을 안심하고 맡길 수 있는가’가 되어야 한다. 이를 고려하여 이번 글에서는 기존 서비스에 에이전트를 도입할 때 어떻게 사용자 여정을 재설계할 수 있는지 5가지 단계로 나누어 정리해 보려고 한다.

AI 에이전트 도입을 위한 사용자 여정 재설계 5단계

앞으로 소개할 다섯 단계는 지나치게 AI에만 의존해 답을 찾기보다는 스스로 생각하고 보완할 때 도움을 받을 수 있는 순서로 구성했다.

이전 글 사고 근육을 지켜주는 AI 글쓰기 방법 5가지에서 강조했듯, 우리의 사고력과 인지 능력을 보호하기 위해서는 AI를 사용할 때도 정답을 수동적으로 얻는 대신 사고를 자극하고 직접 답을 찾아가는 과정이 필요하기 때문이다.

1. AS-IS 스케치: 사람이 클릭하며 진행하는 전체 사용자 여정 그려 보기

먼저 서비스의 현재 사용자 여정을 그려 보는 것이 첫 번째 단계다. 아직 AI 에이전트가 없기 때문에 인간 사용자가 직접 클릭하며 목적을 달성하는 과정이 그려질 것이다. 전체 여정을 한 번 살펴본 후, 에이전트가 어느 단계를 보조하면 좋을지 확인해 보는 것이 첫 단계의 목적이다.

이때는 AI의 도움을 받아 여정맵을 그려 볼 수 있다. 간단하게 ‘OO 앱에서 인간 사용자가 클릭하며 서비스를 사용하는 사용자 여정맵을 그려줘.’라고 요청하면 된다. OO에는 각자 생각한 서비스를 넣으면 되는데, 예시에서는 부동산 탐색 앱인 다방을 넣어봤다. 또한 ‘인간 사용자가 클릭하며’라는 조건은 꼭 넣지 않아도 되지만, AI 에이전트 유무에 따른 차이를 확실하게 하기 위해 이렇게 프롬프트를 작성했다.

그러면 클로드는 앱 실행부터 시작해 필터 설정 및 검색, 매물 비교, 중개사 연락, 계약 진행까지 순서대로 여정맵을 정리해 준다.

2. AS-IS 스케치: 페인포인트가 드러난 부분 여정 자세히 그려 보기

1단계에서 했던 것은 서비스를 사용하는 전체 여정을 그리는 것이었다. 하지만 이미 전체 사용자 여정 중 어느 단계에서 핵심 페인포인트가 발견되었는지 분석한 결과가 있다면 이를 활용할 수 있다. 페인포인트가 발견된 특정 단계에서 사용자가 어떻게 행동하고 있는지 정리하는 것이다.

이를 위해 이번에는 AI에 이렇게 프롬프트를 입력해 볼 수 있다. ‘OO 문제 단계에서 사용자가 어떤 작업을 해야 하는지 사용자 여정맵을 그려줘.’

예시는 매물을 탐색하는 여정에 초점을 맞춰 사용자 여정맵을 그려 달라고 요청한 결과다. 앞서 전체 사용자 여정맵에서는 단순히 ‘매물 비교 및 상세 확인’이라고 요약되었던 단계를 파고들어 보니, 중개사 문의, 실매물 여부 교차 검증, 재탐색 및 이탈 등 여러 매물을 반복적으로 문의하고 검증하다가 이탈하는 문제가 확연하게 드러난다.

만약 첫 번째 단계에서 전체 사용자 여정맵을 그려본 후에도 페인포인트가 발생하는 지점이 잘 보이지 않거나 개선이 필요한 단계가 확실하지 않다면, 이렇게 특정 구간의 사용자 행동을 좀 더 자세하게 뜯어볼 수 있다.

3. TO-BE 스케치: 에이전트 기반 사용자 여정 직접 써 보기

3단계부터는 TO-BE 스케치에 들어간다. 단, 이번에는 AI에 바로 물어보는 대신 스스로 생각해 보는 단계가 먼저다. 메모장을 켜서 아래 세 가지 내용을 직접 써 보면 된다.

• 에이전트가 자율 처리할 수 있는 구간
• 반드시 사람 승인이 필요한 ‘신뢰 체크포인트’(결제, 개인정보 제공, 취소 불가 결정 등)
• 실패·오류 시 에이전트가 사용자에게 보내는 알림/요약 문구 1~2개 써 보기

첫 번째, 에이전트가 자율 처리할 수 있는 구간이다. 사용자 여정맵을 살펴봤을 때 반복되는 작업이나 비효율이 발생하는 지점을 찾아내면 된다. 그리고 에이전트가 자율적으로 처리할 수 있는 작업인지도 한 번 생각해 보고 답변을 작성해 볼 수 있다. 특히 이전 단계에서 특정 구간의 여정을 그려 봤다면 1번 답변을 작성하기가 조금 더 쉬울 것이다. 예를 들어 다방 앱에서는 매물을 탐색하고 검증하는 과정이 반복되었기 때문에 이를 에이전트가 수행한다고 가정하고 아래와 같이 답변을 적었다.

사용자가 지정한 조건 중 필터로 거를 수 있는 건 거르고(가격, 위치 등)직접 연락해서 물어봐야 하는 건(애완동물, 대출 조건, 허위 매물 여부 등)에이전트가 대신 중개인에게 메시지를 보내서 답장을 받고 최종적으로 사용자가 거래할 수 있는 집 리스트만 보여 주기

두 번째는 에이전트가 위와 같은 작업을 수행하는 과정에서 언제 사람의 승인이 필요한지, 권한 부여를 요청해야 하는지를 생각해 보는 것이다. 예를 들어 결제와 같이 돈이 빠져나가거나 개인정보를 제공할 때, 그 외에도 취소할 수 없는 결정을 해야 할 때 사람의 승인이 필요할 것이다. 매물을 탐색하는 과정에 적용해보면 계약금을 넣거나 약속을 잡는 등의 행위가 해당된다.

마지막으로는 특정 작업을 실패했거나 오류가 발생했을 때 사용자에게 어떤 알림 메시지를 띄워 줄지 써보는 일을 한다. 사용자가 필터를 설정하고 매물을 검색했지만 해당 조건과 일치하는 매물이 없을 때 ‘해당 조건에 맞는 매물이 검색되지 않았습니다. 조건 정보를 수정해주세요.’ 같은 식으로 문구를 쓸 수 있을 것이다.

4. TO-BE 스케치: AI로 보완·검증하기

① 에이전트 자율 처리 구간

이전 단계에서는 AI 없이 스스로 생각한 내용을 적어 봤다면, 이번에는 AI로 보완해 볼 차례다. 1번, 에이전트의 자율 처리 구간부터 시작해 보자. 프롬프트는 아래와 같이 입력했다.

그러자 클로드는 그대로 자율 처리해도 되는 부분과 ‘결과 판정’은 사람이 확인해야 하는 부분, 반드시 사람이 개입해야 하는 부분을 나눠서 알려주고, 마지막에 추가로 자율화할 수 있는 부분까지 제안해 주었다. 자세한 답변은 아래에서 확인할 수 있다.

먼저 클로드는 가격, 위치, 평수 등 필터를 적용해 검색하는 작업은 법적·금전적 리스크가 없기 때문에 에이전트가 자율적으로 수행하기에 적합하다고 판단했다.

반면 허위 매물인지 아닌지를 판단하는 것은 인간이 직접 해야 한다고 했다. 중개인에게 연락해서 매물이 있다는 확인을 받았어도 시간이 지남에 따라 바뀔 수 있는 정보이기 때문에 ‘허위 매물 아님’이라는 최종 판정을 내리는 것이 아니라 ‘중개인 확인 회신을 받은 집’이라고 표현하고, 중개인의 답변을 근거로 제공한 후 판단은 인간에게 맡기는 것이 안전하다는 것이다.

마지막으로, 대출·융자 조건을 문의할 때는 사용자의 소득, 신용 상태, 재직 정보 등 민감한 금융 정보를 제3자(중개인 등)에게 전달해야 하기 때문에 반드시 사람이 개입해야 하는 부분이라고 짚어냈다. 또한 중개인이 ‘대출 가능’이라고 하더라도 실제 대출 여부는 은행 심사를 받아야 결정된다. 그래서 대출 관련 답변은 ‘참고 정보’로만 표시하고 사용자가 직접 확인해야 금전적 피해를 막을 수 있다는 이야기도 있었다.

예약금이나 계약 의사도 마찬가지다. 단순히 필터링 조건에 맞는 매물이라고 계약을 결정할 수는 없다. 결제 및 계약은 법적 구속력이 있는 의사 표시로 오인될 수 있기 때문에, 금액·예약·계약 관련 키워드가 등장하면 자동으로 중단하고 사용자에게 의사결정을 넘기는 안전장치가 필요하다고 강조했다.

매물 탐색 작업 외에도 중복된 매물이나 가격 불일치가 있는지 대조해 보는 작업, 등록일과 최종 수정일을 기반으로 한 우선순위 정렬, 중개인별 응답 패턴 정리, 비교 요약표 자동 생성 등 에이전트가 자동화할 수 있는 부분을 다양하게 제안하기도 했다.

② 반드시 사람 승인이 필요한 ‘신뢰 체크포인트’

앞서 직접 여정을 그릴 때, 계약금·예약금 입금과 같은 결제, 개인정보 제공, 그리고 중개인과 약속을 잡는 행위를 할 때는 사람의 승인이 필요할 것이라고 예상했다. 이 외에도 놓친 부분이 있는지 보완하기 위해 클로드에 다음과 같은 프롬프트를 입력해 보았다.

직접 에이전트에 원룸 매물 탐색을 맡긴 사용자의 입장이 되어 어떤 부분이 불안하고 걱정되는지 확인해 달라고 요청하는 프롬프트다. 그러자 클로드는 역할극을 통해 신뢰 체크포인트를 탐색했다고 하며 아래와 같은 답변을 제공했다.

사용자의 입장에서 가장 걱정되는 것은 ‘확인 안 된 것을 확인됐다고 말하지 않을까’였다. 이전 대화에서 앱 리뷰 데이터를 제공하고 그에 대한 페인포인트를 분석했던 내용이 포함되어 있다 보니, 이를 고려해 ‘중개인이 전화할 때마다 말이 바뀌는 경우’를 가정한 듯했다. 따라서 1번 에이전트가 자율 처리 가능한 구간의 답변에서 지적했듯 ‘확인된 매물’이라는 표현 대신 ‘중개인 답변: OO’이라고 명확한 근거를 제공하고 판단은 사용자에게 맡겨야 한다는 부분이 다시 언급되었다.

또한 민감한 개인정보의 경우 몇 명에게 보낼 것인지, 어느 범위까지 보낼 것인지 미리 물어보고 시작해야 안심할 수 있다는 내용도 있었다. 돈이나 계약과 관련된 키워드가 나오면 사용자에게 넘겨야 한다는 내용도 다시 언급됐다. 마지막으로 검색 결과에서 제외된 매물이 왜 제외됐는지, 단순히 필터링 조건에 맞지 않아서인지 아니면 중개인의 애매한 답변을 잘못 해석한 것인지 등 명확한 이유를 제시해주는 것이 사용자의 의사결정을 도울 수 있을 것이라는 이야기도 나왔다.

이러한 내용을 모두 요약하면, 에이전트는 직접 판단하는 것이 아니라 단순히 요약·정리만 해주고 의사결정은 모두 사용자에게 맡겨야 한다는 결론으로 귀결된다. 에이전트는 잘못된 결정이나 판단을 하더라도 직접 책임질 수 없는 주체이기 때문이다.

③ 실패·오류 시 에이전트가 사용자에게 보내는 알림/요약 문구

작업 실패 상황에서 보여줄 UX 라이팅 문구도 점검해 보았다. 이번에도 직접 작성했던 문구를 보여주고, 이러한 메시지를 받았을 때 어떤 감정이 드는지 사용자의 입장에서 이야기해달라고 요청했다.

그리고 받은 첫 답변은 ‘불안하다’는 것이었다. 매물이 검색되지 않았다는 결과 정보는 제공하지만, 왜 검색되지 않았는지, 어떤 부분을 수정해야 하는지 등 실질적인 행동 정보는 전혀 언급하지 않는다. 사용자로서는 ‘그래서 뭐 어떡하라는 거지?’라는 생각이 들 수밖에 없다는 것이 문제였다. 

그래서 이번에는 기존 문구를 어떻게 수정하면 좋을지 물어봤다.

답변에서는 문구를 넣은 인터페이스까지 제공하며 수정안을 제시하고 있다. ‘조건을 기껏 신경 써서 입력했는데 결과가 0건, 알아서 고쳐라’라는 느낌을 주는 기존 문구 대신 어떤 조건 때문에 매물이 걸러진 것인지, 어떤 조건을 수정해야 매물이 나오는지(예: 예산을 5만 원만 올리면 3건이 나옵니다, 반려동물 가능 조건을 빼면 1건이 나옵니다 등) 등 구체적인 대안을 제시하는 것이 좋다는 설명도 있었다.

이렇게 명확한 숫자를 제시하면 사용자는 직접 필터를 하나씩 조정하며 다시 검색하는 시행착오를 줄일 수 있게 되고, 시스템이 보여주는 결과를 신뢰할 수 있게 된다. 게다가 특정 조건은 수정해도 매물에 영향을 주지 않는다는 정보도 보여주며 사용자를 안심시키고 불필요한 조정을 막아줄 수 있다.

5. AI 에이전트 기반 UX 디자인 평가 지표 확인하기

4단계까지 하고 나면 기존 사용자 여정에서 에이전트가 자동화할 수 있는 부분을 찾고, 어디까지 에이전트가 할 수 있는지, 어떤 작업은 사용자에게 넘겨야 하는지를 정리한 후 오류나 실패 상황에서 사용자를 안심시키기 위해 어떤 정보를 제공해야 하는지 등을 정리할 수 있다. 이를 토대로 에이전트 기반의 사용자 여정맵을 다시 설계해 보고, 마지막으로 평가 지표를 확인할 수 있다.

아래 표는 기존 UX 디자인 평가 지표와 AI 에이전트 UX 디자인 평가 지표가 어떻게 다른지를 보여준다.

각 항목의 차이에서 알 수 있듯, AI 에이전트가 도입된 서비스는 단순히 사용자가 ‘사용’한다는 관점에서 더 나아가 에이전트에 ‘위임’하는 관점에서 평가해야 한다. 즉, 사용자가 어떤 이유에서든 에이전트에 과업을 대신 맡기고 싶지 않다고 느낀다면 그 에이전트는 가치를 제공하는 데 실패한 것이다.

반면 평가 지표에 나와 있는 것처럼 사용자가 에이전트에 대한 신뢰를 기반으로 안심하고 과업을 맡길 수 있고, 오류가 발생하더라도 쉽게 되돌릴 수 있으며, 다음에도 동일한 작업을 수행할 때 에이전트에 맡기고 싶다는 생각이 든다면 그 에이전트는 가치 제공에 성공했다고 볼 수 있다.

마치며: 인사이트와 방향

기존 서비스의 사용자 여정을 그려본 후, 에이전트가 어떤 작업을 자동화할 수 있는지 살펴보고 에이전트를 도입했을 때 어떤 부분을 주의해야 하는지 확인해 봤다. 바로 AI에 모든 내용을 물어보고 답변을 확인하는 대신 직접 고민하고 검토하는 단계를 선행했기 때문에 에이전트 도입 시 어떤 부분에 주의해야 하는지 보다 확실하게 깨달을 수 있는 계기가 되었다.

사용자가 얼마나 안심하고 맡길 수 있는지, AI의 판단을 신뢰할 수 있는지 등 다섯 가지 평가 지표에서 언급했듯, AI 에이전트 서비스의 사용자 경험은 단순히 ‘자동화’하는 것이 아니라 ‘위임 경험’이라고 표현할 수 있다.

AI 에이전트를 처음 도입한다고 했을 때 대부분은 어떤 LLM 모델을 사용해야 하는지, 어떤 방식으로 자동화할 것인지 등 기술적인 측면에 집중한다. 물론 이러한 내용도 중요하지만 사용자 경험을 디자인하는 측면에서는 사용자가 얼마나 안심하고 에이전트에 작업을 맡길 수 있는지를 살펴봐야 한다. 사용자 입장에서는 기술 자체보다도 AI 에이전트가 자신의 의도를 제대로 이해했는지, 어떤 기준으로 판단하고 움직이는지, 실행 전에 자신이 확인할 수 있는지, 또 결과가 잘못됐을 때 직접 되돌릴 수 있는지 등이 중요하기 때문이다.

기술이 발전할수록 단순한 기술적 고민에서 더 나아가 사용자의 위임 경험을 어떻게 설계할 수 있을지 고민한다면, 보다 신뢰할 수 있고 안전한 에이전트 서비스를 설계하는 데 도움이 될 것이다.

ⓒ요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.