AI 비즈니스 도입을 위한 실용적인 5단계 접근법
‘일’상의 AI 시리즈
필자는 현재 테이블오더 기업에서 부서장으로 재직하고 있습니다. O2O 산업에서 테이블오더 채널링 서비스와 사업을 이끄는 부서장으로, 저는 최근에 AI 기술을 어떻게 우리 비즈니스에 효과적으로 도입할지에 대해 깊이 고민하고 있습니다.
이 기술을 어떻게 활용해야 트렌드를 놓치지 않으면서도 수익을 극대화할 수 있을지, 여러 가지 방안을 꾸준히 모색하며 시도하는 중입니다. 이번 글에서는 AI 비즈니스 시장의 현재를 간단히 살펴보고, 테이블오더 서비스에 AI를 도입하기 위한 조직장으로서의 고민과 그 준비 과정을 공유하고자 합니다.
AI 비즈니스 시장의 현주소
AI 기술은 이제 우리 삶 곳곳에 깊숙이 스며들어 있습니다. 문자를 대신 보내고 일정을 등록해 주는 비서 역할이나 단순 자동화 기능을 넘어, 복잡한 데이터를 분석하고 패턴을 인식하여 인간의 의사결정을 돕는 역할도 하고 있습니다. 특히 최근의 AI 기술은 금융, 의료, 제조, 리테일 등 각종 서비스와 산업에서 비약적인 발전을 이루었으며, 그 영향력은 점차 확대되고 있습니다.
예를 들어 토스증권의 ChatGPT가 요약해 주는 종목 뉴스와 해외 뉴스 번역 서비스는 증권 투자 고객들에게 호평을 받는 대표 AI 서비스입니다. 이 외에도 토스증권과 토스뱅크는 머신러닝 AI를 활용하여 가짜 신분증을 감별하고, AI 패턴 학습을 통해 사기거래를 실시간으로 탐지하고 경고하는 기능도 내재화했습니다. 작년부터 AI 학습용 양질의 데이터 확보를 위해 이들 기능을 대외 서비스로 확대 적용하는 등 토스는 AI를 적극 활용하고 있습니다.
배달의 민족(배민)은 GPT-4를 활용하여 맞춤형 추천 메뉴와 개인 맞춤형 할인 서비스를 경쟁적으로 내놓고 있습니다. 이 외에도 GPT-4를 활용한 사용자의 상황에 맞는 추천 메뉴와 가격 조정 서비스도 준비 중이라고 합니다.
이렇듯 생성형 AI를 활용한 다양한 편의 제공 서비스가 출시되고 있지만, 대부분 정보 요약이나 맞춤 정보 제공, 혹은 재미 요소가 가미된 서비스에서 멈추는 점에는 아쉬움이 남습니다. 현재 AI 기술의 수준이라면 대화형 주문부터 결제까지 가능할 텐데 말입니다.
이런 아쉬움은 제가 속해있는 O2O 산업의 테이블오더 서비스에서도 마찬가지입니다. 그러나 직접 겪으며 느낀 AI 기반 서비스 도입은 쉽게 접근할 일이 아니었습니다. 단순히 AI 기술 발전뿐 아니라 투자 비용 대비 수익을 창출해야 하는 비용, 전문 인력의 양성과 확보, DevOps구축과 데이터 정량화 작업을 통한 양질의 데이터 확보가 사전에 준비되어야만 성공할 수 있는 복합적인 서비스이기 때문입니다.
비즈니스의 고민: AI 도입 전략
ChatGPT로부터 시작된 AI 열풍으로 우리는 자연스럽게 기술 트랜드로 AI를 접하게 되었습니다. 직접 토스, 네이버, 배달의민족, 야놀자, 세일즈포스, 컨플루언스, 슬랙 등 주로 사용하는 서비스들에서 AI 기능을 이용하고 분석하면서 얻어낸 결론은 이 4가지였습니다.
- AI는 대세이고, 이 흐름으로 놓치면 안 된다
- AI는 비싼 기술이다
- AI 구축에 있어서 개인정보 보호와 보안은 세심하게 챙겨야 한다
- 양질의 데이터 확보와 효과적인 DevOps 구축이 선행되어야 한다
AI 기술을 공부하고, 개인적으로 활용하면서 저도 모르게 흥분을 가라앉힐 수 없었습니다. 그와 함께 이 기술을 서비스에 빠르게 도입하고 싶은 마음이 들기 시작했습니다. 하지만 비즈니스나 서비스에 도입하기에는 수익성 검증이 된 성공 사례가 여전히 부족했습니다. 그래서 성공 가능성이 높은 비즈니스 전략이 구체화되기 전까지는 섣부르게 서비스 도입을 실행하지 않기로 마음먹었습니다. 이렇게 AI 기술을 어떤 기능에 어떻게 넣어볼 수 있을지 고민이 시작되었습니다. 현재 가장 큰 고민은 아래 3가지입니다.
고민 1: AI를 통한 맞춤형 추천 서비스 도입
먼저 우리 서비스에서 AI를 통해 고객 맞춤형 추천 기능을 강화할 수 있을지 고민하고 있습니다. 예를 들어 고객의 과거 주문 데이터를 분석하여 고객이 선호할 만한 메뉴를 추천하는 AI 기능을 추가할 수 있습니다. 이는 배달의 민족이나 요기요에서 이미 성공적으로 활용하고 있는 기술로 우리 서비스의 경쟁력을 높이는 데 도움이 될 수 있을 것입니다. 그러나 이러한 AI 시스템을 구축하기 위한 비용과 시간이 어느 정도 들지, 그것에 필요한 데이터가 무엇인지, 그리고 실제로 도입했을 때 매출 증대에 얼마나 기여할 수 있을지가 여전히 고민입니다. 이 고민은 저비용으로도 프로토타입 개발이 가능한 비용 환경이 제공되어야 풀릴 장기적인 숙제로 볼 수 있습니다.
고민 2: AI를 통한 운영 효율성 개선
두 번째 고민은 AI를 활용하여 운영 효율성을 높일 방법입니다. 예를 들어 AI를 통해 주문 처리를 자동화하거나, 고객 문의에 실시간으로 응답할 수 있는 챗봇을 도입하는 것입니다. 이러한 기술은 운영 비용을 절감하고 고객 만족도를 높이는 데 크게 기여할 수 있을 것입니다. 또한 반복적으로 수행하는 업무를 자동화하면 그 자체로 운영 비용을 절감하는 데 효과적일 것입니다. 그러나 현재 사용 중인 기술 인프라와의 호환성, 양질의 고객 상담 데이터 확보를 위한 활동이 선행되어야 합니다. 시스템 구축 이후에는 새로운 시스템에 적응하는 데 필요한 구성원들의 교육 비용 등도 고려해야 할 중요한 요소입니다.
고민 3: AI 도입의 시기와 범위
마지막으로 고민되는 부분은 AI 도입의 시기와 범위입니다. 최근 텐스토렌트(Tenstorrent)사의 웜홀(Wormhole) AI 프로세서 발표처럼 빠르게 저렴한 비용으로도 AI 서비스 구축이 가능한 시장이 열리고 있습니다. 따라서 이러한 기술을 선제적으로 도입하는 것이 중요합니다. 그러나 무조건 AI를 도입하기보다는 우리 서비스에 맞는 가장 효과적인 적용 방안을 찾아야 합니다. AI 기술 도입이 실제로 서비스 품질과 매출에 긍정적인 영향을 미칠 수 있을지, 그리고 이를 위해 어떤 단계부터 시작해야 할지가 큰 고민입니다.
AI 기술 도입의 단계별 접근: 지금 할 수 있는 것부터
이렇듯 AI 기술은 이제 더 이상 대기업이나 중대형 브랜드만이 독점할 수 있는 영역이 아닙니다. 또한 AI 기술 도입을 성공적으로 이뤄내면 운영효율성 개선이나 고객 맞춤형 서비스를 제공할수 있습니다. 하지만 조급한 마음에 급하게 도입하기보다, 회사 내부에서 지금 당장 적용하고 활용할 수 있는 방법부터 접근할 필요가 있다 느꼈습니다.
우리 회사가 AI를 어떻게 활용할 수 있을지에 대한 고민과 실행은 지금 이 순간도 이어지고 있습니다. 그 시기를 놓치지 않기 위해서라도 AI 기술과의 접점을 늘리고, 지금부터 수행할 수 있는 준비 사항을 체크하여 실행하는 것이 매우 중요하다고 생각하고 있습니다.
무엇보다 AI 기술을 빠르게 도입하고 싶은 조급한 마음에 ‘목적이 모호한 상태에서 도입’하는 실수를 저지르지 않는 것에 집중하려고 합니다. 그렇게 기본부터 챙기기로 했습니다.
AI 기술 도입 첫 단계: 목적 수립과 실행 계획 준비
기술 도입의 첫 번째 목적은 AI가 적용된 어떤 사업을 결정했을 때, AI 기술이 허들이 되지 않도록 하는 것입니다. AI 기술을 활용한 서비스 출시를 결정했을 때, “해본 적이 없다”라거나 “새로운 전문가를 영입해야 한다”처럼 낯선 AI 기술에 대한 막연함이 진입 장벽이 되지 않도록 구성원들의 거부감을 낮추는 것입니다.
두 번째 목적은 AI 도입에 있어서 최소한의 비용으로 최고의 효율을 내는 방법을 찾는 것입니다. 이를 위해서는 우선 양질의 데이터 확보와 효과적인 DevOps 구축을 선행해야 할 것입니다. 이 과정을 통해 AI 분석에 대한 물리적인 처리 비용이나 전송 비용이 절감될 것이고, AI를 활용하여 반복 작업을 줄이므로 부드럽게 기회 비용과 인건비 절감이라는 효과를 이끌어 낼 수 있을 것입니다.
이 2가지 목적 달성을 위해 자연스럽게 이것을 구현할 수 있는 ‘단계별 AI 기술 활용 계획’을 세워보았습니다. 이 계획은 현재 3단계까지 실행이 완료되었거나 진행 중이고, 4단계 적용 역시 추가 리소스 투입 없이 진행 중입니다. 각 단계는 병렬적으로 진행되고 있습니다.
① 사내 AI 기술 트렌드 전파
AI가 일상화 되었다고는 하나, 업무의 일환으로 AI를 활용하는 것은 완전히 다른 일입니다. 따라서 AI에 대한 기초 개념 교육과 엔지니어링이나 프롬프트 활용에 대한 기본적인 세미나를 지난 3월부터 2개월간 집중적으로 실행했습니다.
먼저 마이크로소프트, AWS, 구글, 데이터독 등 글로벌 기업의 AI 기술 소개 세미나로 시작했습니다. 곧이어 비즈니스 전략과 인사이트 세미나를 실행하고, AI의 핵심이 되는 양질의 데이터 확보와 역량 향상을 위한 전문 엔지니어와의 실무 미팅을 최근까지도 꾸준히 진행 중입니다.
이 중에 AWS의 스타트업 지원 프로그램 중 액셀러레이터의 ‘In-Person Office Hours’ 와 데이터독의 정기적인 기술지원 세션을 적극적으로 활용하는 것도 큰 도움이 되고 있습니다.
이러한 과정을 통해 마지막 단계인 사업 적용이 필요할 때 AI나 기술 자체가 비즈니스의 허들이 되지 않도록 만들고 있습니다. 특히 PM과 엔지니어를 중심으로 AI 기술의 이해와 기본 지식, 인사이트를 넓히고 최근의 기술적 트렌드를 파악하도록 지원하여, 최소한 AI를 낯선 기술이 아닌 익숙한 기술로 바꿔 가는 중입니다.
② 구성원 인터뷰, AI 활용 현황 파악
시간 순서상 ①, ②로 나열이 되어있을 뿐, 이 두 가지 단계는 거의 동시에 진행되고 상호 간에 영향을 끼쳤습니다.
이 인터뷰의 목적은 구성원들의 수준을 파악하고, 기술 도입에 앞서 AI 활용 범위와 수준을 가능하기 위함이었습니다. 생각보다 많은 구성원이 ChatGPT를 실제 업무 수행에 활용하고 있었는데, 대부분은 자료 리서치나 코드 리뷰에 이를 활용하고 있었습니다. 한편 구성원들 사이 인식이나 활용 수준의 격차는 생각보다 컸습니다. 이 인터뷰 과정을 통해 확인한 것은 아래와 같았습니다.
- 구성원마다 실무에 활용하는 수준의 격차가 크다
- 대부분의 사용자는 개발자였고, 개발에 필요한 리서치에 활용하고 있다
- 일부 엔지니어는 유료 결제를 통해 서비스를 이용하고 있다
- 모든 사용자는 개인 계정으로 AI 서비스를 이용하고 있고, 그 때문에 보안이 취약하거나 AI 학습 데이터로 업무 정보가 유출될 가능성이 있다.
③ AI 실무 도입과 데이터 준비
②와 같은 배경으로 보안 강화와 업무 활용을 위한 내부 보고서를 작성했습니다. 처음에는 작은 부서로 제한하여 승인을 요청했으나, 경영진 보고 단계에서 개발 조직 전체를 대상으로 확대 적용하여 ChatGPT 서비스 팀 계정을 사용하는 것으로 승인이 되었습니다.
내부 승인이 일사천리로 될 수 있었던 결정적인 요소는 아래와 같았습니다.
- 이미 일부 구성원은 유료 서비스를 개인 계정으로 사용중임
- 팀 계정을 이용하면 ChatGPT에 데이터를 제공하지 않아 보안이 강화된 환경을 확보함
- 사용 목적을 명확히 하여 실제로 업무 효율을 향상시킬 수 있는 사례 제시
- 매월 사용처를 철저히 관리하여 남용되지 않도록 하는 세부 계획 수립
ChatGPT 계정이 팀별로 발급된 초반만 해도 솔직히 “아무도 사용하지 않으면 어쩌나”하는 걱정이 마음 한켠에 자리하고 있었습니다. 하지만 우려와 다르게 3개월 차가 되어가는 지금은, ChatGPT뿐만 아닌 다양한 AI를 실제 기대 이상으로 다양하게 실무에 활용하고 있었습니다. 우리 구성원을 관찰한 결과, 이들이 AI를 쓰는 영역은 아래와 같았습니다.
- 샘플 디자인, 아이콘 작업을 하거나 디자인 리서치를 해주는 AI 디자이너
- 오래된 플랫폼, 개발 언어에 대한 코드 분석을 하거나 레거시 코드를 변환해 주는 AI 개발자
- 개발한 결과물에 대한 시나리오 테스트나 API 검증을 해주는 AI 테스터
- 글로벌 서비스 개발을 위한 AI 번역가와 AI 리서처
- 데이터 정합성 검토, 로우 데이터 1차 패턴 분석을 위한 AI 데이터 사이언티스트
- 전 분야에 대한 리서치과 질문, 가끔은 멘탈 관리를 위한 대화 상대로써의 AI 어시스턴스
이제는 최소한 저희 구성원에게 ChatGPT 없이 업무를 수행하라는 것은 무언가 불편하고, 비효율적으로 업무하라는 지시로 느껴질 수도 있겠다 생각합니다. 1년 후쯤이 된다면 낯선 프레임워크도, 언어도, 비즈니스도 업무에 허들이 되지 않을 것이라는 기대를 하고 있습니다.
④ 기존에 사용 중인 플랫폼 내의 AI 기능 활용
기존에 이미 사용하는 AWS, 피그마, 어도비, 컨플루언스, 세일즈포스, 데이터독 등에 탑재되어 제공 중인 AI 기술들을 활용하는 것도 중요합니다. 이들을 활용하면 최적화된 트래픽과 양질의 데이터 확보, 정량화/지표화 작업을 위한 리소스를 절감하는 효과를 얻을 수 있었습니다. 이처럼 AI 활용 범위를 디자인, 기획, 개발, 데이터, DevOps까지 확대할 수 영역을 계속 찾고 있고, AI로 인해 받을 수 있는 비용 절감 효과는 지속적으로 확대될 것으로 기대하고 있습니다.
ChatGPT의 실무 도입으로 구성원들이 AI 기술을 업무에 적극 활용하는 것에 대한 심리적인 저항은 확연하게 사라지면서, 구성원간의 정보 공유와 적극적인 참여로 그 활용 범위가 점차 넓어지고 있습니다. 이는 현재 진행형입니다. 개인적으로 가장 마음에 드는 것은 구성원 스스로가 AI 기술 활용 역량을 향상시키는 활동을 하고 있다는 것입니다.
⑤ 실제 서비스와 사업에의 적용
AI를 직접 적용한 자사 서비스를 출시하는 것에 대한 구체적인 계획을 밝힐 단계는 아닙니다. 아직 딱 맞는 서비스를 결정하지 못했다고 이해해도 좋을 것 같습니다.
위치 기반이나 하드웨어 디바이스와 연관 있는 AI 서비스가 될 수도 있고, 장기간 축적된 양질의 데이터를 활용한 맞춤형 AI 서비스를 제공할 수도 있습니다.
지금은 적절한 기회가 도래할 때까지 기본을 탄탄히 하고 AI 활용에 대한 경험치를 올리는 것에 집중하는 중입니다. 사업 적기를 놓치지 않을 수 있도록 대비하면서 현재를 보내고 있고, 앞으로 다가올 미래를 준비하고 있습니다.
이미 시작된 AI 시대: 편승은 필수, 방법은 자유
이제 AI는 잠깐 반짝이는 혁신 기술 트렌드로 멈추지는 않을 것입니다. IT에 몸담고 있든 아니든 이제 우리는 AI와 가까워질 것이며 그와 관련한 서비스를 이용하는 것은 필수가 되었습니다. 그뿐만이 아닙니다. IT 서비스나 비즈니스를 영위하는 이상 AI를 활용하지 않는 비즈니스는 전무한 상태까지 가는데 몇 년이 걸리지 않을 것입니다.
즉, AI 시대에 편승하는 것은 필수입니다. 다만 그 방법은 다양할 것이고, 본 시리즈에서 소개한 방법 이외에도 여러 가지가 있을 것입니다. 또 아직은 AI가 스타트업이나 중소기업에서 수익화하기엔 비싼 기술이 맞습니다. 이 기술을 서비스에 반영하고 수익화를 하는 것은 시간이 더 필요할 것입니다.
하지만 현재를 기준으로 저렴한 비용을 들여 AI를 업무 조력자로서 활용하는 방법은 충분히 찾을 수 있습니다. 당장 서비스 반영이나 수익화를 목적으로 하지 않더라도, 조직과 업무에 AI를 활용할 수 있는 계획을 세우고 실행하시기를 추천해 드립니다. 조직장으로서도 실무자로서도 만족스러운 리소스 절감 효과를 얻을 것이라고 생각합니다.
시리즈로 소개한 AI 도입 계획과 그 실행 과정이 ‘AI 비즈니스를 어떻게 시작해야 할까?’ 고민 중인 실무자 분들께 조금이나마 도움이 되었기를 기대합니다.
‘일’상의 AI 시리즈
©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.
