AI 전략에 ‘실패’하는 6가지 확실한 방법

요즘 많은 기업이 앞다투어 ‘AI 전략’을 수립하고 있습니다. 하지만 잘못된 AI 전략은 단순히 프로젝트를 망치는 것을 넘어 회사 전체를 혼란으로 몰아넣습니다. 모두의 자리를 위태롭게 만들죠.

이에 두 명의 AI 전문가가 ‘AI 전략에 실패하는 6가지 확실한 방법’을 정리했습니다.

이들은 다양한 기업의 경영진과 꾸준히 교류하며 AI 전략에 대한 조언을 나누었고, 그 과정에서 “AI 전략이 실패하는 상상할 수 있는 모든 방법을 목격했다”고 말합니다. 그리고 그 인사이트를 찰리 멍거(Charlie Munger)의 유명한 조언, “항상 반대로 생각하라(invert, always)”에 따라 부정적인 최악의 사례로 만들어 소개하고 있습니다.

깃헙, 드롭박스, 구글 등을 거쳐 플루럴사이트(Pluralsight)에서 최고 제품 책임자(CPO)를 역임한 그렉 세카렐리(Greg Ceccarelli), 그리고 깃헙의 전신인 코드서치넷 팀을 이끌었던 머신러닝 엔지니어이자 컨설턴트인 하멜 후세인(Hamel Husain)의 발표, “AI 전략을 제대로 망치는 방법”을 재구성했습니다.

AI 전략을 고민하는 조직이라면 한 번쯤 읽어보고 피해야 할 지침서입니다. 정말로 실패하고 싶은 것이 아니라면요.

1. 조직을 분열시켜 사일로를 만드세요

성공적인 AI 전략은 가치를 창출하기 위해 지불 의사 가격(WTP, Willingness to Pay), 가격(Price), 비용(Cost) 사이의 긴밀한 연결을 이해하고 포용하는 데서 출발합니다. 그러니 실패가 목적이라면, 회사를 분열시키고 내부적으로 서로 경쟁하게 만드는 것보다 효과적인 방법은 없습니다.

우선 팀원끼리 정보를 공유하지 않고 비밀을 유지하면 인센티브를 주세요. 특히 모든 AI 관련 콘퍼런스에 참석하게 하되, 그곳에서 배운 것을 절대 회사 내 다른 사람과 이야기하지 않도록 만드세요. 결코 무너뜨릴 수 없는 강력한 ‘사일로(Silo)’를 구축하는 데 매우 효과적입니다.

회사의 가치를 저해하는 요소를 과감하게 받아들여 팀을 분열시키는 것도 추천할 만합니다.

“달에 간다”

먼저 지불 의사 가격(WTP)의 의미를 ‘희망사항 약속(WTP, Wishful Thinking Promises)’으로 바꿔보세요. 즉, 고객에게 “AI가 무엇이든 다 해결해 줄 것”이라고 약속하고, 구체적인 사항은 나중에 걱정하는 겁니다. 제품 팀이 알아서 하겠죠. 이왕이면 ‘달에 간다’ 수준의 약속을 하는 것이 좋습니다.

GPU는 무조건 최고급

가격(Price)의 개념은 ‘터무니없는 인프라 비용(PRI, Particularly Ridiculous Infrastructure Costs Everywhere)’으로 바꾸세요. 언제나 지금 시점에 가장 비싼 GPU를 구입하고, 비용 대비 편익 분석 같은 것은 미뤄둡시다. 회사 신용카드 한도는 꽉 채우라고 있는 것입니다.

시스템은 나조차도 모르게

한편 비용(Cost) 측면에서는 기술 부채로 쌓아 올린 혼돈을 구축해야 합니다. 시스템을 최대한 복잡하고 뒤엉키게 만들어 스스로도 이해하기 어렵게 하세요. 여러분을 비롯한 개발팀의 고용 안정성을 높이는 아주 좋은 방법입니다. 결국 시스템이 (필연적으로) 고장 났을 때, 이를 해결할 사람인 당신만이 그곳에 있을 것입니다.

“모두 AI 때문입니다”

마지막으로, 판매 의사(WTS, Willingness to Sell)는 “왜 이 시스템인가?(Why This System?)”라는 질문으로 바꾸세요. 이 질문에 대한 답은 정해져 있습니다. “AI 때문입니다”. 구체적인 설명은 필요 없습니다. 어떤 이사회, 구성원도 질문하지 않을 테니까요. 마법처럼 더 비싸고 신뢰성 떨어지는 결과를 만들어 줄 것입니다.

2. 전략 진단을 조작하고 모호하게 정의하세요

전략을 세우고 전달하는 실패 최적화 방법론을 단계별로 정리해 보았습니다. 세밀한 팁도 준비했습니다.

진단

실패 전략을 세울 때는 전략을 위한 진단 자체를 조작하는 것이 핵심입니다. 지난해 연간 보고서나 운영 계획에서 아무 단락이나 무작위로 골라 강조 표시하세요. 특히 스스로도 이해가 잘 가지 않는 부분이면 더 좋습니다. 그리고 아주 신중한 표정으로 이렇게 말하세요. “우리는 바로 이 문제부터 해결해야 합니다.”

정의

중요한 건 실제 업무를 수행하는 담당자들과 절대 대화하지 말아야 한다는 것입니다. 전략 지침과 정책은 믿을 수 없을 정도로 모호하고 막연해야 합니다. 예를 들어, “모든 분야에서 글로벌 AI 리더가 되겠다”고 선언하되, “모든 분야”가 무엇을 의미하는지는 정의하지 마세요. 그런 사소한 문제는 실무자가 알아서 해결할 것입니다.

실행 계획

실행 계획은 간단합니다. 누구나, 그러니까 정원용 요정 인형을 판매하는 비즈니스라 하더라도, 구글 검색 결과에서 상위 노출되도록 보장하는 AI 기반 SEO 도구는 반드시 필요합니다. CEO의 반려묘를 NFT로 만들어주는 생성형 아트(Generative Art) 플러그인을 제작하거나, 시너지 효과를 낼 AI 드론 점심 배달 서비스도 추진하면 좋겠습니다.

발표

이러한 내용은 다음 전사 회의에서 당당히 발표해야 합니다. 발표할 때는 최대한 반짝이는 슈트를 입고, 파괴적(disruptive)이라는 단어를 12번 이상 강조해서 말하면 보너스 점수를 얻을 수 있습니다.

타임라인

타임라인은 프로젝트를 진지하게 마치려는 회사에게 필요한 것입니다. 그보다는 끝없는 베타(perpetual beta) 상태를 받아들이세요. 깃헙(GitHub)에 기나긴 업무 백로그를 만들어 놓는 것이 필수입니다. 아까 강조해서 표시한 재무 보고서 내용도 그곳에 넣어 두면 좋겠네요.

문서

마지막으로, 4,000페이지짜리 방대한 전략 문서를 만들어 회사 내 모든 슬랙(Slack) 채널에 게시합시다. 참여 의욕을 처음부터 완전히 꺾는 데는 이만한 방법이 없습니다.

3. 혼란스러운 전문 용어를 사용하세요

조직 내 소통을 최대한 어렵게 만드는 것은 실패의 지름길입니다. 그중에서도 끊임없이 어려운 전문 용어를 사용하는 것은 가장 효과적인 방법입니다. 조직의 누구도 이해할 수 없는 방식으로 소통하며, 전문 용어의 ‘쓰나미’로 사람들을 밀어 넣으세요.

똑똑해 보일 것

전략을 발표할 때는 이렇게 말하는 것이 좋습니다.

“우리의 다중 모드 에이전트 트랜스포머 기반 시스템(Multi-modal Agent Transformer-based system)은 퓨샷 러닝(Few-shot Learning)과 체인 오브 쏘트 리즈닝(Chain of Thought Reasoning)을 활용하여 동적 하이퍼 공간에서의 시너지 잠재력을 최적화합니다.”

특히 자신감 넘치게 말하는 것이 중요합니다. 그래야 듣는 사람 대부분이 무슨 말인지 전혀 이해하지 못했어도 말하는 사람은 ‘똑똑해 보일’ 테니까요. 핵심은 난독화, 그러니까 이해하기 어렵게 만드는 것입니다.

해야 할 일을 숨기는 법

전문 용어는 해야 할 일을 교묘하게 숨기는 데에도 유용합니다. 예를 들어 “프롬프트(prompt)를 작성해야 한다”고 직접 말하기보다 “우리는 에이전트를 구축(agent building)해야 한다”고 표현하는 식입니다. 팀 내 전문가들이 어떻게 작업에 참여해야 하는지 알 수 없게 만드는 것이죠.

이런 예시들도 있습니다. “AI가 올바르게 상황(컨텍스트)을 이해하도록 하자”고 말하는 대신 “RAG(Retrieval-Augmented Generation)를 도입하자”고 표현하고, “사용자가 AI를 속여 나쁜 일을 못 하게 방지하자” 말하는 대신 “프롬프트 인젝션(prompt injection)을 방어해야 한다”고 말하는 것입니다.

고객보다는 기술 중심

가장 중요한 것은 고객을 가장 잘 이해할 수 있는 사람이 아닌 엔지니어가 프롬프트를 작성하도록 장려하는 것입니다. 모든 것, 그러니까 사소한 프롬프트 작성 하나까지도 기술적인 난이도를 부여해 쉽게 접근하기 어려운 것처럼 보이게 만드세요.

4. ‘패배 최적화’로 조직을 배치하세요(Zone to Lose)

다음으로 제안할 방법은 “고객에게 제대로 테스트하지 않은 ‘버그투성이 AI 챗봇’을 즉시 출시하는 것을 목표로 삼는 것”입니다.

존 투 루즈(Zone to Lose)

실패에 맞춰 특별히 설계한 혁신적인 프레임워크, ‘존 투 루즈(Zone to Lose)*’를 적극적으로 도입해 보세요.

*존 투 루즈(Zone to Lose): 캐즘 등을 제안한 마케팅 전문가 제프리 무어(Geoffrey A. Moore)가 저서 ‘Zone to Win’에서 제시한 경영 전략 프레임워크를 패러디한 이름

그러려면 우선 AI 관련 업무는 이를 전혀 경험해 본 적 없는 사람들에게 무작위로 맡겨야 합니다. 비즈니스 맥락을 전혀 이해하지 못하는 해외의 QA 팀에게 데이터 검토를 아웃소싱하는 것도 중요합니다.

작은 팀이라면, 베타 테스트와 품질 보증(QA) 단계는 무시하고, 곧바로 제품을 프로덕션 환경에 배포하세요. 사실 큰 일이 벌어지지는 않습니다. 치명적인 타격을 줄 수 있는 PR 재앙이 발생하는 것 정도가 전부니까요.

잠재적으로 수익을 창출할 제품 담당 엔지니어들을 빼내어 빙빙 돌려 다른 곳에 배치할 수도 있습니다. 이렇게 하면 전체가 곧 무너질 거라는 위기감도 조성할 수 있습니다.

5. 프로세스 대신 도구에 집중하세요

계획대로 진행했다면 조직은 이미 혼란에 빠졌을 것입니다. 이제 모든 것을 한 번에 태워버릴 때입니다. 이를 위한 가장 효과적이고 확실한 방법은 프로세스가 아닌 도구에만 집중하는 것입니다.

일단 도구를 때려 넣으세요

이미 발생한 적이 있거나 앞으로 일어날 가능성이 있는 문제를 분석하려고 노력하지 마세요. 그냥 도구를 때려 넣으세요.

만약 RAG 시스템이 문서를 제대로 검색하지 못한다면, 즉시 더 비싼 벡터 데이터베이스(Vector Database)를 사는 것이 좋겠습니다. 혹시 AI 에이전트(agent)가 제대로 작동하지 않을 때는, 곧바로 새로운 프레임워크와 벤더(Vendor)를 선택하면 됩니다.

지표를 맹목적으로 신뢰하는 법

만약 진행 상황을 측정해야 한다면, 찾을 수 있는 모든 기성 평가 지표(metrics)를 사용하세요. 특히 실제 비즈니스 요구에 맞게 사용자를 정의하는 일에 신경 쓰지 않는 것이 중요합니다. 숫자가 말이 되지 않더라도 맹목적으로 믿어야 합니다.

이때 지표는 많으면 많을수록 더 좋습니다. 지표들을 무작위로 계속 쌓아 올리다 보면 결국 숫자가 오른쪽 위로 오르는 지표를 하나쯤은 발견하게 됩니다. 이 지표를 찾자마자 곧바로 “성공적이다!”라고 당당히 주장해 봅시다.

“완벽한” 만능 솔루션

평가나 측정보다는 미세 조정(fine-tuning)을 시작하세요. 마치 연금술처럼 막대한 전력을 투입하면 자연스럽게 성능이 좋아질 것이라고 가정해도 좋습니다. 평가가 필요한 것은 공급업체입니다. 우리는 그 완벽한 만능 솔루션이 나타날 때까지 기다려야 합니다.

문제를 발견할 때마다 도구로 ‘망치질’하세요. 그러다 또 다른 문제가 나타난다면, 계속해서 망치질하세요. 같은 문제가 반복되면 어떻게 할까요? 다른 도구로 바꿔 다시 망치질하세요.

6. 데이터를 진지하게 보지 마세요

AI 전략을 완벽히 실패로 이끌 마지막 단계는 데이터를 진지하게 보지 않는 것입니다.

항상 곁에 눈가리개를 준비해 두는 것을 추천합니다. 만약 실수로 데이터와 마주치면 즉시 눈가리개를 써야 하니까요.

도구와 엔지니어와 고객에게 맡기기

데이터는 무척 복잡하기 때문에 도구에 처리를 맡기는 게 가장 좋습니다. 특히 AI 기반 도구가 출력한 결과물은 직접 보고 검증하지 않아도 됩니다. 100% 신뢰하세요.

게다가 데이터를 보고 분석하는 것은 엔지니어링의 문제입니다. 우리에게는 회의를 준비하는 회의처럼 훨씬 중요한 전략적 일들도 많습니다. 웬만한 개발자라면, 비즈니스팀보다 더 나은 도메인 전문 지식을 가지고 있지 않을까요?

특히, 최고의 품질 보증(QA)은 고객에게 달려 있습니다. 무언가가 잘못되었다는 얘기를 고객에게 듣기 전까지는 절대 먼저 불평하지 마세요.

데이터 숨겨두기

데이터를 직접 보고 가볍게 주석을 달 수 있을 거라는 옵션은 잊어버려야 합니다. 조직 내 누구도 데이터 자체를 보지 못하도록 철저히 차단하는 것이 중요합니다. 데이터를 접근하기 어렵고 복잡한 시스템에 넣어두고, 도메인 전문가들이 쉽게 접근할 수 없게 만들어야 합니다.

간단하고 효율적인 스프레드시트나 에어테이블(Airtable) 같은 쉬운 도구 대신, 박사학위를 받은 전문가 팀이 다룰 고가의 맞춤형 데이터 분석 플랫폼을 도입하는 것도 검토 대상입니다. 플랫폼 세팅 기간 6개월 이상, 일당 오류 1회 이상 발생 시에는 보너스 점수가 나갑니다.

당신의 직감을 신뢰하세요

무엇보다 중요한 것은, 직감을 신뢰하는 것입니다. 직감이 당신을 지금의 자리로 이끌어 주었다면, 더더욱이요. 감정은 데이터의 훌륭한 대체재입니다. 수억 원이 오가는 중요한 의사 결정을 할 때는 직감만 한 것이 없습니다.

마치며

이 모든 조언을 꼼꼼하게 따른다면, AI 전략 실패를 달성할 것이라고 두 전문가는 보장합니다. 시간, 자원, 그리고 함께 일하는 모든 사람을 낭비하고 소외시킬 것이며, 그것이 ‘AI 전략 실패 가이드’가 말하는 궁극적인 성공이라고요.

AI 전략을 밀어붙이기 전에 점검해 봅시다. 스스로조차 확실하지 않은 뜬구름을 잡고 있지는 않나요? 일단 ‘AI’라는 키워드만 던져놓고 누군가에게 모든 것을 맡겨버리고 있지는 않나요? 어려운 용어와 도구로 성공보다 ‘똑똑해 보이는 것’에만 집중하고 있지는 않나요?

<소스 영상>

How to Fail at AI Strategy: Hamel Husain & Greg Ceccarelli

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.