요즘IT
위시켓
콘텐츠프로덕트 밸리
요즘 작가들컬렉션물어봐
콘텐츠
프로덕트 밸리
요즘 작가들
컬렉션
물어봐
새로 나온
인기
개발
AI
IT서비스
기획
디자인
비즈니스
프로덕트
커리어
트렌드
스타트업
서비스 전체보기
위시켓요즘IT
고객 문의
02-6925-4867
10:00-18:00주말·공휴일 제외
yozm_help@wishket.com
요즘IT
요즘IT 소개작가 지원
기타 문의
콘텐츠 제안하기광고 상품 보기
요즘IT 슬랙봇크롬 확장 프로그램
이용약관
개인정보 처리방침
청소년보호정책
㈜위시켓
대표이사 : 박우범
서울특별시 강남구 테헤란로 211 3층 ㈜위시켓
사업자등록번호 : 209-81-57303
통신판매업신고 : 제2018-서울강남-02337 호
직업정보제공사업 신고번호 : J1200020180019
제호 : 요즘IT
발행인 : 박우범
편집인 : 노희선
청소년보호책임자 : 박우범
인터넷신문등록번호 : 서울,아54129
등록일 : 2022년 01월 23일
발행일 : 2021년 01월 10일
© 2013 Wishket Corp.
로그인
요즘IT 소개
콘텐츠 제안하기
광고 상품 보기
비즈니스

당신 회사가 AI 도입에 늘 실패하는 2가지 이유

이홍주(Holmes)
10분
1시간 전
230
에디터가 직접 고른 실무 인사이트 매주 목요일에 만나요.
newsletter_profile0명 뉴스레터 구독 중

Editor's note

 

AI로 개인의 생산성은 눈에 띄게 높아지고 있지만, 많은 기업이 여전히 ‘우리 조직에는 어디서부터 적용해야 하는가’에서 어려움을 겪고 있습니다. 요즘IT는 위시켓이 운영하는 미디어로, 현장에서 기업들의 AI 도입을 가장 가까이에서 보고 듣는 위치에 있습니다.


이번 글은 위시켓 AIDP 팀이 실제 프로젝트와 상담을 통해 확인한 기업의 AI 도입이 왜 막히는지, 어디서부터 접근해야 하는지에 대한 정리입니다. 우리 회사의 경험을 기반으로 한 내용이지만, 그만큼 지금 시장에서 실제로 일어나고 있는 변화와 문제를 가장 정확하게 전달할 수 있다고 생각해 실었습니다.


글을 읽고 여러분의 조직에서는 AI 도입 과정에서 어떤 고민이 있었는지도 함께 들려주세요.

 

기업이 정체한 본질적 이유와 실패하지 않는 AX 전략 두 가지

“AI 없이 온전히 보낸 하루”가 기억 나시나요? ChatGPT가 등장한 지 3년 여만에 이미 AI는 우리 삶에 깊이 침투해 많은 것을 바꿨습니다.

 

저는 위시켓 AIDP(AI Delivery Platform) 사업부 리더 이홍주입니다. AI 도입을 전문적으로 컨설팅하고 구축까지 돕는 일을 하고 있죠. ChatGPT가 등장했을 때부터 AI를 사업과 운영 프로세스에 한발 앞서 적용하며 직접 활용해왔습니다. 

 

그러다 보니 개인적으로는 AI 덕분에 일과 삶 모든 방면에서 생산성이 15~20% 향상됐다고 느낍니다. 저뿐 아니라 요즘엔 비개발자들도 ChatGPT와 같은 대화형 AI를 통해 프로그램을 직접 만들어냅니다. 프로그램만이 아니라 정보 탐색, 아이디어 발굴, 데이터 정리, 논리 구체와 등을 더 빠르게, 더 많이 해내며 생산성을 높이고 있습니다.

 

개발자들은 더 극적인 변화를 맞이했습니다. 생산성이 최소 3~4배 증가했다고 해도 과언이 아닙니다. 요즘 Copilot, Cursor 등 코딩 에이전트 덕분에 직접 코드를 입력할 일이 크게 줄었으며, 수준 높은 모듈화된 코드의 작성, 활용, 개선이 몇 가지 설정과 프롬프트만으로 가능해졌습니다. 

 

 

AI가 생산성 3배 높였는데, 왜 연봉은 그대로일까?

하지만 이런 생산성 증가에도 불구하고 연봉은 상승되지 않았습니다. 위시켓에서 관찰한 IT 프리랜서 단가는 오히려 전체적으로 하락하고 있습니다. 개발자 몸값의 부익부 빈익빈 현상도 여전하죠. 생산성이 3~4배 증가했다면 연봉은 최소 2배 올랐어야 하는 것 아닐까요? 

 

이는 AI가 개인에게 가져다준 변화와 충격에 비해 조직의 변화는 미미한 현실을 단적으로 보여주는 사례입니다. 이뿐만 아니라, 아마 생각보다 많은 조직에서 ‘실제로 우리 회사에 충격적인 변화가 없다’고 느낄 것입니다. 개인의 변화에 비하면 그 차이가 크죠. 왜 이런 역설이 발생했을까요? 

 

위시켓은 월 1,000건 이상의 IT 프로젝트 의뢰가 유입되는 플랫폼입니다. 그런 만큼 다양한 회사 대표님들과 담당자들을 현장에서 만나죠. 그 과정에서 이 역설의 근본적인 이유를 찾을 수 있었습니다. 그 결론을 한 마디로 정리하면 다음과 같습니다. 

 

AI는 회사를 바꾸지 않습니다.
AI를 ‘소프트웨어’로 구현하는 회사만이 변화합니다.

 

이 글은 바로 그 지점에서 시작합니다. 왜 개인과 기업 사이에 이렇게 거대한 격차가 생겼는지 두 가지 핵심 이유를 파헤치고, 기업이 나아가야 할 두 가지 명쾌하고 실질적인 방향을 제시하겠습니다.

 

 

 

AI 도입이 조직 성과로 이어지지 않는 두 가지 이유 

1. AI는 '원유'일 뿐, '훌륭한 소프트웨어'가 가치를 만든다

LLM과 ChatGPT의 관계에 대해 생각해봅시다. 우리는 LLM을 ChatGPT라는 소프트웨어를 통해 사용합니다. LLM을 포함한 생성형 AI는 결국 '모델(Model)'일 뿐이며, ChatGPT는 OpenAI의 최신 모델을 활용하면서도, 에이전트 같은 대화형 경험을 제공하기 위해 수많은 로직이 '소프트웨어'로 구현된 사례죠. 

 

즉, AI는 '원유(Crude Oil)'와 같습니다. 원유 자체는 엄청난 잠재력을 가졌지만, 그 자체로는 가치를 만들어내지 못합니다. 이 원유를 LPG, 휘발유, 나프타 등 정제된 제품으로 바꾸어 고객 경험이나 운영 프로세스를 변화시키는 것이 바로 '소프트웨어'의 역할이며, 이곳에서 진정한 가치(Value)가 구현됩니다.

 

AI 도입
<출처: 위시켓, Gemini로 제작>

 

이제 앞서 제기한 역설이 명확해집니다. 개발자의 생산성이 3~4배 증가했다는 것은 '원유'가 확보되는 양이 많아졌다는 의미입니다. 그러나 이 원유가 '정제' 과정을 거쳐 실제 가치를 만들어내는 결과물, 즉 훌륭한 소프트웨어로 완성되는 양은 비슷하거나 조금 더 많은 수준에 그칩니다.

 

왜일까요? 코드를 빨리 생성하는 것과 그것을 고객 가치로 전환하는 것은 전혀 다른 문제이기 때문입니다. 요구사항 정의, 아키텍처 설계, 사용자 경험 최적화, 비즈니스 로직 구현. 이 모든 '정제' 과정의 난이도는 여전히 높습니다. 연봉과 처우는 '투입량'이 아닌 '결과'로 측정됩니다. 따라서 최종 결과물이 크게 증가하지 않는다면 연봉 역시 크게 오르지 않습니다. 오히려 AI를 활용하는 개발자가 많아지면서 경쟁이 치열해지기 때문에, 단가가 낮아지는 추세가 나타나는 것이죠. 

 

핵심을 다시 정리하면 이렇습니다.

 

AI 자체는 당신의 회사를 변화시키지 않습니다. AI를 통해 구축된 소프트웨어가 회사를 변화시킵니다.

 

엔비디아 CEO 젠슨 황은 이렇게 말했습니다. "AI는 당신을 대체하지 않는다. AI를 활용하는 다른 사람이 당신을 대체한다."

 

AI 도입
젠슨황 엔비디아CEO <출처: 엔비디아>

 

여기서 우리는 논리를 한 단계 더 발전시킬 수 있습니다.

 

AI를 통해 구축된 '소프트웨어'와 이를 현명하게 활용하는 '사람'이 당신을 대체할 것입니다.

 

2. SaaS를 쓰는데 왜 변화가 없을까 - 자체 소프트웨어의 필연성

두 번째 이유를 살펴봅시다. 이미 많은 기업이 노션, 슬랙, 더존, SAP 같은 다양한 SaaS(Software as a Service) 솔루션을 활용하고 있습니다. 그런데 왜 변화를 체감하지 못할까요?

 

연 매출 50억 원 이하, 인원 수 30명 이하 규모의 회사라면, SaaS 솔루션들을 잘 활용하는 것만으로도 충분한 AI 전환 효과를 볼 수 있습니다. AI로 인해 SaaS의 종류가 다양해지고 수준이 빠르게 향상되고 있으니, 선택지도 많아 AI 시대의 수혜를 그대로 체감할 수 있겠죠. 하지만 이 규모를 초과하는 회사라면 상황은 완전히 달라집니다. 일정 규모 이상의 회사는 시장이라는 치열한 경쟁 환경 속에서 고유한 서비스와 프로세스를 통해 경쟁우위를 확보해 왔습니다.

 

그런데 SaaS 솔루션은 표준화된 기능과 제한적인 커스터마이징만 제공합니다. 이는 인사, 회계 등 경영지원 영역 같은 표준화된 프로세스의 생산성 강화에는 도움이 됩니다. 하지만 우리 회사만의 고유한 경쟁우위를 혁신하는 변화는 만들어낼 수 없습니다. 왜일까요? 경쟁우위는 표준화된 기능이 아닌, 우리 회사만의 고유한 일하는 방식, 즉 서비스와 프로세스의 최적화에서 나오기 때문입니다.

 

정리하면, 일정 규모 이상 기업이 변화를 체감하지 못하는 이유는 명확합니다. 자체 소프트웨어로 고유한 경쟁우위를 최적화해야 하는데, 표준화된 SaaS에만 의존하고 있기 때문입니다. 결국 일정 규모를 넘어서는 기업이 AI를 제대로 활용하면서 경쟁우위를 혁신하려면, 우리만의 소프트웨어, 즉 자체 소프트웨어를 구축하는 수밖에 없습니다. 개인의 생산성 향상을 조직 전체의 성과로 전환하려면, 우리 회사 고유의 업무 방식을 AI와 결합한 소프트웨어가 필요합니다.

 

자체 소프트웨어를 구축하지 않으면 AI 전환(AX)은 성공할 수 없습니다. 손을 놓고 있다가는 자체 소프트웨어를 구축하고 AI 전환에 성공한 경쟁사에 압도될 것입니다.

 

 

하지만 소프트웨어 구축의 현실: 50%의 실패

'언제든 충분히 검증되었을 때, 나중에 시도하면 되지 않느냐?'라고 생각하실 수 있습니다. 하지만 AI 전환과 우리만의 소프트웨어를 구축하는 프로젝트는 비용만 지불하면 무조건 투자 대비 성과(ROI) 관점에서 성공할 수 있는 종류가 아닙니다. 지금은 최소한, 어떻게 실패하지 않을 수 있는가에 대한 방법을 알고 있어야 합니다. 

 

이러한 프로젝트들은 기술적 난이도뿐만 아니라, 변화에 대한 조직의 거부감, 모호한 요구사항 정의, 데이터 통합의 실패와 같은 다양한 비즈니스/조직적 문제로 인해 ROI(투자 대비 수익) 관점에서 최소 50% 이상의 확률로 실패합니다.

 

그렇다면 어떻게 해야 할까요?

 

 

AX의 시작, 실패하지 않는 소프트웨어 실현 방법 

먼저 냉정하게 인정해야 합니다. 자체 소프트웨어 구축은 쉽지 않습니다. 50% 이상이 실패하는 데는 이유가 있습니다.

 

하지만 포기할 수는 없습니다. 지금은 위기이자 기회입니다. AI 개발 생산성이 3~4배 향상된 지금, 과거에는 불가능했던 속도로 자체 소프트웨어를 구축할 수 있습니다. 이전에 3개월 걸리던 프로젝트가 이제는 1개월 만에 실현됩니다. 경쟁사가 이 기회를 잡아 앞서가는 동안 우리만 손을 놓고 있을 수는 없습니다.

 

다행히 방법은 있습니다. 실패하지 않는 소프트웨어 구축을 위한 두 가지 핵심 전략을 소개합니다.

 

 

1. 5배 이상 높아진 AI 소프트웨어 개발 생산성을 레버리지하라 

첫 번째 전략은 '5배 이상 높아진 AI 소프트웨어 개발 생산성을 레버리지하는 것'입니다.

 

개발 관련 종사자라면 모두 공감하실 겁니다. 22년말 ChatGPT 등장 이후, 개발 생산성이 최소 3~4배 증가했다는 것을요. 

 

2022년 말에 3개월 걸리던 프로젝트가 이제는 1개월 만에 실현될 수 있습니다. 더 중요한 사실은 '높은 소프트웨어 개발 비용' 이라는 진입장벽이 거의 허물어졌다는 점입니다. Cursor, Copilot 등의 코딩 에이전트가 소스코드 개발 전문가를 완전히 대체하면서 아키텍쳐 설계, UI/UX 기능 모듈 구현, CI/CD 역량만 있으면 순식간에 결과물을 내보일 수 있습니다. 

 

따라서, 이제는 계약 및 프로젝트 착수 전에도 ‘맞춤형 소프트웨어’ 프로토타입을 사전에 확인하고 진행할 수 있는, 확인해야 하는 시대입니다. 예전처럼 PI(Process Innovation)이나 BPR(Business Process Reengineering) 프로젝트를 선행하면서 ‘제안서’에 목숨 걸고 공들이던 시기는 끝난 것 같습니다. 

 

즉 AI 소프트웨어 개발 생산성을 레버리지한다는 것은 우리가 기대하는 결과에 대한 프로토타입(MVP) 실현 속도가 기존 수 개월(Month)에서 수 일(Day) 혹은 수 주(Week)로 단축되었으니, 빠르게 만들어보고, 테스트하고, 수정하는 방식으로 전환하라는 것입니다. 실현 가능성이 불분명한 컨설팅 보고서를 기다리기보다, 실제 작동하는 소프트웨어를 먼저 만들어 검증하는 것이 이제는 더 빠르고 효과적입니다.

 

AI 도입
AI 도입

 

실제로 위 화면처럼 아키텍처와 기능 기획만 제대로 나오면 아래와 같은 소프트웨어를 3일~7일 안에 만들 수 있습니다. 

 

AI 도입

 

하지만, ‘프로토타입 실현이 극단적으로 빨라졌다’라는 사실만으로 자체 소프트웨어 구축을 무조건 성공할 수 있을까요? 그렇지 않습니다. 아무리 빨라져봐야 실제 업무에 활용되지 않으면, 즉 현업에 배포(deployment)되지 않으면 그저 허울좋은 전시품일 뿐입니다. 

 

 

2. Garbage In - Garbage Out을 경계하라 

두 번째 전략은 'Garbage In - Garbage Out을 경계하는 것'입니다. "쓰레기를 넣으면 쓰레기가 나온다." 전통적인 이 원칙이 AI 시대에 더욱 중요해졌습니다.

 

AI 개발 생산성이 높아졌다고 해서 소프트웨어 실현 비용이 엄청 낮아지는 것은 아닙니다. 바로 Garbage In - Garbage Out 때문입니다. Cursor, Copilot 등 코딩 에이전트는 매우 빠르게 코딩합니다. 그런데 명확한 기대 결과를 설정하고 방향과 단계를 잡아주지 않으면, 있어 보이지만 아무 쓸모없는 소프트웨어가 나옵니다. 개발자의 시간과 LLM 토큰을 아무리 투입해도, 사용하지 않는 기능이 많고, UI/UX는 최악은 아닌데 이해되지 않고, 막상 핵심 기능의 품질은 기대에 부합하지 않는 결과물이 나오는 것이죠.

 

 

AI 도입

 

요즘 소프트웨어 구축 프로젝트를 진행하다 보면, 개발 생산성이 높아졌다는 게 체감됩니다. 고객이 잘못됐다고 피드백하면, 프로토타입뿐 아니라 전체 산출물을 말 그대로 처음부터 끝까지 2~3번 뒤엎는 경우도 종종 봅니다.

 

그런데 이게 옳은 현상일까요? 생산성이 올라가서 금액 부담이 적어졌더니, 결국 걸리는 시간은 동일하고 고객사 입장에서는 커뮤니케이션만 더 답답합니다. 채용한 개발자든 외주 의뢰한 개발사든 마찬가지입니다.

 

지금이 '자체 소프트웨어'를 최적의 ROI로 실현할 수 있는 이상적인 타이밍입니다. 지금 실현된다면 복리적 효과도 크게 기대됩니다. 하지만 여전히 많은 분들이 채용이나 외주 과정에서 Garbage In - Garbage Out을 반복하고 있습니다.

 

어떻게 피할 수 있을까요? 핵심은 올바른 파트너 선택입니다. 두 가지 기준을 소개합니다.

 

 

AI 도입 시 Garbage In - Garbage Out을 막기 위한 방법

(1) 엔드투엔드 기획 역량이 있는 파트너를 선택하라

채용을 하든 외주를 하든, 엔드투엔드 기획 역량이 있는 파트너와 함께하십시오.

 

대부분의 개발자나 개발사(90% 이상)는 채용을 하든 외주를 하든 기획한 대로, 설계한 대로만 소프트웨어를 구현합니다. 엔드투엔드 컨설팅 회사가 아닌, 개발사기 때문에 어떻게 보면 당연한 것이겠지요. 그래서, 개발자나 개발사는 우리가 원하는 요구사항을 구체화하고, 최적의 솔루션을 제안하고, 전체 프로젝트 일정과 작업 범위를 구성하고, 적절한 단계 및 마일스톤을 설정하는 것에는 익숙하지 않습니다. 특별히 잘 못한다기 보다는 그저 다른 프로젝트를 했던 것처럼 하는 것입니다.

 

위에서 언급드렸던 것처럼, 명확한 기대 결과를 설정하고 방향과 단계를 잡아주지 않으면, 좋은 소프트웨어는 구현될 수 없습니다. 많은 기업들이 AI 도입과 전환에 실패하는 이유는, 엔드투엔드가 아니라 단순 외주 용역을 맡기려고 하기 때문입니다.

 

그렇다면 엔드투엔드 기획 역량이 있는 파트너를 어떻게 판단할 수 있을까요? 임직원, 그 중에서도 오퍼레이션 팀 리더를 채용하는 것처럼 판단하시라고 조언드리고 싶습니다. 아래와 같은 질문에 부합하는 파트너들이죠. 

 

  • 우리 회사의 비즈니스를 이해하고 있으며, 커뮤니케이션이 수월한가?
  • 시키는 일만 하는 게 아니라, 우리의 문제 자체를 해결하려고 하는가?
  • 일회적 용역 관계가 아닌, 회사와 함께 성장할 수 있나?

 

(2) 문제 해결 역량이 있는 파트너를 선택하라

AX(AI Transformation)를 실현하려면 회계, 인사 등 비핵심 공통 기능이 아니라, 제품개발/마케팅, 영업/물류/채권, 구매/조달/재고/채무, 생산/제조/원가, 데이터 분석/비즈니스 인텔리전스와 같은 회사의 핵심 밸류체인(Value Chain) 중심으로 자체 소프트웨어를 구축해야 합니다. 

 

특히 매출액 50억 이상이거나 인원 규모 30명 이상인 경우, 대부분 고유한 서비스와 비즈니스 프로세스 특성을 가지고 있습니다. 생존과 이익 창출을 위한 경쟁우위를 구성하는 기반이지요. 

 

일반적인 SaaS나, B2C 소프트웨어 경험만 있는 파트너는 이런 고유한 경쟁우위를 소프트웨어로 실현하기 어렵습니다. 이 실현 과정이 하나의 ‘거대한 문제’ 이며, 이 문제를 해결해본 경험과 역량이 있어야 AX 성공 확률이 높아집니다. (다시 한 번 상기시켜 드리면, ROI 관점에서 성공 확률은 50% 미만입니다.) 

 

그렇다면 문제 해결 역량이 있는 파트너인지 아닌지는 어떻게 판단할 수 있을까요? 

 

이커머스, 단순 정산 어드민, 웹사이트 제작 등 누구나 상상할 수 있는 문제를 해결해본 게 아닌, 기업의 독특하고 고유한, 어려운 문제를 해결해본 파트너를 채용하거나 외주 의뢰하십시오.

 

이런 높은 기준을 적용하지 않는다면, 우리 회사의 핵심 서비스와 업무 프로세스 변화는 실패할 가능성이 매우 높습니다.  

 

마치며

최근 위시켓은 AI 전담 조직 AIDP를 신설하고, 전문가 매칭을 넘어 컨설팅·개발·운영까지 직접 지원하기 시작했습니다. 13년간 2만 건 이상의 IT 프로젝트를 수행하며 쌓은 경험과, AI 시대에 들어 확보한 500억 원 규모의 프로젝트 매니지먼트 자산 덕분에, 자연스럽게 ‘기업들이 어디에서 가장 많이 막히는가’를 깊이 관찰할 수 있었습니다. 그 과정에서 실제로 많은 실패 사례를 가까이서 보며, 이 문제를 전담으로 다룰 조직의 필요성을 느끼게 됐습니다.


기획 역량과 문제 해결 역량을 모두 갖춘 파트너를 직접 찾고 관리하는 일이 쉽지 않다면, 위시켓 같은 플랫폼을 활용하는 것도 하나의 선택입니다. 하지만 이 글의 목적은 특정 서비스를 권하는 데 있지 않습니다. 어떤 방식을 선택하시든, 불필요한 시행착오와 실패를 줄이길 바라는 마음에서 현장 경험을 공유드리는 것입니다. 수 억 원을 들여놓고도 실패하는 안타까운 사례를 정말 많이 봤고, 그런 일이 없으면 좋겠습니다. 

 

➡️ 위시켓 AIDP 살펴보기

 

글을 끝까지 읽으셨다면, AI의 파급력을 체감하면서도 기업의 변화는 만들어내지 못해 답답해하시는 분들이거나 변화를 만들기 위해 고심하고 계신 분들일 거라 생각합니다. 그런 분들께 이 글이 작게나마 도움이 되기를 바랍니다.

 

핵심을 다시 정리하면

  • 개인의 생산성은 폭증했지만 기업은 변하지 않는 이유는 명확합니다. ‘AI’가 아니라 ‘소프트웨어’가 핵심입니다.
  • AI는 원유일 뿐이며, 소프트웨어로 정제해야 가치가 됩니다.
  • 일정 규모 이상 기업은 자체 소프트웨어 구축이 필수입니다. 하지만 소프트웨어 구축은 성공이 쉽지 않습니다.
  • 성공하려면: (1) AI 개발 생산성을 레버리지하고 (2) 올바른 파트너를 선택해야 합니다.
  • 지금 시작하지 않으면 경쟁사와의 격차가 기하급수적으로 벌어집니다.

 

AI 시대의 승자는 AI를 가진 자가 아니라, AI로 만든 훌륭한 소프트웨어를 가진 자입니다. 그것이 AI 시대 우리 회사가 변화하지 못하는 이유이자, 우리가 나아가야 할 방향입니다. 

 

 

 

당신의 목소리를 들려주세요

12월에 발행될 'AI 도입 리포트'에 여러분의 경험과 고민을 담고자 합니다. AI가 만들어내는 급격한 변화에 압박을 느끼는 분들이 많을 것입니다.  

 

  • AI 전환을 시도하면서 겪은 어려움
  • 자체 소프트웨어 구축 과정의 실제 경험
  • 지금 가장 고민하고 있는 지점

 

여러분의 솔직한 이야기를 들려주세요. 현장의 생생한 목소리가 더 나은 인사이트를 만듭니다.

➡️의견 남기기 

 

 

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.