기업용 생성 AI 시장은 어떻게 판을 바꾸고 있을까?

보통 신규 입사자에게는 경력 여부를 떠나 3개월의 수습 기간이 주어집니다. 이 3개월 동안 입사자는 새로운 환경에 적응해 갑니다. 회사도 마찬가지입니다. 본격적인 업무에 앞서, 새롭게 합류한 인원이 회사 생활을 잘할 수 있도록 돕습니다. 이 기간 동안 회사는 신규 입사자에게 폭발적인 업무 성과를 기대하지 않습니다. 성과 창출을 위한 본격적인 업무 시작 전에 해당 인원을 준비시키는 것에 대부분의 시간을 할애합니다.

지금까지 기업용 생성 AI 시장은 이 수습 기간과 유사한 시간을 겪어 왔습니다. 시장 참여자들은 본격적인 수익 창출에 앞서 생성 AI라는 새로운 산업을 준비시키는데, 대부분의 시간과 자본을 할애했습니다. 그리고 이러한 기업용 생성 AI 시장에 지난해부터 변화가 나타나기 시작했습니다. 준비 기간을 지나, 실제 현장에서 생성 AI를 활용하기 위해 기업들이 움직이기 시작한 것입니다.

이번 글에서는 미국의 ‘Menlo ventures’가 발표한 자료를 토대로, 최근 기업용 생성 AI 시장에 나타난 특징을 살펴보고자 합니다.

급격한 투자 증가 이번에 Menlo ventures가 발표한 자료는 미국 600개 기업에 대한 인터뷰를 기반으로 작성되었는데요. 24년의 가장 두드러진 특징은 투자 금액이 급격히 증가했다는 것입니다. 24년 생성 AI에 대한 투자는 138억 달러(약 20조 원)로 23억 달러(약 3조 3,000억 원)의 23년 대비 약 6배 증가했습니다.

그림 1. 23년 대비 크게 증가한 24년의 생성 AI 관련 투자금

이전까지 생성 AI 투자는 주로 파일럿 혹은 혁신을 위한 테스트 영역에 할당되어 있는 예산을 활용하여 진행되었는데요. 2024년에는 생성 AI 관련 투자금이 일반 운영 예산에 할당되는 경우 가 늘어났습니다. 이 중 일부는 기존 예산에서 상향 조정된 것입니다. 이는 기업들의 AI 전환 의지가 테스트나 파일럿 운영을 넘어, 실제 활용 차원으로 옮겨 간 것을 보여줍니다.

‘서비스’에 대한 집중 23년까지 기업용 생성 AI 시장은 모델 개발에 집중해 왔습니다. 위의 그림 1에서도 알 수 있듯이, 여전히 모델 영역에 가장 큰 예산이 투입되는데요. 24년부터 ‘서비스’ 에 대한 투자가 본격적으로 확대되기 시작했습니다.

구체적으로, 23년 6억 달러(약 8,700억 원) 규모였던 서비스에 대한 기업 투자는 24년 46억 달러(6조 6,500억 원)까지 약 8배 증가했습니다. 이는 기업들이 이미 높은 수준으로 구성된 인프라와 모델을 기반으로 한 서비스를 활용해, 비즈니스 효율성 극대화를 추구 한다는 것을 의미합니다.

특히 특정 산업 영역에 특화된 서비스인 기업용 버티컬 서비스(Vertical service)에 대한 투자 증가 가 눈에 띄는데요. 이미지 생성, 텍스트 변환 등 일반적인 업무에 적용할 수 있는 수평형 서비스(Horizontal service)에 투자가 집중되었던 과거와 확연히 달라진 모습입니다.

그림 2. 기업용 버티컬 서비스 지형도

법률, 금융 산업에서 버티컬 서비스의 성장이 특히 두드러집니다. 법률 업계에서는 판례를 검색하고, 재판 관련 문서 초안 작성을 지원하는 등 복잡한 문서 업무에 생성 AI 서비스가 적용되어 있습니다. AI 챗봇 형태로 전반적인 법률 문서 업무를 지원하는 하비(Harvey) 가 가장 대표적인 서비스입니다. 이외에도 특정 법률 영역에 특화된 서비스도 있습니다. 이븐업(EvenUP) 은 상해와 관련된 법률 분야에 주력하고 있으며, 가든(Garden) 은 특허와 지적재산권 관련 영역에 집중하고 있습니다.

금융 업계에서는 자동 데이터 검색, 인사이트 도출 등에 AI 서비스가 집중되어 있습니다. 핀 파일럿(Finpilot) 이 가장 대표적인 서비스이고요. 뉴머릭(Numeric), 로고(Rogo), Greenlite(그린라이트) 등도 눈에 띄는 서비스 중 하나입니다.

국내에서는 더존비즈온 이 가장 두각을 드러내고 있습니다. 더존비즈온은 회계에 집중한 버티컬 서비스 OneAI를 운영하며 반복적인 업무 자동화, 데이터 분석 등을 지원하고 있습니다.

비용보다 지속적인 가치 창출에 주목하는 흐름 24년 기업들은 생성 AI 서비스 도입에 있어 효용성과 가치를 강조했습니다. 생성 AI 서비스를 장기적인 관점에서 검토하기 시작한 것입니다. 이는 가격 우선 관점에서 생성 AI 서비스를 판단했던 과거와는 차별화된 모습입니다. 24년 생성 AI 서비스를 도입한 기업 가운데 약 47%는 서비스를 자체 개발했고, 약 53%는 외부에서 서비스를 구매한 것으로 나타났습니다. 약 80%의 기업이 외부 서비스를 구매했던 23년과 비교하면 엄청난 변화가 일어난 셈이죠.

이러한 도입 방식의 변화는 기존 비즈니스 환경과의 통합, 확장성, 기술 관련 유지 보수 등 더 넓은 관점에서 생성 AI 서비스를 평가 하기 시작한 기업의 전략 변화에 기인한 것으로 볼 수 있습니다.

그림 3. 각 부서에서 활용되는 대표적인 생성 AI 서비스

효용성과 가치 창출을 우선하는 경향성은 회사뿐만 아니라, 부서 차원에서도 적용되는데요. 대부분의 업무를 위한 서비스는 기업 내에서 자체 개발하더라도, 소수 부서의 특정 업무 처리를 위한 서비스는 외부에서 구매하는 형태로 생성 AI 서비스를 활용하는 것입니다.

특히 기술 관련 부서에서 외부 생성 AI 서비스를 도입하는 경우가 많습니다. 글린(Glean), 커서(Cursor), 올핸즈(All hands) 등이 기술 관련 분야에서 많이 도입하는 대표적인 외부 서비스인데요. 기술 관련 생성 AI 서비스를 외부에서 도입하는 것이 자체 개발하는 것보다 회사 중장기적인 관점에서 더 유효하다는 판단이 작용한 것으로 평가할 수 있습니다.

변화하는 경쟁 관계 24년 기업용 생성 AI 시장에 나타난 또 다른 특징은 경쟁이 격화되었다는 것입니다. 23년까지의 생성 AI 서비스 시장은 기존 제품에 AI 기능을 추가하는 전략을 통해 대기업이 지배해 왔습니다. 기존 오피스 365 서비스에 코파일럿(Copilot)을 추가한 마이크로소프트(Microsoft)가 가장 대표적인 사례입니다.

24년에는 혁신적인 스타트업이 대기업의 지배력에 균열을 낼 수 있음이 드러났습니다. 버티컬 서비스같이 특정 산업에 특화된 서비스의 수요 증가, 맞춤화 지원 등 지속적인 가치 창출을 위한 기업의 요구사항 증가가 촉발한 변화라고 할 수 있는데요. 위에서 살펴본 것처럼, 다양한 버티컬 영역에서 많은 스타트업들이 대기업 대비 선전하고 있다는 것이 이를 뒷받침하고 있습니다.

그림 4. AI 모델 활용 현황

모델 영역에서의 경쟁 관계 변화 도 나타나기 시작했습니다. 가장 눈에 띄는 것은 OpenAI 모델의 점유율이 23년 대비 큰 폭으로 하락한 것입니다. 2023년 50%였던 오픈AI(OpenAI) 모델의 시장 점유율은 2024년 34%로, 16%가 하락했는데요. 오픈AI의 점유율 상실분은 엔트로픽(Anthropic)과 구글(Google)의 점유율 증가로 이어졌습니다. 24년 엔트로픽 모델의 점유율은 전년 대비 12% 증가했고, 구글 모델의 24년 점유율은 전년과 비교해 5% 늘어났습니다.

다양한 모델을 통한 서비스 구현 트렌드가 주류로 떠오르면서 이러한 변화가 나타난 것으로 해석할 수 있습니다. 모델을 선택하는 다양한 요인 가운데, 기업 관계자들은 보안/안정성, 가격, 성능, 확장성 등을 가장 중요한 우선순위로 평가했는데요.

기업의 우선순위 변화에 따라 프라이빗 모델(private)과 오픈소스 모델(open-source)의 경쟁 관계도 변화할 것으로 예상됩니다. 딥시크(DeepSeek) 같은 서비스의 등장 또한 적지 않은 영향을 끼칠 거고요.

마치며 어릴 때부터 크게 주목받은 축구 선수가 기대만큼의 모습을 보여주지 못하면, 빠르게 도태되는 경우가 많습니다. 기대와 현실의 괴리가 무력감으로 이어지는 경우가 대부분이기 때문이죠.

지금까지 생성 AI 시장은 엄청난 가능성을 지닌 유망주로서 좋은 대우를 받아왔습니다. 그래서 기대에 부합하는 모습을 보여줘야 하는 시기에 점점 가까워지고 있죠. 기업용 AI 시장의 변화에 주목해야 하는 이유도 바로 여기에 있습니다. 유망주로 평가받아 온 생성 AI가 실제 기대에 부응하는 방향으로 성장할 수 있을지, 가늠해 보기 가장 좋은 척도가 기업들의 생성 AI 서비스 활용 형태이기 때문입니다.

수습 기간이 지난 신규 입사자가 성과를 만들지 못한다면 회사는 실망할 수밖에 없습니다. 특히 큰 기대를 받으며 입사한 경우, 그 실망감은 배로 커질 겁니다. 이제 수습 기간이 끝나가는 생성 AI 시장이 앞으로 어떤 결과를 만들어 낼지 면밀히 지켜볼 때입니다.