AI 프로덕트의 가격은 어떻게 정해지는가?

AI 프로덕트 프라이싱 시리즈

① AI 프로덕트의 가격은 어떻게 정해지는가?

가격은 어떻게 정해지는가 기업의 크기와 관계없이 주위의 PM/PO나 엔지니어링 매니저분들에게 프로덕트/서비스의 가격 모델에 대해 질문을 하면 대부분이 곧바로 대답하지 못합니다. 본인들의 프로덕트나 서비스가 얼마의 가치를 가지며, 그래서 고객에게 얼마를 요구해야 하는지에 대한 기본 개념이 부족한 상태인 이들은 다음과 같은 반응을 합니다.

개발 매니저, PM/PO는 프로덕트 품질과 딜리버리에 책임이 있다. 팔고 팔리는 것은 내 능력 밖의 일이다. 제품의 가격은 내가 정하는 것이 아니고, 할 수 있는 것도 아니고, 내 책임의 일도 아니다. 경쟁 기업의 가격 모델에 맞추어 미투(me, too) 모델을 생각한다. 그냥 비슷하게 맞추어 나가면 된다. 프라이싱을 해 본 경험이 없다.

프라이싱이라고도 부르는 가격 책정 모델링은 프로덕트에 대한 올바른 가격을 결정하는 데 사용할 수 있는 접근법입니다.

IT 프로덕트/서비스의 가격 모델은 생산 비용, 가치에 대한 고객의 인식 및 제품 유형과 같은 복잡한 요소가 모두 고려됩니다. 그 때문에 최종 가격은 PM/PO, 혹은 CEO가 혼자 정하는 것이 아닙니다. 투입된 원가 비용(cost)과 지출 비용(expense), 이 결과물의 가치와 라이프 사이클을 고려해야 하므로, 현재 상황에서 관련된 모든 이해관계자를 모아서 합리적이고 지속가능한 가치를 만들 수 있고 경쟁력까지 갖춘 가격 모델을 만들어야 합니다.

미투 전략을 따르는 것은 빠르고 쉬워 보일 수 있지만, 이건 우리 팀이 투입한 비용이 타 경쟁회사와 비슷하다는 베이스에서 출발해야 성립합니다. 게다가 언제쯤 손해 분기점을 지나 수익이 날런지에 대한 예측도 못 하는 따라 베끼기일 뿐입니다.

프라이싱에 적용할 근본 원리는 이미 300년 전에 아담 스미스(Adam Smith)와 데이비드 리카도(David Ricardo)로부터 시작합니다. “모든 가치는 노동에서 비롯되며 어떤 것의 가치는 그것을 생산하는 데 걸린 노동량에 있다”는 것입니다. 그러나 이들로부터 100년 후에 활동한 경제학자 헨리 조지(Henry George)는 이것이 거꾸로 된 것임을 이해합니다. “ 어떤 것의 가치는 우리가 그것을 위해 기꺼이 교환할 수 있는 노동력에 있다 ”는 것입니다.

너무나 관습적으로, 우리는 비용을 기준으로 프로덕트의 가격을 책정하려는 유혹에 빠집니다. 그러나 그 프로덕트/서비스를 사고 싶어 하는 사람들이 느끼는 가치에 따라 그 가격을 책정하는 것이 더 유용한 현실이고, 이 방법은 현재 AI 시장의 프로덕트 가격 정책 역시 주도하고 있습니다.

누구나 제품에 AI를 도입하고 싶어 하지만, 비용이 얼마나 들고, 어떠한 상세 과정이 필요한지에 대해서는 잘 알지 못합니다. AI 프로덕트를 만들어갈 모든 이들을 위해, AI의 기술적 복잡성과 비즈니스 가치에 대해 설명하면서 그 상세 과정을 들여다보겠습니다.

기술 구현(Build) vs. 기술 구매(Buy) AI는 모든 산업에 통합할 수 있는 강력하고도 광범위한 기술입니다. 그런 만큼 AI 도입에 있어, 기술 구현과 기술 구매의 개념은 예전의 인하우스/아웃소싱의 의미와는 다릅니다.

지금은 많은 AI 솔루션이 즉시 사용 가능하고 품질 좋은 기성품으로 제공됩니다. 이런 기성품들은 전문 개발 인력을 갖고 있지 않은 산업이 많은 현 상황에서 크게 이점이 될 수 있습니다. 병원은 더 나은 환자 진단을 통해, 이커머스 스토어는 더 나은 사진 편집을 통해 더 빠르게 사업을 전개할 수 있습니다. 자동차 제조업체는 더 나은 예측 유지보수를 수행할 수 있습니다. 한편 금융 서비스나 헬스케어와 같이 규제를 받는 산업 역시 개인정보 보호, 사용자 공개 및 규정 준수에 더 많은 주의를 기울여야 합니다. 또한 사내에 보관해야 하는 독점적이고 민감한 데이터가 있을 수도 있습니다.

그렇기에 모든 결정은 초기 AI 프로젝트의 범위와 기존 조직의 역량을 이해하는 것에서 출발합니다.

이러한 프로젝트를 지원할 수 있는 인재와 소프트웨어 인프라를 갖추고 있을 때에는 사내에서 구축하는 것이 효율적입니다. 클라우드와 다양한 머신 러닝 오픈 소스 라이브러리 덕분에 모델을 훈련, 배포, 관리하는 것이 훨씬 쉬워졌기 때문입니다. 많은 클라우드 공급업체에서도 이와 유사한 이점을 인정하여 관리형 서비스를 간편하게 제공할 수 있게 되었으며, 일부는 API 호출만으로 이용할 수 있습니다.

초기 셋업 비용과 지속 비용 모든 컴퓨터 기술과 같이 AI 시스템은 개발에만 시간과 비용이 들어가는 것이 아닙니다. 시스템 개발 이후에도 적극적으로 유지 관리하고 모니터링해야 합니다. 이 지점에서 초기 셋업 비용과 지속적인 비용에 대해 이해해야 합니다.

AI 모델 개발은 모델 학습과 배포의 두 단계로 나뉩니다.

모델 훈련은 문제를 조사하고, 적절한 데이터를 수집하고, 적합한 모델 유형을 선택하고, 훈련하는 과정입니다. 여기에서는 일반적으로 AI가 해결할 수 있는 구체적인 비즈니스 문제나 정형화되지 않은 상태로 산재해 있는 사일로(silos) 데이터가 드러나기 때문에 어려운 과정을 거치게 됩니다.

이러한 문제는 시간을 들여야 해결할 수 있지만 일반적으로 초기 평가에서는 무시됩니다. 즉, 예상하지 못했던 비용과 시간이 소모됩니다. 그러한 이유로 모델 학습에는 일반적으로 비즈니스 관점과 기술적인 관점에서 상당한 개발 비용이 필요합니다. 재무 관점에서 보면 이를 자본 비용으로 분류할 수 있습니다. 자본 비용을 아끼려면 자체 모델을 훈련하는 대신 모델을 구매하거나 라이선스를 구매할 수도 있습니다.

모델을 학습시킨 후에는 배포하고 기존 시스템과 통합해야 합니다. 다만 이 과정 역시 비즈니스 문제에 따라 상당한 혁신이 필요할 수도 있습니다. 개인정보 보호, 지연 시간, 처리량, 네트워크 연결성 등이 모두 배포 패턴에 영향을 미칩니다. 모델과 해당 인프라가 가동되고 실행되기 시작하면 여기에 들어가는 비용은 일반적으로 운영 비용으로 분류됩니다. 대부분의 애플리케이션에서 모델을 지속적으로 모니터링하고 업데이트해야 하는데, 이를 MLOps * 라고 합니다.

*저자 브런치, MLflow: AI시대에 더욱 강력한 MLOps 플랫폼

소프트웨어와 마찬가지로 모델도 고정된 것이 아니므로 꾸준히 업데이트하고 재배포해야 합니다. 관리 인력과 지속 비용이 필요한 과정입니다.

내 제품에 적합한 모델 선택하기 요즘은 누구나 생성형 AI를 사용하고 싶어 합니다. 하지만, 이것이 정말 모든 프로덕트와 서비스에 적합한 도구일까요?

생성형 AI 모델은 요약, 데이터 추출, 이미지 생성 등과 같은 작업에서 뛰어난 성능을 발휘하지만, 일반적으로 오픈AI나 앤트로픽(Anthropic)의 상용 LLM 모델을 사용하므로 비용 절감 관점에서는 적합한 모델이 아닙니다. 그러니 AI를 도입할 때도 올바른 사용 사례에 적합한 모델을 선택하는 것이 중요합니다.

만약 우리 제품과 그 기능이 금융 대출과 같은 숫자 속성을 예측하는 표 형식 데이터를 다룬다면, 부스팅 또는 트리 기반 방법을 사용하는 것이 좋습니다. 다음 달/해 매출과 같은 시계열 결과를 예측하는 예측 모델은 일반적으로 이동 평균 모델과 딥 러닝을 사용합니다. 딥 러닝 추천 시스템은 소셜 미디어나 이커머스 사이트에서 많이 볼 수 있습니다. 감정 분석이나 번역과 같이 정의된 언어 작업은 생성형 AI 없이도 매우 잘 실행됩니다.

가장 좋은 접근법은 새로운 작은 프로토타입(start small)을 제작하고, 전문 모델에 배포할 데이터와 인프라를 수집하는 데 최소한의 시간과 비용을 들여, 의도한 목표를 빠르게 반복 실험(act quickly and iterate)하고 이해할 수 있도록 하는 것입니다.

API를 사용하여 AI 제품을 구현할 때 최근 생성형 AI의 LLM API를 사용하여, 아이디어를 빠르게 프로토타이핑하는 사례가 늘고 있습니다. 거대한 지식 창고와 자연어가 지원되는 LLM에 API를 통하여 AI 기능과 서비스를 쉽고 신속하게 구현한다는 것은 처음부터 모델 학습, 튜닝, 조정이 필요한 기존 ML 도구와 비교하면 큰 장점이 됩니다.

다만, 프라이싱에 영향을 미치는 비용 구조에 큰 차이가 있습니다. API를 이용한 구현은 시작하는 초기에는 간단하고 감당할 수준으로 느낄 수 있으나, 이후에는 LLM 비용 의존도가 지속적으로 높아질 수 있기에 다음과 같은 5가지 요소를 고려해야 합니다.

5가지 평가 고려 사항

1. 출시 시간(Time to market)

API로서의 AI로 얻는 가장 큰 장점입니다. 제품을 더 빨리 시장에 출시한다는 것은 더 큰 이점을 얻을 기회를 잡는다는 것을 의미합니다. 특히 AI를 쉽게 통합하는 방법으로 다국어 번역이나 이미지 분류 처리 등이 있습니다. 아이디어를 검증하고 실제로 어떤 유형의 AI가 필요한지 빠르게 파악할 수 있습니다.

2. 신뢰성

초기 챗GPT API는 매우 불안정했던 적도 있었지만, 그 이후로 오픈AI API는 훨씬 안정적이 되었으며, 웹사이트에서 안정성을 확인할 수 있습니다. 제품에 AI를 도입할 때 안정성을 복잡하게 만드는 것은 모델이 가동 시간을 제공해야 할 뿐만 아니라 정답을 제공하고 우리가 기대하는 일반적인 지연 시간 내에 동작해야 한다는 점들 입니다.

그런 만큼 AI API가 비즈니스에 매우 핵심적인 역할을 하는 경우에는 여러 AI 제공업체를 사용하여 서비스가 최소한 작동하는지 확인하는 다중 AI 전략을 고려하는 것이 중요할 수 있습니다. 오픈AI는 추가 비용을 지불하면 예약된 용량을 추가로 확보할 수 있는 파운드리 프로그램 * 을 운영하고 있습니다.

*Techcrunch, “ OpenAI’s Foundry will let customers buy dedicated compute to run its AI models ”, Feb 21, 2023

그림 1. 오픈AI와 앤트로픽 서비스 현황 사이트 오픈AI , 앤트로픽 >

3. 비용

생성형 AI는 LLM모델 특성을 고려할 때 비용이 많이 듭니다. 그래도 흥미로운 점은 대표적인 LLM 서비스인 챗GPT 4의 API 사용 비용이 초기 대비 1/10 이하로 하락세를 보이고 있다는 점입니다. 이러한 현상은 하드웨어 비용이 하락하고, 프로그램이 더욱 최적화되었으며, 제공 기업이 API 비용을 보조할 수 있을 정도로 투자 자금을 많이 확보한 데에서 그 이유를 찾을 수 있습니다.

그림 2. 챗GPT-4 API 서비스 비용 감소 추세 nebuly >

4. 지연 시간

사용 업무와 사례를 잘 파악했다면, 더 작고 오픈소스인 Llama와 같은 모델을 실행할 수 있으며, 이는 AI API를 사용하는 것보다 훨씬 저렴할 수 있습니다. 더 작은 맞춤형 모델이라면 지연 시간이 짧아지는 이점을 누릴 수 있습니다. 하지만, 주식 트레이딩이나 추천 시스템처럼 밀리초 단위의 짧은 지연 시간이 필요한 애플리케이션이라면, 파운드리를 통한 전용 API가 아닌 일반 API로는 불가능합니다. 대부분의 업무 사용 사례, 특히 생성형 AI의 경우 챗GPT-4와 같은 모델은 대부분의 애플리케이션에 활용할 만큼 충분히 빠르다고 할 수 있습니다.

5. 멀티 테넌시

글로벌화된 다중 사용자 환경에서는 멀티 테넌시도 고려해야 합니다. 이는 일반적으로 B2B 및 글로벌 기업에서 가장 중요합니다. 특히 API는 지역적으로 제한되어 있거나 가시성 또는 규정 준수를 위해 조직 구조에 제한이 있을 수 있습니다. 따라서 애플리케이션의 작동 방식과 이러한 API를 통합하는 방법을 이해하는 것이 매우 중요합니다. 예를 들어, 일부 AI API에는 테넌시 제한이 있어 사용자에게 제공하는 전용 애플리케이션의 수가 제한될 수 있습니다.

셋업 비용 AI API를 사용할 때의 강력한 가치는 대규모 소프트웨어 구매나 하드웨어에 대한 기존의 투자를 피할 수 있다는 것입니다. 이를 통해 기업은 변화에 더욱 민첩하게 대응할 수 있고, 스타트업과 같은 소규모 기업에서도 도입에 더 쉽게 접근할 수 있습니다.

특히 서비스형 API로 작업할 때는 선불 구매 또는 특정 약정에 대해 할인이 적용될 수 있습니다. 특정 계약의 경우 매년 요금이 청구되면 그해 현금 흐름에 영향을 미칠 수 있기에, 많은 기업이 장기 계약을 체결합니다. 예를 들어 유럽의 통신 제공업체인 보다폰은 2024년 1월에 마이크로소프트와 15억 달러의 10년 파트너십 * 을 맺었고, 2024년 10월에는 구글과 10억 달러의 10년 파트너십을 맺었습니다.

*Reuters, “ Vodafone signs $1.5 billion Microsoft deal for AI, cloud and IoT ”, January 16, 2024

지속 비용 AI API를 사용하는 과정 중에 고려해야 할 지속 비용에는 크게 다음과 같은 세 가지가 있습니다.

1. 관리 호스팅(Managed Hosting)

관리형 호스팅은 클라우드 관점에서 볼 때 전통적인 방식으로, 공급업체에 비용을 지불하고 모델을 호스팅하며, 시간 단위로 비용을 지불합니다. 관리형 호스팅이라는 이름에도 이 역시 API를 통해 쉽게 연결할 수 있습니다. 이러한 호스팅 모델은 일관된 워크로드가 있는 경우에 적합합니다. 예를 들어, 아마존 Bedrock은 약정이 없거나, 1개월 및 6개월 기준 약정 가격으로 Llama를 제공합니다. 한편 together.ai를 사용하면 시간당 모델 규모에 따라 비용을 지불합니다.

그림 3. AWS Bedrock의 Llama 기간 약정 비용 AWS > 그림 4. Llama 사이즈별 사용 비용 together.ai >

2. API 사용량당 요금제 (per API consumption pricing)

여기서는 사용된 토큰과 같은 몇 가지 추가 매개변수와 함께 API 호출에 따라 비용을 지불합니다. 이러한 모델은 API를 통해 연결되므로 여전히 사용하기 쉽습니다.

해당 방식은 특히 주어진 시간에 얼마나 많은 모델을 사용할지 확실하지 않은 탄력적인 워크로드에 적합합니다. 이 가격 구조를 적용한 예로는 백만 입력 및 출력 토큰당 비용이 발생하는 오픈AI API 활용 가격 등이 있습니다. 가격을 자세히 살펴보면, 토큰은 대략 750 단어에 1,000 토큰이 사용되는데, 출력 토큰이 입력 토큰보다 약 2~4배 비싸다는 것을 알 수 있습니다. 이는 LLM에 전달되는 컨텍스트가 생성되는 출력보다 저렴하다는 것을 의미합니다.

그림 5. 챗GPT의 모델별 토큰 사용 비용 OpenAI >

3. 고정 요금제

이 경우 일반적으로 월 단위로 요금을 지불합니다. stability.ai 플랫폼을 살펴보면 두 가지 멤버십이 있지만, 사실상 비용을 지불할 방식은 기업용 한 가지로 책정된다는 것을 알 수 있습니다. 멤버십은 연구목적 또는 기업 필요에 따라 다양한 기능을 이용할 수 있습니다.

기업에서 일해 본 경험이 있는 분이라면 엔터프라이즈 등급에는 일반적으로 맞춤형 요금제가 적용되므로 처음에는 비용이 얼마인지 파악하기가 매우 어렵다는 것을 알고 계실 것입니다. 여기에는 최소 지출, 시간당 사용량, API 가격 등이 포함될 수 있기에 모든 기업이 같은 요금을 지불하는 경우는 없습니다.

그림 6. 기업용 맞춤형 요금제 Stability.ai >

지금까지 위에서 설명한 세 가지 지속 비용 관련 요금제는 사용하기 어렵지 않습니다. 모두 API 키를 생성하기만 하면 모델 사용을 시작할 수 있습니다.

마치며 AI 프로덕트의 가격 책정은 단순한 비용 산출을 넘어, 고객이 느끼는 가치, 기술의 복잡성, 그리고 지속 가능한 비즈니스 모델을 고려한 전략적 결정입니다. 기술을 구축할 것인지 구매할 것인지부터 시작해, 초기 셋업 비용과 지속 비용, 사용 사례에 적합한 모델 선택, 그리고 API 기반 도입의 비용 구조까지 꼼꼼히 분석하고 판단해야 합니다. 특히 LLM 기반 생성형 AI는 도입 초기에는 빠른 출시와 낮은 진입 장벽을 제공하지만, 시간이 지남에 따라 운영 비용이 누적되기에 장기적인 프라이싱 전략이 중요합니다.

결국 AI 제품의 가격은 “얼마에 만들 수 있는가”보다는 “고객이 어떤 가치를 느끼고 얼마를 지불할 의향이 있는가”에 초점 을 맞춰야 하며, 이를 위해 제품 팀은 기술, 비즈니스, 고객 경험을 통합적으로 바라보는 프레임을 갖춰야 합니다.

다음 글에서는 여러 AI 기능(이미지 생성, 텍스트 요약)을 예로 들어 비용을 추정해 보는 방법과, 실제 모델 트레이닝에 필요한 비용에 대해서 알아보겠습니다.