인프라, 모델, 서비스 관점에서 생성 AI 시대 돌아보기

생성 AI와 관련해 새로운 소식이 매일 쏟아지고 있습니다. 모든 내용을 다 따라잡기 힘들 만큼 빠른 속도인데요. 생성 AI가 우리에게 미치는 영향력으로 본다면, 특정 기준에 따라 그 업데이트를 정리하는 것도 매우 중요한 일입니다.

ChatGPT의 등장을 그 시작점으로 본다면, 생성 AI 시대가 시작된 지 약 1년 4개월이라는 시간이 지났습니다. 이번 글에서는 지난 1년 4개월의 시간을 생성 AI 산업의 밸류체인(Value chain)이라는 관점에서 돌아보고, 앞으로 AI 산업이 어떠한 방향으로 확장될 것인지 예상해 보고자 합니다.

세 가지 축: 인프라, 모델, 서비스

생성 AI를 밸류체인 관점으로 바라보기 위해, 밸류체인을 구성하는 주요 요소를 먼저 정의해야 합니다. 지금까지 생성 AI 비즈니스는 크게 인프라, 모델, 서비스라는 세 가지 주요 축을 중심으로 확장해 왔습니다.

• 인프라: 생성 AI는 모델 학습과 서비스 운영에 있어 굉장히 복잡한 연산 프로세스가 발생합니다. 이러한 워크 로드(Workload)를 처리하는데 반도체, 서버 등 고사양의 인프라가 중요한 역할을 하고 있습니다.
• 모델: ChatGPT는 사람처럼 자연스러운 대화가 가능한 챗봇입니다. 이는 ChatGPT에 GPT-4라는 모델이 적용되어 있어 가능한 것인데요. 이처럼 모델은 생성 AI 서비스에 있어 핵심 요소가 됩니다.
• 서비스: 서비스는 생성 AI를 활용할 수 있도록 엔드 유저(End user)에게 제공되는 제품입니다. 어도비 파이어플라이(Adobe Firefly), 클로드(Claude) 등이 대표적인 예시죠.

소수에게 집중되는 ‘인프라’

생성 AI의 핵심은 지식을 학습하고 그 지식을 기반으로 새로운 정보를 생성해 내는 데 있습니다. 이 과정에서 엄청난 양의 데이터 처리가 필요한데요. 예를 들어, GPT-3는 약 45테라 바이트의 텍스트 데이터를 학습한 것으로 알려져 있습니다. 이처럼 방대한 데이터 처리와 운영 최적화를 위해 인프라가 중요한 역할을 하고 있습니다.

인프라는 크게 반도체와 클라우드 플랫폼으로 구분할 수 있습니다. 반도체의 핵심은 고사양 GPU인데요. 모든 반도체 회사가 고사양 GPU를 공급할 수 있는 건 아닙니다. 때문에 엔비디아가 생성 AI 비즈니스에서 가장 중요한 기업으로 부상하고 있습니다.

고사양 반도체라는 하드웨어없이는 생성 AI 운영이 거의 불가능하고, GPU 시장에서 가장 영향력 있는 플레이어가 엔비디아이기 때문이죠.

클라우드 플랫폼은 고사양 반도체의 배포라는 측면에서 필수로 자리 잡고 있습니다. 생성 AI에 뛰어든 모든 기업이 GPU가 탑재된 서버를 필요로 하지만, 비용 문제로 이를 내재화하는 데 큰 어려움을 겪고 있는데요.

이러한 이유로 기업들은 Azure, AWS 등 대형 클라우드 서비스를 통해 고사양 서버를 활용하고 있습니다. 필수 하드웨어를 쉽게 활용할 수 있는 채널인 만큼, 소수 대형 클라우드 플랫폼의 지배력은 더욱 강화되고 있고요.

두뇌와 같은 ‘모델’

내가 입력한 정보를 기반으로 텍스트나 이미지를 생성해 낼 수 있는 것은 생성 AI 모델이 있기에 가능한 일입니다. 이메일을 작성하고, 긴 PDF를 요약하는 것 모두 모델 없이는 불가능한 것이죠.

이렇게 가장 핵심이라고 할 수 있는 모델은오픈소스(Open-source)와 프라이빗(Private)모델이라는 두 가지 카테고리로 확장해 왔습니다.

1) 오픈소스 모델

• 오픈소스 모델은 누구나 활용할 수 있도록 공개되어 있는 모델입니다. 대부분 무료로 사용할 수 있으며, 기본 모델을 원하는 방향으로 업그레이드할 수 있고 배포도 할 수 있습니다.
• 오픈 소스 모델의 확장과 함께 모델 허브도 성장했습니다. 모델 허브는 수많은 오픈 소스 모델을 쉽게 발견하고 활용할 수 있도록 지원하는 플랫폼역할을 하고 있는데요. 위의 그림 1에서 확인할 수 있는 허깅 페이스(Hugging Face)가 가장 대표적인 모델 허브 서비스입니다.
• Stable Diffusion(스테이블 디퓨젼), 얼마 전 구글이 공개한 Gemma(젬마), 메타의 LLaMa(라마) 모두 오픈소스 모델입니다.

2) 프라이빗 모델

• 모두에게 공개되어 있는 오픈소스 모델과 달리, 프라이빗 모델은 접근 권한을 가진 사용자만 활용할 수 있습니다. 대부분 유료로 사용할 수 있으며, 모델을 업그레이드하거나 배포하는 권한은 모델 개발사가 소유하고 있습니다.
• 프라이빗 모델은 개발사가 자체적으로 사용하거나, 외부의 지정된 사용자에게 제공하는 형태로 활용되는데요. 접근 권한을 유료로 구매한 외부 사용자에게, 그림 1과 같이 API로 제공되고 있습니다.
• 오픈 AI의 Sora(소라), DALLE-3, GPT-4, 구글의 Gemini(제미나이) 모두 프라이빗 모델입니다.

우리와 가장 맞닿아 있는 ‘서비스’

ChatGPT는 GPT-4라는 모델이 적용되어 Azure 클라우드에서 운영되는 서비스입니다. 우리 같은 엔드 유저(End user)는 채팅이라는 인터페이스를 통해 에세이 초안 작성을 요청할 수 있고, 중세 시대 배경의 재밌는 이미지를 생성할 수 있는 것이죠.

서비스는 그림 1에 정리되어 있는 것처럼, 엔드 투 엔드(End-to-End), 외부 모델 서비스라는 형태로 성장해 왔습니다. 엔드 투 엔드 서비스는 자체 개발한 모델이 적용된 서비스를 뜻합니다. 즉, 모델 개발부터 서비스 출시까지의 전체 과정을 내재화한 회사들이 제공하는 서비스인 것이죠.

ChatGPT, Midjourney(미드저니), 제미나이, 영상 생성 서비스 Runway(런웨이)가 엔드 투 엔드 서비스의 가장 대표적인 예시입니다.

반면 외부 모델 서비스는 다른 회사의 모델이 적용된 서비스를 의미합니다. 마이크로소프트의 Copilot(코파일럿)은GPT-4, DALLE-3 등 오픈 AI가 개발한 모델을 활용하고 있습니다. 프라이빗 모델을 API 형태로 제공받아 사용하는 것이죠.

외부 모델 서비스는 두 개 이상의 외부 모델을 활용하는 경우도 있고, 자체 개발한 프라이빗 모델과 조합하여 사용하는 경우도 있는데요. 세일즈포스의 Einstein GPT는 오픈 AI 모델과 자체 개발한 Einstein 모델을 함께 적용한 서비스입니다.

앞으로 어떻게 발전할까?

지금까지 생성 AI 산업을 밸류체인 관점에서 돌아보며 인프라, 모델, 서비스라는 주요 축의 성장 히스토리를 점검해 봤습니다. 요약하자면 지금까지 AI 산업은 혁신적인 기술(모델)을, 접근성 높고 이용하기 쉬운 형태(서비스)로 시장에 내놓는 데 집중했던 것을 알 수 있습니다.

AI 서비스는 출시 직후부터 빠르게 사용자를 확보했다는 공통점이 있는데요. 예를 들어, ChatGPT는 오픈 2개월 만에 최초 1억 명의 유저를 모으는 데 성공했습니다. 이는 틱톡, 인스타그램 등 기존 서비스보다 훨씬 빠른 속도입니다.

유저들의 초기 관심을 끄는 데는 성공했지만, 지속적인 서비스 이용을 유도하는 데에는 어려움을 겪고 있는 것도 사실입니다. 유저의 사용 지속성과 관련해 중요한 지표인 리텐션율이 기존 서비스 대비 많이 떨어지는 것입니다.

유튜브, 틱톡, 틴더, 듀오링고 등의 평균 리텐션이 63%인 것에 비해 ChatGPT, 런웨이, Lensa(렌사), Remini(레미니) 같은 AI 서비스의 평균 리텐션은 42%에 머무는 것으로 알려졌습니다.

그렇다면 앞으로 생성 AI 비즈니스는 어떻게 발전할까요? 높은 가치의 서비스를 제공하는 데 초점을 맞춰 성장할 것으로 예상됩니다. 몇 번 호기심으로 사용하는 데 그치는 것이 아닌, 자주 사용해야 할 정도로 중요한, 필수 서비스를 만드는 데 집중할 것으로 예측되는 것이죠. 이러한 움직임은 통합과 맞춤화라는 키워드를 중심으로 진행될 것입니다.

1) 통합

AI 서비스는 사용자의 기존 이용 환경에 통합되는 형태로 성장할 것입니다. 마케팅 담당자 A를 예로 들어보겠습니다.

A는 이미지 위주의 SNS 광고를 집행하는데요. 미드저니를 통해 몇 차례 이미지를 생성한 경험이 있고, 생성된 아웃풋에 어느 정도 만족하는 상황이었습니다.  다만 한 가지 불편한 점이 있습니다. SNS에 마케팅 머티리얼(Material)로 업로드하기 위해서는, 매번 이미지를 다운로드하고, 편집한 이후 각각의 SNS 채널에 다시 업로드해야 되기 때문이죠.

A는 평소 어도비를 통해 마케팅 자료를 편집합니다. 어도비에는 어도비 파이어플라이라는 이미지 생성 기능이 있는데요. 어도비 파이어플라이를 통해 생성된 이미지는 바로 편집할 수 있고 손쉽게 SNS 채널에 업로드할 수 있습니다.

어도비 파이어플라이는 A가 익숙하게 활용하는 기존 환경(어도비 툴)에 통합된 AI 기능이라고 이해할 수 있습니다. 앞으로 A는 미드저니보다 어도비 파이어플라이를 더 자주 사용할 가능성이 클 겁니다.

스냅챗과 월마트의 사례를 통해서도 통합된 AI 기능의 중요성을 확인할 수 있습니다. 두 회사 모두 냉장고 내용물 사진을 찍어 업로드하면 레시피를 추천해 주는 생성 AI 기능을 제공하고 있는데요. 레시피를 추천해 주는 과정까지는 동일하지만, 스냅챗에서는 추천 레시피를 위한 추가 재료를 구매할 수 없는 것과 달리, 월마트에서는 구매 행위까지 완료할 수 있습니다.

상품을 탐색하고 구매한다는 기존 환경에 통합되어 AI가 기능하는 것이죠. 레시피 추천에 대한 니즈가 높은 사용자는 훨씬 더 자주 월마트 AI 기능을 활용할 것입니다. 이처럼 기존 워크플로(Workflow)에 통합된 형태로 제공되는 생성 AI 서비스가 주류로 자리매김할 것으로 예상됩니다.

2) 맞춤화

현재 우리가 사용하는 AI 서비스는 대부분 범용성을 띈 서비스들입니다. 범용성의 특성을 가진 서비스는 불특정 다수를 타깃으로 합니다.

예를 들어, 런웨이는 영상 콘텐츠 제작자 뿐만 아니라, 모든 사용자를 대상으로 손쉬운 영상 제작 환경을 지원하는데 주력하고 있습니다. 바로 이 지점에서 맞춤화라는 포인트를 주목해야 합니다. 서비스의 타깃이 분명하고, 차별되는 정보를 생성해 낼수록 생성 AI 서비스의 가치가 상승하기 때문이죠.

맞춤형 AI 서비스는 주로 B2B 영역에서 속도를 낼 것입니다. B2B에서의 맞춤형 AI는 산업에 특화된 서비스로 볼 수 있는데요. 이미 몇 개의 서비스가 존재감을 드러내고 있습니다.

• 하비(Harvey)는 로펌 전용 생성 AI 챗봇입니다. 하비는 복잡한 법률 문서의 초안을 작성할 수 있고, 판례를 요약할 수 있는데요. 무엇보다, 각 로펌이 보유한 수많은 데이터를 학습해 소속 변호사를 위한 맞춤형 어시스턴트로 기능할 수 있습니다. 예를 들어, ‘사건 B와 유사한 과거 사례를 찾아주고, 핵심 반론이 무엇이었는지 요약해 줘’와 같은 질문에 답할 수 있는 것이죠.
• 핀 파일럿(Finpilot)라는 서비스도 있습니다. 핀 파일럿은 금융 전문 서비스인데요. 핀 파일럿을 통해 공시 자료 분석, 실적 콘퍼런스 스크립트 요약, 기업의 재무 활동 관련 인사이트 등을 챗봇 인터페이스에서 확인할 수 있습니다. 특히, 수치 비교 기능은 데이터 비교 분석 업무가 잦은 애널리스트의 업무 강도를 크게 단축시키고 있습니다.
• 트루 윈드(Truewind)는 회계팀을 타깃으로 하는 서비스입니다. 트루 윈드는 회사 내부 데이터 기반 인사이트 제공에 가장 큰 장점이 있는데요. ‘유저 1명을 확보하기 위한 마케팅 비용을 늘려야 할까’라는 질문이나, ‘우리 성장 속도를 고려할 때 더 많은 세일즈 매니저를 채용해야 할까’라는 질문에 재무적 관점에서의 인사이트를 제공해 주는 것입니다.

하비는 로펌 업무라는 기존 이용 환경에 통합되어, 법률 분야 관련 맞춤 서비스를 제공하고 있습니다. 핀 파일럿은 금융을, 트루 윈드는 회계 영역을 구체적으로 타깃하고 있고요.

마치며

혁신적인 기술의 등장은 우리 삶의 여러 부분에 큰 영향을 줄 수 있습니다. 이제는 많이 익숙해져 있지만, 대중교통 도착 시간에 딱 맞춰 집을 나설 수 있는 것도, 출근길 스마트폰으로 커피를 미리 주문할 수 있는 것도 사실 혁신적인 기술 덕분에 가능한 것이죠.

생성 AI 관련 혁신을 밸류체인 관점에서 이해해야 하는 이유가 바로 여기에 있습니다. 일어날 수 있는 변화의 방향성을 예측하는 데 도움이 될 수 있기 때문입니다.

이러한 관점을 가지고 생성 AI 소식을 업데이트한다면, ‘하비가 로펌 시장에 보편화되었을 때 로펌 내부 인력 구조에는 어떤 변화가 있을까?’, ‘헬스케어 등 다른 산업에서 맞춤형 서비스가 등장한다면 어떤 변화를 동반할까?’와 같은 질문을 스스로에게 던져볼 수 있을 겁니다.

또한 ChatGPT는 기업 고객을 위한 엔터프라이즈 서비스도 운영하고 있는데요. 각 고객사의 니즈에 맞춰 맞춤화할 수 있는 옵션도 포함되어 있습니다. ChatGPT 엔터프라이즈(Enterprise)가 산업에 특화된 서비스를 대체할 정도의 가치를 만들어 낼 수 있을지 지켜보는 것도, ‘서비스’라는 밸류체인에 주목한다면 상상해 볼 수 있는 질문이겠죠.

최근 오픈 AI는 Azure라는 인프라에서 학습된 비디오 생성 모델 소라(Sora)를 공개했습니다. 밸류체인 관점에서 AI 산업을 이해하는 시작점으로, Sora 관련 소식을 추적해 보는 것도 좋은 시도라고 생각합니다.

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.