요즘 핫한 ChatGPT 서비스, 직접 만들어봤습니다

OpenAI에서 ChatGPT API를 공개한 후, 이를 활용한 수많은 서비스가 출시되었습니다. 여행 플랫폼 마이리얼트립이 여행플래너를 출시하고, 채용 플랫폼 원티드랩은 면접 코칭 서비스를 만들었습니다. 코딩 교육 플랫폼 코드잇에선 코드 리뷰 서비스를 출시하는 등 ChatGPT는 산업을 막론하고 널리 활용되고 있습니다.

이렇게 하루가 멀다 하고 ChatGPT에 대한 소식이 들려오고 있는데요. 저 역시 개발자로서 한 번은 ChatGPT API를 활용해 보고 싶다는 생각에 이틀 동안 두 가지 서비스를 만들어봤습니다.  오늘은 직접 서비스를 만들어보며 느낀 생성형 AI의 한계와 가능성에 대해 살펴보겠습니다.

1. 위인들과 대화할 수 있는 ‘위인챗'

첫 번째로 가볍고 재미있는 서비스를 만들어보고 싶었는데요. 그러던 중 다양한 캐릭터와 소통할 수 있는 대화형 AI 서비스 ‘Character.ai’에 대해 알게 되었고, 이를 본떠 위인들과 카카오톡처럼 대화하는 서비스(위인챗)를 만들기로 결정했습니다.

서비스를 만들기에 앞서 우선 OpenAI의 API를 활용하는 법을 살펴봤습니다. 사실 OpenAI의 공식 문서는 이번에 처음 보게 됐는데, 정말 잘 정리되어 있어 놀랐습니다. Node와 Python에서 쉽게 활용할 수 있도록 라이브러리가 준비되어 있었고, 개발자 커뮤니티를 통해 그 외의 프로그래밍 언어로 된 라이브러리도 사용할 수 있었습니다. 저는 Node로 API를 만들었는데, 공식 문서 안내에 따라 회원가입을 하고 카드를 등록한 후, 라이브러리 패키지를 설치하니 금방 API를  사용할 수 있었습니다.

그런데 ChatGPT를 이미 사용해 보신 분은 알겠지만, ChatGPT와 대화하다 보면 그럴듯하면서도 기상천외한 답변을 많이 받게 됩니다. 그래서 아무런 조치 없이 메시지를 보내면 위인과 채팅을 하는 느낌을 내지 못합니다. 저는 실제로 위인이 말하는 것처럼 유도하고 싶었기에, OpenAI API에 요청을 전송하기 전에 입력값을 변경했습니다. 예를 들어, 서비스의 유저가 “안녕하세요”라고 입력하면, OpenAI API에는 - 당신이 세종대왕이라고 생각하고 답변해 주세요. 대화를 시작하겠습니다. “안녕하세요" - 와 같은 입력값을 전송하는 것입니다.

그렇게 세종대왕, 이순신, 김구, 아인슈타인에 대해 각각 다른 입력값으로 변환되도록 API를 만들어두고, 이를 활용하여 제작했습니다. 특히 위인과 카카오톡으로 대화하는 느낌이 들도록 색상 및 디자인은 카카오톡 채팅방을 참고했습니다. 완성한 이후 주변에 서비스를 공유했는데, 다른 위인도 추가해달라고 하거나, 재미있는 채팅 내용을 캡처해서 공유하는 등 생각보다 반응이 괜찮았습니다.

반면 생각보다 어려운 점도 있었는데, 세종대왕과 이순신 장군의 말투를 구현하기가 쉽지 않았습니다. 사극 말투로 해달라고 하면 노비, 백성, 신하 등 다양한 신분의 말투를 혼재해서 사용했고, 임금 말투로 답변하라고 해도 문법적으로 틀리거나, 어색한 표현으로 응답하는 모습입니다. 이후로도 다양한 시도를 해봤지만, 완벽히 고칠 수 있는 프롬프트는 아직 찾지 못했습니다.

2. AI와 함께 글을 쓰는 ‘포스팅AI’

재미를 위한 서비스를 하나 만들어보니, 다음으로 좀 더 실용적인 서비스도 제작해 보고 싶었습니다. 때마침 주변에 틈틈이 글을 쓰고 싶지만, 막상 글을 쓰려고 하면 어떤 내용으로 써야 할지 어려움을 겪는 친구들이 있었는데요. 이들을 위해 AI가 주제를 추천해 주고, 글쓰기를 도와주는 서비스(포스팅AI)를 만들게 되었습니다.

포스팅AI에서는 유저가 자신의 직업을 입력하면 AI로부터 주제를 추천받을 수 있게 했습니다. 이때 마음에 드는 주제가 없다면 다시 추천받을 수 있고, 주제를 입력하면 주제와 관련된 질문을 받게 됩니다. 질문에 답하면 추가로 연관 질문을 받거나, 바로 글을 생성할 수도 있습니다. 그렇게 원하는 만큼 답변을 하다가 글자 수를 입력하고 글을 생성하면, 응답해 둔 주제, 직업, 문답을 바탕으로 글이 생성되는 방식입니다.

이미 한번 OpenAI API를 사용해 보았고, 위인챗과 달리 맞춤형 말투를 제공할 필요가 없어서 API를 더욱 쉽게 구성할 수 있었습니다. 이전에 위인챗을 만들 때에는 ‘네가 세종대왕이라고 생각하고 답변해 줘'라는 말을 넣어서 입력값을 변환했다면, 이번에는 유저가 남긴 직업, 주제, 문답을 바탕으로 ‘직업이 A이고, B 주제에 대한 글을 쓰려고 해. 해당 주제에 대한 내 생각을 질문과 답변으로 정리해 보았는데, 이 문답을 토대로 C 글자 수의 글을 써줘’와 같이 변환한다는 내용이었습니다.

이렇게 만든 서비스를 통해, 주변 친구들은 자신의 생각이 담긴 글을 어렵지 않게 완성할 수 있었습니다. 결과물의 완성도는 꽤 괜찮았지만, 글자 수를 조금만 길게 설정해도 대기하는데 오랜 시간이 소요된다는 아쉬움이 있었습니다.

3. 생성형 AI의 한계점

이처럼 OpenAI API를 통해 직접 서비스를 만들어 보니, 뛰어난 성능과 편리함에 감탄했습니다. 하지만 동시에 생성형 AI의 한계점도 느낄 수 있었는데요. 첫 번째 한계점은 바로 시간과 비용 문제입니다. 화려한 애니메이션과 이미지가 가득한 웹사이트도 로딩되기까지 몇 초 이상 소요되지 않습니다. 로딩이 길어질수록 사용자가 떠나기 때문이죠. 그런데 ChatGPT는 두세 문단의 텍스트를 로딩하는데도 수십 초가 넘게 걸렸습니다. 또한 생성형 AI에 단지 시간적인 비용만 발생하는 것은 아닙니다. 미국의 반도체 산업 분석 전문가인 딜런 파텔은 ChatGPT의 1일 유지 비용이 대략 70만 달러(약 8억 7,500만 원)에 달한다고 추정했고, 실제로 ‘GPT-4’의 훈련에는 개당 3만 달러(약 3750만 원)가 넘는 GPU가 1만 장이 사용되기도 했습니다.

생성형 AI의 두 번째 한계점은 바로 생성된 내용이 검증되지 않았다는 점입니다. ChatGPT도 GPT-4가 출시되며 ‘세종대왕 맥북 투척 사건'*과 같이 거짓된 이야기를 하는 경우가 줄어들긴 했지만, 여전히 실재하지 않은 공간이나 잘못된 사실을 올바른 것처럼 응답하는 경우가 있습니다. 응답을 신뢰할 수 없다면, AI를 통해 답변을 얻어도 결국 인간이 마지막에 다시 검토할 수밖에 없는 상황이 됩니다.

*세종대왕 맥북 투척 사건이란?

“조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘.”라는 질문에 ChatGPT가 “세종대왕의 맥북프로 던짐 사건은 조선왕조실록에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다.”라고 답변해 유명해졌습니다.

4. 생성형 AI의 미래는?

이러한 한계점에도 불구하고, 생성형 AI는 분명 많은 가능성을 가진 획기적인 기술입니다. 우선 생성형 AI는 뛰어난 범용성을 가졌습니다. ChatGPT에 사용된 OpenAI API만 하더라도, 공개된 지 얼마 지나지 않아 다양한 업종의 수많은 회사에서 이를 활용하여 새로운 기능과 서비스를 선보였습니다.

저 역시 동일한 API를 활용하여 재미를 위한 채팅 서비스를 만들기도 하고, 실용적인 콘텐츠 작성 보조 서비스를 만들기도 했습니다. 생성형 AI를 통해 만든 결과물은 텍스트와 이미지에만 그치지 않고, 프로그래밍 코드, 동영상, 음성 등 다양한 영역에서 활용되고 있으며, 앞으로는 메타버스에 사용되는 아바타나 오브젝트 등도 AI가 생성할 수 있을 것으로 기대됩니다.

또한 생성형 AI의 비용을 낮추기 위한 연구도 빠르게 진행되고 있습니다. 실제로 메타(Meta)에서 출시한 AI 모델 LLaMa는 GPT와 같은 언어 모델로, 매개변수는 1750억 개로 알려진 GPT-3의 절반 정도인 650억 개입니다. 이 외에 70억, 130억, 330억 개의 매개변수를 사용한 모델도 공개했는데, 이는 LLaMa를 작동하는데 훨씬 적은 비용이 소요된다는 뜻입니다. 현재까지 많은 AI 모델이 앞다투어 매개변수의 개수를 높이려고 했는데, 이제는 적은 비용으로 준수한 성능을 내는 모델을 만들기 위한 노력도 이루어지고 있습니다.

이번 글을 통해 제가 만든 GhatGPT 서비스와 그 과정에서 느낀 생성형 AI의 한계점, 그리고 가능성에 대해 살펴보았습니다. 생성형 AI는 뛰어난 성능과 간편함을 앞세워 이미 빠른 속도로 다양한 분야에 적용되고 있습니다. 앞으로도 정확성과 비용에 대한 한계를 하나씩 극복해 나가며, 다양한 일상 속에 적용될 것으로 보입니다. ChatGPT와 같은 생성형 AI가 가진 파급력은 과연 어디까지 일까요?

요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.