[SI 산업 가이드북8] SI 기업의 AI 생존 전략

올해 생각보다 기업시장이 어렵습니다. 여러 가지 이유가 있겠지만, AI 기술의 변화에 주목해 봅니다. 변화가 너무 빨라 기업들은 AI의 활용성을 시험하고 있을 뿐, 충분히 대응하지 못하고 있습니다.

주변 분들과 수다 떨면서 든 생각들을 정리해 보았습니다. 좁은 식견에 부족한 생각일 수 있습니다. 그냥 가볍게 읽어주셨으면 좋겠습니다.

AI란 무엇일까? AI: 머신러닝과 언어모델의 차이 >

머신러닝, 딥러닝 등 학술적이고 복잡한 설명은 많으니까, 학술적이지 않은 방식으로 핵심만 설명해 봅니다.

지금의 AI는 크게 언어학습을 한 경우와 안 한 경우로 나뉩니다.

언어학습을 안 한 AI가 가장 널리 쓰이는 분야는“자동차 자율주행”입니다. 말만 안 할 뿐 판단을 자기가 다 합니다. 산업현장에서 쓰인지 좀 되었습니다. 테슬라가 나왔으니까요.

기업용으로 제어와 통제를 할 수 있습니다. 그래서 쓰일 일이 많습니다. 냉장고에도 들어가고, 세탁기에도 들어갑니다.

언어학습을 한 경우는 사람과 대화하는 데 쓰입니다. 최근 열풍의 주역입니다.

말을 하니까 사람처럼 생각도 하는 듯 보입니다. 컴퓨터다 보니 아는 게 많습니다. 인터넷의 정보로 학습했으니 먼 나라 지식도, 아주 옛날 지식도 잘 알고 있습니다.

컴퓨터다 보니까 코딩을 시켜봅니다. 엇? 잘합니다. 갑자기 IT 산업이 활발해집니다.

컴퓨터다 보니 지치지 않습니다. 1년 365일 똑같은 열정으로 일할 수 있습니다.

사람 대신 써볼까? 이런 생각이 듭니다.

여기까지가 지난해 많은 기업에게 일어난 변화입니다. 그런데 문제가 있습니다.

“우리 회사 데이터를 ChatGPT에 줄 수 있나?”

당연히 안 됩니다. 삼성전자의 반도체 정보, 서울병원 환자 진료기록 이런 걸 미국으로 보낼 수 없습니다.

군사시설 같은 국가 보안 정보는 더욱 그렇습니다. 이런 정보는 엄격하게 통제된 환경에서 필요한 사람에게만 딱 노출되어야 합니다.

결국 자사 내에 설치가능한 제품을 찾게 됩니다.

이게 ChatGPT만큼 유능하기를 바랍니다. 그러면서 기업이 잘 통제할 수 있기를 바랍니다.

그런데 이게 진짜 될까요? 어떻게 해야 할까요?

이런 변화가 작년과 올해 상반기에 일어났던 변화였습니다.

작년에는 구글과 페이스북이 ChatGPT를 바짝 추격하는 모습이었습니다. 기업들은 관망하는 분위기였죠. 하지만 윈도우에 “코파일럿(Copilot)”이 붙자 분위기가 달라집니다. 써보니까 좋거든요.

설치형 버전? 랭체인(Langchain), 올라마(Ollama)를 이용해 구현할 수 있음을 알게 되자, 개발자 시장이 먼저 반응합니다. 아웃소싱 시장도 이 변화를 벗어날 수 없죠.

AI는 무엇을 대체하고 있나? AI는 “사람”을 대체하기 위해 만들어졌습니다. 사람이 있어야 하는데 있을 수 없는 상황에서 말이죠. 대표적인 사례가 전쟁과 우주산업입니다. 제2차 세계대전이 기폭제가 되었죠.

처음에 AI는 공장 로봇으로 단순 반복 작업을 했습니다. 사람의 “노동력”을 대체했죠.

사람은 작업을 장시간 반복하면 집중력이 떨어져서 오류가 높아집니다. 로봇은 그렇지 않죠. 매우 복잡한 일까지 정확하게 해냅니다.

이제 AI는 자율주행을 합니다. “지적 능력을 바탕으로 한 노동활동”이죠. 트럭 기사, 택시 기사를 대체하려고 합니다. 꽤 높은 수준까지 올라왔죠.

최근의 ChatGPT는 사람 흉내를 냅니다. “창의력”까지 말이죠. 단순히 베끼는 것이 아니라 재창작을 합니다. 빠른 처리 속도와 방대한 데이터를 가지고 말이죠. 무서운 건 망가질지언정 지치지 않는다는 점입니다. 사람보다 월등히 나은 부분이죠.

그동안 “지능”은 사람의 전유물이었습니다. 하지만, 이젠 아닙니다.

ChatGPT 같은 초대규모언어모델(이하 LLM) 은 사람의 “지적 능력”을 꽤 많이 대체합니다.

완벽한 대체가 가능할까요? 지금은 아닙니다. 기술을 넘어 풀어야 할 숙제가 많죠.

지금은 대체자보다는 강력한 보조자 역할을 합니다. 코파일럿과 함께 코딩을 해보면 “척척박사” 한 명을 옆에 두고 일하는 느낌입니다. 아는 것도 많고 정확하기도 하죠. 물론 확인과 결정은 내가 해야 합니다.

“기업”은 어떤 선택을 하고 있나? 기업은 딱 두 가지 상황에 관심이 있습니다. 매출을 올리거나, 비용을 줄이거나!

AI에 “로봇”을 붙이면 “지적 노동력”이 완성됩니다. 이런 특징을 갖게 되죠.

(1) 특정 수준의 지적 능력으로 노동을 한다.

(2) 사람이라고 해도 믿을 만큼 지적 능력이 높다.

(3) 감정 기복이 없고 지치지도 않는다.

(4) 통제가 가능하며 비용을 예측할 수 있다.

사람들은 (1),(2)번에 주목했습니다. 하지만 기업들은 (3),(4)번에 주목했습니다. “설비”처럼 투자할 수 있으니까요. AI로 사람을 대체하는 건 이릅니다. 쉽게 결정할 수 없죠.

단기적으로는 직원들의 업무능력 향상에 집중합니다. 조금 더 빠르게, 조금 더 많이, 조금 더 창의적인 결과를 만들 수 있게 해주죠.

그런데 이건 SI 프로젝트에 적용될 만한 건 아닙니다. 업무의 양과 내용이 계약으로 정해져 있기 때문에 을이 굳이 더 창의적일 이유는 없죠.

대기업들은 발 빠르게 움직이고 있습니다. DevOps를 개량하거나, 사내 코파일럿을 만들고 있죠.

하지만, 대부분의 기업은 아직 공부하고 있습니다. 어떻게 움직여야 할지 말이죠.

새로운 제품을 만드는 건 어떨까요?

엔터테인먼트 회사에선 AI 작곡을 해보려 합니다. 아이돌 시장은 끼어들 틈이 없지만, 백화점의 배경음악은 노려볼만한 하죠. 제작비는 물론이고 저작권료를 아낄 수 있으니까요. 유튜브 배경음악, 드라마 배경음악도 대상입니다.

그런데 이런 건 아웃소싱할 것들이 아닙니다. 그 기업이 독창적으로 만들어야 하죠.

초기라서 자체 개발 역량을 보유한 기업들이 먼저 움직입니다. 그 사례가 후발 기업에 전파되고, 그 다음에 “아웃소싱” 시장이 따라가겠죠.

다만 기업시장은 규제가 지뢰밭이어서 생각보다 시간이 걸릴 듯 싶습니다.

SI 시장의 무엇이 대체될까? 갑이 아웃소싱을 하는 이유는 뭘까요? 전문 역량을 조달하는 겁니다. 자기 회사에 없는 전문 지식과 경험을 사 오는 거죠. 솔루션을 갑에게 맞게 조정하는 건 필수입니다. 운영 가능한 상태까지 만들어서 납품받는 게 기본이죠.

그래서 SI 기업의 핵심 자산은 “전문 역량”입니다. (1) 시스템을 만드는 것과 (2) 맞추어 주는 능력이죠. 그러려면 레거시를 알아야 합니다. 새로운 시스템에 대해서도 잘 알아야 하고요.

새로운 시스템이 옛날 시스템과 공존하려면 꽤 많은 숙제가 생깁니다. 그 숙제를 정리한 게 “요구사항”이죠. 프로젝트는 그걸 소프트웨어로 변환하는 과정입니다. 언어적으로 보면 시스템을 만든다는 건, 커다란 변환・번역 과정이기도 합니다.

그런데 이런 변환・번역 업무는 LLM이 가장 잘할 수 있는 일입니다. AI가 코딩에서 두각을 나타내는 이유이기도 하죠.

하지만 의지를 가지는 것, 방향을 정하는 것은 사람이 해야 합니다. 책임과 권한의 문제거든요. AI가 좋은 답을 해줘도 선택하지 않을 수 있습니다.

단기적으로는 이런 상황이 예상됩니다.

AI가 도입된다고 해서 목표 시스템의 규모가 줄진 않습니다. 코파일럿 때문에 개발 속도가 빨라질 뿐이죠. 초급 개발자 없이 시니어 개발자 몇 명이 뚝딱하고 만들 수 있습니다. 프로젝트 기간이 줄어들겠죠.

짧은 기간에 적은 사람이 들어와서 일을 하니, 갑은 전체 프로젝트 비용을 낮출 수도 있습니다.

하지만 요구사항이 줄어든 건 아닙니다. 한 명이 책임져야 할 코드양은 늘어나죠. 100개 개발하던 걸 300, 400개 개발해야 하니까요. 결국 필요한 기능이 다 만들어져 짜임새 있게 돌아가야 프로젝트가 종료됩니다.

짧은 기간에 적은 사람이 투입되면서, 더 많은 책임량을 지는데 보상은 낮아진다면, SI를 하려는 기업들이 있을까요? 아마 차츰 사라져 버릴 겁니다.

코파일럿을 도입한 혜택을 SI 기업이 공유받을 수 없다면 아웃소싱 시장은 깨어집니다. 혜택을 공유받을 수 있도록 계약이 바뀌어야겠죠. 일반 기업은 비교적 유연하게 대응할 수 있습니다. 반면 공공분야는 그렇지 않죠. 규정이나 규제를 고쳐야 해서 시간이 많이 걸릴 겁니다.

운영 업무에서는 어떨까요?

장애를 감시하는데 AI는 탁월한 역할을 합니다. 하지만, 운영 업무의 병목은 개발이 아닙니다. 회의와 소통, 의사결정 과정이죠. 그러니 변화가 급진적이기보다는 단계적으로 발생할 겁니다.

개발 속도는 빨라지고 개발 생산성도 높아질 겁니다. 하지만, 이 질문에 쉽게 대답할 수 없습니다.

“그래서 SI 프로젝트의 프로세스는 어떻게 바뀌어야 하죠?”

AI 도구를 프로젝트 현장에서 사용하려면 갑과 을의 적절한 합의가 필요합니다. 특히 보안 데이터를 학습시켜야 하는 민감한 프로젝트 환경이라면 말이죠.

“AI 기반 개발방법론” 같은 게 나와야 합니다. 시간이 적지 않게 걸리겠죠.

단기적으로 산업적 특수성과 책임 소재 때문에, IT 아웃소싱 시장의 틀이 크게 바뀌진 않을 겁니다.

다만 AI 도구들을 활발하게 이용함으로써 프로젝트 현장이 좀 더 역동적이고 빨라지겠죠.

기업의 아웃소싱 전략은 어떻게 변할까? 아웃소싱 2.0을 위한 조직구조 >

단순 반복 작업은 AI 자동화를 시키고, 비 중심 업무는 아웃소싱을 한다. “단순 고반복 업무”, “기술부채” 같은 것들이 대상이 된다. “복잡한 데이터”, “부서 간 정보 장벽” 같은 것들은 AI를 이용해 통합하고, 데이터를 기반으로 의사결정을 한다. 우리 기업의 차별화와 사업 방향성에 대해서 더 많이 집중한다.

“ AI가 아웃소싱을 책임진다. - 당신의 차세대 파트너인 AI를 위한 전략적 프레임워크 그리기 ” 이 글은 갑이 AI를 어떻게 활용해야 할지, 조직이 어떻게 변해야 하는지를 그렸습니다.

DXC Technology의 전략담당이사인 Carl Kinson이 올린 글입니다.

DXC는 컨설팅, 시스템 구축, IT 아웃소싱까지 모두 제공하는 글로벌 IT 서비스 회사입니다.

2017년 HP의 기업사업 부문이 분리되면서 만들어졌고, 첫해 매출이 33조 원, 현재 직원 수가 13만 명 정도 되는 큰 기업입니다.

이런 기업의 전략담당이사가 “청사진”을 그려주는 건 자기네 회사로부터 풀 서비스를 받으라고 설득하기 위해서입니다. 고수준의 기술영업인 셈이죠. 2024년 2월 올린 글이기 때문에, 글로벌 기업들의 AI 진도를 짐작할 수 있습니다.

전체 그림은 AI 프론티어들이 말하는 것과 비슷합니다. AI를 이용해 기업 내 비효율적인 부분을 제거하고, 조직을 좀 더 작고 가볍게 줄여 핵심 업무에만 집중하라는 겁니다.

달콤한 말입니다. 저도 큰 방향에는 동의합니다. 하지만, 현실적으로 얼마나 오래 걸릴지, 돈을 얼마나 투자해야 할지는 모르겠네요. “금융권 차세대 프로젝트” 같은 붐이 또 한 번 올 것만 같습니다.

작은 기업은 나름대로 변화할 겁니다. 아웃소싱 스타일도 많이 바뀔 듯합니다.

하지만 역시 아직은 시작입니다. 대기업들은 자사 직원을 교육시키는데 시간을 쓰고 있습니다. 우선 내부에 리더그룹을 만들어야 하니까요.

해외의 아웃소싱 시장은 어떨까? 조금 작게 바라봅니다. 해외의 아웃소싱 시장은 어떻게 변하고 있을까요?

기사들을 찾아보니 국내와 크게 다르지 않습니다. 비교적 잘 정리된 글을 요약해 봅니다.

2023년 9월. 포브스지에 실린 글, AI는 IT 아웃소싱에 어떤 영향을 미치고 있는가?(2023.9.7, 포브스, 플라멘 체코프) 입니다.

아웃소싱 시장의 변화 1. 노동시장의 변화

ChatGPT 등으로 코딩은 훨씬 더 구조화되고 편리해졌다. “AI를 사용할까 말까?” 이미 이런 고민은 하지 않는다. “어떻게 전체 프로세스에 AI를 적용할까?” 이런 고민을 하고 있다.

2. 사람에 대한 의존성 제거

회사 내의 지식(기술문서, 프로세스 등)이 사람들에게만 쌓이지 않는다. 이젠 시스템에도 쌓인다. 아웃소싱 기업들이 “지식 보유자”로서의 위치를 잃게 된다. 반면 기회도 있다. 적재적소에 지식을 잘 활용할 수 있다면 오히려 더 큰 생산성을 얻을 수 있다. 특정 분야를 전문화하는 게 도움이 된다.

3. 고객의 높아진 기대치

기업 고객의 64%가 이런 기대를 한다. “앞으로는 생산성과 품질이 높아지고 속도까지 빨라질 거다.” 이제 아웃소싱 회사도 AI를 활용하지 못한다면 고객의 기대를 채울 수 없다.

4. 예산 재배치

기업들은 점점 더 단순 작업을 발주하지 않는다. AI를 도입해서 자동화하는 데 투자할 거다. 2030년까지 이 시장의 성장률은 연간 37%로 예상된다.

5. 업무의 재구성

2022년 일반 기업의 39%가 소프트웨어 개발자를, 35%가 데이터 엔지니어를 고용했다. 채용 시장이 AI 직무를 중심으로 움직였다. 모든 업무에 AI를 활용하는 방향으로 바뀌고 있다.

SI 기업들을 위한 조언 1. 비즈니스를 다시 상상한다

회사의 납품 프로세스에 AI를 적용해 본다. AI는 복잡한 의사결정에 통찰력을 제공한다. 회사를 지탱하는 중간관리자들이 통찰력을 가질 수 있게 해준다. 서비스, 고객에만 관심을 가지지 말고, 회사 내 프로세스를 바꾸어 본다.

2. AI 로드맵을 그린다

회사 업무 전체에 AI를 도입하고 변화를 그려본다. AI로 무엇을 할 것인가?

3. 더 높은 부가가치에 집중한다

아키텍처 분야는 여전히 인간 중심적이다. 컨설팅은 AI로 대체될 가능성이 없다.

제품관리자, 비즈니스 분석가, 컨설턴트 등은 비즈니스에 더 큰 가치를 만들어준다.

AI는 “도메인 특성”을 거의 이해하지 못한다. 고객 사업을 이해하는 데 집중하고, 고객과의 커뮤니케이션에 더 많은 시간을 쓰라.

4. 인재 가치를 극대화하고, 인재 전략을 혁신한다

AI로 대체되기 힘든 분야의 사람들을 기른다. 아웃소싱은 생각보다 전문적이고 복잡한 일이다.

시장의 요구도 점점 더 전문화될 것이다. 이젠 제너럴리스트보다 스페셜리스트가 유리하다.

여러 명의 주니어 개발자보다 숙련된 시니어를 쓰는 게 더 높은 품질과 차별화된 서비스를 제공하는 데 유리하다. 특정 분야의 숙련 인력이 필요할 땐 그런 인력을 잠시라도 고용하라.

요약하자면 결국, AI가 할 수 없는 일을 해야 한다. 도메인 지식을 잘 활용하고, 고객의 문제에 집중해라. 이런 이야기들입니다. 특별히 대단한 이야기는 없는 것 같지만, 분명히 곱씹어 봐야 할 이야기입니다.

SI 기업은 어떻게 해야 할까? 기업에는 오래된 규제와 고유한 문화가 섞여 있습니다. 이것들이 기업마다 달라서 시장이 넓고 다양합니다.

AI가 아무리 좋다고 해도 갑자기 레거시 전부를 한 번에 바꿀 순 없습니다. 부담이 적은 외곽지역부터 바뀌겠죠. AI가 침투하는 데는 시간이 걸릴 겁니다.

하지만, 장기적으로는 많이 바뀔 겁니다. AI를 쓸만한 곳이 너무 많거든요. 코드를 잘 짜주기도 하고, 에러도 너무 잘 잡아줍니다. 아무거나 물어봐도 척척 답변을 해줘 결정장애를 벗어나는 데 도움이 됩니다.

이런 때 SI 기업들은 어떤 준비를 해야 할까요? 역시 흔한 이야기이겠지만 정리해 보았습니다.

AI를 인정하고 받아들이자 간혹 아직도 AI를 외면하는 분들이 있습니다. ChatGPT 나 코파일럿을 제대로 겪어보지 못한 거죠.

하지만, AI 시대는 무시해도 옵니다. 나보다 똑똑한 사람, 나보다 잘난 사람들이 AI를 써서 앞서 나갈 거거든요. 우리나라에서 못하면 다른 나라에선 할 겁니다. 외면하고 무시할수록 점점 더 경쟁에서 멀어지게 됩니다.

코딩할 때 “혹시…?” 하는 부분까지 물어보고 써보세요. 당분간은 ChatGPT나 코파일럿을 잘 쓰는 것만으로도 경쟁력이 생길 겁니다.

참고로, 작은 회사라면 ChatGPT 엔진 자체를 만들지는 않습니다. 그건 이미 OpenAI가 했습니다. SI 기업은 AI를 이용해 고객의 문제를 풀어주는 겁니다.

프로젝트 과정을 자산화하자 분석 - 설계 - 개발 - 테스트까지의 전 과정에 AI를 이용하고, 그 프로세스를 자산화합니다. ChatGPT를 어떻게 활용할지, 검증하고 체크할 때 AI를 어떻게 활용할지 등등을 적어서 정리합니다. SQL injection, 방화벽 정보, 해킹 취약점 등도 물어봅니다.

이렇게 하나씩 프로젝트 수행 과정 전체를 “with AI”로 바꿉니다. 효율적으로 일할 수 있게끔 말이죠.

이 과정은 고객도 궁금해합니다. 나중에는 누구나 다 아는 평범한 정보가 될 수 있습니다.

하지만, 지금은 아닙니다. 발 빠르게 움직이는 게 도움이 될 겁니다.

우리 회사만의 데이터를 쌓자 기업용 AI는 ChatGPT처럼 방대한 양의 학습이 필요 없을 수 있습니다. “신한은행 챗봇”이 국방정보를 잘 알고 있을 이유는 없습니다.

AI는 학습 데이터에 따라 다른 제품이 됩니다. 그래서 특정 분야를 학습한 AI가 회사의 자산이 될 수 있습니다.

물론 고객사 데이터를 쓸 수는 없습니다. 공개된 데이터를 모읍니다. 부동산 정보랑 법률 정보 같은 겁니다. 과학계에 나온 논문 정보도 좋습니다. 이런 정보만으로도 AI 역량을 충분히 연습해 보고 드러낼 수 있습니다.

SI 기업들도 이제는 “데이터”를 욕심내야 합니다.

AI를 제품으로 패키징하자 특정분야를 학습한 AI는 독립된 상품 가치를 가집니다. 세계 최고 수준의 1등짜리는 아니더라도, 중소기업에 필요한 5등짜리는 될 수 있습니다.

기업시장은 1등 제품만 팔리는 곳이 아닙니다. 우리 회사에 맞는 제품이 팔리는 시장입니다.

패키징하고 팸플릿을 만드세요. 홈페이지에 올리고 발표를 합니다. 고객이 왜 우리 회사를 찾아와야 하는지를 충분히 알게 합니다.

도메인 전문가 “은행 시스템에 대해 이야기 해줘”

AI가 학습된 데이터를 가지고 “블라블라" 대답을 해줍니다.

그런데 내가 모르겠습니다. “코어뱅킹”이 뭔지 “지급결제”가 뭔지 잘 모르겠습니다.

아니, 알긴 알겠는데 모르겠습니다. 그러니까 “지급결제”에서 어떤 일들이 내부적으로 일어나는지 모르겠다는 뜻입니다.

이건 도메인 지식이 부족한 겁니다. IT 서비스란 기업 고객의 문제를 풀어주는 사업입니다.

AI가 쉽게 설명을 해줘도 내가 알아들을 수 없다면, AI가 아무리 좋아도 있으나 마나입니다.

그 산업만의 특수성을 모른다면 고객의 고민을 공감할 수 없습니다. 공감할 수 없다면 문제를 인식할 수도 없죠. AI와 대화할 정도로 도메인 전문성이 없다면 모든 게 진행되지 않습니다. 결정할 수 없으니까요.

도메인 전문가는 AI에 대체되는 사람이 아닙니다. AI를 다루는 사람이죠.

특정 도메인에 진입하고자 한다면, 도메인 전문가를 모으고 길러야 합니다.

마치며 장기적으로 아웃소싱 시장이 많이 바뀔 겁니다. 고객사들이 AI와 관련된 “제안요청서”를 많이 띄울 거거든요.

새로운 제품을 만들 때, 특정 업무를 자동화할 때, AI를 사용할 수밖에 없도록 아웃소싱할 겁니다. SI 시장이 엄청 커질 수도 있습니다.

혹은 반대일 수도 있습니다. 인하우스 개발로 인해 SI 시장은 작아지고 솔루션 분야가 커질 수도 있습니다.

미래는 알 수 없습니다. 다만 눈에 보이는 변화들에 발맞춰 갈 뿐이죠.

SI 기업들도 이제 능동적으로 AI의 변화를 읽고 움직일 때입니다. 돈이 될 수 있는지 이런저런 시도를 해보아야죠. 작은 기업들을 응원합니다.

※ Langchain, Ollama, BERT 등의 키워드를 검색해보세요. 많은 걸 찾을 수 있을 겁니다.