AI는 다 만들 수 있어도, 과정은 대신할 수 없다

결과물 너머에 남는 인간의 가치

본문은 요즘IT와 번역가 Yuna가 함께 나타샤 작센마이어(Natasha Sachsenmeier)의 글 〈AI Can Replace the Product. It Can’t Replace the Process〉를 번역한 글입니다.

필자는 케임브리지 대학교 트리니티 칼리지와 런던 왕립음악원을 졸업한 전직 콘서트 바이올리니스트로, 철학과 수학을 전공했는데요. 부상으로 전문 연주 활동을 이어가기 어려워진 뒤에는, Imperial College Business School에서 AI 및 머신러닝 과정을 수료해, 해당 과정에서 최고 성적을 받고 캡스톤 프로젝트인 베이지안 최적화 대회에서 우승한 이력이 있습니다.

최근 AI 도구는 개발과 디자인 등 여러 작업의 속도를 빠르게 끌어올리고 있습니다. 하지만 결과물을 더 빨리 만들 수 있게 된 만큼, 그 결과에 이르는 이해와 판단의 과정을 어떻게 지켜야 하는지도 중요해졌습니다. 이 글은 AI가 대체할 수 있는 것과 없는 것을 ‘결과물’과 ‘과정’이라는 관점에서 살펴봅니다. 라이브 공연, 스포츠, 학습, 수학, 번역, 문학, 의식의 문제까지 폭넓게 다루며, AI가 아무리 뛰어난 결과물을 만들어내더라도 인간의 경험과 이해, 창작의 과정이 왜 여전히 중요한지 보여줍니다.

필자에게 허락을 받고 번역했으며, 글에 포함된 링크는 원문에 따라 표시했습니다.

지난 6개월 동안 저는 여러 분야에서 AI가 무엇을 해냈고, 또 어디에서 한계를 보였는지 다뤄왔습니다. 각각의 글은 서로 다른 질문에서 출발했지만, 결국 같은 문제로 이어졌습니다. AI는 무엇을 대체할 수 있고, 무엇은 대체할 수 없을까요? 지금 저는 그 답이 우리가 아직 충분히 구분하지 못한 두 가지 개념에 있다고 생각합니다. 바로 결과물과 과정입니다.

인간이 하는 거의 모든 일에는 이 질문을 던져볼 수 있습니다. 그 일의 의미와 가치는 완성된 결과물에 있을까요, 아니면 그 결과물이 만들어지는 과정에 있을까요? 여기서 말하는 과정은 꽤 넓은 의미입니다. 라이브 공연이 눈앞에서 펼쳐지는 순간, 어떤 사람이 무언가를 직접 이해하는 시간, 작품에 스며든 한 사람의 삶과 경험 같은 것들입니다. 이들은 서로 다른 성격을 갖고 있지만, 공통점이 있습니다. 인위적으로 만들어내거나 똑같이 복제할 수 없다는 점입니다.

가치가 결과물에 집중된 영역에서 AI는 뛰어난 성과를 냅니다. 때로는 놀라울 정도로 잘 해내죠. 하지만 가치가 과정에 깊이 묶여 있는 영역에서는 이야기가 달라집니다. 그곳에는 쉽게 대체할 수 없는 무언가가 남아 있습니다. AI가 훌륭한 결과물을 만들 수 없어서가 아닙니다. 그 영역에서 중요한 건 처음부터 결과물만이 아니었기 때문입니다.

과정 자체가 핵심인 영역

저는 AI와 라이브 공연을 다룬 글에서 이 구분을 처음 이야기했습니다. 콘서트 녹음은 얼마든지 복제할 수 있지만, 콘서트라는 현장 자체는 복제할 수 없습니다. 관객이 반응하는 것도 음악만은 아닙니다. 무대 위에 서 있는 사람, 그 사람의 몸짓과 긴장, 눈에 보이는 노력, 그리고 다시는 똑같이 반복될 수 없는 순간에 함께하고 있다는 감각에 반응하는 것이죠. AI가 만든 미디어가 우리의 플레이리스트와 화면을 채울수록, 오히려 더 희소해지고 더 가치 있어지는 것은 음악이나 이야기 자체가 아닐지도 모릅니다. 그것을 살아 있게 만드는, 분명히 인간적인 표현 방식입니다.

스포츠도 마찬가지입니다. 어쩌면 더 그렇죠. 스포츠 경기의 짜릿함은 결과 자체에서 나오지 않습니다. 선수가 몸의 한계까지 밀어붙이는 모습, 그리고 끝까지 어떻게 될지 모른다는 긴장감에서 나옵니다. 물론 테니스 경기를 영상으로 남겨두고, 10년 뒤에 페더러(Roger Federer)의 백핸드를 다시 보며 분석할 수도 있습니다. 그 우아한 동작 자체를 하나의 아름다운 대상으로 감상할 수도 있죠. 하지만 경기가 이미 끝나고 결과까지 알고 나면, 중요한 무언가가 사라집니다.

과정이 무너질 때

스포츠와 라이브 공연은 비교적 명확한 사례입니다. 하지만 제가 여러 글을 쓰며 더 불편하게 느낀 현상도 있었습니다. 겉으로 보기에는 결과물이 그럴듯한데, 그 뒤에서 과정이 조용히 무너지는 경우입니다. 대표적인 사례가 학습입니다.

최근 연구들은 생성형 AI가 단기적으로는 에세이 품질이나 시험 성적을 높여줄 수 있지만, 장기적으로는 인지 과정에 해를 끼칠 수 있다고 말합니다. 우리가 정보를 정리하거나 논리를 구성하는 일을 AI에 맡기면, 연구자들이 말하는 ‘유의미한 인지 부하’를 건너뛰게 됩니다. 장기 기억 속에 지식 구조를 만들고, 서로 연결해 나가는 과정이 사라지는 것이죠. 우리는 더 유창해졌다고 느낄 수 있습니다. 하지만 실제로 이해를 만들어내는 장치는 빠져버린 셈입니다.

한 연구에서는 AI를 사용한 학생들이 연습 문제에서 눈에 띄게 좋은 성과를 냈습니다. 하지만 도구를 치우자, 그 이점은 완전히 사라졌습니다. 또 다른 연구에서는 AI의 도움을 받아 글을 쓴 학생들의 신경 연결성이 최대 55% 낮게 나타났고, 83%는 자신이 쓴 글에서 한 줄도 인용하지 못했습니다. 그들은 결과물은 만들어냈지만, 그 결과물을 자기 것으로 만드는 과정은 거치지 못했습니다.

이 문제는 직업 세계로 넘어가면 더 위험해집니다. 소프트웨어 개발자를 대상으로 한 무작위 실험에서 Anthropic 연구진은 새로운 프로그래밍 라이브러리를 배우는 동안 AI를 사용하면 개념 이해, 코드 읽기, 디버깅 능력이 떨어진다는 사실을 확인했습니다. 그런데 바로 이 능력들이야말로 AI 시스템을 제대로 감독하는 데 필요한 과정입니다. 결국 사람의 엄격한 검토가 가장 필요한 기술이, 정작 우리가 그 검토를 할 수 있는 능력을 약화시킬 수도 있는 셈입니다.

결과물이 중심이 되는 영역

물론 모든 영역에서 과정이 결과보다 중요한 것은 아닙니다. 과학의 많은 분야에서는 실제로 결과가 더 중요합니다. AI가 초기 유방암을 의사보다 더 정확하게 찾아낼 수 있다면, 그 과정에서 사람이 중심에 있지 않았다고 해서 성과의 의미가 줄어들지는 않습니다. 단백질 구조 예측도 마찬가지입니다. 원래라면 느리고 비용이 많이 드는 실험을 거쳐야 알 수 있었던 사실을 AI가 더 빠르게 밝혀냈다면, 알고리즘이 관여했다는 이유만으로 그 진전의 가치가 낮아지지는 않습니다. 신중하게 활용한다면, AI가 연구의 속도를 높이고 인간의 능력을 보완하는 힘은 분명 좋은 방향으로 쓰일 수 있습니다.

수학은 조금 더 애매합니다. 얼핏 보면 수학이야말로 결과가 전부인 분야처럼 보입니다. 증명됐거나, 아직 증명되지 않았거나. 둘 중 하나니까요. 하지만 1976년 아펠(Kenneth Appel)과 하켄(Wolfgang Haken)이 컴퓨터를 활용해 처음으로 중요한 정리를 증명한 ‘4색 정리’를 둘러싼 논쟁은, 이야기가 그렇게 단순하지 않다는 점을 보여줍니다. 당시 논란은 단순히 컴퓨터를 활용한 증명 방식을 믿을 수 있느냐의 문제가 아니었습니다. 더 근본적인 불만이 있었습니다. 그 증명 과정이 아름답거나 단순하지 않았고, 인간의 이해를 넓혀주지도 못했다는 점입니다. 일부 수학자들이 이를 아예 증명으로 받아들이지 않으려 했던 이유도 여기에 있었습니다.

수학적 발견은 때로 현실의 큰 변화를 이끌어왔고, 그럴 때는 결과 자체가 중심이 됩니다. 하지만 순수수학에서는 이야기가 조금 달라집니다. 우리가 감탄하는 건 단지 답이 아닙니다. 인간의 사고가 문제의 깊이에 어울리는 길을 찾아냈다는 점, 그리고 그 길이 우아하고 선명하며 납득 가능하다는 점에 감탄하는 것이죠. 저는 10대 시절 리만 가설을 접하고 큰 자극을 받았던 기억이 있습니다. 리만 가설은 지금도 아직 증명되지 않았습니다. AI가 이를 증명한다면 엄청난 사건이 되겠죠. 하지만 동시에 어느 정도는 아쉬운 일로 느껴질지도 모릅니다.

결과물이라는 착각

예술은 얼핏 보면 결과물만 남는 영역처럼 보입니다. 소설은 복사해서 계속 읽을 수 있고, 교향곡은 녹음하거나 다시 연주할 수 있습니다. 그림도 오래 보존해 여러 세대가 감상할 수 있죠. 그래서 우리는 작품이 어떻게 만들어졌는지 몰라도, 완성된 작품만으로 충분히 감동받을 수 있다고 생각해 왔습니다.

하지만 AI가 등장하면서 이 생각이 흔들리기 시작했습니다. 우리가 반응한 건 작품이라는 결과물만이 아니었습니다. 그 작품 안에 담긴 인간의 고민, 선택, 경험에도 함께 반응하고 있었던 것이죠. 다만 그동안은 그 사실을 뚜렷하게 의식하지 못했을 뿐입니다.

번역은 이 차이를 보여주는 좋은 사례입니다. 겉으로 보면 번역은 결과물 중심의 작업처럼 보입니다. 원문의 의미를 정확하게 옮기면 되는 일처럼 보이니까요. 하지만 AI가 번역에서 겪는 어려움은 번역이 그렇게 단순하지 않다는 점을 다시 보여줬습니다. 특히 좋은 문학 번역은 원문을 옮기는 작업을 넘어, 새로운 언어 안에서 작품을 다시 살리는 창작에 가깝습니다.

에드워드 피츠제럴드(Edward FitzGerald)가 번역한 ‘오마르 하이얌의 루바이야트(The Rubáiyát of Omar Khayyam)’가 대표적입니다. 그의 번역은 원문에 아주 충실한 편은 아니었습니다. 가장 인상적인 구절 중 일부는 거의 피츠제럴드가 새로 쓴 것에 가까웠습니다. 그런데도 이 번역은 큰 성공을 거뒀습니다. 이전까지 영어권에서 잘 알려지지 않았던 페르시아 작품을, 영어 문학의 고전으로 끌어올렸기 때문입니다.

반면, 현재 AI 번역은 주로 정확성과 기존 인간 번역과의 유사성을 기준으로 평가됩니다. 이 기준은 기술 문서에는 잘 맞습니다. 기술 문서는 의미를 정확하고 일관되게 옮기는 것이 중요하니까요. 하지만 문학 번역은 다릅니다. 문학 번역은 단어를 맞추는 일이 아니라, 원작이 독자에게 준 느낌과 힘을 다른 언어에서 다시 만들어내는 일입니다. 그래서 문학 번역에서는 정확성만으로는 충분하지 않습니다. 문장을 고르고, 흐름을 만들고, 작품의 분위기를 다시 세우는 번역가의 과정이 함께 필요합니다.

과정이 흔적으로 남을 때

교향곡도 언뜻 보면 만들어서 남길 수 있는 결과물처럼 보입니다. 악보라는 형태가 있고, 연주를 통해 들을 수 있으며, 이후에도 계속 레퍼토리로 남을 수 있으니까요. 하지만 제가 첫 번째 글에서 설명했듯, AI가 위대한 교향곡을 쓰기는 어려울지도 모릅니다. 교향곡은 단순히 기존 패턴을 흉내 내는 일이 아닙니다. 역사, 새로운 시도, 구조, 그리고 한 예술가만의 목소리가 함께 엮인 거대한 서사에 가깝습니다.

쇼스타코비치(Dmitri Shostakovich)의 5번 교향곡을 예로 들어보겠습니다. 이 작품은 스탈린의 대숙청 시기, 억압적인 권력에 맞선 저항을 화성, 선율, 리듬, 관현악만으로 표현한 작품입니다. 위대한 작곡가들의 고유한 스타일도 비슷합니다. 그 스타일은 단지 음악적 기법에서 나온 것이 아니라, 각자가 살아온 삶과 창작 과정에서 만들어졌습니다.

현재 AI는 듣기 좋은 모방을 어느 정도 만들어낼 수 있습니다. 하지만 학습 데이터 전체의 오차를 줄이는 방식으로 최적화된 모델은 개별 작곡가의 스타일을 하나의 평균적인 조합으로 흐리게 만들기 쉽습니다. 그래서 지금으로서는 일관된 독창적 목소리를 만들어내기 어렵습니다.

쇼스타코비치 5번 교향곡의 피날레는 작곡가가 소련 관영 매체의 비판을 받고, 자신의 커리어를 지키기 위해 버티던 시기에 쓰였습니다. 아름답고 긴장감이 있으며, 비극적이고, 저항의 아이러니로 가득한 작품입니다.

문학도 비슷합니다. AI는 이야기를 만들 수 있고, 문학적인 문체의 표면도 흉내 낼 수 있습니다. 하지만 오래 남는 소설은 대개 아주 개인적이고, 독창적이며, 지금 쓰지 않으면 안 될 것 같은 절박함을 품고 있습니다. 이 작가가, 이 삶을 살아왔기 때문에 나올 수 있었던 문장처럼 느껴지는 것이죠.

여기서 말하려는 건 위대한 소설이 곧 작가의 자전적 이야기라는 뜻은 아닙니다. 중요한 건 그 작품이 실제로 살아내고, 겪고, 관찰하고, 붙잡고 씨름한 경험에서 나온다는 점입니다. AI에게는 자기만의 이야기가 없습니다. 훗날까지 남기고 싶어 글을 쓰게 만드는 두려움이나 갈망도 없습니다. 결과물은 그럴듯할 수 있습니다. 하지만 우리를 움직이게 만드는 과정은 빠져 있습니다.

심지어 과정이 중요하지 않아 보이는 물건에서도, 손으로 만든 것에는 종종 더 높은 가치가 매겨집니다. 산업적으로 만든 제품보다 성능이 뛰어나서가 아닙니다. 만든 사람의 흔적이 물건 안에 남아 있기 때문입니다. 과정은 흔적을 남깁니다. 그리고 우리는 생각보다 그 흔적을 쉽게 포기하지 못합니다.

이해는 결과물일까, 과정일까?

마지막으로, 결과물과 과정의 구분은 예술, 과학, 스포츠를 넘어 더 근본적인 질문으로 이어집니다. AI는 과연 이해하고 있는 걸까요? 대규모 언어 모델이 유창한 답을 내놓거나 철학적 논증을 분석할 때, 그 결과물은 사람이 이해해서 쓴 답과 거의 구분되지 않을 수 있습니다. 그렇다면 남는 질문은 하나입니다. 그 답변 뒤에 정말 ‘이해하는 과정’이 있는가.

제가 쓴 「LLM은 정말 이해하고 있을까?」에 대한 반응은 이 긴장을 잘 보여줬습니다. 그 글은 비트겐슈타인(Wittgenstein)의 관점에서 이 문제를 살펴본 글이었습니다. 이 관점에서는 의미가 머릿속의 어떤 작용에서 나오는 것이 아니라, 사람들이 함께 쓰는 언어 안에서 얼마나 제대로 사용되는지에 달려 있습니다. 이런 기준으로 보면 LLM은 점점 ‘이해한다’고 말할 수 있는 조건에 가까워지고 있습니다. 철학에 관심 있는 독자들은 이 논지를 흥미롭게 받아들였습니다. 하지만 다른 독자들은 제목만 보고도 곧바로 강하게 반발했습니다.

그 반응 자체가 많은 것을 보여줍니다. LLM이 아무리 그럴듯하고 뛰어난 답변을 만들어도, 사람들은 여전히 그 안쪽의 과정을 중요하게 봅니다. 말 뒤에 실제 의식이 있는지, 주관적인 경험이 있는지, 스스로 생각하는 내면이 있는지를 묻는 것이죠. 그런 과정 없이 만들어진 답변은 아무리 유창해 보여도, 어딘가 중요한 것이 빠져 있는 것처럼 느껴집니다.

물론 이 논쟁은 아직 끝나지 않았습니다. 마음을 연구하는 과학자들과 철학자들은 대체로 오늘날의 AI 모델이 아직 의식에 이르지는 못했다고 봅니다. 동시에 미래의 AI가 의식에 필요한 조건을 절대 충족할 수 없다고 단정할 이유도 없다고 봅니다. 4색 정리의 증명 사례처럼, 우리는 그 가능성을 곧바로 받아들일 준비가 되어 있지 않은지도 모릅니다.

다만 그 가능성이 현실이 된다면, 파장은 매우 클 것입니다. 이해할 수 있고 의식적인 내면세계를 가진 AI라면, 언젠가는 살아 있는 경험을 갖게 될지도 모릅니다. 그리고 그 경험과 함께, 이 글에서 지금까지 인간만의 것으로 다뤄온 의미 있는 과정도 갖게 될 수 있습니다.

마치며

결과물과 과정이라는 구분은 AI 시대를 이해하는 데 꽤 유용한 기준이 됩니다. 물론 이 구분에도 한계는 있습니다. 인간이 하는 일을 결과물과 과정 중 하나로 깔끔하게 나눌 수는 없기 때문입니다. 대부분의 영역에는 두 요소가 함께 섞여 있고, 어느 쪽이 더 중요한지도 상황에 따라 달라질 수 있습니다. 그럼에도 어떤 영역에서 의미가 주로 어디에 놓여 있는지를 보는 일은 중요합니다. 그래야 기계가 할 수 있는 일과, 아직 할 수 없는 일을 조금 더 정확히 판단할 수 있습니다.

AI는 이 구분을 더 선명하게 드러냈습니다. 어떤 일에서는 성공하고, 어떤 일에서는 한계를 보이면서 말이죠. 우리는 그동안 가치가 결과물에만 있다고 생각해 왔지만, 사실 많은 경우 그 가치는 처음부터 인간의 과정에서 비롯되고 있었습니다.

정답을 내는 것과 이해하는 것은 다릅니다. 증명을 완성하는 것과 깨달음을 주는 것도 다릅니다. 여러 영역에서 AI는 우리가 아직 무엇을 놓치고 있는지 계속 묻게 만들었습니다. 언젠가는 기계도 이해하고, 느끼고, 살아갈 수 있을지 모릅니다. 하지만 그때가 오기 전까지, 우리의 작업을 의미 있게 만드는 과정은 여전히 인간의 몫입니다.

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.