내가 AI 업계를 떠난 이유 5가지

저(필자 알베르토 로메로)는 AI 관련 회사에서 3년 동안 일했습니다. 그리고 저는 이제 이 업계를 완전히 떠나기로 결정했습니다.

본문은 위시켓과 번역가 전리오가 함께 만든 해외 콘텐츠 기반의 번역문으로, 데이터사이언스를 다루는 매체 ‘토워즈데이터 사이언스’의 글을 번역했습니다. 필자 알베르토 로메로(Alberto Romero)는 엔지니어이자 신경과학자로 미래기술을 다루는 칼럼을 연재하고 있습니다. 본문은 AI의 현황과 전망을 다루고 있어 읽을만한 가치가 있습니다.

3년 전, 인공지능(AI)이라는 단어는 저에게 강렬한 감각을 불러 일으켰습니다. 그 세계로 들어가는 것은 마치 미래의 신비로운 비밀 속으로 한 걸음 들어가는 것처럼 느껴졌습니다. 인공지능은 우리 인류에게 있어서 숙명과도 같은 과제를 해결해줄 수 있을 것처럼 말하고 있었고, 저는 정신이 혼미해질 정도였습니다. 저는 과학기술이 선사하는 놀라운 경이로움의 세계로 깊숙이 빠져들고 있었던 것입니다.

저는 항공우주공학 전공으로 학사 학위 과정을 마쳤고, 졸업하자마자 곧바로 AI 분야에 도전해보고 싶었습니다. 제가 위대한 제프리 힌튼(Geoffrey Hinton)과 앤드류 응(Andrew Ng)을 만났던 것은 2017년 말이었습니다. 코세라(Coursera)를 통해서 그들의 강의를 들은 덕분에, 저는 2018년에 AI 관련 스타트업에서 저의 첫 사회생활을 시작할 수 있었습니다.

AI는 많은 것을 약속했습니다. 로봇에 관한 수많은 영화들이 세계를 장악하고 있었고, 그런 기계들은 우리를 마치 신처럼 느끼게 만들어 주고 있었습니다. 그러나 저는 그런 부분에 이끌렸던 것이 아닙니다. 어쩌면 제가 너무 순진했던 것일 수도 있습니다. 저는 그러한 화려한 모습의 이면에, AI의 진정한 가치가 숨겨져 있을 것이라고 생각했습니다.

이후 저는 AI 분야에서 3년을 일했지만, 결국 저의 애정은 식어버리고 말았습니다. 그리고 저는 당분간은 이 분야에 돌아오지 않을 것 같습니다. 제가 이 업계를 떠난 이유는 다섯 가지입니다.

AI는 기대에 부응하지 못할 수도 있다

“AI 분야에서 지난 몇 년 동안은 혹독한 겨울이었다고 할 수 있습니다. 왜냐하면 사람들이 AI로는 절대로 이뤄낼 수 없는 것들을 가능하다고 주장했기 때문입니다.”

 

얀 르케어(Yann LeCun)[1], 페이스북 AI 부문 수석과학자

AI가 세상을 구할 수 있을까요? AI가 가장 시급한 문제들을 해결할 수 있을까요? AI가 지금처럼 각광을 받기 훨씬 이전부터, 일부에서는 AI가 우리 인류의 삶을 급진적으로 바꿔줄 것이라고 생각했습니다. 1984년 컴퓨터 과학자인 프레드릭 헤이즈-로스(Frederick Hayes-Roth)는 “AI가 법률, 의료, 금융 등을 비롯한 여러 분야의 전문가들을 대체할 것”이라고 예측했습니다.

하지만 그렇지 않았습니다. 지금까지 과정을 살펴보면, AI는 수많은 어려운 시기를 거쳐 왔습니다. 그런 힘든 시기를 AI의 겨울(AI winter)이라고 부릅니다. AI가 사람들의 기대를 충족시켜주지 못하면서 거대한 불신을 일으키게 되고, 결국엔 관련 분야에 대한 투자가 줄줄이 빠져나가는 걸 일컫는 말입니다.

2012년부터 딥 러닝(DL) 분야에서 혁명이 시작된 이후, 이에 대한 관심이 어마어마하게 커졌습니다. 어떤 사람들은 아직도 AI가 우리의 미래를 바꿀 것이라고 생각합니다. 그러나 의문점은 여전히 남아 있습니다. AI가 과연 언젠가는 우리의 기대에 부응하는 날이 올까요? 이와 관련해서 뉴욕대학교의 AI 연구자인 게리 마커스(Gary Marcus)는 2020년에 이런 말을 했습니다. “이미 2010년대 말부터, 현재의 기술에는 한계가 있다는 사실이 점점 더 널리 퍼지고 있었습니다.” 그리고 AI의 대부라고 불리는 제프리 힌튼은 이렇게 말했습니다.

“모든 것을 내던지고 처음부터 다시 시작해야 한다는 게 저의 생각입니다.”

저는 인공지능 기계와 범용 인공지능(AGI)[2]이 이제 곧 멋진 미래를 만들어줄 것이라는 말에 감동 받아서 AI 업계에 들어왔습니다. 그러나 그런 일은 당분간은 일어나지 않을 것입니다.

현실과는 전혀 맞지 않는 희망사항을 붙들고 있어봐야 불만과 좌절만 커질 뿐입니다. 저는 그러고 싶지 않았습니다.

AI는 마법이 아니었다

일반적인 사람들과 AI에 대해서 이야기를 나눠보면, 그들은 대부분 <터미네이터>, <매트릭스>, <아이, 로봇>, <2001 스페이스 오디세이>와 같은 영화를 떠올리는 경우가 많습니다. 이들 영화에서는 모두 AI가 놀라운 능력과 힘을 가지고 있는 상황을 그리고 있습니다.

인공지능(artificial intelligence)이라는 용어는 존 매카시(John McCarthy)가 만들었지만, 사실 그는 이 표현을 그다지 좋아하진 않았습니다. 그는 이 용어가 대중들의 관심을 끌기 위한 마케팅 수단이라는 것을 알고 있었습니다. 데빈 콜데웨이(Devin Coldeway)는 테크크런치(TechCrunch)에 기고한 글에서 이렇게 쓰고 있습니다. “AI는 그것이 완벽하다는 인식을 심어주기 위해서 사용되는 마케팅 용어이다. 왜냐하면 대부분의 사람들은 인공지능이 완벽하지 않다는 것을 감히 상상할 수 없기 때문이다.” 이제 AI는 주류가 되었으며, 많은 기업들이 그 화려한 명성의 뒤에 숨어서 그 지위를 악용하고 있습니다.

원래, AI는 컴퓨터로 만든 시스템을 통해서 인간 지능의 비밀을 풀기 위한 목표로 시작한 것이었지만, 이제는 모든 기업들이 자신들의 제품과 서비스에서 모두 AI를 활용하고 있다고 선전하고 있습니다. 과거에 AI가 추구했던 숭고한 목표는 이제 더 이상 찾아볼 수 없습니다.

얼마 전까지만 해도 AI는 인간을 닮은 로봇을 뜻하는 것이었습니다. 즉, 놀라운 능력을 발휘할 수 있는 기계를 말하는 것이었습니다. 인간의 감정과 창의성을 흉내 낼 수 있는 것이었습니다. 그러나 지금은 그저 데이터에 불과할 따름입니다. AI 분야에 종사하는 사람들이 하는 일이라는 것은 그저 데이터를 수집하고, 데이터를 정리하고, 데이터에 라벨을 붙이고, 데이터를 분리하고, 데이터로 학습을 시키고, 데이터로 평가를 하는 것입니다. 오직 데이터만 있습니다. 그렇게 해서 만든 시스템이 말하는 것은 고작 이런 대답입니다. “이것은 고양이입니다.”

수많은 기업들이 모두 맹목적으로 AI를 사용하고 있는 이유는, 그 자체에 마케팅 파워가 있기 때문입니다. 모두가 AI라는 이름에 편승하고 싶어하기 때문입니다. 저는 AI가 약속하는 마법의 세계를 좋아했지만, 제가 가까이에서 직접 목격한 것은 그것의 허상이었습니다.

심지어 현재 이 분야의 목표는 범용 AI를 만드는 것도 아닙니다. 우리가 만들어낸 것은 특정한 작업만을 기막힐 정도로 잘 해낼 줄 아는 멍청한 소프트웨어일 뿐입니다. 부디 AI가 가졌던 원래의 숭고한 목표를 되살리기를 바랍니다. 그래서 저처럼 마법을 찾아 왔지만 결국엔 그것이 데이터에 불과하다는 사실을 알고 실망하는 사람이 없었으면 좋겠습니다.

이미 누구나 AI를 사용하고 있다

물론 어느 정도는 과장된 표현입니다. AI는 현재 모든 분야에 퍼져 있지만, 그 사실을 아는 사람보다는 AI가 뭔지조차 모르는 사람들이 더 많기 때문입니다. 그리고 저는 이런 현실이 놀랍습니다. 적어도 컴퓨터 기술 분야만 들여다 본다면, AI는 이미 모든 곳에 존재하고 있습니다.

얼마 전까지만 해도, AI는 수많은 분야를 아우르는 일반적이면서도 광범위한 용어였습니다. 그 중의 하나가 바로 머신러닝(ML)인데, 머신러닝은 또 다시 딥러닝(DL)과 같은 세부적인 수많은 분야로 나뉘어집니다. 그렇기는 하지만, 현재로서는 인공지능(AI)과 머신러닝(ML)과 딥러닝(DL)이 모두 같은 말이라고 해도 크게 무리는 없습니다.

지금은 딥러닝이 기술 업계와 컴퓨터 과학계를 장악하고 있습니다. 왜 그럴까요? 이유를 명확히 알 수는 없지만, 어쨌든 효과는 뛰어나기 때문입니다. 신경회로망(neutral net)[3]은 현재 제 역할을 상당히 잘 하고 있습니다. 딥러닝이 이처럼 성능이 좋기 때문에, 모든 이들이 각자 한 몫을 챙기기 위해서 이 분야에 뛰어들고 있습니다.

“이처럼 신경회로망이 작동하기 시작하면서, 산업계와 각국 정부에서는 이제 신경회로망을 AI라고 부르고 있습니다. 그리고 평생 동안 신경회로망을 비웃으면서 이와 관련해서는 아무 일도 하지 않겠다고 말했던 사람들이 지금은 그것을 AI라고 칭송하면서 그걸로 돈을 벌려고 애쓰고 있습니다.”

 

- 제프리 힌튼

AI가 널리 알려지면서 소프트웨어 관련 학과를 졸업한 대학생들은 모두가 차세대 앤드류 응이 되겠다며 꿈을 키우고 있습니다. 그리고 현재는 강력한 DL 엔진을 클라우드 기반으로 실행할 수 있게 되었고, 이를 통해서 학습하는 거대한 데이터베이스를 활용할 수 있게 되었으며, 덕분에 많은 사람들이 빠르고 쉽게 원하는 결과를 만들어내고 있습니다.

AI는 이제 거의 누구라도 이용할 수 있습니다. 텐서플로(Tensorflow)나 케라스(Keras)를 이용하면 한 달 이내에 뭔가 동작하는 모델을 만들 수 있습니다. 컴퓨터 과학이나 프로그래밍에 대한 지식이 전혀 없더라도 가능합니다. 그런데 저는 이런 질문을 하고 싶습니다. 과연 이게 여러분이 원하는 것인가요? 뭔가 새로운 것을 찾고자 하는 갈망을 충족시켜주고 있나요? 이게 흥미로운가요? 그게 동작한다고 해서, 여러분 스스로 뭔가 실제로 배우는 게 있나요?

제가 보기에 AI는 이미 그 자체로 끝난 것 같습니다. 보이는 모습 그 이상의 뭔가를 달성하기 위해서 AI를 사용하는 사람들은 거의 없습니다. 사람들은 그 이면에서 무슨 일이 일어나고 있는지를 알지도 못한 채 그저 그것을 이용하고 있을 뿐입니다. 저로서는 이런 상황이 전혀 만족스럽지 않습니다.

우리는 범용 인공지능을 결코 만들어낼 수 없을지도 모른다

범용 인공지능(AGI)에 대해서는 이미 앞에서도 언급했습니다. 범용 인공지능은 지난 수십 년 동안 AI 분야를 이끌어 왔던 주인공이었습니다. 만약 우리가 AGI를 만든다면, 세상은 상상할 수 없는 방식으로 바뀔 것입니다. ‘만약’에 그럴 수 있다면 말입니다.

그렇다면 인간 수준의 인공지능을 만들 수 있는 가능성이 현재로선 얼마나 될까요? 누군가는 수십 년 안에 가능할 것이라고 주장합니다. 우리가 죽기 전에 AGI를 볼 수 있을 것이라고 말하는 사람들도 상당히 많습니다. 그렇지만 회의적인 사람들도 있습니다. 휴버트 드레이퍼스(Hubert Dreyfus)가 대표적인 비판론자인데, 그는 “몸통도 없고, 어린 시절도 없고, 문화적인 관습도 전혀 모르는 컴퓨터는 절대로 지능을 습득할 수 없다”고 말합니다.

현재로선 AI 분야에서의 연구가 AGI를 향해서 나아가고 있는 것 같지도 않습니다. 2018년에 AI 분야의 노벨상이라고 불리는 튜링상(Turing Award)을 수상한 얀 르케어, 제프리 힌튼, 요슈아 벤지오(Yoshua Bengio)는 AI 시스템을 우리의 상식에 접목시켜야 한다고 말하지만, 현재의 상황은 전혀 그렇지 않습니다. 그들은 기계가 라벨을 통해서 배우는 것이 아니라, 마치 아이들이 하는 것처럼 자기주도 학습을 통해서 배워야 한다고 말합니다.

이것이 첫걸음이 될 수 있습니다. 그러나 AGI에 대해서 본격적으로 실험하고 구축하려 한다 해도, 우리는 아직도 사람의 두뇌에 대해서 충분히 이해하지 못하고 있습니다. 누군가는 우리가 굳이 인간의 지능과 동일한 의식을 가진 기계를 만들 필요가 없다고 말합니다. 하지만 우리가 정말로 세상에 대한 인간의 주관적인 경험과 인간의 지능을 따로 분리할 수 있을까요? 그 정확한 대답은 아마 결코 알아낼 수 없을 지도 모릅니다.

공상과학 영화에서는 언제나 지능이 아주 뛰어난 기계가 등장합니다. 그러나 프레드릭 브라운(Fredric Brown)은 만약 우리가 인간이 이해할 수 있는 수준을 넘어서는 무언가를 만들었을 때 어떤 일이 발생할 수 있는지에 대해서 섬뜩한 이야기를 들려주고 있습니다.

우리들 인간은 스스로가 이해하지 못하는 것을 두려워합니다. 그리고 AGI는 그 정의에 따르면, 우리가 이해하지 못하는 시스템입니다. 그렇다고 벌써부터 흥분할 필요 없습니다. 외부에서 봤을 때 AGI가 조만간 실현될 것처럼 보인다고 하더라도, 적어도 당분간은 그런 일은 일어나지 않을 것이기 때문입니다. 그리고 저는 현재의 상황을 보자면, 그 가능성에 전혀 가까이 가지도 못했다는 것을 알고 있습니다. 그래서 AI에 대한 저의 관심이 급격히 줄어든 것입니다. 만약 AGI가 어느 정도 실현될 가능성이 보인다면, 저도 다시 AI 분야에 돌아올 지도 모르겠습니다. ‘만약’에 그렇게 된다면 말입니다.

AI의 미래는 결국 인간의 두뇌와 연관된 것이다

AI는 인간의 두뇌에 대한 신비를 풀기 위한 노력의 일환으로 1950년대에 처음 정식으로 등장했습니다. 사람의 두뇌가 수많은 뉴런(neuron)들이 마치 전선들이 얽혀서 온갖 종류의 신호를 내보내고 있다는 사실이 밝혀지면서, 전기적인 두뇌를 만든다는 아이디어도 자연스럽게 나오게 된 것입니다.

그러나 요즘에는 인간의 두뇌에 대한 부분은 잊어버린 것처럼 보입니다. DL은 두뇌와는 전혀 다르게 작동합니다. 컴퓨터의 시각화 신경회로망은 사람의 시각 체계처럼 작동하지 않습니다. 사람은 타고난 생물학적인 특성으로 인해서 데이터가 많지 않아도 학습할 수 있지만, 현재 AI 분야를 지배하고 있는 지도 학습(supervised learning)[4]모델에서는 라벨이 붙은 많은 양의 데이터가 필요합니다. 아무리 단순한 대상이라 하더라도 컴퓨터가 그것을 인식하려면 어마어마한 양의 데이터와 엄청난 연산 능력이 필요합니다. 반면에 아이들은 어떤 동물을 보고 그것이 강아지라는 걸 한 번만 배우고 나면, 이제는 그와 비슷한 동물이 강아지라는 걸 알 수 있습니다.

물론 AI와 인간 두뇌 사이의 간극을 메우기 위한 시도도 있었습니다. 대표적인 것이 바로 뉴로모픽 컴퓨팅(neuromorphic computing)[5]입니다. 뉴로모픽 컴퓨팅의 핵심적인 아이디어는 인간의 두뇌 구조를 본뜬 하드웨어를 만든다는 것입니다. 그러나 인간의 생물학적인 신경망과 인공적인 신경회로 사이에는 커다란 차이가 있습니다. 인간 두뇌의 뉴런은 신호의 타이밍과 진동수(주파수)로 정보를 전달하지만, 그 신호의 세기(전압)는 일정합니다. 인공적인 뉴런은 정반대입니다. 인공 뉴런은 타이밍이나 진동수가 아니라, 입력된 신호의 세기에 의해서만 정보를 전달합니다.

인간의 두뇌와 인공지능 사이에는 이처럼 기본적인 차이점이 있기 때문에, 이를 바탕으로 만든 AI 기술의 차원이 높아질수록 그 차이는 더욱 커지는 것입니다. 뉴로모픽 컴퓨팅 분야에서는 현재 이러한 문제를 극복하기 위해서 노력하고 있습니다.

일부에서는, AI가 조만간 한계에 다다를 것이라고 말하는 사람들도 있습니다. 만약 우리가 정말로 실제 인간과 같은 지능을 향해서 계속 나아가고 싶다면, 이러한 모든 노력의 과정에서 우리를 안내해줄 수 있을 만큼 충분히 지적인 체계에 대해서 다시 생각해봐야 할 것입니다. 바로 우리의 두뇌에 대해서 말입니다.

저에게 있어서 AI의 세계는 인간의 마음으로 다가 가기 위한 하나의 다리였습니다. 저는 AI가 인간의 두뇌에 대해서, 우리의 사고 프로세스에 대해서, 우리의 지능에 대해서 많은 것을 가르쳐 줄 것이라고 생각했습니다. 그러나 저는 AI가 이미 오래 전에 신경과학 분야와 결별했으며, 다시 되돌아갈 생각도 하지 않는다는 사실을 발견했습니다.

DL은 AI의 미래가 아닙니다. 만약 AI 분야가 미래에 대한 약속을 다시 실현하고자 한다면, 저 역시도 기꺼이 제가 가진 AI와 신경과학에 대한 모든 지식을 동원해서 그 미래를 향해 한 발 더 다가갈 수 있게 도와줄 것입니다. 그러지 않는다면, 저는 “여전히 계속 멍청할” 것으로 보이는 기계를 만들기 보다는, 사람의 마음을 이해하기 위해서 좀 더 연구를 하고 싶습니다.

“저는 인공지능을 제대로 작동시킬 수 있는 유일한 방법은 사람의 두뇌와 비슷한 방식으로 연산을 하게 만드는 것이라고 언제나 굳게 믿어 왔습니다. 제가 추구해 온 목표도 바로 그것입니다. 조금씩 진전을 보이고 있기는 하지만, 그래도 여전히 우리 인간의 두뇌가 작동하는 방식에 대해서는 여전히 모르는 것 투성이입니다.”

 

제프리 힌튼

결론

AI 업계에서 계속 머물러 있으면 좋은 이유들은 상당히 많습니다. 그리고 지금 당장 입문해야 하는 이유들도 많이 있습니다. 그러나 그런 이유는 여러분 스스로의 마음을 움직이게 만든 것이어야 합니다.

AI 세계에서는 보이는 것이 전부가 아닙니다. 그들이 선전하는 것처럼 화려하지도 않습니다. 공상과학 영화에 나오는 인간을 닮은 로봇처럼 세상이 급격하게 바뀌는 일도 없을 것입니다. 우리들 대부분의 삶은 여전히 그대로일 것입니다. AI는 더 이상 새롭지도 않고, 독창적이지도 않으며, 아주 특별한 것도 아닙니다. 그리고 조만간 사람과 같은 수준의 기계가 등장할 것이라고 생각해서도 안 됩니다.

마지막으로, 자연의 원리에 대한 비밀을 밝혀 내고, 인간의 지성이라는 신성한 성배를 손에 넣고자 한다면, 인간의 지성과 동등한 수준에 놓여 있는 현존하는 유일한 체계에 대해서 다시 한 번 생각해 봐야 합니다. 바로 우리 인간의 두뇌에 대해서 말입니다.

[1] 프랑스 사람이어서, 프랑스어 발음으로 표기했습니다.

[2] 인간이 할 수 있는 모든 지적인 업무를 수행할 수 있다고 하는 가상의 인공지능

[3] 인간의 뇌 신경계를 모델로 만든 컴퓨터의 정보처리 시스템

[4] 주어진 데이터를 이용해서 입력값에 해당하는 출력값을 찾는 머신러닝(ML) 분야의 기법

[5] 컴퓨터의 회로를 이용해서 인간의 신경생물학적인 구조를 모방하는 기법