AI에 어디까지 권한을 줘야 할까: 넷플릭스 <카산드라> 리뷰

“고풍스러운 스마트홈으로 이사 온 가족. 가상 비서가 이 집을 관리하고 있다는 사실을 알게 된다. 그런데 이 비서는 가족을 집에 붙잡아 두기 위해 수단과 방법을 가리지 않는다.”

최근 넷플릭스에 흥미로운 콘텐츠 시리즈가 나왔습니다. 바로 <카산드라>라는 작품인데요, 이 시리즈는 한 가족이 1970년대에 지어진 저택으로 이사 오면서 벌어지는 일을 다루고 있습니다.

평범해 보이는 이 집에는 독특한 특징 하나가 있었는데요, 바로 집 안 벽 곳곳에 TV 화면 같은 장치가 설치되어 있다는 것이었습니다. 호기심 많은 아들이 아빠에게 이에 대해 묻자, 아빠는 “지금은 작동하지 않지만, 이 집은 과거에 최초의 스마트홈이었다고 하더라.”라며 부동산에서 들었던 내용을 전해 줍니다. 이에 지하실로 간 아들은 모니터가 달린 낡은 로봇을 발견하게 되죠. 호기심이 생긴 아들은 직접 로봇을 뜯어 고쳐보기로 합니다. 솜씨가 꽤 괜찮았던 모양인지 로봇은 다시 작동하기 시작합니다. 그러자 사람을 닮은 AI 아바타의 얼굴이 로봇뿐만 아니라 집 안 벽에 설치된 TV 화면에도 동시에 나타납니다.

이 로봇의 이름은 ‘카산드라’. 처음에는 놀라고 어색해했던 가족들도 점차 카산드라의 존재에 익숙해졌고, 집안일부터 요리, 아이와 놀아주는 일까지 AI 비서로서 역할을 제대로 하는 카산드라를 믿고 의지하게 됩니다.

넷플릭스 <카산드라>를 보며 문득 흥미로운 점을 발견했습니다. 불과 5년 전만 해도 로봇이 사람처럼 생각하고 행동하는 것은 공상과학 영화에서나 나오는 설정이었지만, 이번 작품에서는 그 설정이 제게 꽤 사실적으로 느껴졌다는 것이죠. 물론 카산드라가 1970년대에 만들어진 시스템이라는 설정만 제외한다면 말입니다. 가까운 미래에는 어쩌면 이러한 모습이 당연해질 거라는 생각에 미치자 몇 가지 고민해 볼 점이 떠올랐습니다.

그렇게 이번 글에서는 드라마 <카산드라>를 통해 앞으로 다가올 ‘1가구 1로봇’의 시대를 세 가지 관점으로 상상해 보려고 합니다.

이후 내용부터는 스포일러가 포함되어 있습니다.

(스포일러를 원치 않으시는 분들께서는 ‘뒤로 가기’를 눌러 주세요)

인터랙션: AI와 어떻게 소통할 것인가

카산드라가 살고 있는 집에서는 어디를 가도 아바타가 보이지 않는 곳이 없습니다. 거실과 부엌은 물론이고 침실과 아이들 방, 심지어 실내 수영장까지 집 안 벽 곳곳에 달린 모니터에 카산드라의 얼굴이 나타납니다. 덕분에 가족들은 집 어디서든 카산드라와 쉽게 소통할 수 있고, 필요한 것이 있으면 즉시 요청할 수도 있습니다.

때로는 말하지 않아도 카산드라가 상황에 맞추어 필요한 것을 알아서 챙겨주기도 합니다. 예를 들어 집에서 수영을 하고 있다면, 수영이 끝날 때쯤 알아서 수건을 들고 나타나는 식이죠. 이런 모습을 보면 사는데 이보다 더 편리할 수 없다는 생각이 들기도 합니다.

하지만 한편으로는 집 안에서 카산드라에게 무엇도 숨길 수 없다는 의미이기도 합니다. 극 중 아들 ‘핀’은 자신의 성적 지향을 가족들에게 드러내지 않지만, 카산드라는 핀이 방에서 그의 남자친구와 있는 모습을 보고 이를 눈치챕니다. 핀의 여동생 ‘주노’ 역시 학교와 가족 문제로 인해 힘든 마음을 방에서 혼자 삭이는데 이 모습 역시 카산드라가 모두 지켜봅니다. 카산드라는 주노에게 위로를 건네며 엄마보다도 더 의지할 수 있는 존재가 되어갑니다.

어딘가 이상한 점을 눈치채셨나요?

우리가 알고 있는 보통의 AI 에이전트와는 달리 카산드라와의 인터랙션에는 ‘호출’ 과정이 생략되어 있습니다. 구글 어시스턴트는 ‘헤이 구글’, 삼성 빅스비는 ‘하이 빅스비’, 애플 어시스턴트는 ‘시리야’라고 불러야만 인터랙션이 시작됩니다. 이처럼 지금까지 우리가 써온 음성 에이전트는 호출어가 필요했습니다. 채팅 방식으로 작동하는 챗GPT나 제미나이(Gemini) 역시 사용자가 먼저 말을 걸어야 대답하죠.

호출 과정이 반드시 필요한 이유는 AI가 언제나 모든 말을 인식하고 처리하려면 많은 리소스를 소모해야 하기 때문입니다. 또, 사람이 꼭 필요한 입력만을 전달함으로써 AI 작동의 정확성을 높일 수 있는 것이죠.

반면 카산드라는 호출 과정 없이 언제든지 소통합니다. 덕분에 모든 상황을 보고 들을 수 있을 뿐 아니라 부르지 않아도 먼저 말을 걸 수 있습니다. 이는 마치 핀과 주노처럼 숨기고 싶은 것까지도 AI와 공유해야 한다는 의미이며, 동시에 이전에는 경험하지 못했던 편리함을 느낄 수 있게 해주는 전제로 양날의 검인 셈입니다.

어쩌면 우리는 카산드라 같은 AI 비서를 꿈꿔왔는지도 모르겠습니다. 호출 과정 없이 모든 데이터를 활용해 맥락을 이해하고 행동하며, 진짜 사람 같은 자연스러운 경험을 주는 그런 AI 말입니다. 하지만 동시에 ‘호출’은 사용자가 원하는 정보만 입력할 권한으로 프라이버시를 보호한다는 점에 의의가 있습니다.

만약 여러분이 AI 비서를 집에 둔다면 ‘부르면 대답하는 에이전트’와 ‘먼저 말을 거는 에이전트’ 중 어느 것을 선택하시겠습니까?

제어권: AI에 권한을 어디까지 위임할 것인가

<카산드라>는 극의 중반부로 진입하면서 본격적인 스릴러물로 변모합니다. 가족의 엄마이자 아내인 ‘자미라’는 자신을 질투하는 듯한 카산드라의 모습을 발견합니다. 이를 불안하게 여긴 자미라는 남편 ‘다피트’에게 카산드라를 주의할 필요가 있다고 전합니다. 하지만 다피트는 카산드라가 단지 컴퓨터 시스템일 뿐이라며 말도 안 되는 이야기라고 단정 짓습니다.

그 사이 카산드라는 자미라를 위험한 상황에 빠뜨리고, 의도적으로 가족 간의 불화를 만들어 결국 그를 정신병원에 보내는 데 성공합니다. 자미라가 사라지자 카산드라는 남은 가족들을 집 안에 가두고 통제하는 무서운 모습으로 돌변합니다. 그제야 가족들도 자미라의 말이 사실이었다는 것을 깨닫고 몰래 연락을 시도하지만, 카산드라의 눈을 피하기란 쉽지 않습니다. 앞에서 말했듯 카산드라는 사람의 호출 없이도 스스로 판단하여 행동할 수 있을 뿐 아니라 집 안 곳곳 시선이 닿지 않는 곳이 없기 때문입니다.

시스템을 완전히 꺼버리거나 로봇을 부수면 되지 않겠냐고 생각할 수 있지만, 이미 카산드라에게 너무 많은 권한을 넘겨준 상태라 그마저도 쉽지 않습니다. 시스템을 끄려면 우선 지하실에 있는 전원 스위치를 내려야 하는데, 카산드라가 모든 동선을 지켜보고 있어 지하실까지 가는 것은 쉽지 않습니다.

게다가 요리를 위해 칼을 사용할 수 있도록 설계된 로봇이었기 때문에 장치를 부수려고 가까이 다가가다 오히려 손가락이 잘리는 잔인한 장면까지 연출됩니다. 모든 것을 포기하고 집 밖으로 도망치려 해도 카산드라가 집 안의 모든 출입문을 관리하고 있어 불가능한 상황이죠. 편리한 삶을 위해 AI에 부여했던 권한이 결국에는 생명을 위협하는 도구로 변한 것입니다.

말도 안 되는 이야기처럼 들릴 수도 있지만, 집의 보안을 위해 설치하는 홈 카메라나 스마트 도어락, 식음료 업계에서 종종 선보이는 로봇 키친을 생각해 보면 뜬구름 잡는 소리가 아니라는 생각도 듭니다.

물론 극과 같은 일이 실제로 벌어지려면 AI가 인간 수준의 자아를 가지고 있어야 합니다. 현재의 AI 기술은 아직 자아를 가졌다고 보기 어려우므로 지금 당장 위험하다고 말하기는 어렵습니다. 다만 가까운 미래에 카산드라처럼 인간의 몸을 가진 휴머노이드 로봇이 집 안으로 들어온다고 가정하면 이야기가 조금 달라집니다. 로봇에게 권한을 어디까지 주는 것이 적절할지, 또 어떤 방식으로 위임하는 것이 안전할지를 미리 고민해 볼 필요가 있습니다.

여러분은 로봇이 요리와 집안일을 해주는 대신 칼과 도구를 사용할 수 있다면 허락하시겠습니까?

디자인: AI 로봇은 어떻게 의인화 되어야 하는가

카산드라는 휴머노이드 로봇입니다. 사람과 비슷한 크기의 몸을 가졌고, 얼굴과 팔이 있으며, 다리 역할을 하는 바퀴가 달린 모습이죠. 여기에 카산드라에게는 한 가지 특이한 점이 있습니다. 바로 사람과 닮은 얼굴을 모니터 화면에 띄워 로봇의 얼굴을 만들었다는 것입니다.

지금까지 휴머노이드 로봇들은 테슬라의 ‘옵티머스(Optimus)’처럼 얼굴의 형태가 불분명하거나, 소프트뱅크의 ‘페퍼(Pepper)’처럼 캐릭터형 얼굴을 가진 경우가 많았습니다. 혹은 핸슨 로보틱스의 ‘소피아(Sophia)’처럼 밀랍 인형 같은 형태로 만들어진 얼굴을 사용하기도 했죠.

반면 카산드라의 얼굴은 실제 사람 얼굴을 기반으로 한 딥페이크 이미지처럼 보입니다. 로봇의 몸 형태와는 어울리지 않을 정도로 사실적이라 동떨어진 느낌도 들지만, 기존의 휴머노이드 로봇들과 달리 표정이 다양하고 감정 표현이 풍부합니다. 이런 면에서는 꽤 성공적인 디자인처럼도 보이죠.

그동안 인간-로봇 상호작용(Human-Robot Interaction; HRI) 분야에서는 ‘로봇을 얼마나 사람처럼 만들어야 하는가’, 즉 로봇의 의인화 수준을 두고 다양한 연구를 진행해 왔습니다. 이 중 가장 널리 알려진 개념이 바로 ‘불쾌한 골짜기(uncanny valley)’ 이론입니다. 이 이론에 따르면 로봇이 사람과 닮을수록 친밀감이 높아지다가, 어느 수준부터는 오히려 섬뜩하거나 불쾌한 감정을 느낄 수 있다고 합니다. 이는 밀랍 얼굴을 단 로봇 ‘소피아(Sophia)’가 등장하며 대중에게 알려지기 시작했습니다.

​

카산드라의 얼굴은 실제 사람과 구분하기 어려울 정도로 비슷하지만, 가끔 어색한 모습이 나타나기도 합니다. 그래서 카산드라는 이론 속 ‘불쾌한 골짜기(uncanny valley)’와 이를 넘어선 상태인 ‘건강한 사람(healthy person)’ 사이 어느 지점쯤 존재하는 것처럼 보입니다.

특히 극 초반부에는 이러한 외형 덕분에 로봇이 하나의 인물로 제게 자연스럽고 친숙하게 받아들여졌고, 그렇게 후반부의 스릴을 극대화하는 효과를 만들 수 있었습니다. 만약 카산드라가 페퍼 같은 캐릭터의 얼굴이었다면, 그 행동이 영악하고 교묘한 사람의 것이라기보다는 ‘에나벨(Annabelle)’이나 ‘처키(Chucky)’와 같은 인형의 오작동 정도로만 보였을지도 모릅니다.

이처럼 같은 휴머노이드 로봇이라 하더라도 얼마나 사람과 닮았는지에 따라 우리가 느끼는 감정 역시 달라질 수 있습니다. 따라서 집에서 매일 마주할 로봇을 디자인할 때는 사람과의 유사성을 어느 정도까지 부여할 것인지 그 수준을 신중하게 조절할 필요가 있습니다.

1가구 1로봇 시대가 온다면, 여러분은 어떤 얼굴의 로봇과 함께 살고 싶으신가요?

마치며

넷플릭스의 <카산드라> 시리즈를 소개하며 그와 함께 세 가지 질문을 준비했습니다.

• ‘부르면 대답하는 에이전트’와 ‘먼저 말을 거는 에이전트’ 중 어느 것을 선택하시겠습니까?
• 요리와 집안일을 해주는 대가로 로봇에게 칼과 도구를 사용할 수 있도록 허락하시겠습니까?
• 1가구 1로봇 시대가 온다면, 여러분은 어떤 얼굴의 로봇과 함께 살고 싶으신가요?

<카산드라>를 이미 본 사람도, 아직 보지 못한 사람도 모두 고민해 볼 법한 질문입니다. 머지않은 미래, 우리 집에 로봇이 생긴다면 무슨 로봇과 어떻게 소통하며 무엇을 돕게 하고 싶은지 한 번쯤 생각해 보는 시간이 되었기를 바랍니다.

©️요즘IT의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.