프라이버시 리스크 관리의 3가지 포인트

* 프라이버시에 대해 다루는 2부작 콘텐츠입니다. 저번 글에서는 프라이버시 트렌드와 그 영향력을 알아보았습니다. 이번 글에서는 프라이버시 리스크 관리에 있어서 제품 설계·운영 상의 주의점 3가지를 짚어봅니다.

지난 글에서 오늘날의 프라이버시 트렌드를 살펴보았습니다. 고객은 민감해졌고, 빅 테크 기업은 영역 싸움하는 상황에서 프라이버시는 관리해야 할 리스크가 되었습니다. 이번 글에서는 제품 개발자와 운영자가 프라이버시 리스크를 관리하는데 핵심으로 꼽을 만한 3가지 포인트를 간단하게 짚어보려고 합니다.

팝업, 약관 동의. 끝?

팝업은 디지털 프로덕트에서 프라이버시 리스크를 해소하기 위해 대표적으로 사용되는 도구입니다. 모바일 앱의 개인 정보 활용에 여론이 민감해지자 모바일 OS는 앱이 개인 정보를 활용할 때 사용자 동의를 받는 방향으로 정책을 수립했습니다. 이 과정에서 활용된 UI 요소가 팝업입니다. 한순간 화면을 전부 가려버리고 오직 자신만 내보이는 팝업은 강력한 도구입니다. 팝업이라면 프라이버시에 대한 통제권을 고객에게 전부 넘겨주고, 리스크를 해소할 수 있을 거라고 여기기 쉽습니다. 하지만 팝업은 프라이버시 리스크를 해결하기에 부족한 도구입니다.

기기 카메라 사용 권한, 위치 데이터 사용 권한, 주소록 접근 권한… 갖가지 개인 정보 활용에 동의받기 위해 연달아 팝업이 노출되는 모습은 고객에게 익숙합니다. 권한을 받기 전 개인 정보 활용에 대한 안내 페이지를 보여주거나 팝업에 관련 내용을 담기도 하지만 대부분의 경우 설명은 추상적이고 와닿지 않는 말로 쓰여 있습니다. 고객은 이 상황에 지쳤고, 앱 설치 후 권한 동의 팝업에 기계적으로 응답하는 과정은 일상화되었습니다. 이런 효용 없는 사전 안내와 동의받기는 프라이버시 리스크 관리에 도움이 되지 않습니다. 관련한 문제가 발생했을 때 미리 설명했다, 동의도 받았다 같은 변명은 상황을 바꿀 수 없을 겁니다. 고객은 사전 안내, 동의 여부와 상관없이 문제를 가져올 것이고 빅 테크 기업은 플랫폼의 규칙을 바꿀 것입니다. 큰 플랫폼에 종속된 제품 개발사는 형식적인 개인 정보 활용 동의 팝업만 믿고 있다가 변화의 파도에 휩쓸려 갈 것입니다.

같은 맥락에서 개인 정보 보호 정책(Privacy Policy) 설명글과 서비스 약관(Terms of Service) 동의 체크 박스도 프라이버시 리스크를 해결하기에 부족한 도구입니다. 약관 동의 절차는 법적 문제를 해결하는 가장 깔끔한 방법입니다. 어려운 용어로 길게 쓰여 있는 제품 약관은 아무도 보지 않습니다. 많은 제품은 온보딩 단계에서 약관 동의를 체크하기 쉽게 만들거나 제품 사용 단계로 넘어가면 약관 동의로 간주한다는 작은 문구를 삽입함으로써 낡은 규제망을 회피합니다. 실제로 74%의 고객은 개인 정보 보호 정책 설명글을 제대로 읽지 않고 넘깁니다.[1] 위와 같은 내용에서 법과 시장 환경의 규제에 수동적으로 대처하는 방법으로는 프라이버시 리스크에 효과적으로 대응할 수 없다는 결론을 내릴 수 있습니다. 더 나은 설계, 더 적극적인 전략이 필요합니다.

리스크 메트릭스: 이루다와 넷플릭스

지난해 연재한 AB 테스트 시리즈의 시작으로, ‘인간 VS AI 카피라이팅 대결’이라는 글을 쓴 적 있습니다. AB 테스트 플랫폼 VWO에서 딥러닝 자연어 생성 모델 GPT-3을 사용해 인간이 만든 카피와 GPT-3가 만든 카피, 둘 중 어느 쪽이 더 좋은 전환율을 보이는지 알아봤던 이벤트를 글에서 소개했습니다. 무승부 3회, 인간 1승에 AI 3승의 충격적인 결과가 나왔습니다. 글을 쓸 때까지만 해도 AI와 함께 일할 날도 얼마 남지 않았다고 생각했습니다. 이 생각은 몇 달 안 가서 바뀌게 됩니다. 그때쯤 이루다 사태가 벌어졌습니다.

이루다는 일상적 이야기를 나누는 목적으로 개발된 AI 챗봇입니다. 6개월간의 베타 테스트 후에 출시됐지만 소수자 혐오·차별 발언, 그리고 구체적인 주소 정보가 노출되는 등의 개인 정보 보호 문제로 공개 3주 만에 서비스 종료됐습니다. 이번에는 이루다의 개인 정보 보호 문제에 대해 살펴보려고 합니다. 이루다 개발사 스캐터랩(SCATTER LAB) 연애 관련 콘텐츠 서비스인 연애의 과학을 운영하고 있습니다. 연애의 과학에서는 연인과 나눈 카카오톡 대화로 감정 분석을 하는 서비스를 이용할 수 있습니다. 스캐터랩은 여기서 나온 문장 데이터를 재료로 이루다를 만들었습니다. 문장 데이터에 들어 있는 이름 등의 개인 정보는 제거했지만, 알고리즘이 잡아내지 못한 개인 정보 다수가 그대로 이루다에 녹아들었습니다. 

개인정보보호위원회 및 한국인터넷진흥원(KISA)에서 조사 끝에 이루다는 서비스 종료되고 딥러닝 대화 모델은 폐기되었습니다. 이루다를 옹호하고 싶은 마음은 없지만 스캐터랩이 고객의 정보를 활용한 방식은 여타 디지털 프로덕트에서 사용된 방식과 크게 다를 게 없다는 사실을 알아야 합니다. 오늘날 수많은 제품은 개인 정보를 수집하고, 이 정보는 더 큰 부가가치를 내는 제품을 만드는 데 사용됩니다. 가령 많이 알려진 넷플릭스의 썸네일 개인화 시스템[2]은 무수히 많은 시청 데이터 위에서 구축되었습니다. 그럼 무엇이 다르기에 한쪽은 서비스 종료에 이르렀고 다른 쪽은 그로쓰 해킹의 교과서적인 사례가 되었을까요? 바로 아래의 2가지입니다.

1. 활용한 개인 정보의 종류
2. 개인 정보를 활용한 방식

위 사례에서 넷플릭스가 사용한 데이터는 고객의 영상 시청 데이터입니다. 사람에 따라 충분히 중요하다고 여길 수 있지만, 주소, 계좌번호와 개인 메신저에서 나눈 연인과의 대화만큼은 아닙니다. 또한 넷플릭스는 수집한 개인 정보를 AB 테스트의 성과 측정 기준으로만 활용했습니다. 그에 비해 이루다는 제품 자체를 구성하는데 개인 정보가 활용되었습니다. 학습 데이터가 되는 문장 데이터의 필터링, 데이터 정제 과정이 부족했습니다. 애초에 불특정 다수가 접근할 수 있는 대화형 AI는 항상 논란을 불러왔습니다. 마이크로소프트(Microsoft)의 테이(Tay)가 16시간 만에 운영 종료한 사건[3]은 이미 유명합니다. 이처럼 활용한 개인 정보가 얼마나 민감하냐, 그리고 개인 정보를 활용한 방식이 얼마나 안전하냐에 따라 프라이버시 리스크를 가늠해볼 수 있습니다.

고객이 민감하게 여기지 않은 정보를 안전한 방식으로 활용한다면 리스크가 낮을 것입니다. 반대로 민감한 정보를 위험한 방식으로 활용한다면 리스크가 높을 수밖에 없습니다. 개인 정보를 활용하기 전에 프라이버시 리스크 메트릭스로 위험도를 예측하는 건 프라이버시 리스크 관리를 시작하는 방법입니다.

프라이버시 패러독스 활용

프라이버시 패러독스(Privacy Paradox)는 디지털 프로덕트 고객이 개인 정보 유출을 우려하면서도 막상 제품을 사용할 때에는 가벼이 개인 정보를 넘기는 현상을 말합니다. 여러 학자들이 이 현상이 왜 일어나는지 파헤치고 있습니다. Procedia Computer Science지에 게시된 한 논문[4]은 프라이버시 패러독스의 원인으로 제한된 정보와 심리적 거리를 꼽습니다. 제품이 개인 정보를 요구하는 상황에 부닥쳤을 때 충분한 정보가 제공되지 않기 때문에 고객은 합리적으로 판단할 수 없습니다. 설사 정보가 충분해도 프라이버시의 가치는 당장 제품이 약속하는 유형적 혜택보다 심리적으로 멀게 느껴집니다. 제품 개발사는 전자를 해결하고 후자를 이용해야 합니다.

이전 글에서 설명한 iOS 14.5의 앱 추적 투명성 정책으로 추적 동의 팝업의 내용을 다듬거나 별도의 안내 화면을 노출하는 앱이 늘었습니다. 페이스북과 인스타그램은 대표적인 예시입니다. 두 제품은 갑작스러운 안내 화면의 등장이 iOS 14.5의 정책 때문이며, 광고 개선에 사용할 개인 정보를 제공하고 싶지 않다면 그럴 수 있다고 설명합니다. 안내문의 끝에서 두 제품은 개인 정보가 광고 개인화, 무료 사용, 페이스북·인스타그램 광고에 의존적인 기업 지원에 사용된다며 개인 정보 활용 동의를 유도하고 있습니다.

이처럼 두루뭉술하고 추상적인 표현 대신 개인 정보의 구체적인 사용처와 개인 정보를 요구하게 된 전후 맥락을 밝힌 안내 콘텐츠는 고객의 합리적인 선택을 돕고, 결과적으로 프라이버시 리스크의 감소로 이어집니다.

정리

시장의 변화에 한 발 앞서 대응하기 위해 프라이버시를 리스크로 보고 관리해야 한다는 것이 지난 편의 결론이었습니다. 이번에는 프라이버시 리스크 관리에 참고할 만한 3가지 포인트를 설명했습니다.

1. 법과 시장 환경의 규제에 수동적으로 대처하는 방법으로는 프라이버시 리스크에 효과적으로 대응할 수 없다.
2. 프라이버시 리스트 메트릭스로 활용할 개인 정보의 민감도, 개인 정보 활용 방식의 안전도를 점검하고 미리 리스크를 파악한다.
3. 개인 정보를 요구할 때 구체적인 사용처와 요구하게 된 전후 맥락, 고객이 받을 수 있는 혜택을 안내한다.

프라이버시는 고객의 권리입니다. 당연한 사실이지만 이것에만 매달려 수집도 활용도 주저하게 된다면 고객과 제품 양쪽에 어떤 발전도 이룰 수 없습니다. 그렇기 때문에 발전성과 안전성 사이에서 적절한 선을 찾는 것이 중요합니다. 이는 모든 제품 개발자들의 평생 과제이기도 합니다.

[1] Jonathan A. Obar & Anne Oeldorf-Hirsch, 2017 - The biggest lie on the Internet: ignoring the privacy policies and terms of service policies of social networking services

[2] Ashok Chandrashekar, Fernando Amat, Justin Basilico and Tony Jebara(Netflix), 2017 - Artwork Personalization at Netflix

[3] Justin Worland(Time), 2016 - Microsoft Takes Chatbot Offline After It Starts Tweeting Racist Messages

[4] Ruwan Bandara, Mario Fernando, Shahriar Akter, 2017 - The Privacy Paradox in the Data-Driven Marketplace: The Role of Knowledge Deficiency and Psychological Distance