다른 서비스
NEW
기획
디자인
개발
프로덕트
아웃소싱
프리랜싱
비즈니스
최근 검색어
전체 삭제
최근 검색어가 없습니다.

프로덕트

아동 성착취물을 막겠다는 애플은 왜 욕먹는 걸까?

8월 초, 애플은 아동들을 보호하기 위한 새로운 시스템을 몇 가지 발표했다. 이 시스템들은 연말에 이루어지는 업데이트(iOS 15, iPadOS 15, watchOS 8, macOS Monterey)에 포함될 예정이다. 새로 소개된 내용 중 '사용자들 사진을 스캔하여 아동 성착취물의 확산'을 막는 시스템이 있었다. 이 부분이 큰 오해를 샀다. 마치 애플이 소설 1984의 빅브라더처럼 아이폰 사용자들의 사생활을 멋대로 들여다본다는 식으로 이야기가 확산됐기 때문이다.

 

사용자 사진은 어떤 방식으로 스캔되는지, 정확히 어떤 부분에서 오해가 발생했는지, 그래서 결국 결론이 뭔지 함께 알아보자.

 

1. 어떤 식으로 작동하는가?

아이클라우드 백업 사진 스캔

 

일단 사진의 스캔은 아이클라우드에 백업할 경우에만 이루어진다. 아이클라우드에 업로드하지 않으면 스캔은 이루어지지 않는다. 사진을 아이클라우드에 업로드하면 업로드를 위한 준비 작업이 시작된다. 일단 내가 올리는 사진의 해시 값(암호화 값)이 아동 성착취물의 해시 값 리스트와 비교하는 작업이 이루어진다. '사용자의 사진에 아동 성착취물의 특징이 담겨있는가?'를 체크하는 것이다. 체크가 끝나면 체크 결과가 담긴 '세이프티 바우처'라는 딱지가 사진에 붙여진 후 아이클라우드에 업로드된다.

 

사진 업로드가 끝나면 애플 서버는 업로드된 사진의 딱지를 확인한다. 딱지에는 사진이 아동 성착취물인지 아닌지에 대한 체크 결과를 담고 있으므로, 애플 서버는 (굳이) 사진을 스캔하지 않고 딱지에 쓰인 결과만 확인한다. 만약 '아동 성착취물 맞음'이라고 쓰인 딱지가 일정 개수 이상 발견되면(발표된 내용을 보면 30개일 것으로 예상) 애플 직원에게 '이 사용자는 아동 성착취물 소유자인 듯?'이라며 알림이 발송된다. 애플 직원은 '아동 성착취물 맞음' 딱지가 붙은 사진을 직접 눈으로 확인한 후, 필요시 아동 보호기관인 NCMEC(National Center for Missing & Exploited Children)에게 보고하는 것으로 프로세스가 완료된다.

 

참고로 초반 업로드 과정에서 활용되는 '아동 성착취물의 해시 값 리스트'는 NCMEC이 애플에게 제공하는 식으로 업데이트된다. 그리고 일반 포르노물은 괜찮다. 적용되는 프로세스는 아동 성착취물에 초점을 맞추고 있다.

 

 

2. 이것은 사생활 침해인가?

애플 사진 스캔

애플의 발표 내용을 주의 깊게 살펴보지 않으면 '애플이 내 사진을 엿본다'라고 결론짓기 쉽다. 그리고 실제로 그런 오해가 널리 퍼졌다. 아이폰 마케팅에서 '개인 정보 보호'를 끊임없이 강조해온 애플이 변했다며 화난 사람들이 많았다. 1984년에 맥킨토시를 발매하면서 빅브라더를 타도하겠다던 애플이었는데 이제는 그들 자신이 빅브라더가 되었다며 손가락질을 받았다.

 

오해하는 사람도 많고 자극적인 헤드라인의 기사가 퍼지다 보니 애플의 수석 부사장인 크레이그 페더리기(애플 이벤트에서 iOS 내용을 발표할 때 자주 보이는 사람)가 직접 나섰다. 그는 월스트리트 저널과의 인터뷰를 통해 아동 성착취물 체크 시스템이 작동하는 방식을 설명하고 오해받는 부분을 해명했다.

 

인터뷰의 주요 내용을 정리해보면 다음과 같다.

  • 사용자가 올리는 게 어떤 사진인지 분석하는 것이 아니라 아동 성착취물인지 아닌지를 확인하는 것
  • 사용자 사진을 있는 그대로 스캔하는 것이 아닌 해시 값을 비교하는 것
  • 해시 값 비교는 기기 안에서 이루어짐
  • 아이클라우드에 사진을 올리지 않는다면 해시 값 스캔도 이루어지지 않음
  • 아기를 목욕시키는 사진의 해시 값과 아동 성착취물의 해시 값은 일치하지 않을 것 (그만큼 해시 값의 정확도가 높을 것이라는 이야기)
  • 애플 서버에서 스캔하는 것은 사진이 아니라 사진에 붙은 딱지(세이프티 바우처)
  • 아동 성착취물로 확인된 딱지가 일정 개수 이상일 때만 애플 직원이 확인

 

한 줄로 요약하자면, 사용자의 사진 라이브러리를 (아동 성착취물을 여러 개 백업한 것이 아닌 이상) 있는 그대로 들여다볼 일 없으니 안심하라는 내용이었다.

 

 

3. 다른 우려는 없나?

해시 값을 대조하는 것이니 문제없다며 넘어가는 사람들 중에서도, 대조하는 해시 값 자체에 의문을 품는 이들이 있다. 해시 값 대조 과정에서 활용되는 아동 성착취물 해시 값 리스트는 애플이 직접 만든 리스트가 아니다. 위에서 언급한 아동 보호기관 NCMEC이 구축한 시 값 데이터베이스에서 가져온 것이다. 즉, 해시 값을 대조하는 시스템은 애플이 만들었지만, 사용자의 사진이 아동 성착취물인지 아닌지는 NCMEC가 제공한 데이터에 의존하고 있는 것이다(아마 OS 버전 업데이트와 함께 해시 값 리스트도 계속 업데이트될 것이다).

 

애플과 협력하는 기관이니 믿을만하겠거니 할 수도 있지만, 'NCMEC의 해시 값 믿을만한 거야?' '혹시라도 해시 값이 잘못 대조돼서 내가 아동 성범죄자로 오해받으면 어떡해?'라며 우려하는 사람들의 입장도 이해가 간다. 또, 만약 애플이 아동 성착취물 말고 다른 것도 체크하기 시작한다면? 정치적 목적의 해시 값 리스트를 만들어 체크한다면? 대부분의 사람들은 그럴 일은 없을 거라고 이야기하지만(나도 그렇게 생각한다) 그렇게 될 가능성이 생겼다는 것 자체가 불편함을 주고 있는 듯하다.

 

 

4. 다른 것도 업데이트도 되던데?

애플 업데이트

 

메시지 앱에도 보호 기능이 추가된다. 만약 사용자가 아동이고, 그 아동이 메시지 앱에서 주고받는 사진이 성(性)적인 내용이라면 일단 그 사진의 미리보기가 가려진다(즉, 누군가 성적인 사진을 아동에게 보냈다면 아동이 그 사진을 보지 못하게 가리는 것). 성적인 사진인지 아닌지는 온전히 아이폰 내에서 기계 학습을 통해 이루어진다.

 

아동이 가려진 사진을 누르면 경고 문구가 나온다('보기 불편한 사진일 수 있어요' '수영복으로 가리는 부위가 노출되는 사진일 수 있어요' 등). 대부분의 아동은 호기심을 이기지 못하고 '보기' 버튼을 누를 텐데, 그런 경우를 위해 '보는 건 너의 선택이지만 부모님에게 알림이 갈 것이다'라는 2차 경고가 표시된다. 참고로 아동이 성적인 사진을 보낼 때에도 똑같이 경고가 이루어지며 이 기능을 사용하려면 아동과 부모의 애플 계정이 아이클라우드 가족 계정으로 묶여있어야 한다.

 

시리와 검색에도 아동보호 기능이 추가되는데, 구체적으로는 두 가지다. 하나는 아동 성착취물이나 학대 관련해 신고하고 싶다고 시리에게 말하면 어떻게 신고할 수 있는지 구체적으로 안내해준다. 다른 하나는 아동 성착취물을 검색하는 경우인데, 검색을 하면 '유해한 주제입니다'라며 검색 결과를 제한한다.

 

 

결론: 그래서 어떻게 되는 걸까?

이번에 발표된 업데이트는 모두 아동보호에 초점이 맞춰져 있다. 훌륭한 취지의 업데이트이지만, 사진 스캔 부분에서 '사생활 침해다!'라며 욕을 먹었다. 아이폰을 안전한 운영체제로 만드는 것은 애플의 비전이다. 그러니 아무리 문제 제기가 있다한들, 애플이 아동 성착취물과 유해 매체를 스마트하게 필터링할 수 있는 시스템을 철회할 가능성은 거의 없을 것이다. 그보다는 사용자들의 오해를 잠재우기 위한 홍보와 필터링 오류를 최소화하기 위한 작업을 계속해나갈 것이다.

 

개인적으로 애플이 도입하는 시스템은 합리적이라고 생각한다. 정부 기관이 지시한 것도 아닌데 먼저 나서는 것도 좋고, 오차범위를 고려해 '일정 개수 이상'이라는 조건을 설정한 것도 마음에 든다. 아동 성착취물을 클라우드에 백업하는 범죄자가 아닌 다음에야 실사용에는 아무 영향 없을 것이다.

 

사용자 입장에서 이 시스템이 정 찝찝하다면 아이클라우드 백업을 하지 않는 선택지도 있다. 다른 클라우드나 직접 구축한 개인 서버에 백업하는 것도 방법이다. 자신이 쓰는 서비스가 어떤 보안 시스템을 가지고 있는지 잘 알아보고 사용하면 된다. 클라우드 자체가 찝찝하면 외장하드를 쓰면 된다.

 

글을 쓰다 보니 애플의 시스템을 변호하는 느낌이 되어버렸는데, 나는 안드로이드 폰 사용자라 이번 애플의 업데이트는 나와 크게 상관없다.


<참고 자료>

  • 글에 사용된 일부 이미지는 애플 공식 홈페이지에서 캡처한 것입니다.
  • Expanded Protections for Children (링크)
  • Apple’s Software Chief Explains ‘Misunderstood’ iPhone Child-Protection Features (Exclusive) | WSJ (유튜브)
댓글 0

맨오브피스

효율 추구에만 매달리지 않으려고 노력하는 프로덕트 매니저입니다.

일론 머스크가 트위터를 인수한 이유는?

비즈니스

롱블랙 뉴스레터 솔직 리뷰

프로덕트

프로덕트 보물창고, Product Hunt의 수익 모델 살펴보기

비즈니스

애드블록의 광고 차단 원리는 무엇일까?

프로덕트

개발자와 대화할 때 유용한 도구 4가지

프로덕트

엑셀 함수는 곧 사라질 운명이 아닐까?

기획

읽히는 슬랙 (업무) 메시지 쓰는 법

기획

비개발자가 코딩을 배우면 좋은 이유

기획

내 생활을 지키는 알림 설정 전략

기획

우선순위가 낮은 작업은 언제 처리해야 할까?

기획

순조로운 퇴사를 위해 해야 할 일 5가지

기획

OTT 시대의 반항아, 일본 ‘TVer’ 살펴보기

프로덕트

유튜브에서 '싫어요' 숫자가 사라졌다

프로덕트

슈퍼휴먼, 이메일에 월 30달러나 쓰는 이유는?

프로덕트

구글의 수수료 정책은 정말로 부당할까?

프로덕트

인터넷 뱅킹, Z세대에 열광하는 이유는?

프로덕트

나를 만족시킨 QR 체크인 앱은 무엇일까?

프로덕트

스포티파이, 왜 한국에서는 그저 그럴까?

프로덕트

구글의 발표는 왜 지루할까? (feat. 애플 이벤트)

프로덕트

OTT 이야기에 로쿠(Roku)가 빠질 수 없지

프로덕트

프로덕트 매니저라는 직무는 왜 생긴 것일까?

기획

디자인 커뮤니케이션 툴, 윔지컬(Whimsical) 둘러보기

디자인

영상 컨펌 협업툴 '이미지블' 살펴보기

프로덕트

테크 기업 CEO들의 하루 살펴보기

기획

구글 캘린더 100% 활용하기

프로덕트

총성 없는 전쟁, 아마존 VS 가짜 리뷰

프로덕트

애플 TV+는 잘 되고 있을까?

프로덕트

구글 스태디아는 왜 흥하지 못했을까?

프로덕트

경기지역화폐 앱 살펴보기

프로덕트

"카운트다운 시작!!!"...출시 앞둔 디즈니플러스 미리보기

프로덕트

점유율 2%의 활약, MS 빙(Bing)

프로덕트

PM 업무에 꼭 필요한 소프트 스킬 6가지

기획

업무 생산성을 높이는 IT 환경 만들기

기획

다른 나라 사람들은 어떤 앱에 돈을 쓸까?

프로덕트

휴가 떠나기 전, 인수인계 확실히 하는 법

기획

구글이 직접 반도체를 만드는 게 나랑 무슨 상관일까?

개발

구독 서비스를 현명하게 사용하는 5가지 방법

기획

디지털 피규어 콜렉팅 앱, 비브(VeVe) 살펴보기

프로덕트

구글 미트가 프로그레시브 웹 앱(PWA)으로 출시된 이유

프로덕트

깃허브 코파일럿(Copilot)은 무엇이며, 왜 욕먹는 걸까?

프로덕트

원격근무의 치명적 단점 5가지

기획

구글이 안드로이드 앱 배포를 APK 대신 AAB로 바꾸는 이유

프로덕트

IT 직무 탐구: 프로덕트 매니저 vs 프로덕트 오너 (+그 외)

기획

구글 앱시트(AppSheet)로 노코드 앱 만들기

개발

이제는 운영체제도 구독이다! 윈도우 365 공개

프로덕트

즐겁고 효율적인 재택근무를 위한 7가지 기술

기획

절대 빼놓을 수 없는 크롬 확장 프로그램 7가지

프로덕트

IT 스타트업의 ­인수합병이 실무자에게 미치는 영향

기획

트위터 블루와 슈퍼 팔로우는 과연 돈 값을 할까?

프로덕트

경기도가 만든 배달 앱, 배달특급 리뷰

프로덕트

점점 맥을 닮아가네? 윈도우 11만의 특징 살펴보기

프로덕트

메시지 예약이 된다고? 슬랙의 최신 기능 5개 따라잡기

프로덕트

날씨 앱 번개가 더 리얼해졌다! iOS 15 미리 보기

프로덕트

스포티파이가 만든 클럽하우스, '그린룸' 살펴보기

프로덕트

안드로이드 12가 온다! 주요 기능 살펴보기

프로덕트

넷플릭스의 새로운 기능, 랜덤 재생 살펴보기

프로덕트

맥에서도 쓸 수 있는 마이크로소프트 엣지만의 장점

프로덕트

쉽게 읽히는 티켓 쓰는 법

기획

당근마켓은 어떻게 돈을 벌까?

프로덕트

구글 시트로 앱스토어 정보 긁어오는 방법

프로덕트

클럽하우스 인기가 뚝 떨어진 이유

프로덕트

데이터별 딱 맞는 그래프 찾기

기획

프로젝트 매니지먼트에 도움이 되는 툴들

기획

비개발자를 위한 파이썬 독학법 (하)

개발

비개발자를 위한 파이썬 독학법 (상)

개발

아웃소싱 개발이 필요한 상황은?

아웃소싱

#해시태그가 정확히 무엇인가요? 해시태그 A to Z

기획

아이디어를 체계적으로 기록하는 방법

기획

그럼에도 불구하고, 엑셀이 필요한 이유

프로덕트

소프트웨어 개발은 어떻게 이루어질까?

개발

구글의 OTP는 어떻게 비행기 모드에서도 작동할까?

개발

같은 분야를 다룬 글들을 권해드려요.

요즘 인기있는 이야기들을 권해드려요.

일주일에 한 번!
전문가들의 IT 이야기를 전달해드려요.

[구독하기] 버튼을 누르면 개인정보 처리방침에 동의됩니다.

일주일에 한 번! 전문가들의 요즘IT 이야기를 전달해드려요.

[구독하기] 버튼을 누르면 개인정보 처리방침에 동의됩니다.