AI가 모든 걸 한다면, 디자이너는 왜 존재해야 할까?

본문은 요즘IT와 번역가 Jane Heo가 함께 베티나 다빌라(Bettina D'ávila)의 글 Why AI (desperately) needs designers >을 번역한 글입니다. 필자인 베티나 다빌라는 포르투갈 리스본(Lisbon)을 기반으로 활동하는 시니어 프로덕트 디자이너입니다. 그녀의 작업이나 포트폴리오를 보려면 bdavila.me 에서 확인할 수 있습니다. 이 글에선 AI 기술 발전 속에서 윤리적이고 인간 중심적인 AI 시스템을 만들기 위해 디자이너들이 반드시 개입해야 한다는 내용을 다루고 있습니다.

필자에게 허락을 받고 번역했으며, 글에 포함된 각주(*표시)는 ‘번역자주’입니다.

왜 AI 시대에도 디자이너가 절실히 필요할까? 인공지능이 가져오는 혜택에도 불구하고, 디자이너들은 그로 인해 전례 없는 도전에 직면하고 있으며 이에 대한 대응이 필수적입니다.

우리는 디자이너로서 사용자의 이익과 가치를 보호해야 할 책임이 그 어느 때보다 중요해졌습니다. 현재 ChatGPT를 비롯한 다양한 AI 도구들의 급격한 발전으로 인해 인공지능이 트렌드로 자리 잡고 있습니다. 그러나 동시에 이러한 시스템들이 사용자에게서 점점 더 많은 통제권을 빼앗고 있다는 점도 목격하고 있습니다.

AI는 작업을 자동화하고, 숨겨진 패턴을 발견하며, 사용자 경험을 향상시키고, 새로운 콘텐츠를 생성하고, 의사 결정을 최적화하는 등의 역할을 합니다. 본질적으로 AI는 데이터를 학습하고, 이를 기반으로 스스로 개선해 나가는 능력을 바탕으로 존재합니다. 문제는 현재 AI 기술이 너무 빠른 속도로, 그리고 특정한 방식으로 보급되고 있어 사회가 그 속도를 따라가지 못하고 있다는 점입니다. 이는 경제, 정신 건강, 문화, 그리고 사회 전체에 큰 영향을 미치고 있습니다.

“우리는 디자이너로서 이 예측 가능한 디지털 세계에서 우리의 역할을 인정해야 합니다. 우리의 보이지 않는 손이 이 시스템을 조정하는 데 개입하고 있기 때문입니다.” _헬렌 암스트롱(Helen Armstrong)

이 인용문은 헬렌 암스트롱의 저서 “ Big Data, Big Design: Why Designers Should Care About Artificial Intelligence ”에서 가져온 것입니다. 이 책은 디자인과 인공지능의 교차점을 탐구하며, AI 중심의 경험을 설계하는 데 있어 디자이너의 역할을 강조합니다. AI가 예측 기반으로 작동하는 디지털 환경에서 디자이너는 윤리적이고 투명하며 인간 중심적인 AI 솔루션을 만드는 데 중요한 역할을 합니다.

우리는 데이터 속에 내재된 편향성, 사용자 프라이버시 문제, 그리고 사회적 영향을 신중하게 고려해야 합니다. 책임감과 윤리를 최우선으로 삼을 때, 디자이너는 AI 기술이 인간의 역량을 확장하고 삶의 질을 향상시키는 데 기여하도록 할 수 있습니다. 이 책 은 이러한 문제들을 깊이 있게 다루며, 인공지능과 디자인이 만나는 지점에서 활동하는 다양한 디자이너, 교육자, 연구자들의 의견을 담고 있습니다. 본 글에서 다루는 질문과 논의의 주요 참고 문헌이기도 하지만, 보다 폭넓은 시각을 제공하기 위해 여러 자료를 함께 참고하였으며, 모든 출처는 글의 마지막 부분에 정리해 두었습니다.

본 글의 핵심 주제는 AI 제품과 서비스의 윤리적 개발에 있어 디자이너가 책임감을 가져야 한다는 점입니다. 디자인이라는 분야는 본질적으로 인간 중심적입니다. 우리는 사회적 맥락 속에서 인간의 필요와 욕구를 이해하고 해결하는 것을 목표로 합니다. 우리의 심리학적 접근, 연구, 전략적 사고가 우리가 만드는 제품을 통해 전 세계 사람들의 신체적·정신적·감정적 건강에 깊은 영향을 미친다는 점을 항상 인식해야 합니다.

AI는 인간 중심적일까? 인간 중심적 디자인(Human-Centered Design, HCD)은 데이터 모델의 공정성을 보장하고, 편향을 줄이며, 포용성을 높이는 데 중요한 역할을 합니다. 지난 10년 동안 거의 모든 디자인 프레임워크와 프로세스는 인간 중심적 접근 방식을 따르는 것이 원칙이었으며, AI도 예외일 수 없습니다. 이러한 접근 방식은 AI가 인간에게 미치는 영향을 분석하고, 예상치 못한 부작용을 방지하는 데 도움을 줍니다. 예를 들어, 스탠퍼드 대학의 ‘Human-Centered AI Institute’와 MIT의 AI 교육에 대한 대규모 투자 같은 글로벌 움직임은 AI를 인간 중심적으로 발전시키려는 노력을 보여줍니다.

사라 탄(Sarah Tan)의 기사에 따르면, AI가 인간에게 미치는 영향을 인간 중심적 디자인(HCD) 방식으로 탐구함으로써, 기술과 인간의 가치가 일치하도록 조정할 수 있습니다. 즉, AI 프로젝트의 핵심에 윤리적 요소를 자연스럽게 통합할 수 있다는 뜻입니다.

인간을 중심에 둔 AI 시스템 *Three Fresh Ideas에서는 AI 시스템이 인간 중심적으로 설계될 필요성을 강조하고 있습니다.

사용자 중심의 디자인 연구는 AI가 현실에서 어떤 영향을 미치는지 분석하는 데 중요한 역할을 합니다. 이는 단순한 기술적 문제뿐만 아니라 사회·경제적 문제까지도 다루는 과정입니다. 하지만 이를 실천하는 것은 쉽지 않습니다.

실제 산업 현장에서 일하는 디자이너들은 끊임없이 새로운 기술과 트렌드를 빠르게 적용해야 한다는 압박을 받습니다. 충분한 고민 없이 트렌드를 따라가야 하는 경우가 많고, 때때로 사용자의 행동을 유도하기 위해 심리적 연구를 활용하지만, 이는 사용자의 이익을 해칠 수도 있습니다. 또한, “빨리 움직이며 부숴라(Move fast and break things)”라는 초기 페이스북 문화에서 유래한 사고방식이 업계 전반에 퍼져 있어, 신중하고 윤리적인 디자인을 하기 어려운 환경이 조성되기도 합니다.

그렇다면 이러한 현실 속에서 우리는 어떻게 사람을 위한 디자인을 지킬 수 있을까요?

디자이너가 알아야 할 AI의 주요 역량 이 글을 통해 내가 이루고자 하는 목표는 더 많은 디자이너들이 AI 시스템 개발에 적극적으로 참여하도록 영감을 주는 것입니다. 그렇게 해야만 AI가 보다 윤리적이고 인간 중심적으로 발전할 수 있기 때문입니다. 이를 위해 디자인 사고(Design Thinking)를 활용하여 AI가 사회에 미치는 부정적인 영향을 줄이고, 인간 중심적인 AI 시스템과 가이드라인을 개발하는 것이 중요합니다.

하지만 어떻게 해야 하는지에 대한 정답은 아직 없습니다. 우리 모두가 함께 답을 찾아가는 과정에 있는 것이죠. 이를 돕기 위해, 나는 헬렌 암스트롱의 책에서 다룬 AI의 주요 역량 중 디자이너가 적극적으로 개입해야 할 부분을 강조하고자 합니다. 우리는 사용자의 필요를 충족시키면서도 사회·경제적 맥락을 윤리적으로 존중하는 디자인 결정을 옹호해야 합니다. 쉬운 일이 아니겠지만, 다음 요소들을 통해 길을 열어나갈 수 있습니다.

1) 더 강력한 예측을 위한 디자인 예측(Prediction)은 머신러닝(Machine Learning) 의 핵심 능력 중 하나입니다. 머신러닝은 인공지능(AI)의 한 분야로, 데이터 학습을 통해 알고리즘이 명확한 프로그래밍 없이도 예측이나 결정을 내릴 수 있도록 합니다. 머신러닝 기반의 예측 모델(Predictive Modelling)은 과거 데이터를 분석하여, 미래의 사건이나 결과를 예측하고 인간의 행동을 미리 예상하는 것을 목표로 합니다.

예를 들어, 지메일(Gmail)에서 사용자의 과거 입력 패턴을 바탕으로 문장을 자동 완성하는 기능을 생각해 볼 수 있습니다. 시간이 지나면서 시스템은 사용자의 문장 스타일을 학습하여 다음과 같은 문장을 자동으로 제안할 수 있죠.

안녕하세요, 아델. 내일 이야기 나누죠. 몇 시가 괜찮으세요?

또한 주식 가격 예측, 재고 및 공급망 최적화, 의료 예측(질병 발생 예측 등), 타겟 마케팅 캠페인, 그리고 기타 개인화된 사용자 경험 등 다양한 산업 분야에서의 수많은 응용 사례를 생각해 볼 수 있습니다.

AI가 제공하는 예측이 100% 정확하지는 않지만, 기업 입장에서는 미래의 수요, 트렌드, 필요를 미리 파악하여 더 나은 기회를 준비하고 경쟁력을 갖출 수 있다는 점에서 큰 이점이 있습니다. 따라서 디자이너들은 AI 기술을 활용할 때 변화하는 사용자 경험을 염두에 두고 설계해야 합니다. 그러나 AI 기술을 무작정 적용하는 것은 위험할 수 있는데요. AI가 인간을 차별하거나 감시하고, 심지어 대규모로 조작할 가능성도 있기 때문입니다. 예측 모델이 기존의 편향(Bias)을 강화하거나, 예상치 못한 부작용을 초래하는 경우도 많습니다.

Face Cages는 생체인식 기술이 가진 추상적인 폭력을 시각적으로 표현한 작품이다. Zach Blas >

디자이너는 이러한 위험을 미리 인지하고 해결책을 마련할 책임이 있습니다. 우리가 설계하는 AI 시스템이 윤리적이고 포용적인 방식으로 작동하도록 보장해야 합니다. AI Now Institute 의 창립자인 케이트 크로포드(Kate Crawford) 는 이렇게 말합니다.

“AI 시스템이 사회 제도 속으로 빠르게 스며들고 있는 지금, 그 안에 존재하는 정치적 요소를 이해하는 것이 그 어느 때보다 중요하다. AI는 면접 대상자를 결정하고, 수업에서 어떤 학생이 집중하고 있는지 판별하며, 어떤 용의자를 체포할지 결정하는 등의 역할을 하고 있다.”

2) 미래의 시나리오를 예측하는 디자인 헬렌 암스트롱은 책에서 예측적 디자인(Anticipatory Design) 개념을 탐구하며, 디자이너들이 AI를 활용해 사용자의 필요를 예측하고, 능동적으로 대응할 수 있는 방법을 설명합니다. 이를 위해 데이터 기반 인사이트를 활용하여 사용자의 한발 앞서 행동함으로써 마찰을 줄이고, 전반적인 사용자 경험을 향상시키는 것이 핵심입니다.

예측적 디자인의 장점 중 하나는 사용자의 인지적 부담(Cognitive Load)을 줄여, 의사 결정 피로(Decision Fatigue)를 완화할 수 있다는 점입니다. 예측 시스템이 사용자가 원하는 선택지를 미리 제시하거나, 아예 사용자를 대신해 자동으로 결정을 내려주기 때문입니다.

예를 들어, 넷플릭스(Netflix)나 아마존(Amazon)과 같은 기업들은 예측 분석(Predictive Analytics)을 활용해 사용자가 관심을 가질 만한 콘텐츠나 제품을 추천합니다. 하지만 이러한 시스템은 사용자의 자율성(Autonomy)이나 프라이버시(Privacy)를 침해할 가능성이 있는 윤리적 문제를 동반하기도 합니다. 헬렌 암스트롱은 다음과 같이 말합니다.

“예측적 디자인의 강점은 직관적이고 개인화된 경험을 창출할 수 있다는 점에 있다. 그러나 이러한 강력한 능력을 지닌 만큼, 이를 책임감 있게 활용해야 할 의무도 따른다. 모든 디자인 결정의 중심에는 반드시 인간적인 요소가 남아 있어야 한다.”

다행히도 우리는 변화에 유연하게 대응할 수 있는 제품과 서비스를 설계하는 미래지향적인 방법을 사용할 수 있습니다. 디자이너들은 AI를 활용해 미래의 다양한 시나리오를 시뮬레이션하고 모델링할 수 있으며, 이를 통해 변화하는 사용자 요구, 환경적 요인, 사회적 변화를 예측할 수 있죠. 이렇게 하면 우리의 디자인이 시간이 지나도 지속적으로 적응하고 발전할 수 있도록 만들 수 있습니다.

Flock은 드론 운영 보험을 간편하게 제공하기 위해 ‘비행 위험(Flight Risk)’을 분석하는 시스템을 개발했다. 보험사는 디자인 스튜디오 IF와 협력하여, 고객이 자동화된 보험료 결정 과정을 쉽게 이해할 수 있도록 인터페이스를 설계했다.

3) 개인화된 경험을 디자인하기 사용자 경험(UX) 디자인에서 개인화란, 인터페이스, 콘텐츠, 그리고 상호작용을 개별 사용자의 특정한 필요, 선호도, 그리고 맥락에 맞게 조정하는 것을 의미합니다. AI를 활용한 개인화는 주로 예측 기술과 데이터 분석을 활용하여, 특정 순간에 사용자에게 더 적절하고 가치 있는 경험을 제공하는 방식으로 이루어집니다. 개인화의 핵심은 사용자에게 제공되는 정보나 행동이 유용하고, 사용하기 쉬우며, 매력적이어야 한다는 점이며, 이는 디자인 연구자인 리즈 샌더스(Liz Sanders)의 유명한 인용문에서도 영감을 받을 수 있습니다.

AI는 방대한 사용자 데이터를 분석하여 패턴과 선호도를 파악하고, 예측 모델을 통해 사용자가 다음에 필요로 하거나 원할 가능성이 높은 것을 예측함으로써 개인화를 강화할 수 있습니다. 예를 들어, 사용자의 현재 위치나 시간대와 같은 맥락을 고려하여 보다 적절한 제안을 제공할 수 있습니다.

하지만 개인화는 개인정보 보호, 편향성, 투명성 등의 윤리적 문제를 동반하기도 합니다. 그렇기 때문에 디자이너는 개인화를 효과적이고 윤리적으로 구현하는 데 중요한 역할을 합니다. 사용자 연구와 테스트를 통해 필요와 선호도를 정확히 이해하고, 지속적인 피드백을 반영하여 개인화 기능을 더욱 정교하게 다듬어야 합니다.

“Seeing AI: 마이크로소프트(Microsoft)가 개발한 AI 기반 앱으로, 시각장애인을 위해 주변 세상을 ‘설명해 주는’ 기능을 제공합니다. 이 영상을 보고 미소가 지어졌어요.” 마이크로소프트 유튜브 >

개인화는 디자이너에게 강력한 도구이지만, 아무리 정교한 AI 기술이라도 그것을 어떻게 적용하느냐가 성공의 열쇠입니다. 암스트롱이 강조했듯이, 개인화된 경험이 효과적이면서도 윤리적이고 사용자에게 실질적인 혜택을 줄 수 있도록, 언제나 사용자의 이익을 최우선으로 고려해야 합니다.

4) AI를 디자인 재료로 활용하기 AI를 위한 디자인은 왜 어려울까요? AI 기술은 눈에 보이지 않고 추상적이기 때문에 디자인하기가 쉽지 않습니다. 디자이너로서 솔루션을 직접 ‘스케치’할 수 없다면, 중요한 능력을 잃어버린 듯한 느낌이 들기도 합니다.

인터랙션 디자인 교수인 필립 반 앨런(Philip Van Allen)도 이러한 어려움을 “마치 팔이 잘려나간 느낌”이라고 표현한 바 있습니다. 이러한 문제를 해결하기 위해 그는 학생들이 보다 쉽게 머신러닝을 활용할 수 있도록 노코드 프로그래밍 환경을 개발했습니다. Delft AI Toolkit 이라는 이 도구는 AI 시스템을 3D 공간에서 시뮬레이션할 수 있도록 해, 디자이너들이 물리적인 AI 모델을 만들기 전에 시스템의 동작 방식과 데이터 흐름을 가상으로 실험하고 조작해 볼 수 있도록 도와줍니다.

필립 반 앨런 유튜브 >

카네기멜런대학교(Carnegie Mellon University)의 존 짐머맨(John Zimmerman) 교수는 AI를 디자인 재료로 활용하는 또 다른 방법을 제안합니다. AI의 기술적인 구조보다 AI가 할 수 있는 일에 집중하는 방식입니다. 많은 디자인 전공 학생들이 AI 기술을 다룰 때 무엇이 가능한지조차 감을 잡지 못하는 경우가 많습니다. 이를 해결하기 위해 교수님은 ‘매칭 시스템’을 활용했는데요.

예를 들어, 텍스트를 두 가지 범주로 분류할 수 있는 AI를 보여주고, “이 기술을 활용해 무엇을 할 수 있을까요? 그리고 누구를 위해 사용할 수 있을까요?”라고 질문하는 방식입니다. 이러한 접근법은 디자이너들이 AI의 기존 기능을 새롭고 창의적인 방식으로 적용할 기회를 제공합니다. 디자인 도구와 마찬가지로 AI도 직접 실험해 보며 경험을 쌓을수록 더 익숙해지고, 활용 방법도 점점 더 확장될 수 있습니다.

Janelle Shane의 DALL-E 3 실험은 알고리즘이 ‘어떻게 엉뚱한 결과를 만들어낼 수 있는지’ 보여주는 재미있는 사례입니다. 그녀는 알고리즘 훈련 과정을 탐구하며, 캔디 하트 메시지를 생성하는 실험을 진행했습니다. AI Weirdness >

제가 개인적으로 가장 효과적이라고 생각하는 방법은 OOUX(Object-Oriented UX, 객체 지향 UX) 방법론입니다. OOUX는 ‘행동(Action)’보다 ‘객체(Object)’를 먼저 고려하는 접근 방식으로, 사용자가 세상을 인식하는 방식과 잘 맞아떨어집니다. 객체 지향 프로그래밍에서 영감을 받았지만, 이를 UX 디자인에 적용한 개념입니다. 이 방법론은 특히 AI 기반 시스템을 설계할 때 매우 유용한데요.

데이터와 인터랙션을 객체 중심으로 정리하면, AI 기술을 잘 모르는 분들도 쉽게 이해할 수 있도록 도와줍니다. 즉, 복잡한 AI 시스템을 사용자의 인식 방식과 자연스럽게 연결하는 역할을 합니다. OOUX의 대표적인 전문가로는 소피아 프레이터(Sophia Prater)가 있으며, 그녀의 강의와 팟캐스트도 꼭 추천하고 싶습니다.

저는 최근 OOUX 방법론을 활용해 AI 네이티브(Native AI) 제품을 설계하는 프로젝트를 진행했는데요. 이 접근법을 통해 AI 시스템의 기능과 한계를 더 명확히 시각화할 수 있었고, 개발팀과의 협업도 원활하게 이루어졌습니다. 특히 객체 매핑(Object Mapping)과 사용자 플로우(User Flow) 작업을 통해, 디자인 과정이 훨씬 구체적이고 체계적으로 정리될 수 있었습니다. 덕분에 최종 솔루션의 품질과 정확성이 크게 향상되었고요.

OOUX 방법론을 활용해 개발팀과 협업한 결과, 혼돈 속에서도 멋진 조화를 이루었습니다.

“머신러닝(ML)은 이제 새로운 UX다. 앞으로 UX 디자이너들은 머신러닝을 창의적이고 신중하게 활용하는 방법을 터득해야 한다. 우리는 사용자가 AI 시스템을 더 쉽게 이해하고, AI 기술자들이 더 신중하게 AI를 설계하도록 이끄는 역할을 맡게 될 것이다.” _치엔 양(Qian Yang), 코넬 대학교(Cornell University)

5) AI로 인한 환경 영향을 줄이는 디자인 이 내용은 책에서 직접 언급된 것은 아니고 AI의 기능이라고 할 수도 없습니다. 그래도 AI 기술이 급속히 발전하는 현시대에 디자이너들이 반드시 갖춰야 할 중요한 역량 중 하나입니다. 산티 애널리티스(Santhi Analytis)가 쓴 “기후를 고려한 AI 기업을 설계하는 방법”이라는 기사에서는 AI 기술이 환경에 미치는 영향을 줄이는 데 있어, 디자이너들이 중요한 역할을 한다고 강조하고 있습니다.

AI 모델 훈련과 데이터 센터 운영처럼 에너지를 많이 소모하는 과정이 AI의 탄소 배출을 증가시키고 있으며, 이에 대한 해결책이 시급하다는 것입니다. 디자이너들은 에너지 효율적인 UI/UX 요소를 설계하고, 불필요한 데이터 및 미디어 로드를 최소화하며, 친환경 소프트웨어 원칙을 적용함으로써 이러한 문제를 해결하는 데 기여할 수 있습니다. 또한, AI를 사회적으로 포용적이고 환경을 고려한 방식으로 활용할 수 있도록 유도하는 역할도 할 수 있습니다.

브라질의 독립 언론사인 더 인터셉트 브라질(The Intercept Brasil)에서 지난해 보도한 기사에 따르면, 마이크로소프트, 구글, 아마존 같은 주요 기술 기업들이 AI와 데이터 센터의 급격한 에너지 소비 문제를 해결하기 위해 원자력 에너지를 대안으로 모색하고 있다고 합니다.

마이크로소프트는 스리마일섬 원자력 발전소를 재가동할 계획이며, 구글은 카이로스 파워(Kairos Power)와 협력해 소형 원자로 개발을 추진하고 있고, 아마존은 원자력 기술에 5억 달러를 투자했습니다. 그러나 이러한 데이터 센터들이 글로벌 남반구(Global South) 국가들에서 주로 건설되고 있다는 점입니다. 노동력 및 인프라 비용 절감이라는 명목 아래, 자원 착취에 대한 우려가 커지고 있죠. 원자력 에너지는 탄소를 배출하지 않고 효율적이지만, 비용이 높고 위험성을 동반하는 기술입니다. 이에 비판하는 사람들은 빅테크(Big Tech) 기업들이 지속 가능성보다, 기술 확장을 우선시하며 스스로 만든 위기를 해결하려는 것뿐이라고 지적합니다.

업계의 “빠르게 움직이고, 깨지더라도 일단 시도하라”라는 사고방식은 과연 원자력 에너지가 AI의 가속적인 에너지 소비 속도를 따라잡을 수 있을지, 아니면 단순히 빅테크의 통제되지 않은 성장의 또 다른 장이 될 것인지에 대한 의문을 남깁니다. 이와 관련한 문제를 복스(Vox) 다큐멘터리에서 심층적으로 다루고 있습니다.

한편, MIT의 기사 에서 앤드루 윈스턴(Andrew Winston)은 AI의 환경적 영향을 줄이기 위한 몇 가지 방안을 제시합니다. 예를 들어, 새로운 AI 모델을 만들기보다 기존 모델을 재활용하는 것이 더 지속 가능한 방법일 수 있다고 강조합니다. 그는 디자이너들에게 AI 기술에 대한 전문성을 키워야 한다고 조언했는데요. 제품 내에서 AI의 사용량과 환경적 비용을 시각적으로 보여주는 ‘뉴트리스코어’(nutriscore) 같은 개념을 도입하고, EU AI 법안과 같은 윤리적 ‘행동 강령’을 준수할 것을 제안합니다. 이러한 원칙을 따르면 AI 제품이 안전하고, 투명하며, 추적 가능하고, 차별적이지 않으며, 환경적으로 책임감 있는 방식으로 개발될 수 있습니다.

디자이너들은 사용자의 행동과 기업 정책을 변화시키는 데 영향력을 가질 수 있는 위치에 있습니다. AI의 실제 비용과 영향을 반영하는 투명한 데이터 모델을 설계함으로써, AI가 단순히 인간의 문제를 해결하는 것뿐만 아니라 환경 문제 해결에도 기여할 수 있도록 방향을 잡아야 합니다.

결론: 이제 행동할 때입니다 AI 윤리의 시급한 필요성 앞에서 쉽게 압도될 수 있습니다. AI는 다양한 작업을 수행할 수 있는 유연하고 역동적인 기술로, 실제 문제 해결에 큰 도움이 됩니다. 하지만 알고리즘 시스템은 기존 사회적 편견을 반영하고 확대하는 경우가 많습니다. 알고리즘이 어떻게 결정을 내리는지 인터페이스를 통해 명확히 전달하지 않는다면, 사용자는 이러한 시스템을 책임질 수 없습니다. 그렇기 때문에 디자이너와 기술을 이용하는 커뮤니티가 디지털 권리를 이해하는 것이 중요합니다. 우리가 만든 디자인을 통해, 스스로와 업계를 책임지는 자세를 가져야 합니다.

핵심 질문은 이것입니다. 우리는 기계 학습이 이미 사회적으로 소외된 사람들을 더 착취하도록 내버려둘 것인가, 아니면 이 기술을 공정성과 정의를 위한 도구로 활용할 것인가?

디자인 업계에서 우리가 실천할 수 있는 몇 가지 방법을 소개합니다.

다양한 미래 시나리오를 고려하여, 변화에 유연하게 대응할 수 있는 디자인을 만들기 디자인과 데이터 기반 의사결정이 장기적으로 어떤 영향을 미칠지 깊이 고민하기 디지털 권리를 명확히 설명하고, 디자인을 통해 사용자가 투명한 선택을 할 수 있도록 돕기 복잡한 개인정보 보호 정책을 누구나 쉽게 이해할 수 있도록 간결한 방식으로 전달하기 개인의 프라이버시를 보호하는 미래형 개념(예: 개인 정보 보호 에이전트) 시제품 만들어보기 디지털 권리 보호 단체 및 커뮤니티 주도 데이터셋 프로젝트 지원하기 초기 단계부터 윤리적 문제와 편향성을 고민하여, 기술이 사람을 따라가도록 만들기

여러분은 AI 제품을 만들 때 어떤 접근 방식을 사용하나요? 윤리적이고 포용적인 디자인 솔루션의 좋은 사례를 알고 있다면 공유해 주세요!

Big Data, Big Design: Why Designers Should Care About Artificial Intelligence _헬렌 암스트롱(Helen Armstrong)의 저서 Design and the Question of History _토니 프라이(Tony Fry), 클라이브 딜낫(Clive Dilnot), 수잔 스튜어트(Susan Stewart)의 저서 Human-Centered Design for AI _넷플릭스(Netflix) 제품 디자인 리드, 니왈 셰이크(Niwal Sheikh) 진행 웨비나, 인터랙션 디자인 재단(IxDF) 주최 How to Design Climate-Forward AI Companies _산티 애널리티스(Santhi Analytis)의 기사 The Problem with AI Development Today: Designers Need to Step Up _사라 탄(Sarah Tan)의 기사 Will AI Help or Hurt Sustainability? Yes _앤드류 윈스턴(Andrew Winston)의 기사 What is Predictive AI? _클라우드플레어(Cloudflare)의 기사 Reviewing the Terms & Conditions of Popular Generative AI Tools _데이비드 세로(David Serrault)의 기사 The Problem with AI Development: Designers Need to Step Up _사라 탄(Sarah Tan)의 기사 Design For AI (Artificial Intelligence) _수다르샨 사후(Sudarshan Sahu)의 기사 Design Against AI _존 마에다(John Maeda)의 웹사이트 The Intercept: ‘Big techs apelam para energia nuclear _더 인터셉트 브라질(The Intercept Brasil)의 원문을 언급한 포털 인베스트엔이(Portal InvestNE)의 기사 OOUX _소피아 프레이터(Sophia Prater)의 웹사이트 AI Now Institute _웹사이트

Why AI (desperately) needs designers