(영상) 인간 스타버스트: AI가 남겨둔 가장자리를 위한 디자인 - 유타 트레비라누스 박사

유타 트레비라누스는 인간의 요구가 평균에 집중되어 있지 않고 주변부로 갈수록 훨씬 다양하게 퍼진다는 ‘인간 스타버스트(Human Starburst)’ 개념을 통해, 평균적인 사람을 기준으로 만든 시스템이 장애인과 소수의 요구를 배제한다고 설명한다. 
AI는 통계적으로 가장 강한 패턴과 평균을 따르기 때문에 기존 사회의 편향을 증폭하며, 장애인 데이터를 더 추가하는 것만으로는 이질적인 요구를 제대로 반영하기 어렵다. 그는 기존과 비슷한 사람과 해결책을 반복해서 선택하는 대신, 현재 시스템에 없는 능력·관점·요구를 적극적으로 찾고 장애 당사자를 AI의 문제 정의부터 디자인·개발·평가까지 전 과정에 참여시켜야 한다고 주장한다. AI가 인간의 차이를 오류처럼 제거하고 모두를 평균에 맞추는 ‘디지털 단일문화’를 만들지 않도록, 포용적 디자인은 가장자리의 요구와 불완전함·다양성을 시스템의 적응력과 혁신을 높이는 자원으로 다뤄야 한다.

인간 스타버스트: AI가 남겨둔 가장자리를 위한 디자인
유타 트레비라누스(Jutta Treviranus) 박사
The Human Starburst: designing for the edges AI leaves behind, with Dr Jutta Treviranus
This is HCD (Human Centered Service Design & UX)
2026. 8. 14.

원본 영상: https://youtu.be/HWzpWp8OUmY?si=s-KpHriOHYEuiTw5  

---

내용 요약

유타 트레비라누스 박사는 인간의 요구를 다차원 공간에 펼쳐 보면 가운데에 밀집된 ‘평균적 요구’와 주변부에 넓게 흩어진 매우 다양한 요구가 별이 폭발하는 듯한 형태를 만든다고 설명하며 이를 ‘인간 스타버스트(Human Starburst)’라고 부른다. 사회의 제품·서비스·교육·의료·고용·정책은 대부분 이 가운데 영역의 평균적인 사람에게 맞춰져 있기 때문에, 장애인처럼 평균에서 멀리 떨어진 사람일수록 시스템이 제대로 작동하지 않는다는 것이다. 
이 문제는 AI에서 더욱 심각해진다. AI는 기본적으로 과거 데이터에서 통계적으로 가장 강한 패턴을 찾아 확률적으로 판단하기 때문에 평균적인 사람에게는 비교적 정확하지만, 평균에서 멀리 떨어진 사람에게는 틀릴 가능성이 커진다. 장애인을 데이터에 더 많이 포함시키는 것만으로는 문제를 해결할 수 없다. 장애인은 하나의 동질적인 집단이 아니며, 장애인의 공통점은 특정한 특성이 아니라 오히려 ‘평균에서 멀리 떨어져 있다는 것’이기 때문이다.
트레비라누스는 자율주행차 AI가 휠체어를 뒤로 밀며 이동하는 사람을 인식하지 못했던 사례를 소개한다. 개발자들은 휠체어 이용자 데이터를 더 추가했지만, 그 결과 AI는 ‘휠체어 이용자는 앞으로 움직인다’는 평균적 패턴을 더욱 확신하게 되었고 오히려 잘못된 판단에 대한 신뢰도가 높아졌다. 이 사례는 대표성을 높이는 데이터 추가만으로는 통계적 평균 중심의 AI 구조를 해결할 수 없음을 보여준다.
그는 AI 채용 시스템을 예로 들어 기존의 성공한 직원과 비슷한 사람을 찾는 방식이 조직을 점점 더 동질적인 ‘단일문화(monoculture)’로 만든다고 지적한다. 대신 현재 조직에 없는 능력, 다른 경험, 예외적인 특성을 찾아내도록 AI의 목적을 뒤집을 것을 제안한다. 기존 데이터를 이용해 최적해를 찾는 ‘data exploitation’에서 아직 존재하지 않는 가능성을 찾는 ‘data exploration’으로 전환해야 한다는 것이다.
AI는 장애가 있는 사람이 평균적인 시각·청각·읽기·쓰기 능력에 가까워지도록 돕는 강력한 도구이기도 하다. 그러나 동시에 AI가 모두의 글쓰기와 표현을 ‘정상적이고 매끄러운 형태’로 만들어가면서 인간의 개성, 어색함, 불완전함, 특이성을 제거할 위험도 있다. 트레비라누스는 와비사비의 개념을 빌려 불완전하고, 영속적이지 않으며, 완결되지 않은 것의 가치를 교육과 디자인이 다시 인정해야 한다고 주장한다.
IDRC의 We Count 프로젝트는 기존 AI 규제와 평가가 통계적으로 작은 집단과 이상치를 놓치는 문제를 연구한다. 피해가 각각 작게 나타나더라도 여러 시스템이 한 사람에게 지속적으로 불리한 결정을 내리면 ‘수천 번의 작은 베임’과 같은 누적 피해가 발생한다. 또한 We Count는 일반적인 워드클라우드와 반대로 가장 적게 등장한 답변을 중앙에 크게 표시하는 ‘역전된 워드클라우드(Inverted Word Cloud)’를 개발해 다수의 의견이 아니라 소수의 독특한 요구에 주목하도록 한다.
트레비라누스는 이 문제를 디자인씽킹에도 적용한다. 아이디어를 넓게 발산하더라도 결국 투표를 통해 ‘승리한 하나의 해결책’을 선택하고 이를 확장하는 과정은 평균과 다수를 강화할 수 있다. 하나의 성공 모델을 대규모로 복제하는 것이 성공이라는 생각 자체를 재검토해야 한다는 주장이다.
그가 위원장을 맡아 개발한 캐나다의 CAN-ASC-6.2:2025 「Accessible and Equitable Artificial Intelligence Systems」 표준은 장애인이 AI의 사용자가 되는 것에 그치지 않고 문제 정의, 디자인, 개발, 도입, 운영, 모니터링 등 AI 전 생애주기의 완전한 참여자가 되어야 한다고 규정한다. 장애 당사자의 경험은 페르소나나 공감 훈련으로 대체할 수 없으며, 실제 장벽을 경험한 사람이 문제를 정의하는 단계부터 참여해야 한다는 것이다.
그는 다양성을 처음부터 고려하면 비용이 증가한다는 통념에도 반박한다. 평균적인 사용자만 고려한 시스템은 환경이 바뀌거나 새로운 요구가 등장할 때 계속 수정하고 보완해야 하기 때문에 쉽게 취약해진다. 반대로 처음부터 요구의 전체 스펙트럼을 고려하면 선택지와 유연성이 많은 적응형 시스템이 만들어져 중장기적으로 비용이 낮아지고 수명도 길어진다는 설명이다.
마지막으로 트레비라누스는 AI 시대의 가장 큰 위험 가운데 하나를 인간을 통계적 평균으로 수렴시키는 ‘디지털 우생학적 인프라(digital eugenics infrastructure)’의 형성이라고 표현한다. 인간의 차이와 다양성을 오류처럼 제거한다면 사회는 단일문화가 되고 변화와 위기에 적응할 능력을 잃는다. 따라서 AI를 무조건 도입하기 전에 무엇을 자동화하고 있는지, 누구에게 피해가 발생하는지, AI가 정말 필요한 도구인지 질문해야 하며, 하나의 ‘최선의 방법’을 찾기보다 맥락에 맞는 다양한 대응 전략을 유지해야 한다는 것이 이 대화의 핵심이다.

---

채널 소개 — This is HCD

This is HCD(Human Centered Service Design & UX)는 서비스디자인, UX, 디자인리서치, 인간중심디자인 분야의 실무자와 연구자들을 인터뷰하는 국제 팟캐스트·콘텐츠 채널이다.
아일랜드 더블린에서 활동하는 인간중심 서비스디자인 실무자 게리 스컬리언(Gerry Scullion)이 진행하며, 다양한 디자이너·연구자·공공부문 전문가들과 서비스디자인, 디자인리서치, 조직 변화, AI, 접근성 등의 주제를 다룬다.
이번 인터뷰는 포용적 디자인과 접근성을 다루는 특별 시리즈의 일부로, 이 시리즈는 현 송(Hyun Song)이 객원 진행을 맡고 있다.

---

진행자 소개 — 현 송(Hyun Song)

현 송은 호주에서 활동하는 서비스디자이너이자 디자인리서처이다.
현재 공공부문의 디지털 전환 프로젝트를 중심으로 서비스디자인과 고객·사용자 리서치를 수행하고 있으며, This is HCD의 ‘포용적 디자인과 접근성’ 특별 시리즈를 객원 진행하고 있다.

발언자 소개 — 유타 트레비라누스(Jutta Treviranus)

유타 트레비라누스 박사는 캐나다 토론토 OCAD University 디자인학부 교수이자 Inclusive Design Research Centre(IDRC) 소장으로, 포용적 디자인 분야의 대표적인 연구자이다.
1979년부터 장애와 디지털 포용 분야에서 활동해 왔으며, 1993년 IDRC를 설립했다. 포용적 디자인 방법론, 접근성, AI 윤리, 공동디자인 등을 연구해 왔으며, 그의 연구는 기업과 공공부문의 포용적 디자인 방법론에도 영향을 미쳤다. 특히 AI가 통계적 평균에서 벗어난 사람들에게 미치는 영향을 오랫동안 연구해 왔다. 그는 2025년 12월 발표된 캐나다의 CAN-ASC-6.2:2025 「Accessible and Equitable Artificial Intelligence Systems」 표준 기술위원회 의장을 맡았다. 이 표준은 장애인이 AI 시스템의 전 생애주기에서 능동적인 참여자가 될 수 있어야 하며, AI로부터 공평한 혜택을 얻고 불공평한 피해를 받지 않아야 한다는 원칙을 제시한다.

---

영상 소개문 번역(유튜브)

우리의 시스템 대부분은 ‘평균적인 사람’을 위해 만들어져 있습니다.
유타 트레비라누스 박사는 40년이 넘는 시간 동안 이것이 다른 모든 사람에게 왜 실패하는지, 그리고 AI가 어떻게 그 격차를 더욱 빠르게 확대할 수 있는지를 보여주어 왔습니다. 
이번 This is HCD 에피소드에서 현 송은 OCAD University의 Inclusive Design Research Centre 설립자이자 소장이며 캐나다의 새로운 접근 가능한 AI 표준을 만든 기술위원회 의장인 유타 트레비라누스와 이야기를 나눕니다.
두 사람은 인간의 차이를 설명하는 그의 Human Starburst 모델, 평균적인 사람을 중심으로 만들어진 시스템이 장애인이 위치한 주변부에서는 왜 무너지는지, 그리고 그러한 차이를 제거하는 대신 그 차이를 위해 디자인하려면 무엇이 필요한지를 살펴봅니다.
이번 에피소드에서 언급된 자료는 다음과 같습니다.
Inclusive Design Research Centre(IDRC)
We Count
CAN-ASC-6.2:2025, Accessible and Equitable Artificial Intelligence Systems
Inverted Word Cloud 데모
This is HCD의 기본 진행자는 게리 스컬리언이며, 이번 포용적 디자인과 접근성 특별 시리즈는 현 송이 객원 진행합니다.

---

전문 번역

현 송

안녕하세요. This is HCD에 오신 것을 환영합니다.
저는 진행자 현 송입니다.
저는 오늘 가디갈(Gadigal) 사람들의 땅에서 여러분과 함께하고 있다는 점을 먼저 말씀드리고 싶습니다.
과거와 현재의 원로들께 존경을 표하며, 이 팟캐스트를 듣고 계신 모든 호주 원주민과 토레스 해협 제도민 여러분께도 같은 존경을 전합니다.
제 대명사는 she/her입니다.
제 모습을 설명하자면, 중간 길이의 검은 머리를 한 여성이고 헤드폰과 검은색 점퍼를 착용하고 있습니다.
그리고 제 뒤에는 다시 한번 아주 재미없는 거실 벽이 보입니다.
오늘은 캐나다 OCAD University의 Inclusive Design Research Centre 설립자이자 소장이며, 포용적 디자인 분야에서 가장 영향력 있는 인물 가운데 한 분인 유타 트레비라누스 박사와 함께합니다.
유타는 40년이 넘는 시간 동안 우리가 ‘평균적인 사람’을 위해 디자인해야 한다는 생각에 도전해 왔습니다.
오늘 대화에서는 이것이 AI와 데이터, 장애에 어떤 의미를 갖는지 살펴보고, 어떻게 하면 피해를 줄이고 더 많은 혜택을 만드는 방향으로 균형을 옮길 수 있는지 이야기해 보겠습니다.
유타, 함께해 주셔서 정말 감사합니다.

유타 트레비라누스

저도 기쁩니다.
제 대명사는 she/her입니다.
제 모습을 설명하자면, 회색 머리에 안경을 쓴 나이 든 백인 여성이고, 제 뒤 배경 역시 특별할 것이 없습니다.

현 송

먼저 선생님의 작업에서 가장 인상적인 개념 가운데 하나부터 시작하고 싶습니다.
인간의 차이를 이해하는 방법으로 ‘인간 스타버스트(Human Starburst)’​라는 개념을 말씀하셨는데요.
이 비유에 익숙하지 않은 청취자들을 위해 인간 스타버스트가 무엇인지 설명해 주시겠습니까?

유타 트레비라누스

네.
저는 1979년에 이 분야에서 일을 시작했고, 그때부터 제가 만나는 거의 모든 사람에게 질문하면서 상당히 비공식적이고 임의적인 데이터셋을 만들어 왔습니다.
“당신이 잘 살아가기 위해 필요한 것은 무엇입니까?”
“사회에 완전히 참여하기 위해 무엇이 필요합니까?”
이런 질문입니다.
그 답을 시각화하려고 하면, 워낙 다면적이고 사람들이 응답하는 내용에도 많은 차이가 있기 때문에 제가 표현할 수 있는 유일한 방법은 이른바 고차원 다변량 산점도(high-dimensional multivariate scatter plot)​라는 형태입니다.
그리고 그 데이터의 어떤 부분을 떼어 보든, 어떤 모집단을 살펴보든 모양이 마치 별이 폭발하는 것처럼 보인다는 점을 발견했습니다.
그래서 그것을 ‘인간 스타버스트’라고 부릅니다.
눈에 띄는 점은 전체 요구 가운데 약 80%가 전체 공간의 대략 20%에 해당하는 중앙부에 모여 있다는 것입니다.
그리고 그 요구들은 서로 아주 가까이에 있습니다.
즉, 매우 비슷합니다.
반면 나머지 20%의 요구는 주변부 전체에 넓게 퍼져 있는데, 그 주변부가 전체 공간의 약 80%를 차지합니다.
이것은 파레토(Pareto)가 80/20 원칙을 이야기하면서 관찰했던 패턴과 매우 비슷합니다.
정규분포처럼 보이기도 합니다.
여러 개의 종 모양 곡선을 서로 다른 방향으로 겹쳐 놓은 것과 비슷합니다.
또 한 가지 주목할 점은 장애가 있는 사람들, 그리고 장벽에 직면한 사람들이 주로 이 바깥 영역에 위치한다는 것입니다.
그리고 그 가장자리는 상당히 들쭉날쭉합니다.
가장자리로 갈수록 서로 아주 멀리 떨어져 분포하는 많은 요소들이 있습니다.
아마 이제 그것이 어떤 영향을 미치는지 물어보시겠죠.

현 송

제 생각을 읽으셨네요.

유타 트레비라누스

제가 보기에 이 패턴과 규모의 경제, 다수결에 의한 의사결정 같은 것들이 결합하기 때문에 한 가지 현상이 나타납니다.
서비스든 제품이든 환경이든 무엇이든 간에 중앙에 있는 요구를 가진 사람들에게는 비교적 잘 디자인되어 있습니다.
하지만 요구가 중심부에서 멀어질수록 기능이 제대로 작동하지 않거나 무너지기 시작합니다.
그리고 요구가 가장 바깥쪽 가장자리에 위치하면 대체로 작동하지 않습니다.
이 패턴은 우리 시스템 전체에서 반복됩니다.
제품의 디자인에서도 그렇습니다.
디지털 포용 정책에서도 그렇습니다.
고용에서도 그렇고 대학 입학에서도 그렇습니다.
교육 시스템을 디자인하는 방식, 보건의료 시스템을 디자인하는 방식, 그리고 우리 사회를 유지하는 핵심적인 서비스와 시스템을 디자인하는 방식에서도 마찬가지입니다.
심지어 민주주의 같은 개념도 어느 정도 이 문제의 영향을 받습니다.
우리는 ‘1인 1표’를 사용하면서 인간의 권리를 자주 잊어버리기 때문입니다.
그 결과 가장자리의 소수 집단이 가진 매우 중요하고 절박한 요구가 중앙부에 있는 사람들의 상대적으로 사소한 요구에 압도됩니다.
따라서 이것은 우리 삶의 모든 영역에 영향을 미치는 패턴입니다.
그리고 스스로를 계속 재생산하며 우리 시스템 안에 깊숙이 고착되어 있습니다.

현 송

설명 감사합니다.
그렇다면 이것은 데이터에 어떤 의미가 있습니까?
그리고 장애인처럼 주변부에 있는 사람들은 우리가 수집하는 데이터에서 어떻게 표현됩니까?

유타 트레비라누스

물론 데이터는 AI와 연결되고, 현재 우리가 직면한 가장 큰 질문 가운데 하나이기도 합니다.
하지만 AI가 등장하기 전부터도 통계적으로 산출된 결론이나 일반화, 또는 어떤 모집단에 대한 증거나 우리가 ‘진실’이라고 부르는 것, 이른바 경험적 증거라고 하는 것들은 그 평균, 즉 중심부에 대해서는 참일 수 있습니다.
하지만 거기서 멀어질수록 부정확해집니다.
그리고 가장자리에 도달하면 틀리게 됩니다.
그래서 신문이나 뉴스, 연구에서 흔히 보는 “평균적인 남성”, “평균적인 여성”, “대다수의 사람들은…” 같은 표현은 자신의 경험이나 관련 데이터가 이 들쭉날쭉한 가장자리에 있다면 당연히 적용되지 않습니다.

최근 특히 문제가 되고 있는 것이 하나 더 있습니다.
사실 최근에 생긴 문제라기보다는 항상 어느 정도 존재해 왔던 문제입니다.
우리에게는 형평성, 다양성, 포용성을 추구하는 매우 긍정적인 움직임이 있습니다.
그런데 그 안에는 어떤 동질적인 집단이 존재한다는 가정이 들어 있습니다.
즉, 특정 집단에 공통된 특성이 있고 데이터에서도 하나의 군집을 찾을 수 있다고 생각합니다.
“여기에 여성이라는 군집이 있습니다.”
“여기에 특정 인종의 군집이 있습니다.”
“특정한 언어적 배경을 가진 집단이 있습니다.”
또는 어떤 사람이 장벽이나 차별을 경험하게 되는 다양한 이유에 따라 집단을 구분합니다.
이런 접근은 차별을 경험하는 다른 많은 집단에서는 어느 정도 맞을 수 있습니다.
물론 누구에게나 완전히 맞는 것은 아니고 어느 정도 과도한 일반화이기는 합니다.
하지만 장애가 있는 사람에게 적용하면 특히 심각한 과도한 일반화가 됩니다.
왜냐하면 장애에서 공통적으로 발견할 수 있는 유일한 데이터상의 특성은 평균으로부터 멀리 떨어져 있다는 것이기 때문입니다.
장애가 있는 사람 한 명을 안다고 해서 장애인을 아는 것이 아닙니다.
그저 장애가 있는 한 사람을 아는 것입니다.
심지어 진단 범주 안에서도 마찬가지입니다.
예를 들어 시각장애가 있는 사람이라고 해도 태어날 때부터 보지 못했던 사람과 나중에 시력을 잃은 사람의 요구와 경험하는 장벽은 크게 다릅니다.
어떤 방식으로 장애를 분류하더라도 그 내부의 차이는 엄청나게 큽니다.
따라서 하나의 군집도 없고, 식별 가능한 명확한 집단도 없습니다.
자기 식별(self-identification) 역시 문제가 있습니다.
장애를 밝히는 데 따르는 낙인과 차별 때문입니다.
장애에 대한 고정관념이나 낙인이 많지 않은 환경에서는 자신을 장애가 있다고 밝히는 비율이 높을 수 있습니다.
하지만 장애가 있다고 밝히는 것이 여러 부정적인 결과를 낳는 환경에서는 당연히 그렇지 않습니다.

현 송

이제 AI가 사람들에 관한 결정을 내릴 때의 위험, 특히 장애인이나 말씀하신 것처럼 중심부에서 더 멀리 떨어져 있고 서로의 요구도 크게 다른 사람들에게 발생하는 위험에 가까워지고 있는 것 같습니다.
AI의 관점에서 생각하기 시작하면 이것은 무엇을 의미합니까?
이 상황에서 장애인에게 특별히 발생하는 위험은 무엇입니까?

유타 트레비라누스

많은 사람들은 AI가 장애인에게 갖는 편향이 데이터의 문제라고 이야기합니다.
하지만 실제 이야기는 그보다 훨씬 복잡합니다.
AI는 기본적으로 어떤 세대의 AI이든 마찬가지입니다.
물론 AI라는 말 자체가 아주 다양한 시스템과 프로세스를 포괄하는 업계의 유행어이기도 합니다.
하지만 어떤 경우든 AI는 통계적 추론(statistical reasoning)​에 의해 움직입니다.
기계화된 통계적 추론이 어떤 결정을 추천할지 정합니다.
어떤 텍스트를 생성할지, 다음 단어가 무엇일지, 어떤 이미지를 선택할지 등을 결정합니다.
앞서 말씀드렸듯 통계적 추론은 평균에서 멀리 떨어질수록 틀리는 경향이 있습니다.
AI는 기본적으로 이미 존재하고 있는 현재의 패턴을 더 강하게 만들고 증폭합니다.
AI는 확률적 추론을 이용해 가장 인기 있는 것, 통계적 힘이 가장 강한 것을 선택합니다.
그러면 많은 분들이 이렇게 말합니다.
“그렇다면 AI가 학습하는 데이터에 장애인에 관한 데이터를 더 추가하면 되지 않습니까?”
하지만 문제는 그렇게 간단하지 않습니다.
장애가 있는 모든 사람이 완벽하게 비례해 데이터에 포함된다고 해도, 그 집단 내부의 이질성과 엄청난 다양성 때문에 시스템은 여전히 평균에 따라 판단하려 할 것입니다.
또는 그 안에서 다시 어떤 큰 군집을 찾으려고 할 것입니다.
따라서 문제는 단순한 대표성의 문제가 아닙니다.

전에 이야기를 나눌 때 말씀드렸던 일화가 하나 있는데, 아마 그것을 다시 소개해 달라고 하셨던 것 같습니다.
이 이야기는 여러 번 재전달되면서 정확하지 않게 전달된 경우도 있습니다.
제가 이 문제의 복잡성을 처음 깨닫게 된 사건은 여러 종류의 자율주행차 학습모델을 시험했을 때였습니다.
당시 온타리오 교통부에서 자율주행차가 교차로에서 진행할지, 멈출지, 회전할지 등을 판단하는 시스템들을 시험해 달라는 요청을 받았습니다.
2013년의 일입니다.
물론 이후 기술이 어느 정도 발전하기는 했지만 완전히 해결되지는 않았습니다.
제가 당시 발견했던 문제는 아직도 완전히 해결되지 않았습니다.
저는 휠체어를 뒤로 밀면서 이동하는 친구의 영상을 이용해 그 모델들을 시험해 보았습니다.
그것은 매우 예상하기 힘든 특이한 이동 방식입니다.
실제로 교차로에서 그 친구를 만나는 사람들조차 휠체어를 통제하지 못하고 있다고 생각해서, 그가 출발했던 쪽 인도로 다시 밀어주려고 할 때가 있습니다.
하지만 그 친구는 아주 능숙하고 빠르게 움직입니다.
그런데 모든 시스템이 차량에게 그대로 진행하라는 결정을 내렸습니다.
그 시스템들이 실제 도로에 배치되어 있었다면 그 친구를 치었을 것입니다.
그러자 모든 시스템 개발자들이 말했습니다.
“걱정하지 마세요. 걱정하지 마세요.”
“교차로에 있는 휠체어 이용자들의 데이터를 더 넣으면 됩니다.”
일부 시스템에서는 실제로 휠체어 이용자 데이터를 과도하게 많이 넣기까지 했습니다.
그런데 데이터를 추가한 뒤 다시 시험해 보았을 때 모든 시스템이 똑같은 결정을 이전보다 더 높은 확신을 가지고 내렸습니다.
왜냐하면 추가된 데이터를 바탕으로 시스템은 “휠체어를 사용하는 사람들은 앞으로 이동한다”고 더욱 확신하게 되었기 때문입니다.
그러니 이 사람은 그렇지 않으므로 차량이 그대로 진행해도 안전하다고 판단한 것입니다.

현 송

그러니까 그 상황에서는 데이터를 더 많이 넣어주었더니 AI가 이렇게 생각한 셈이군요.
“좋아. 이제 판단할 데이터가 더 많아졌다.”
그리고 틀린 결론에 대해 오히려 더 확신하게 된 것이죠.
그렇다면 단순히 대표성을 높이는 것이 해결책이 아니라면 이 문제를 어떻게 바로잡을 수 있을까요?

유타 트레비라누스

저는 이 문제를 바로잡는 것이 장애인뿐 아니라 훨씬 더 많은 사람에게 이익을 줄 것이라고 생각합니다.
예를 들어 고용을 생각해 봅시다.
AI 채용 도구는 과거에 성공했던 패턴을 이용하도록 만들어져 있습니다.
아마도 가장 성공적인 직원을 찾아봅니다.
조직 안에서 ‘문화적 적합성(culture fit)’을 찾습니다.
과거의 생산성 지표를 살펴봅니다.
그 회사에서 이전에 성공했던 사람들의 특성을 분석합니다.
그리고 채용 담당자는 여기에 몇 가지 조건을 더할 수 있습니다.
대개 “내가 선호하는 대학” 같은 요소들이 추가되겠죠.
이 모든 것이 단일문화(monoculture)​로 이어집니다.
결국 과거에 채용했던 사람들의 복제본을 만들게 됩니다.
이미 조직 안에 있는 사람들과 비슷한 사람만 계속 만들어내게 됩니다.
그런데 우리는 단일문화가 변화에 잘 적응하지 못한다는 것을 알고 있습니다.
세상이 변했을 때 선택할 수 있는 적응 전략이 부족합니다.
따라서 평균에 따라 결정하는 것, 인기에 따라 판단하는 것, 가장 큰 고객층이나 가장 인기 있는 것에 따라 결정하는 것은 사회 전체에 해롭다고 생각합니다.

그래서 우리가 연구하고 있는 방법 가운데 하나는 AI의 방향을 뒤집는 것입니다.
예를 들어 채용에서 기존 직원들의 성공 패턴과 비슷한 사람을 찾는 대신, 현재 조직에 없는 능력을 가진 사람을 찾는 것입니다.
현재와 다른 것, 특이한 것을 찾는 것입니다.
기존 데이터를 최대한 이용하는 데이터 활용(data exploitation) 알고리즘​에서 새로운 가능성을 찾는 데이터 탐색(data exploration) 알고리즘​으로 바꾸는 것입니다.
지원자가 1,000명 있다고 합시다.
그 1,000명 가운데 우리 회사에서 성공해 온 기존 직원들과 가장 비슷한 사람을 찾는 것이 아니라, 현재 우리에게 없는 능력을 가진 사람을 찾는 것입니다.
대학 입학에서도 마찬가지입니다.
대학 입학을 결정하는 AI 시스템 역시 어떤 학생을 받아야 할지를 판단할 때 같은 일이 발생합니다.
우리는 흔히 ‘최고의 인재(best and brightest)’라는 개념을 갖고 있지만, 그 역시 단일문화를 만들어내는 경향이 있습니다.
그리고 성공을 결정한다고 여겨지는 일부 지표나 요인들을 계속 정당화하게 되는데, 그 지표 자체가 의심스러울 수도 있습니다.

안타깝게도 현재 AI를 도입하는 과정에서는 모든 분야에서 AI를 채택해야 한다는 엄청난 압력이 존재합니다.
어떤 면에서는 지정학적인 압력이기도 합니다.
“우리가 모든 일에 AI를 도입하지 않으면 뒤처질 것이다”라는 생각도 있습니다.
하지만 우리가 왜 이것을 하는지 질문하지 않은 채 자동화해 버린다면, 그리고 우리가 더 효율적으로 만들고 있는 것이 정말 모든 사람에게 가장 좋은 것인지 생각하지 않은 채 자동화한다면 문제가 발생합니다.
비판적으로 검토하기 전에 자동화해 버리면 우리는 그것에 대한 통제력을 잃습니다.
“우리가 지금 무엇을 하고 있는가?”라고 다시 질문하고 재고할 기회를 잃습니다.
그리고 사회와 시스템에 매우 파괴적일 수도 있는 기존의 패턴을 검증하고 스스로 계속 재생산하게 만듭니다.

현 송

아주 중요한 점을 말씀하신 것 같습니다.
이런 식으로 ‘가장자리’를 흐리게 만드는 현상은 이제 디지털 영역의 문제만이 아닙니다.
AI가 사회의 거의 모든 영역에서 사용되면서 현실 세계에서도 차이의 가장자리를 흐리고 있습니다.

유타 트레비라누스

맞습니다.
그리고 AI와 장애에 관해 또 하나 이야기할 부분이 있습니다.
만약 여러분이 좀 더 평균적인 사람이 되고 싶다면, 평균적인 능력에 가까워지고 싶다면 AI는 정말 훌륭한 도구입니다.
AI는 누구에게나 굉장히 매력적입니다.
특히 지루하고 반복적인 작업이나 자신이 잘하지 못한다고 느끼는 작업, AI가 자신보다 더 잘할 것이라고 생각하는 일을 AI에게 그냥 넘기는 것은 아주 편리합니다.
그리고 실제로 평균적인 사람처럼 보고, 듣고, 읽고, 쓰는 능력에 가까워지고 싶은 사람들에게 AI가 큰 도움이 된다는 사실을 확인하고 있습니다.
그러나 그 과정에서 개성과 성격이 사라질 수도 있습니다.

특히 고등학교 같은 곳에서 그런 현상을 보고 있습니다.
이미 또래 집단에 맞추어야 한다는 압력이 존재하는 곳입니다.
학생들은 글을 쓸 때 AI가 제안하는 것을 그대로 받아들이기 시작합니다.
보완대체의사소통(AAC) 시스템으로 AI를 사용하는 경우에도 마찬가지입니다.
그 과정에서 그 사람만 사용하는 특이한 표현이 사라집니다.
개성도 사라집니다.
자신이 만들어내는 의사소통이나 글 속에 담겼던 그 사람의 성격이 사라집니다.
저에게는 그것이 어느 정도 가슴 아픈 일입니다.
그리고 이것은 교실이나 사회에도 다른 영향을 줍니다.
우리가 그런 특이함과 다양성을 점점 불편하게 느끼게 된다는 것입니다.
지금은 우리가 ‘완벽하다’고 정의한 상태에 맞추기가 훨씬 쉬워졌습니다.
그러다 보니 AI가 만들어내는 동질성과 맞지 않는 표현을 접하면 훨씬 더 거슬리게 느껴집니다.

현 송

이제 ‘다르다’는 것이 이전보다 훨씬 더 많이 ‘틀렸다’고 분류되는 셈이군요.

유타 트레비라누스

맞습니다.
교수나 다른 교육자들과 이야기를 나눠보면 이제 문법이나 철자 같은 것은 모두 완벽해야 한다는 기대가 생겨났습니다.
모든 것이 우리가 생각하는 어떤 ‘좋은 품질’의 기준에 맞아야 한다는 기대가 생겼습니다.
하지만 우리는 오히려 “품질이란 무엇인가?”라는 생각 자체를 질문해야 합니다.
표준화보다 다양성을 가치 있게 보아야 합니다.
현재 우리는 그 반대에 지나치게 많은 비중을 두고 있습니다.
제가 교육 시스템에서 주장하고 있는 것 가운데 하나가 와비사비적 교육(wabi-sabian education)​이라는 개념입니다.
불완전한 것, 영속적이지 않은 것, 완결되지 않은 것의 가치를 인정하는 것입니다.
우리가 실수로부터 배우고, 더 많은 참여와 더 많은 학습을 가능하게 만드는 것은 바로 그런 곳이기 때문입니다.
하지만 교육에서 사용되는 AI 도구들은 그것을 점점 더 어렵게 만들고 있습니다.

현 송

이제 이러한 흐름과 균형을 바꾸기 위해 실제로 진행되고 있는 활동에 대해 이야기해 보고 싶습니다.
IDRC는 AI와 포용성을 매우 다양한 주제와 영역에서 연구하는 많은 프로젝트를 진행하고 있습니다.
고용, 교육, 언어, 보조기술, 정책까지 정말 다양합니다.
조사하면서 알게 된 프로젝트 가운데 하나가 We Count였습니다.
이 프로젝트가 무엇이고 무엇을 바꾸려 하는지 설명해 주시겠습니까?

유타 트레비라누스

네.
We Count에서는 AI와 데이터 시스템이 가장 심각한 장벽을 경험하는 사람들에게 어떤 영향을 미치는지 살펴보는 지식 기반과 실천공동체를 만들려고 합니다.
현재 존재하는 많은 보호장치에는 문제가 있습니다.
물론 개인정보 보호, 데이터 시스템, AI 등을 다루는 지침이나 정책은 수천 개에 이릅니다.
하지만 대부분 표준화된 종류의 지표를 사용합니다.
그 과정에서 분포 밖에 있는 사람들이 빠집니다.
즉, 그 ‘가장자리’에 있는 사람들입니다.

예를 들어 현재 가장 발전된 시스템이나 정책·규제 가운데 하나인 EU AI Act를 살펴보면 영향에 주목하고 고영향 시스템을 중심으로 다룹니다.
그리고 규정 준수를 판단하는 많은 지표는 특정하게 분리된 데이터 등을 측정하는 방식으로 만들어져 있습니다.
따라서 AI의 피해로부터 사람을 보호하기 위한 규정뿐 아니라 측정 방식 자체가 아주 작은 소수 집단에게는 제대로 작동하지 않습니다.
그들은 통계적으로 유의하지 않은 것으로 판단됩니다.
그들이 경험하는 피해 역시 통계적으로 중요하지 않다고 판단될 수 있습니다.
위험이라는 관점에서는 그들의 경험이 흔히 그저 일화적 사례(anecdotal)​로 분류됩니다.
“이런 일이 반복된다는 실제 증거가 없다”고 말합니다.
문제들이 워낙 다양하기 때문입니다.
We Count를 비롯한 우리의 여러 활동은 이런 부분을 살펴보고 있습니다.
현재의 보호제도나 인증제도가 이런 피해를 어떻게 놓치고 있는가를 묻고 있습니다.

웹 접근성, ICT 접근성, 디지털 포용 분야에서도 비슷한 현상이 있었습니다.
평가와 수정, 문서 개선 등을 수행하는 하나의 산업 전체가 등장했습니다.
이제 AI에서도 보호와 규정 준수 등을 평가하는 산업이 새롭게 등장하고 있습니다.
하지만 안타깝게도 그런 시스템은 어떤 것이 “해롭지 않다”는 잘못된 안도감을 줄 수 있습니다.
왜냐하면 이상치에 해당하는 개인들이 경험하는 피해를 놓치기 때문입니다.
또한 이런 시스템에는 대부분 특정한 피해 임계점이 있습니다.
“이 정도 영향 이하라면 걱정하지 않아도 된다.”
“이 정도 위험 이하라면 아무것도 하지 않아도 된다.”
그런데 누적 피해(cumulative harm)​라는 것이 있습니다.
모든 시스템이 계속 여러분에게 불리한 결정을 내린다면, 각각은 ‘영향이 작은 결정’으로 분류된다 하더라도 모두 서로 얽혀 여러분의 삶 전체에 누적적인 영향을 줍니다.
말하자면 수천 번의 작은 베임으로 죽는 것과 같은 피해가 생깁니다.

이것이 We Count가 해결하려고 하는 문제 가운데 하나입니다.
하지만 We Count와 다른 프로젝트를 통해 우리가 보여주려는 것이 또 있습니다.
AI는 어떤 의미에서는 확대경이 달린 거울과 같습니다.
AI가 이런 문제를 발명한 것이 아닙니다.
AI가 처음 만들어낸 문제도 아닙니다.
이미 우리 사회에 존재하던 문제입니다.
AI가 그것을 확대하고 자동화하고 있을 뿐입니다.
그래서 AI를 어떻게 사용할 것인가를 생각하는 데서 멈추어서는 안 된다고 봅니다.
우리 사회에서 관습과 당연한 가정으로 굳어진 것들을 다시 살펴봐야 합니다.

이 팟캐스트가 인간중심디자인을 다루고 있으니 디자인을 예로 들어보겠습니다.
디자인에서도 우리는 이렇게 말해야 합니다.
“잠깐만요. AI가 지금 확대하고 있는 것은 이미 존재하던 무언가 아닙니까?”
예를 들어 디자인씽킹 자체를 봅시다.
우리는 흔히 디자인씽킹의 ‘스퀴글(squiggle)’을 사용합니다.
처음에는 아이디어를 발산하고 문제를 해결할 수 있는 온갖 상상력 있는 방법을 생각합니다.
하지만 결국에는 반복을 거치며 하나의 승리한 해결책(winning solution)​으로 수렴합니다.
그 과정에서 발생하는 일 가운데 하나는 우리가 함께 일하는 사람들이 그 승패 구조에서 패자가 되기 쉽다는 것입니다.
하나의 ‘승리한 해결책’을 찾아낸 다음 그것을 모든 곳으로 확장할 수 있다는 생각이 존재합니다.
그리고 그 공식화된 성공 해결책을 얼마나 널리 복제할 수 있느냐가 성공의 지표가 됩니다.
하지만 그것은 상당히 문제가 있습니다.
모든 사람은 서로 다른 맥락을 가지고 있습니다.
상황도 변합니다.
소위 ‘승리한 해결책’은 다수결에 의한 의사결정 시스템을 사용해 만들어졌기 때문에 변화에 잘 적응하지 못하는 경우가 많습니다.
포스트잇을 모두 붙여놓고 투표한 다음, “바로 이거야. 이것이 승자야.”라고 결정합니다.
그러면 모든 사람이 거기에 주목합니다.

현 송

투표를 그만해야겠네요.

유타 트레비라누스

그렇죠.
투표를 하면 이미 인기 있는 것 위에 계속 표가 쌓입니다.
그래서 We Count에서는 아주 간단한 실험도 진행했습니다.
우리는 역전된 워드클라우드(Inverted Word Cloud)​를 만들었습니다.
일반적인 워드클라우드는 발표나 집단 워크숍에서 많이 사용합니다.
어떤 질문을 하고 사람들이 답을 제출하면 워드클라우드가 나타납니다.
가장 인기 있는 답이 가운데로 이동하고 글자 크기도 커집니다.
사람들은 그것을 가장 먼저 보게 됩니다.
그러면 다시 사람들이 그 답에 몰립니다.
반면 소수의 응답이나 요구는 사라지고 보이지 않게 됩니다.
그래서 우리는 그것을 뒤집었습니다.
새롭고 소수에 해당하는 단어가 가운데로 이동하고 더 크게 보이도록 만든 것입니다.
사람들이 이렇게 생각해 보도록 하려는 것입니다.
“우리가 의식하지 못하고 당연하게 받아들이는 가정이나 과정이 무엇일까?”
우리는 아마 워드클라우드 자체를 의심하지 않을 것입니다.
경험적 증거나 과학이라고 생각하는 것에서 가장 강한 통계적 힘을 가진 것을 당연히 더 중요하게 여기는 경향도 거의 질문하지 않습니다.
그렇다면 통계적으로 소수인 사람에게 그것은 어떤 영향을 줄까요?

We Count에서는 데이터와 AI를 통해 이 문제에 접근하고 있습니다.
하지만 그 밑에 있는 더 큰 목표는 이런 것입니다.
“AI가 우리가 시스템을 디자인하는 방식에 대해 무엇을 보여주고 있는가?”
“우리는 사회의 서로 다른 사람들을 어떻게 대하고 있는가?”
“우리는 어떤 선택을 하고 있는가?”
“누가 결정하는가?”
이런 질문들을 살펴보는 것입니다.
역전된 워드클라우드를 비롯해 우리가 만든 것은 모두 오픈소스로 공개하고 있기 때문에 누구든 사용할 수 있습니다.

현 송

팟캐스트 설명에도 관련 정보를 찾을 수 있는 곳을 넣어두겠습니다.
모두가 활용할 수 있겠네요.
정말 기발한 아이디어라고 생각합니다.
그리고 또 아주 흥미로운 점을 말씀하셨습니다.
AI 자체에는 알고리즘이 있고, 통계적 추론을 기반으로 만들어졌기 때문에 본질적으로 편향이 존재합니다.
그러면서 동시에 AI는 우리 사회의 가치를 비추는 거울이기도 합니다.
우리에게 기존의 편향이 있다면 AI는 그 편향을 가져다가 퍼뜨리고, 확장하고, 가속합니다.
하지만 그 편향이 AI에서 갑자기 생겨난 것은 아니죠.

유타 트레비라누스

맞습니다.
그리고 AI를 디자인하는 사람들 역시 이미 권력을 가진 사람들이죠.
그러다 보니 격차가 상당히 빠르게 커지고 있습니다.
그리고 격차는 우리가 사회적으로 직면하고 있는 다른 많은 문제의 핵심 동인 가운데 하나입니다.

현 송

그와 관련해 또 하나 여쭤보고 싶습니다.
We Count와 연구센터에서 해온 작업이 캐나다의 접근 가능하고 공평한 AI 표준 개발에도 기여한 것으로 알고 있습니다.
아마 12월에 발표되었고, 선생님께서 이 작업의 기술위원회 의장을 맡으셨죠.
축하드립니다.

유타 트레비라누스

감사합니다.

현 송

정말 대단한 성과입니다.
그 표준을 읽으며 특히 눈에 들어온 부분 가운데 하나는 장애인이 AI의 전 생애주기에 완전한 참여자가 되어야 한다는 요구였습니다.
그렇다면 그것은 구체적으로 어떤 모습이어야 합니까?
왜 완전한 참여가 그렇게 중요합니까?

유타 트레비라누스

물론 이것은 상당히 어려운 일입니다.
AI 생애주기에 포함되는 거의 모든 과정이 현재는 접근성이 좋지 않기 때문입니다.
하지만 그 중심에는 하나의 믿음이 있습니다.
무언가를 진정으로 포용적으로 만들려면 장벽을 실제로 경험한 사람의 전문성이 필요합니다.
디자인 분야에서 사용하는 페르소나 같은 도구나 분류적·진단적 범주는 복잡하고 서로 상호작용하는 요구의 범위를 이해하기에 완전히 부족합니다.
공감 훈련 역시 충분하지 않습니다.
사회를 구조적으로 변화시키고 싶다면 장벽을 실제로 경험하는 사람들이 필요합니다.
어려움을 이해하는 사람들이 필요합니다.
무언가를 하기 위해 얼마나 많은 기지를 발휘해야 하는지를 아는 사람들이 필요합니다.
그 사람들이 문제를 정의하는 단계에 있어야 합니다.
위험과 그 안에 들어 있는 가정들을 고려했을 때 애초에 AI를 사용해야 하는지를 결정하는 데 참여해야 합니다.
AI 시스템을 직접 디자인하고 만드는 데도 참여해야 합니다.

현재 기술을 아주 잘 사용하고 디지털 리터러시가 충분한 사람들만 참여한다면, 또는 시스템 자체가 그 사람들을 위해 그 사람들에 의해 디자인되었기 때문에 디지털 리터러시라는 특권을 누리는 사람들만 참여한다면, 우리는 이미 편안하게 잘 살아가고 있는 사람들에게 봉사하는 기기들을 계속 만들어낼 뿐입니다.
현재 우리가 살고 있는 매우 혼란스럽고 위기가 끊이지 않는 세계에서 제대로 작동할 사회와 시스템, 도구를 만들고 싶다면 어려움을 이해하는 사람들이 필요합니다.
무엇을 변화시켜야 하는지 아는 사람들이 필요합니다.
그들이 무언가를 디자인하고 만들고, 무엇이 필요한지 결정하고, 시스템을 모니터링해야 합니다.
그리고 때로는 이렇게 말할 수도 있어야 합니다.
“이제 충분합니다.”
“이 시스템은 이 정도로 많은 피해를 만들고 있으니 사용을 중단해야 합니다.”
그런 사람들이 생태계 안에 포함되어야 합니다.
장벽을 이해하고, 세상이 변해야 한다고 생각하는 사람들이 참여한다면 우리가 모두 어려움을 겪게 될 때에도 작동할 수 있는 AI 시스템, 아니 어떤 시스템이든 만들 수 있을 것입니다.

팬데믹도 하나의 위기였습니다.
하지만 많은 전망은 그것이 작은 시작에 불과했으며 앞으로 더 크고 심각한 위기들이 연이어 찾아올 것이라고 이야기합니다.
그렇다면 우리는 그 상황에 대비하는 형태의 디자인, 참여적 디자인, 포용적 디자인을 실천해야 합니다.
더 많은 선택지가 있고 변화에 적응할 수 있는 시스템을 만들어야 합니다.
지금과 같은 방식으로 계속한다면 기존의 패턴을 복제하고 또 복제하게 될 뿐입니다.

현 송

이 이야기는 앞서 말씀하신, 다수나 우리가 상상하는 이상적인 사람에게서 찾을 수 없는 것, 즉 현재 우리에게 없는 것을 선택해야 한다는 이야기와 다시 연결되는 것 같습니다.

유타 트레비라누스

네.
그런데 그렇게 하면 비용이 더 많이 들 것이라는 신화가 있습니다.
처음부터 요구의 전체 스펙트럼을 고려하면 돈이 더 든다고 생각합니다.
하지만 우리는 경제모델링과 여러 서비스디자인의 장기 평가를 통해 실제로는 그렇지 않다는 것을 보여주었습니다.
중장기적으로 보면 오히려 비용이 훨씬 적게 듭니다.
왜냐하면 그렇게 하면 훨씬 더 적응 가능한 시스템이 만들어지기 때문입니다.
시스템의 수명이 길어집니다.
시스템이 쉽게 취약해지지 않습니다.
중앙에 있는 사람들만 위해 디자인하고, 이미 아무 문제 없이 잘 지내고 있는 사람들의 이야기만 들으면 계속 무언가를 덧붙여야 합니다.
처음부터 제외된 사람들이 시스템의 변화를 요구하기 때문이기도 하지만 환경 자체도 바뀝니다.
맥락이 변합니다.
그러면 계속 시스템을 수정해야 하고 추가 지원을 만들어야 하며 여러 가지 보완 작업을 해야 합니다.
그렇게 시스템은 점점 취약해지고 수명도 매우 빨리 끝납니다.
반대로 처음부터 요구의 전체 스펙트럼을 고려해 디자인하면 훨씬 더 많은 선택지와 유연성을 가진 적응형 시스템을 만들 수밖에 없습니다.
그 결과 시스템의 수명이 훨씬 길어지고 비용도 적게 듭니다.

현 송

그렇군요.
나중에 수정하기 위한 비용도 줄어들고요.
유니버설디자인의 기본 원리도 마찬가지입니다.
다양성을 고려해서 디자인하면 처음에는 이상치나 가장자리의 사례라고 생각했던 사람들뿐 아니라 훨씬 더 많은 사람이 혜택을 받게 됩니다.
실제로 나머지 우리 모두에게도 도움이 되는 경우가 많습니다.
유타, 이제 마지막 질문을 드리고 싶습니다.
인간중심디자인과 리서치, 제품이나 정책 분야에서 일하는 청취자들이 AI가 더 많은 혜택을 만들고 피해를 줄이는 방향, 특히 장애인에게 그런 방향으로 변화하도록 지금 할 수 있는 한 가지 일이 있다면 무엇일까요?

유타 트레비라누스

저는 한 가지를 말해 달라는 질문을 별로 좋아하지 않습니다.
다양한 전략이 있기 때문입니다.
오히려 우리가 어떤 문제를 해결하기 어렵게 만드는 것 가운데 하나가 반드시 하나의 답이 있어야 한다고 생각하는 태도, 또는 하나의 ‘최선의 방법(best practice)’이 존재한다고 생각하는 태도라고 봅니다.
사람마다 맡고 있는 역할이 다릅니다.
맥락도 다르고 달성하려는 목표도 다릅니다.
그에 따라 효과적인 전략도 달라집니다.

공동디자인을 할 수도 있습니다.
우리가 내리는 결정의 영향을 가장 많이 받을 사람들을 참여시켜 AI를 사용하는 것이 맞는지 함께 결정할 수 있습니다.
AI가 정말 적절한 도구인지 질문할 수도 있습니다.
자동화하려는 것이 무엇인지 먼저 질문하고, 모든 것을 자동화하고 시스템에 통제권을 넘겨 선택지와 유연성을 줄이기 전에 전체 사업 자체를 다시 생각해 볼 수도 있습니다.
또 발생할 수 있는 잠재적인 피해를 파악할 수도 있습니다.
피해를 지속적으로 모니터링해 어디에서 다시 디자인하거나 방향을 바꿔야 하는지를 알려주는 지표를 만들 수도 있습니다.
더 공평한 AI로 이어질 수 있는 전략과 프로세스를 위한 벤치마크를 만들 수도 있습니다.
정말 다양한 방법이 있습니다.

우리가 만든 표준에서도, 앞으로 규제로 발전하기를 바라고 실제로 규제로 이어질 가능성이 있는 그 표준에서도 조직이 할 수 있는 여러 가지 방법을 제시하려고 했습니다.
그것은 디자이너와 개발자에게도 적용됩니다.
특히 인간을 걱정하는 사람들에게 중요합니다.
지금 가장 위협받고 있는 것은 인간이라고 생각하기 때문입니다.
어떤 의미에서 우리는 거의 디지털 우생학적 인프라(digital eugenics infrastructure)​를 만들고 있습니다.
저는 인간성의 본질적인 특성이라고 생각하는 바로 그 ‘차이’를 제거하고 있기 때문입니다.
다양한 관점, 다양한 능력, 다양한 이해가 존재한다면 우리의 생존을 보장한다고까지 말할 수는 없겠지만, 적어도 생존 가능성을 훨씬 높일 것입니다.
그런데 우리는 다른 형태의 진실과 증거, 의사결정 방식을 제거하고 있습니다.
우리가 엄밀하다고 생각하는 것, 품질이 높다고 생각하는 것의 범위도 좁혀가고 있습니다.
스스로를 상당히 제한하고 있습니다.
그 결과 결국 하나의 단일문화에 도달하게 됩니다.
그리고 단일문화는 당연히 살아남기 어렵습니다.

현 송

오늘 대화를 나눠주셔서 정말 감사합니다.
AI를 바라보는 또 다른 방법, 그리고 AI가 우리 사회가 가진 가치를 어떻게 반영하고 다시 퍼뜨리는지 생각할 수 있는 새로운 관점을 제시해 주셨습니다.
무엇을 중요한 능력이라고 생각하는지, 무엇을 중요한 자질이라고 생각하는지 잠시 멈추어 다시 생각해야 한다는 점도 말씀해 주셨습니다.
그리고 우리의 생각을 더 다양하게 확장해 인간 스타버스트의 그 들쭉날쭉한 가장자리까지 바라봐야 한다는 점도요.
정말 감사합니다.

유타 트레비라누스

이 이야기를 나눌 기회를 주셔서 감사합니다.
---

이 강연은 AI·포용적 디자인·서비스디자인을 연결하는 자료 가운데 국내 서비스디자이너에게도 상당히 중요한 편이다. 특히 ‘평균적 사용자 중심 디자인 → 통계적 평균 중심 AI → 다양성 축소’라는 연결 논리와, 디자인씽킹의 투표·수렴·확장 방식 자체를 비판하는 대목은 국내 서비스디자인과 정책디자인에 직접 적용해 볼 가치가 있다.