(영상) 인간과 AI의 협업을 디자인하다 | SDN Community Voices nº054. - 서비스디자인네트워크

프랙털의 디자인 컨설턴트 주이 쿨카르니는 대화형 AI에서 자율적으로 행동하는 에이전트로 넘어가는 과정에서, 디자이너가 인간과 AI의 협업 흐름을 어떻게 설계해야 하는지 설명한다. 아이의 언어 발달과 청소년의 성장에 빗댄 사례를 통해, AI가 말할 수 있다는 사실과 목표를 이해했다는 사실을 구분하고 자율성의 경계를 정해야 한다고 말한다. 데이터 분석과 전자상거래 사례를 바탕으로 신뢰, 설명 가능성, 인간의 승인과 책임, 실패 시 인계, 편향 점검을 연결하는 ‘협업의 안무’를 제안한다.

출처
원제: Human AI Choreography | SDN Community Voices nº054
채널: Service Design Network
방송일: 2026년 7월 9일
영상: https://www.youtube.com/live/ZAta74k1uLY
전체 번역 : 챗GPT로 번역했습니다. 생략, 오역이 있을 수 있으니 원본 영상을 봐주세요.
번역 원문: 사용자가 제공한 영상 설명과 자동 생성 영어 자막 전문.
번역 안내: 자연스럽게 다듬되, 발언과 사례, 질문, 안내는 모두 옮겼다. 자동 자막에서 여러 표기로 등장하는 인명은 확인 가능한 공식 표기로 통일했다. 화자가 불확실한 짧은 교차 발언은 함께 표시했다. 발언에 포함된 AI의 작동 방식에 관한 설명은 발표자의 견해를 옮긴 것이다.

 

유튜브 영상 소개글

💭 사람들이 실제로 받아들이고 사용하는 AI 경험을 설계하려면 정말 무엇이 필요할까요?
🌟 주이 쿨카르니와 함께하는 SDN Community Voices 제54회, ‘인간과 AI의 협업 안무’ 생방송에 참여하세요. 🌟
이번 회차에서는 프랙털 애널리틱스(Fractal Analytics)의 리드 디자인 컨설턴트 주이 쿨카르니와 함께, 변화하는 AI 경험 디자인의 세계를 살펴봅니다. 사람들이 신뢰하고 이해하며 받아들일 수 있는 AI 기반 제품과 서비스를 만들기 위해 무엇이 필요한지 알아봅니다. 주이는 SDN과 Service Design Drinks India 커뮤니티에서도 활발하게 활동합니다.
점점 더 자율적으로 움직이는 시스템의 시대에 의미 있는 인간과 AI의 협업을 어떻게 설계할 것인지, 디자이너와 연구자, 혁신 리더 모두에게 와닿는 주제를 깊이 다룹니다.
함께 살펴볼 내용은 다음과 같습니다.
🤝 대화형 AI에서 에이전트형 시스템과 자율 워크플로로의 전환을 이끌어 가는 방법.
🤝 신뢰와 설명 가능성, 책임 있는 AI 경험을 위한 디자인.
🤝 행동과학이 AI의 수용과 변화의 실행을 촉진하는 방법.
AI의 역량과 자율성이 커질수록, 효과적인 경험을 설계하는 일은 인터페이스를 만드는 수준을 훨씬 넘어섭니다. 불확실성과 환각을 관리하는 일부터 인간이 개입할 적절한 순간을 정하는 일까지, 오늘날 디자이너에게는 인간과 AI가 함께 일하는 방식을 만들어 가는 역할이 점점 더 요구됩니다.
📺 SDN의 링크드인과 유튜브에서 생방송.
📅 2026년 7월 9일 목요일.
⏰ 15:30 CEST | 08:30 EST | 19:00 IST. [시간대 표기는 원문 그대로이다.]
🎙️ 진행: SDN 앰배서더이자 Community Voices 주 진행자인 수데슈나 마하타, SDN 앰배서더 삭시 쿠마리.
🎟️ 생방송에 참여해 대화에 함께하세요.
💬 댓글에 질문을 남겨 주세요. 생방송 대화에서 질문을 다루겠습니다.
#서비스디자인 #SDN #커뮤니티보이스 #디자인리더십 #비즈니스디자인 #디자인전략 #리더십 #서비스디자인네트워크 #조직변화 #AI수용 #AI경험 #행동과학
매주 진행하는 이 시리즈에서 서비스디자인 네트워크 커뮤니티는 전 세계의 실무를 만들어 가는 다양한 목소리를 통해 배우고, 나누고, 영감을 얻습니다.
링크드인, 인스타그램, 유튜브에서 좋아요를 누르고, 공유하고, 팔로우해 주세요.

발언자 주요 이력

주이 쿨카르니(Jui Kulkarni)
방송 소개 기준 프랙털 애널리틱스의 리드 디자인 컨설턴트이며, 경험 디자인과 행동 디자인, AI와 기술의 접점을 다룬다. 링크드인에는 디자인 리드로 소개되어 있다. 본 대담에서 IBM 근무, UX 디자인에서 리서치로의 전환, 석사 과정과 행동과학에 대한 관심, 프랙털에서의 AI 프로젝트 경험을 설명한다. SDN과 Service Design Drinks India 커뮤니티에서도 활동한다.
링크드인: https://in.linkedin.com/in/jui-kulkarni-01a56649
수데슈나 마하타(Sudeshna Mahata)
SDN 앰배서더이자 Community Voices 진행자이다. 본 대담에서는 1년 넘게 프로그램을 진행했으며 앰배서더 프로그램 리드를 맡았다고 소개한다.
링크드인: https://in.linkedin.com/in/sudeshna-mahata
삭시 쿠마리(Sakshi Kumari)
SDN 앰배서더이며, 본 대담에서 자신을 디자이너, 예술가, 인류학자로 소개한다. 인간의 행동과 심리, 인류학과 AI가 만나는 지점에 관심을 갖고 있다.
링크드인: https://in.linkedin.com/in/sakshikumari204
커뮤니티: https://www.linkedin.com/company/service-design-drinks-india/

---

전문 번역

삭시 쿠마리
안녕하세요, 수데슈나.

수데슈나 마하타
안녕하세요. 여러분, 모두 안녕하세요. 좋은 아침, 좋은 오후, 좋은 저녁입니다. 오늘 또 하나의 멋진 Community Voices에 함께해 주셔서 감사합니다.
오늘은 멋진 공동 진행자 삭시도 함께합니다. 여러분께 인사해 주세요.
접속하시는 동안 어느 나라에서 보고 계신지 채팅에 남겨 주세요. 그곳 날씨는 어떤가요? [웃음. 자동 자막의 날씨 관련 수식어는 불명확하다.]
지난 1년 동안 우리는 AI에 관해 정말 많은 이야기를 나눴죠. AI는 피드에도 계속 등장하고 대화에서도 빠지지 않습니다.
그래서 오늘은 이 흐름과 아주 관련 있는 질문을 준비했습니다. 시작하기 전에 간단한 활동부터 해 볼까요?
최근에 AI에게 맡긴 일 가운데, 예전에는 AI에게 맡기리라고 전혀 상상하지 못했던 일은 무엇인가요? 글쓰기, 아이디어 내기, 워크숍 계획 같은 일일 수도 있습니다. [웃음]
혹은 ‘제 일에는 AI가 가까이 오게 하지 않을 거예요’라는 분도 계시겠죠. 채팅에 남겨 주세요. 여러분의 이야기가 궁금합니다.
여러분이 답을 적는 동안 오늘 이야기할 내용을 소개하겠습니다.
이번 Community Voices에서는 주이 쿨카르니를 모시게 되어 정말 기쁩니다. 주이는 AI 경험에 관한 이야기를 나눠 줄 예정입니다.
AI에 관한 대화는 ‘어떤 프롬프트를 쓸 수 있을까’, ‘프롬프트를 어떻게 구성해야 할까’에서 새로운 AI 경험으로 이동하고 있습니다. 이제 코파일럿과 에이전트의 경험, 그리고 인간과 AI뿐 아니라 AI와 AI 사이의 상호작용을 이야기하게 됐습니다.
전체 패러다임이 바뀌고 있습니다. 그래서 오늘 대화가 무척 기대됩니다. 이제 상호작용을 설계하는 데서 나아가 신뢰와 인간의 행동을 설계하기 때문입니다. 이 영역에서 다음 세대의 공동체적 신뢰와 행동이 어떤 모습일지 우리가 만들어 가고 있습니다.
그럼 주이를 무대로 모시겠습니다. 안녕하세요, 주이. 잘 지내셨나요? 함께해 주셔서 정말 감사합니다.

주이 쿨카르니
안녕하세요. 여러분, 모두 안녕하세요.

수데슈나 마하타
모시게 되어 기쁩니다. 이 대화를 몇 달 동안 준비해 왔는데, 드디어 진행하게 돼 정말 좋습니다.
우리 모두 간단하게 자기소개를 해 볼까요? 제가 먼저 시작하겠습니다. 저는 수데슈나이고 오늘 진행을 맡았습니다. SDN Community Voices에서 1년 넘게 진행자로 활동해 왔고, 앰배서더 프로그램 리드로도 일했습니다. [자동 자막의 기관명 ‘Ezen’은 불명확하다.]
삭시에게 넘기겠습니다.

삭시 쿠마리
여러분, 안녕하세요. 저는 삭시입니다. 디자이너이자 예술가이고 인류학자입니다.
오늘 대화가 특히 기대됩니다. 사실 저는 주이를 거의 8년 동안 알고 지냈거든요. 주이, 우리가 함께 공부하던 때부터였죠? [원문 약칭 ‘SD’는 불명확하다.]
주이의 배경이 인류학, 인간의 행동 같은 영역과 겹친다는 것을 알고 있습니다. AI와 인간 심리, 인류학 등이 만나는 대화가 어떤 방향으로 흘러갈지 지켜보고 싶습니다.
제 소개는 이 정도입니다.

수데슈나 마하타
주이에게는 좀 창의적인 질문을 드릴게요. 지금은 이야기를 조금 더 듣고 싶으니까요. [웃음]
시간 여행부터 시작해 보죠. 과거의 주이에게 음성 메시지를 보낸다고 상상해 보세요. 어느 순간의 자신에게 보내고 싶나요? 그 순간을 시작점으로 지금까지의 여정과 직업적인 경험을 들려주세요.

주이 쿨카르니
5년 전의 저에게 실제로 음성 메시지를 보낸다면, 아마 당시 IBM에 있었을 때일 겁니다. 그 무렵 저는 UX 디자인에서 리서치로 넘어가기 시작했습니다.
기억나는 특정한 순간을 하나 이야기하겠습니다. 여러 순간이 있지만, 하나를 꼽자면 고객사의 내부 인정 플랫폼을 만들던 프로젝트입니다.
인정이라는 것은 동료나 팀원, 후배, 상사에게 감사를 표현하는 일입니다. 기본적으로 서로를 인정하고 고마움을 전하는 요소를 다루는 것이죠.
그런 플랫폼을 설계하면서 해야 한다고 배운 좋은 과정들을 모두 따랐습니다. 기초부터 리서치를 할 기회가 있었고, 실제 인터뷰도 진행했습니다. 사용자와 이야기하고 테스트하고 제품을 만들었죠. 피드백도 정말 좋았습니다.
그런데 출시하고 나니 실제로 기대했던 방식으로 사용되지 않았습니다. 원래 어떻게 사용되기를 바랐는지와 맞지 않았습니다.
그래서 무엇이 잘못됐는지, 정확히 어떤 부분이 작동하지 않는지 깊이 생각하게 됐습니다.
그 순간 깨닫기 시작했습니다. 우리는 솔루션을 생각할 때 사용자 중심성이나 사용자의 필요를 생각하지만, 그 아래에 인간의 행동이라는 더 깊은 층이 있다는 것을요.
그 일이 행동과학의 세계로 들어가는 계기가 됐다고 생각합니다. 인간을 더 깊이 이해하고, 인간과 그들의 문제를 위해 어떻게 설계할지 생각하게 됐습니다. 사람은 복잡하니까요.
그래서 그 순간의 저에게 ‘행동과학을 공부해. 그냥 해 봐’라고 말하고 싶습니다. 그 결정 덕분에 제가 오늘 여기 앉아 있으니까요.

수데슈나 마하타
여정의 일부를 나눠 주셔서 감사합니다. 하나의 중요한 장을 말씀해 주셨는데, 다른 특별한 장도 있는지 궁금합니다. 더 나누고 싶은 이야기가 있나요?

주이 쿨카르니
물론입니다. 방금 말씀드린 것은 직업적인 측면이었습니다. 이후 석사 과정을 거쳤고 프랙털로 옮겼습니다. 지금은 디자인과 AI, 기술이 만나는 지점에서 일합니다.
정말 흥미로운 영역입니다. 어떻게 솔루션을 만들 수 있을지 매일 많은 것을 배우고 있습니다.
또 다른 흥미로운 부분은 엄마로서의 삶입니다. 제 아이는 두 살입니다. 일 외에 제 시간을 계속 채우는 존재가 바로 아이입니다. 그 여정에서 정말 많은 것을 새로 배우고, 기존에 알던 것을 내려놓고 다시 배우고 있습니다.

삭시 쿠마리
여기서 하나 여쭤보고 싶습니다. 최근에 ‘Human in the Loop’라는 짧은 영화를 봤습니다. 많은 일이 자동화되는 지금도 인간이 왜 필요한지를 다루는 영화입니다.
주인공은 부족 공동체 출신의 여성인데, AI를 학습시키면서 자기 아이가 자라는 모습을 통해 본인도 배운다는 점을 이야기합니다.
아이를 보면서 겪은 경험과 직장에서 디자인이나 행동과학을 실천하는 일 사이에 연결되는 부분이 있었나요?

주이 쿨카르니
분명히 있습니다. 많은 것을 배우고 있지만, 디자인과 AI에 관련해서 제가 지금 다루고 있는 특정한 주제 하나를 꼽자면 아이의 언어 학습과 발달입니다.
이것은 여러 관찰에서 나온 이야기입니다. 한 번에 ‘아하’ 하고 깨달은 순간이 아니라 관찰이 쌓였고, 직업적으로 하는 일에서 패턴을 보면서 연결할 수 있었습니다.
배경을 조금 설명하자면, 아이들이 어떻게 배우는지 보세요. 아직 어휘가 충분히 발달하지 않았기 때문에 말투와 목소리 같은 것으로 상호작용합니다. 그래도 여러분이 하는 말은 이해합니다.
제가 아이에게 책을 가져오라거나 신발을 여기에 두라고 하면 그 의도를 이해합니다. 하지만 항상 말로 답할 만큼 어휘가 충분히 발달한 것은 아닙니다.
때로는 다른 말투나 다른 언어에도 반응합니다. 제 아이는 지금 네 가지 언어에 노출되어 있습니다. 충분한 어휘가 없어도 의도를 이해하고 반응할 수 있습니다.
즉 이해는 할 수 있지만 그에 해당하는 말을 만들어 내지는 못하는 것입니다.
이 개념을 이런 용어로 설명할 수 있게 된 것은 LLM을 이해하면서였습니다. LLM은 그 관계를 완전히 뒤집는다고 생각합니다.
LLM에 무언가를 물으면 이해와 언어 생성이 거의 같은 아키텍처를 따르는 것 같습니다. 그래서 AI가 우리가 말한 내용을 이해했는지는 실제로 알 수 없는데도 자신 있게 대답할 수 있습니다.
제가 여기서 배운 교훈은, AI가 한 말과 AI가 이해했는지를 같은 것으로 취급하지 않겠다는 것입니다. 둘은 다릅니다.
디자이너인 우리의 역할이 더 똑똑한 모델을 만드는 것이라고는 생각하지 않습니다. 기술 전문가들이 그 일을 훌륭하게 해내고 있습니다. 우리의 역할은 상호작용이 이루어지는 환경을 만드는 것이라고 생각합니다.
아이도 언어만으로 배우지 않습니다. 우리가 언어만 가르치는 것이 아니라 말투도 가르치고, 아이는 주변의 소리 등 다양한 입력에서 배웁니다.
이 과정은 아주 사회적입니다. 고립되어 있지 않습니다. 저나 가족과 상호작용해서만 배우는 것이 아니라 주변의 다른 것들에서도 배웁니다.
AI에도 같은 관점을 적용할 수 있다고 생각합니다. 우리에게는 AI와 상호작용하는 환경을 설계할 기회와 책임이 있습니다.
저는 그것을 인간의 ‘안무’라고 부릅니다. 에이전트형 시스템이 들어오면서 그 안무는 점점 더 복잡해지고 있습니다.

삭시 쿠마리
바로 그것을 다음으로 여쭤보려고 했습니다. 특히 지난 2년 동안 AI는 많이 발전했죠. 거의 자기 자신을 새롭게 만들어 냈습니다.
대화형 AI에서 이제는 우리를 대신해 실제로 행동하는 에이전트형 AI로 바뀌었습니다.
조금 창의적인 질문을 해 볼게요. AI가 이야기 속 등장인물이라면, 지금까지 AI를 다뤄 온 경험을 바탕으로 그 여정을 어떻게 묘사하시겠어요?

주이 쿨카르니
그냥 AI의 진화만 물어보셨으면 좋았을 텐데요. 그러면 그 여정을 설명해 드릴 수 있었을 겁니다.

삭시 쿠마리
그 이야기도 듣고 싶죠.

주이 쿨카르니
흥미롭지만 답하기는 어렵네요. 지금 AI가 어디에 있는지, 제가 디자인하면서 무엇을 느끼는지를 떠올리면 청소년과 같다고 말할 수 있을 것 같습니다.
제가 청소년 같다는 말이 아니라, 등장인물로서의 AI가 청소년 단계에 있다는 뜻입니다.
오해하지 말아 주세요. AI는 놀라운 일을 아주 빠르게 해내는 데 탁월합니다. 하지만 과도한 자신감도 보일 수 있습니다. 저는 그 부분에서 청소년과 연결됩니다.
청소년을 대할 때도 그저 상호작용하거나 명령만 내려서는 안 됩니다. 역효과가 날 수 있습니다.
효과적인 것은 미리 경계를 정하고 안전장치를 마련하는 것입니다. 그렇게 설계하고 신뢰를 얻는 것이죠. 신뢰는 하루 만에 만들어지지 않습니다. 그 관계는 아주 섬세합니다.
청소년에게 충분한 공간을 주지 않으면 여러 면에서 성장이 억제됩니다. 반대로 완전히 자유로운 공간을 주면 경계에 부딪히며 어렵게 배우게 됩니다.
완전히 제한할 수도, 완전히 풀어놓을 수도 없습니다. 안전장치와 경계 안에서 움직이도록 하는 것, 그것이 지금 AI라는 등장인물의 여정에 가장 잘 맞는 비유라고 생각합니다.
말이 되는지 모르겠네요.

수데슈나 마하타
네, 말이 됩니다. 계속 발달심리학처럼 이야기해 주시네요. 아동심리에서 청소년심리로 이어지는 식으로요. [웃음] 그렇게 연결하는 방식이 좋습니다.

삭시 쿠마리
AI를 청소년과 비교하는 비유를 듣고, 청소년기에 우리가 가진 에너지가 떠올랐습니다.
그 에너지에 적절한 구조를 주면 우리가 바라는 결과나 필요한 결과를 얻는 열쇠가 되죠. 사람에게도 그렇고 AI에도 그렇습니다.
AI도 올바른 구조를 주면, 완전히 열어 두고 아주 개방적인 질문만 던질 때보다 일을 훨씬 잘해 냅니다.

주이 쿨카르니
네, 맞습니다.

수데슈나 마하타
이것은 디자이너가 AI를 설계할 때 다른 관점을 가져온다는 이야기로도 이어집니다. 이제 단순히 상호작용만 설계하는 것이 아닙니다. 말씀하신 대로 관계를 설계하기 시작하는 것이죠.
그러면 인간과 AI, 지금 시점에서는 에이전트 사이의 이상적인 관계는 어떤 모습일까요?
설계에서 가장 중요한 것은 무엇인가요? 방향을 잡아 줄 디자인 가치가 있을까요? 신뢰와 통제가 더 중요할까요?
경계는 이미 말씀해 주셨으니 하나의 요소로 강조하고 싶습니다. 이상적인 관계를 위해 더 만들어야 하는 것은 무엇인지, 주이의 관점에서는 그 관계가 어떤 모습인지 궁금합니다.

주이 쿨카르니
여러 층으로 된 질문이네요. 먼저 관계부터 이야기하겠습니다.
지금 AI나 에이전트를 생각하면 함께 일하는 파트너, 혹은 좋은 동료처럼 볼 수 있습니다. 필요할 때 믿고 기대며, 여러분의 강점과 사각지대도 아는 동료입니다.
그렇다고 모든 일을 그들에게 넘기거나 반대로 하는 것은 아닙니다. 함께 상호작용을 만들어 가는 것이죠. 어떤 일은 그들에게 의지하되, 여전히 내가 해야 할 일도 있습니다. 저는 그런 관계라고 생각합니다.
이런 솔루션을 설계하면서 자동화하거나 에이전트를 만든다고 말할 때, 우리는 실제 워크플로를 복제해서 에이전트가 수행하도록 바꾸는 것입니다.
그런데 현실의 워크플로에는 마찰이 있습니다. 에이전트로 바꾼다고 그 마찰이 자동으로 사라지지 않습니다. 같은 마찰이 다른 곳으로 옮겨 갑니다.
바로 여기서 디자이너의 역할이 중요합니다. 기존 마찰이 그대로 옮겨 가지 않도록 아주 신중해야 합니다.
에이전트화하면 설계된 자율성이 크게 생기기 때문입니다. 그 마찰이 다른 곳이나 이후의 여러 단계에서 나타날 수 있습니다.
따라서 신중하게 설계하고 시스템으로 생각해야 합니다. ‘이 작업을 위한 에이전트를 만들겠다’에서 끝내지 말고, 무엇을 하는지, 누가 관여하는지, 어떤 의존 관계와 상호작용이 있는지 봐야 합니다.
제가 말한 안무가 바로 그것입니다. 그 안무가 에이전트와 인간 사이의 관계를 결정하고 만들어 갑니다.

수데슈나 마하타
시스템 사고의 관점을 적용한 방식이 좋습니다. 한발 물러서 더 넓게 보고 누구와 상호작용하는지 살피는 것이죠.
내부적으로는 어떤 데이터와 상호작용하는지도 볼 수 있습니다. 서로 다른 모델도 있고, 행동에 관해서도 이야기하고 있으니까요.
이것들을 함께 꺼내 보면 여러 요소가 있습니다. 그렇게 설명해 주신 방식이 좋습니다.

주이 쿨카르니
통제와 신뢰도 말씀하셨죠. 에이전트를 이야기할 때 이런 개념들을 서로 바꿔 쓰거나 큰 하나의 범주로 묶기도 합니다.
하지만 통제, 신뢰, 설명 가능성은 서로 다른 세 가지입니다. 그 아래에는 또 하나의 층이 있다고 생각합니다.
앞서 경계를 말씀드렸는데, 여기에 ‘작동을 읽고 이해할 수 있음’, 즉 레지빌리티(legibility)도 있습니다. 딸과 상호작용하면서 배운 점과 다시 연결되는 부분입니다.
레지빌리티란 시스템이 여러분이 요청한 목표를 어떻게 이해했고, 어떻게 수행하고 있는지를 알 수 있다는 뜻입니다.
그것이 분명하면 시스템은 자율적으로 진행하고 작동할 수 있습니다. 그러면서도 사용자는 더 많은 통제감을 얻고 더 잘 신뢰하게 됩니다. 시스템이 할 수 있는 일과 할 수 없는 일을 알기 때문입니다.
물론 설명 가능성도 더 좋아집니다. 그래서 레지빌리티는 통제, 신뢰, 설명 가능성을 연결하는 요소입니다.
통제는 누가 언제 개입하는지의 문제입니다. 신뢰는 한 번의 상호작용으로 끝나지 않고 시간이 지나며 쌓입니다.
설명 가능성은 ‘이 결과에 도달하기 위해 이런 순서로 진행했다’만을 뜻하지 않습니다. 무엇을 사용했고 무엇을 사용하지 않았는지, 무엇이 빠졌는지, 어떤 이상 징후가 있는지 투명하게 보여 주는 것도 포함합니다.
이런 요소를 함께 묶으면 좋은 AI 경험을 설계하는 아주 성공적인 조합이 된다고 생각합니다.

수데슈나 마하타
그것이 어떤 모습인지 작은 사례를 들려주실 수 있나요? 사람들이 말씀하신 것을 그려 볼 수 있는 사례라면 무엇이든 좋습니다.
아주 중요한 내용이라 여기서 조금 더 시간을 쓰고 싶습니다.

주이 쿨카르니
최근에 진행한 사례를 말씀드릴 수 있습니다. 한 음료 병입 회사의 프로젝트를 개발했습니다. 기존 업무 방식을 단순하게 설명하겠습니다. 데이터 인사이트 팀이 관여하는 일입니다.
회사 안의 다양한 역할을 가진 사람들이 각자의 우선순위를 가지고 이 팀에 연락합니다. 회사에 데이터는 있지만 왜 어떤 일이 일어나는지 분석하고 싶기 때문입니다.
매출이 떨어진다거나 브랜드 실적이 하락한다는 사실은 알지만, 이제 그 이유를 알고 싶은 것입니다.
그들은 데이터 전문가가 아니기 때문에 특정 팀에 연락해서 질문합니다. ‘왜 이 브랜드 실적이 떨어지나요?’, ‘이번 분기 분석을 해 줄 수 있나요?’, ‘지난 분기와 비교해 줄 수 있나요?’, ‘목표 대비 실적은 어떤가요?’ 같은 질문입니다.
아주 많은 질문이 이메일로 이 팀에 도착해서 처리해야 할 목록처럼 받은편지함에 쌓입니다.
팀은 각 질문을 받아 여러 데이터셋을 보고 분석하고 요약을 만들어 해당 사용자에게 보냅니다.
여기서 행동을 보면 ‘이 사람에게 질문을 보낸다’는 것입니다. 사용자는 그 사람이 누구이고, 전문 분야가 무엇이며, 어떻게 일하는지 압니다.
업무의 전달 경로와 책임도 아주 명확합니다. 받은 답변이 누구의 검토를 거쳤는지 알고, 문제가 있으면 누구에게 고쳐 달라고 해야 할지 특정할 수 있습니다.
하지만 여러 국가와 시장의 많은 사람이 연락하면서 이 팀에는 상당한 문제와 부담이 생겼습니다. 응답 시간이 길어지고, 사람들에게 일이 너무 많이 쌓였습니다.
그래서 간단한 해결책은 ‘도구에 질문하고 AI 시스템이 답하게 할 수 있을까?’였습니다.
그런데 그냥 도구를 개발해서 보내기만 하면 분명 수용에 문제가 생깁니다. 단순히 질문하고 답변을 받는 문제가 아니기 때문입니다.
답변은 여전히 받지만 사람이 없습니다. 누구를 특정할 수 없고 책임의 주체도 보이지 않습니다. 답이 맞는지 어떻게 알까요? 아래에서 어떤 데이터를 사용했을까요?
물론 설명을 제공할 수 있지만 그래도 돌아가서 확인해야 하는 부분이 있습니다. 신뢰의 요소가 필요한 것이죠.
또한 이것은 행동의 변화입니다. 이전에는 사람에게 물었는데 이제 기계에 물어야 합니다. 프롬프트를 어떻게 써야 할지도 모릅니다. 이전 워크플로에는 그런 일이 없었으니까요. 변화는 거기서부터 시작합니다.
이것을 설계하면서 기술 담당자들과 실제로 협업할 기회를 얻었습니다. 사용자에게 보이는 UI 층에만 영향을 주는 것이 아니라, 그 밖의 부분에도 어떻게 영향을 줄지 함께 이해했습니다.
‘이 흐름을 설계했다’에서 끝내지 않고, 말투와 성격, 후속 질문을 하는 방식, 내용을 명확히 하기 위한 질문을 하는 방식도 다뤘습니다.
설명 가능성의 요소를 어떻게 보여 줄지, 사용자가 믿을 수 있도록 최신 정보임을 어떻게 보여 줄지도 고민했습니다. 예를 들어 데이터가 언제 업로드됐는지 알려 주는 것입니다.
그런 요소들이 더 나은 솔루션을 만드는 데 정말 도움이 됐습니다. 사용자 인수 테스트(UAT)에서도 아주 좋은 반응을 받았습니다. 더 나은 솔루션을 만들어 가는 방향이라고 생각합니다.
제가 최근에 떠올리는 사례가 이것입니다. AI 경험에 관해 지금 생각하고 이야기할 수 있게 된 출발점이 이 프로젝트였습니다.
이런 생각을 하게 만든 기초 프로젝트였고, 지금은 프레임워크 같은 형태로 더 실험하고 있습니다.

수데슈나 마하타
오늘 회차 제목인 ‘인간과 AI의 협업 안무’에 정말 딱 맞는 사례네요. [웃음] 말씀해 주셔서 좋습니다.
AI 기반 솔루션을 설계하거나 만드는 일을 말씀하셨는데, AI는 환각을 일으키잖아요. 이 제약을 고려해 어떻게 설계하시나요?
디자인 파트너 자체가 믿을 만하지 않다는 것을 알면서 어떻게 신뢰를 쌓을 수 있을까요?

주이 쿨카르니
저는 조금 다른 관점을 가지고 있습니다. 1~2년 전에는 AI가 환각을 일으킨다는 것이 새로운 정보였겠지만, 이제 우리는 알고 있습니다.
이유도 연구를 읽으면 알 수 있습니다. AI가 환각을 일으키는 데는 이유가 있습니다. 창의성과 자유를 위해 만들어졌고, 그런 경계에 묶여 있지 않기 때문입니다. 그것을 완전히 막으면 생성형 AI는 오늘날의 생성형 AI가 아니게 될 것입니다.
물론 환각과 과도한 자신감은 문제입니다. 완전히 의존할 수는 없습니다. 다만 이것은 알려진 제약이고 그 제약을 고려해 설계할 수 있다고 생각합니다. 여기서 우리의 역할이 더 커집니다.
그러나 에이전트형 시스템이나 다중 에이전트 시스템을 설계할 때는 더 큰 문제들이 있습니다.
워크플로를 가져와 에이전트가 수행하도록 바꿀 때 점검 지점들을 제대로 연결하지 않는 문제입니다. 검증과 점검, 관여하는 사람, 승인, 그 밖의 다양한 요소가 있습니다.
의존 관계도 있을 수 있습니다. 한 에이전트가 다른 누군가에게 의존할 수 있죠.
이런 안무의 요소와 점검 지점들을 제대로 설계하지 않으면 솔루션에 훨씬 큰 영향을 줄 수 있습니다.
환각에는 경계와 안전장치를 세워 확인할 수 있습니다. 하지만 그것은 여러 문제 중 하나입니다. 다중 에이전트 시스템에서는 상호작용을 어떻게 설계하는지가 중요합니다.
우리가 여정 지도를 만들듯이 생각해 볼 수 있습니다. 저는 이런 비유를 만들고 있는데, 최근 몇 가지 작업에서 도움이 됐습니다.
‘이런 에이전트를 만들고 싶다’고 할 때 먼저 문제를 상상하고 필요한 에이전트를 생각합니다. 그 상황에 여러 에이전트가 있을 수도 있습니다.
누구나 공감할 수 있는 최근 사례를 들겠습니다. 모두 전자상거래를 이용해 보셨을 겁니다.
아마존이나 다른 플랫폼에서는 여러 브랜드가 프로모션을 진행합니다. 그 프로모션을 실행하고 수요를 충족하며 제대로 공급하기 위해 회사 내부에서 여러 일이 일어납니다.
아주 단순화해서 설명하겠습니다. 실제로는 여러 사람과 팀이 관여할 수 있습니다.
스포츠 행사나 밸런타인데이, 축제 같은 문화적 행사가 다가오면 특정 제품의 수요가 높아질 것을 압니다. 그래서 마케팅 효과를 높이기 위해 프로모션을 하고 싶습니다.
하지만 이를 진행하려면 담당자가 수요를 충족할 수 있는지 확인해야 합니다. 뒤쪽 시스템을 확인하고 담당자들에게도 확인합니다.
모든 것이 괜찮으면 마케팅 자료를 보냅니다. ‘오늘 이것을 진행해야 한다’고요. 현재는 여러 시스템에서 확인하고, 여러 사람이 관여하고, 여러 승인을 거칩니다. 느리지만 과정이 보입니다.
이제 시스템을 에이전트화했다고 가정해 보겠습니다. 한 에이전트가 수요를 아주 빠르게 감지합니다.
수요를 파악하고 공급을 담당하는 쪽에 ‘이 수요를 충족할 만큼 공급이 충분한가?’라고 확인합니다. 다른 시스템, 다른 에이전트가 확인하고 답합니다. ‘준비돼 있습니다.’
그러면 또 다른 에이전트가 그 정보를 받아 마케팅 자료를 준비하고 내보냅니다. 독립적으로, 아주 빠르게 수행됩니다.
그런데 작은 점검 지점이 빠졌다고 해 보세요. 두 시스템이 같은 시점에 업데이트되지 않았습니다.
오늘 특정 시점에서 감지한 수요와 뒤쪽에 있는 공급 정보 사이에 차이가 있고, 공급 정보가 최신이 아니라면 영향이 생깁니다.
사용 가능하다고 알리면서 공개적으로 빠른 속도로 실수를 하게 되는 것입니다. 이런 일이 잘못 일어날 수 있습니다.
그러니까 LLM의 환각도 큰 문제이지만, 인간과 에이전트의 안무를 이야기할 때는 이런 문제도 있다는 것입니다.
방금은 단순한 사례를 들었지만, B2B 기업에는 매우 복잡한 워크플로가 있습니다. 아주 많은 사람과 여러 공급업체가 관여할 수 있습니다. 그런 업무를 에이전트화하면 어떻게 해야 할까요?
물론 이점이 있습니다. 방금 얼마나 빠르게 진행됐는지 보셨죠. 기다리는 의존 관계가 줄고 자율성이 생깁니다.
하지만 제대로 안무를 설계하고 검증을 위한 적절한 점검 지점을 마련해야 잘 돌아갑니다. 저는 이것도 중요하지만 과소평가되고 있다고 생각합니다.
이 관점을 많이 보지는 못했습니다. 제가 이런 생각을 시작하고 워크플로와 솔루션을 설계했을 때 아주 유용했습니다.
사용자에게도 도움이 됐습니다. ‘모든 단계를 생각하고 있네요. 여기서는 제가 개입하고 싶습니다’ 같은 반응을 받았습니다.
저희는 그런 피드백을 받고 있습니다.

수데슈나 마하타
대화 내내 수용이라는 부분을 강조해 주셨다고 생각합니다.
AI도 있고 에이전트도 있으며 AI로 설계할 수 있는 것이 무엇인지도 압니다. 하지만 핵심은 기존 시스템에 AI 이전부터 여러 워크플로가 있을 때, 이것을 받아들이면서 무엇을 해야 하는가입니다.
그 안무의 요소가 들어간 새로운 시스템을 어떻게 만드는가 하는 것이죠.
조금 말씀해 주셨지만 더 궁금합니다. 인간과 AI의 경험을 설계하는 여정에 들어서는 디자이너, 특히 서비스디자이너가 갖추고 시작해야 할 역량은 무엇일까요? AI 경험 디자인을 위한 첫 준비물에 무엇을 넣어야 할까요?

주이 쿨카르니
핵심은 이제 인간이 아닌 존재의 행동을 설계한다는 것입니다. 에이전트의 행동이라고 부르고 싶은데, 그렇게 부르는 것이 정확한지는 모르겠습니다.
에이전트형 시스템을 설계한다는 것은 에이전트의 행동을 설계한다는 뜻입니다. 그것은 인간의 행동이 아닙니다. 그러면 무엇을 해야 할까요?
몇 가지를 나눌 수 있습니다. 저도 배우는 중이고 아직 완전히 발전된 생각은 아닐 수 있습니다. 그래도 저에게 도움이 된 것들을 말씀드리겠습니다.
첫 번째는 앞에서 이야기한 경계입니다. AI가 무엇을 할 수 있고 무엇을 할 수 없는지에 관한 것입니다.
우리가 주목해야 할 근본적인 변화는 이제 명령이나 프롬프트만의 문제가 아니라는 점입니다. 우리는 AI에게 목표를 줍니다.
에이전트에게 목표를 주면 그 목표가 명확해야 합니다. 작업이나 계기를 주었을 때 어떤 단계를 따를 것인지도 분명해야 합니다.
그런 명확함과 가시성이 첫걸음이라고 생각합니다. 경계를 인식하는 것, 무슨 일이 언제 일어나는지 사용자가 아는 것이 중요합니다.
자율적으로 작동하게 하되 블랙박스가 되어서는 안 됩니다. 이것이 경계에 대한 인식입니다.
두 번째는 뭐라고 이름 붙여야 할지 모르겠지만 시스템의 수행에 대한 투명성입니다. 여기에는 두 층이 있습니다.
하나는 사용자에게 제공하는 투명성입니다. 시스템이 어떤 일을 할 수 있고 할 수 없는지 말해야 합니다.
예를 들어 여러 질의를 성공적으로 수행했다면 ‘50번 중 47번 성공했다’고 말할 수 있습니다. 이런 통계를 보여 줄 수 있다면 사용자에게 자신감을 줍니다.
조직이 이런 것을 추적하는 것도 중요합니다. 무엇이 잘못되는지 봐야 합니다. 사람들이 답변을 받지 못하거나 계속 부정적인 평가를 남긴다면 추적해야 합니다.
투명하게 보는 데 그치지 않고 그에 따라 조치해야 합니다. 실제 상황을 사용자와 공유할 수 있다면 설명 가능성과 신뢰에도 도움이 됩니다.
또 하나는 설명 가능성입니다. 에이전트가 모든 일을 한다고 해도 여전히 점검 지점이 있습니다. 이 역시 안무에서 중요합니다.
에이전트가 열 단계를 수행해서 분석을 내놓았지만 사용자의 승인이 필요하다고 해 보세요. 그 승인은 서명이나 형식적인 도장을 찍는 일이 아닙니다. 그 사람의 책임을 의미합니다.
그 사람이 필요한 정보를 모두 가지고 있나요? 에이전트가 했지만 제대로 했는지 아닌지는 별개의 문제입니다.
그 사람이 열 단계를 모두 다시 따라갈 필요는 없지만, 무슨 일이 일어났는지 확인할 수는 있어야 합니다. 승인하기에 충분한 정보를 가지고 있을까요?
우리가 그것을 가능하게 해야 합니다. 시간 제약이나 압박이 있는 상황에서도 그런 결정을 내릴 수 있게 해야 합니다.
작업은 빠르게 진행됩니다. 그런데 점검 지점에서 사람에게 확인을 요구할 때, 그 사람이 압박 속에서도 확인하고 진행할 수 있을까요?
승인 이후 에이전트가 다른 행동을 기다리고 있을 수 있습니다. 다음 단계에서 특정 예산을 승인하는 일로 넘어갈 수도 있습니다.
하지만 그 책임은 사람에게 있습니다. 따라서 승인하거나 결정하는 최종 사용자에게 결정 과정과 수행 단계, 실제로 일어난 일의 가시성과 설명 가능성을 어떻게 제공할지 생각해야 합니다.
그런 결정을 어떻게 가능하게 할까요?
한 가지 더 있습니다. 앞서 말씀드린 사례에서는 질문에 답하는 AI 인사이트 도구를 개발했습니다.
AI는 잘못될 수 있고 환각도 일으킬 수 있습니다. 그래서 오류를 위한 설계와 대체 경로를 위한 설계도 중요합니다. 이것도 안무의 일부입니다.
AI가 잘못될 때 실패 지점을 어떻게 무리 없이 보여 주고 다른 쪽으로 넘길 수 있을까요?
에이전트가 수행할 수 없는 매우 중요한 일이 있거나 데이터에 이상이 있다면 그 단계는 진행하면 안 됩니다. 흐름 안에 차단 장치가 있나요? 그런 장치가 있어야 하고 필요하면 인계할 수 있어야 합니다.
승인 지점에서 승인이 이루어지지 않거나 오류나 실패가 생길 때는 어떻게 대체 경로로 돌아갈까요? 진행되지 않는다는 사실을 어떻게 보여 줄까요?
기본적으로 막다른 길이 되어서는 안 됩니다.
예전에도 페이지가 보이지 않으면 홈페이지로 돌아가도록 설계했잖아요. 아주 단순한 사례를 들고 있지만, 대안을 줘야 한다는 뜻입니다.
‘이것은 작동하지 않습니다’, ‘이 일이 수행되지 않았습니다’라고 알리고 다른 방법을 제공해야 합니다. 다른 방법도 모두 안 된다면 어떻게 인계할까요?
그 부분도 정의하고 설계해야 합니다. 설계할 때 고려해야 합니다.

수데슈나 마하타
정말 좋은 내용입니다. 나눠 주셔서 감사합니다. 여러분도 질문이 많으실 것 같습니다. 이제 질의응답 시간으로 들어가겠습니다.
주이와 대화를 이어 가는 동안 채팅에 질문을 남겨 주세요. 정말 중요한 내용을 많이 다뤘기 때문에 묻고 싶은 것도 많으실 겁니다. 질의응답을 열겠습니다.

주이 쿨카르니
좋습니다. 삭시와 수데슈나도 최근에 접한 AI나 인간과 AI의 안무에 관해 나누고 싶은 이야기가 있나요?

삭시 쿠마리
지금 진행하는 프로젝트가 있습니다. 자세히 공개할 수는 없지만, AI로 특정 사용자 유형의 일을 더 쉽게 만드는 프로젝트입니다.
그런데 1차 리서치에서 그 사용자는 AI로 일이 쉬워지면 자기 일자리를 잃을까 봐 두려워한다는 것을 알게 됐습니다.
그래서 그들과 이야기하면서 이 경우 어떻게 신뢰를 만들지 아직 찾아가는 중입니다.
가능할 것 같은 한 가지 방법은 워크플로의 통제권을 AI에게 100% 넘기지 않고, 그 사람이 워크플로에서 계속 중요한 역할을 하도록 보장하는 것입니다.
그렇게 하면 자신이 시스템을 통제한다고 느낄 수 있고 책임도 갖게 됩니다. 그 과정에서 시스템에 대한 신뢰를 쌓을 수 있을 것 같습니다.
그러면 나중에는 AI 시스템에 얼마나 많은 자율성을 줄지 본인이 결정할 수 있겠죠.

주이 쿨카르니
네. 그런 지점을 찾는 것이 정말 중요합니다. 다만 지나치게 해서는 안 됩니다. 무조건 ‘모두 승인’하는 식으로 맹목적으로 처리해서도 안 됩니다.

삭시 쿠마리
맞습니다. 어느 정도가 너무 많은지, 어느 정도가 너무 적은지 찾아가는 여정인 것 같습니다. 균형을 찾는 것이죠.

주이 쿨카르니
맞습니다.

수데슈나 마하타
저는 프로젝트 사례는 없지만 질문을 하고 싶습니다. MIT의 한 교수가 연구하던 내용인데, AI 데이터는 모두 과거의 데이터라고 표현했습니다.
지금 세상에 존재하는 모든 사람의 인지 같은 것을 가져와 지능을 만드는 셈이죠.
그런데 여기서 빠뜨리기 쉬운 것이 편향입니다. 우리 모두 환각과 편향을 많이 다루는데, 편향은 과거의 데이터에 내장되어 있습니다.
아주 단순하게 말하면, 과거의 데이터로 새로운 시스템을 만들 때 실제로 의도한 시스템의 결과가 나올까요?
그럴 때 어떻게 해야 할까요? 가짜 데이터를 만들어 ‘이것을 기준점으로 삼아’라고 해야 할까요?
그런 상황을 겪으셨는지 궁금합니다. 그리고 넓게 봤을 때 무엇이 좋은 대응 방법이라고 생각하시나요?

주이 쿨카르니
LLM에 관해서는 완전히 솔직하게 말씀드리고 싶습니다. 데이터 안에 있는 편향을 없애 버릴 수는 없습니다. 데이터가 편향으로 가득할 수도 있으니까요.
다만 솔루션을 설계할 때는 항상 그런 점검 지점을 찾아야 합니다. 솔루션을 출시했다고 끝내지 말고 계속 발생하는 답변을 관찰해야 합니다.
논문에서 읽었는데, 여기저기 몇 개의 답변만으로 편향의 패턴을 특정할 수는 없다고 합니다. 답변을 모아서 종합적으로 봐야 합니다.
그래서 주기적으로 점검하고, 관찰한 것을 바탕으로 조치하는 것입니다. 무언가 발견하면 바꿔야 합니다. 저는 그것이 대응하는 방법이라고 생각합니다.
편향을 완전히 없앨 수는 없습니다. 사람에게도 있고 데이터, 과거의 데이터에도 있기 때문입니다.
편향 없이 설계할 수 있다고 말한다면 거짓말일 것입니다. 하지만 그것을 인식하고, 솔루션을 만든 뒤에도 점검 지점을 유지할 수는 있습니다.
특히 특정 집단에 의도하지 않은 유형의 답변이 제공되는지 등을 확인해야 합니다. [해당 문장 중간의 자동 자막 약칭 ‘CI’는 불명확하다.]
종합적으로 보았을 때 그런 패턴이 나타난다면 그때 조치해야 합니다.

삭시 쿠마리
이것은 디자이너에게 기회를 주는 것 같기도 합니다. 이제 이런 편향이 사람들의 삶에 직접 영향을 미친다는 것을 볼 수 있으니까요.
물론 항상 영향을 미쳤지만, 지금처럼 영향이 직접적으로 드러나면 그 영향을 최소화할 프레임워크와 점검 지점을 설계할 기회가 됩니다.

주이 쿨카르니
맞습니다. 그것만으로도 한 시간을 더 이야기할 수 있겠네요.

수데슈나 마하타 / 삭시 쿠마리
솔직히 그 자체로 한 회차의 주제가 될 수 있죠. 맞습니다.

수데슈나 마하타
이제 질문을 하나 드리겠습니다. 디자인, 행동, 기술, 이제는 AI 시스템까지 이 교차 지점에서 많은 일을 해 오셨잖아요.
정말 답하고 싶었는데 아직 아무도 물어보지 않은 것은 무엇인가요? 질문을 직접 말씀해 주세요. [웃음]

주이 쿨카르니
아, 어렵네요. 질문도 많이 받고 저도 AI에 관해 질문을 많이 합니다.
우리가 충분히 이야기하지 않는 것은 ‘인간의 판단을 어디에 넣을 것인가?’인 것 같습니다.
인간과 AI의 안무를 이야기할 때, 사실 누가 이 대화를 시작하고 누가 그 안무가 옳다고 결정하는 걸까요?
그런 문제를 제기하고 논의하고 책임을 가져야 한다고 생각합니다. 바로 여기서 디자인 리더십이 필요합니다.
‘이것은 인간의 몫으로 남긴다’, ‘이것은 에이전트가 수행하게 하거나 자율적으로 만들어도 괜찮다’고 판단할 때 인간의 판단이 들어가야 합니다.
그런데 지금은 그 책임이 아주 조각나 있습니다. 디자인이 담당하는지 확실하지 않고, 기술 쪽에서 생각하는지도 모르겠습니다.
그것 때문에 책임 주체에 관한 문제가 많이 생긴다고 생각합니다. 서로에게 물어야 할 더 중요한 질문입니다.
그래서 디자인 리더십이 필요하다고 생각합니다.

삭시 쿠마리
덧붙이고 싶은 말이 있습니다. 시스템을 설계할 때 첫 질문은 사회적으로, 문화적으로 이것을 해야 하는가, 우리의 가치가 이 시스템에 반영되는가여야 합니다.
기술적으로 만들 수 있는지부터 논의하기보다 ‘우리가 이것을 정말 해야 하는가?’를 먼저 물어야 합니다.

수데슈나 마하타
그 질문은 모든 혁신에 걸쳐 적용되는 것 같습니다. ‘이 실험을 해도 되는가?’라는 것이죠. [웃음]
사람의 생물학적 세포를 변형해 실험을 위한 존재로 만든다는 논문을 읽었던 기억이 납니다. 살아 있는 존재를 만들어 실험하는 것입니다.
어떤 혁신이든 이야기할 때 다양한 윤리적 경계가 문제가 됩니다. 그런 경계는 혁신을 느리게 만들지만, 동시에 윤리적인 범위 안에 머무르도록 해 줍니다.
그러면 또 ‘무엇이 윤리적인가?’라는 논의가 시작됩니다. 국가를 넘어서기 때문입니다.
지금 우리는 전 세계적으로 적용되는 시스템을 만들고 있습니다. 한 나라 안에 고립된 것이 아닙니다.
한 나라의 헌법 같은 기준만 따르는 것일까요? 특정 나라의 문화적 믿음에도 부합할까요?
그러다 보면 이런 혁신을 이끄는 정책적 틀은 무엇이어야 하는지 아주 넓은 논의가 시작됩니다.

주이 쿨카르니
네, 맞습니다.

수데슈나 마하타
삭시, 미래에 관한 질문도 준비했죠?

삭시 쿠마리
아, 네. 수데슈나, 주이와 짧게 바로 답하는 질문을 해 보면 어떨까요?
주이, 세 가지 질문을 드리겠습니다. 한 단어나 한 문장으로만 답하시면 됩니다.

주이 쿨카르니
그렇게만요? 알겠습니다. [웃음]

삭시 쿠마리
수데슈나도 같이 답해 주시면 좋겠습니다. 주이부터 시작하고 그다음에 답해 주세요.
첫 번째입니다. AI가 가르쳐 준 가장 의외의 것은 무엇인가요?

주이 쿨카르니
다시 말씀해 주시겠어요?

삭시 쿠마리
AI가 가르쳐 준 가장 의외의 것이요.

주이 쿨카르니
AI의 토큰 계산입니다. 제가 그런 계산을 하게 될 줄은 몰랐습니다.
크레딧 제한이 있다 보니 ‘이 작업을 하고 싶은데 크레딧을 얼마나 쓸까?’를 늘 계산합니다. [웃음]
지금은 팀 차원에서도 규모 있게 계산하고 있습니다. 그래서 ‘아, 그렇구나’ 하게 됩니다.
재미있는 일입니다. 이런 일을 해야 할 줄은 전혀 몰랐는데 AI가 가르쳐 줬습니다.

삭시 쿠마리
좋습니다. 수데슈나는 어떤가요? AI가 가르쳐 준 가장 의외의 것은요?

수데슈나 마하타
프로세스 문서화입니다. 저는 프로세스를 꽤 잘 정리한다고 생각했습니다.
그런데 AI가 워크플로를 재현하도록 하려면 프로세스 문서를 얼마나 많이 맞춤 수정해야 하는지 정말 놀랍습니다.
전문적인 문서가 된 것 같아요. [웃음. 원문은 ‘professional document’라고 말한다.]

주이 쿨카르니 / 수데슈나 마하타
삭시는 어떤가요?

삭시 쿠마리
저요? 질문하기 전에 답도 생각해 뒀어야 했네요. [웃음. 그 뒤의 자동 자막 인명은 불명확하다.]
저는 바로 해결책으로 뛰어들지 않는 것입니다.
특히 지난 2년 동안의 프로젝트에서, 프로젝트를 받자마자 AI로 바로 갔던 경우에는 매번 모든 것을 다시 해야 했습니다. 전부요.
다음 질문입니다. 절대 바뀌지 않을 디자인 원칙 하나는 무엇인가요?

주이 쿨카르니
디자인 원칙이라고 부르기보다는 전반적인 원칙인데, 결과에는 항상 누군가 책임을 져야 하고 주인이 있어야 한다는 것입니다.
그것은 바뀌면 안 됩니다. 앞으로도 그 원칙을 적용하겠습니다.

삭시 쿠마리
수데슈나는 어떤가요?

수데슈나 마하타
심리사회적 안전입니다. 상호작용하는 모든 사람이 심리적 안전을 느끼도록 하는 것과 관련됩니다.
윤리 이야기도 했지만, 이런 상호작용을 하려면 안전하다고 느끼는 것이 필요합니다.
사람들은 보고 읽는 것에 큰 영향을 받습니다. 자기에게 맞춰진 특정 시스템의 관점만 듣게 되기도 합니다.
그러면 외부의 관점을 받아들이지 않고 아주 경직됩니다.

삭시 쿠마리
알겠습니다. 저는 공감이라고 하겠습니다. 디자인 원칙이라고 불러도 될지는 모르겠지만, 사회적 상호작용에 깊이 자리 잡은 공감입니다.
마지막 질문입니다. AI 기반 경험의 미래를 설명하는 한 단어는 무엇인가요?

주이 쿨카르니
저에게는 안무입니다.

수데슈나 마하타
저는 딱 떠오르는 단어가 없네요. [웃음] 안무라는 말이 정말 아름답다는 생각이 듭니다.
솔라펑크를 보셨는지 모르겠네요. 미래의 AI와 인간의 상호작용을 다루면서 생태계, 그러니까 세계의 시스템까지 고려하는 새로운 SF 기반 예술 양식 중 하나입니다.
흥미로운 개념이죠. 아마 솔라펑크라고 할 수 있을 것 같습니다. [마지막 자동 자막은 ‘solar book’으로 표기하지만 앞의 ‘solar punk’와 같은 표현으로 읽힌다.]

삭시 쿠마리
한 단어로 설명하기는 어렵지만, 인간으로 살아가는 문화적 측면을 디지털 세계에 포함시키는 방향으로 AI가 갈 것 같습니다.
얼마나 먼 미래인지는 모르겠지만 기대하고 있습니다.

수데슈나 마하타
도덕적 나침반을 갖는 것이네요.

삭시 쿠마리
네. 그것은 문화와 종교 같은 것들에서 나올 것입니다. 그 기반 자체가 도덕성입니다.
사회 안에서 사람들 사이의 신뢰를 어떻게 만드는지, 문화 간 협업을 어떻게 하는지 같은 것이 기반입니다.
그 모든 것이 AI에서도 일어나기를 정말 바랍니다.

주이 쿨카르니
방금 그 생각이 떠올랐습니다. 우리가 경계를 이야기했던 것 기억하시죠?

삭시 쿠마리
네.

주이 쿨카르니
그 경계 안에 이런 문화적 요소를 넣을 수 있습니다. 문화적 경계인 것이죠. 좋은 생각입니다.

수데슈나 마하타
멋집니다. 이제 세션을 마칠 시간이 됐네요.
주이, 정말 감사합니다. 함께해 주셔서 좋았고 정말 많은 이야기를 나눠 주셨습니다. 시청자들도 많은 통찰을 얻었을 것 같습니다.
시청자에게 마지막으로 전하고 싶은 말이 있나요?

주이 쿨카르니
저는 이 영역에서 여러 프로젝트를 진행하면서 배우고 기록하고, 일종의 프레임워크를 만들고 있습니다. 오늘도 몇 가지 내용을 나눴습니다.
이 이야기가 와닿았고 링크드인으로 연결하고 싶다면 함께 만들어 갈 수 있습니다. 같은 여정에 있다면 서로 아이디어를 주고받을 수도 있습니다.
여러분에게서도 배우고 싶습니다. 나누고 싶은 내용이 있다면 연락해 주세요. 계속 연결되어 있으면 좋겠습니다.

수데슈나 마하타
멋집니다. 주이에게 연락하셔도 된다는 열린 초대입니다. 다시 한번 이야기를 나눠 주셔서 감사합니다.

주이 쿨카르니
초대해 주셔서 감사합니다. 정말 좋은 기회였습니다.
이런 대화를 개별적으로는 계속 나누지만, 무대에서 함께 이야기할 수 있게 해 주셔서 감사합니다.
정말 좋았습니다. 두 분이 아주 편안하게 해 주셨습니다. 감사합니다.

삭시 쿠마리
정말 생각할 거리를 많이 주셨습니다. AI가 아기와 같다는 이야기에서 청소년과 같다는 이야기, 문화와 종교까지 이어졌네요.
AI가 그만큼 성숙해지기까지 얼마나 남았는지 지켜보겠습니다.

주이 쿨카르니
네, 거의 생애 전체를 이야기한 것 같네요. [웃음]
솔직히 아이를 키우지 않았다면 그런 관점을 얻지 못했을 것 같습니다.
좋은 일이 계속되기를 바라면서, 직접 경험하고 아이가 어떻게 배우는지 볼 기회를 얻었다고 생각합니다.
거기서 배울 수 있는 것을 배우고 직장에도 적용합니다. 저에게는 큰 도움이 됐습니다.

수데슈나 마하타 / 삭시 쿠마리
좋습니다. 모두 감사합니다. 곧 또 뵙겠습니다. 안녕히 계세요.

수데슈나 마하타
회차를 마무리하면서 흥미로운 할인 소식도 전하고 싶습니다.
서비스디자인 글로벌 콘퍼런스가 열리고, 공공 부문을 위한 특별 할인이 있습니다.
특히 비영리단체와 대학, 사회적 영향 분야에서 일하는 분들에게 해당합니다. [자동 자막의 ‘NOS’는 맥락상 비영리단체를 가리키는 것으로 읽힌다.]
콘퍼런스에 참여해 서비스디자인 분야의 사람들과 교류하고 시야를 넓힐 기회입니다.
이 국제 행사 티켓을 아직 구입하지 않으셨다면 참여해 보시길 권합니다.
삭시, 함께해 주셔서 감사합니다. 여러분 모두 감사합니다. 다음 주에 뵙겠습니다. 안녕히 계세요.