(영상) 세스 고딘이 말하는 '더 노트(The Knot)' — 당신이 곧 상황이다

세스 고딘은 신간 『매듭』에서 조직이 정체되는 이유를 정보 부족이 아닌, 소리 내어 말하지 못하는 양립 불가능한 욕구들의 '얽힘'으로 설명하며, AI 도입의 출발점은 "이 일은 무엇을 위한 것이고 누구를 위한 것인가"라는 질문이라고 말한다. 그는 AI를 전기 이후 최대의 변화로 보고, 완벽하지 않다고 무시하거나 지금의 모습이 영원할 거라고 믿는 것 모두 실수이며, 사람은 가짜 사명 선언문을 눈감아 주지만 AI는 말한 그대로 실행하므로 조직은 진짜 목적과 제약을 정직하게 체계화해야 한다고 강조한다. 이와 함께 기업은 잘못된 비즈니스 모델에 매달려 코닥의 길을 걷고 있고, 토큰 소모량 같은 거짓 대리 지표를 경계해야 하며, AI의 미래는 여러 사람이 함께 쓰는 네트워크형 AI에 있다고 전망한다.

세스 고딘과 『매듭』: 문제는 해결할 수 있다
Invisible Machines | 게스트: 세스 고딘 | 진행: 조시 타이슨, 롭 윌슨

원본 영상 : https://youtu.be/TqCh4St3aJ4?si=ikBzRYTdu7Qpxq_0   
* 전체 번역 : 클로드로 번역했습니다. 생략, 오역이 있을 수 있으니 원본 영상을 봐주세요.
2026. 9. 22.
출처 : Invisible Machines

 

(유튜브 소개글)

《의미의 노래》 출간 3년 후, 세스 고딘은 신간 《매듭: 문제도 해결할 수 있다》가 출간되는 날, 다시 한번 《보이지 않는 기계들》에 출연합니다. 그의 방대한 저작들은 이제 하나의 정리 도구로 작용합니다. 대부분의 정체는 정보 부족 때문이 아니라, 양립할 수 없는 두 가지 욕구가 얽혀 있기 때문입니다. 노력해도 소용없습니다. 문제의 핵심을 파악하고, 그 핵심을 뽑아내고, 매듭을 풀기 전까지는 계속 제자리에 머물러 있을 뿐입니다.
조쉬와 롭은 변화의 주체가 AI일 때, 이것이 무엇을 의미하는지 고딘에게 묻습니다. 고딘은 먼저 "목적"을 내세우는 포스터를 만드는 대신, 더 날카로운 두 가지 질문을 던집니다. 이 일은 무엇을 위한 것인가? 그리고 누구를 위한 것인가? 가짜 사명 선언문은 만들기 쉽습니다. 존슨앤드존슨은 환자의 이름을 3미터 높이의 화강암에 새겨 넣고도 보너스를 챙긴 사실이 발각되지 않습니다. 사람은 눈감아주지만, 모델은 그렇지 않습니다. AI에게 거짓말을 하면 AI는 당신을 믿습니다.
...

---

전문 번역

조시: 세스 고딘이 2023년에 이 자리에 왔을 때 그는 이렇게 말했다. AI와 함께 오는 두려움에서 사람들을 논쟁으로 끌어낼 수는 없지만, 더 저렴하고 더 편리하고 더 강력한 무언가를 만들면 그들이 어쨌든 옮겨 가는 것을 지켜볼 수 있다고. 규칙이 바뀌면 사람들에게는 안내서가 필요하다고 그는 말했다. 그의 책 『매듭: 문제는 해결할 수 있다(The Knot: Problems Can Be Solved)』가 오늘 출간된다. 세스가 새 책을 이야기하러 돌아왔다. 이 책은 양립할 수 없는 두 가지 욕구를 동시에 품는 것이 얽힘을 만든다고 주장한다.

매듭은 해결할 수 있는 문제와 받아들여야 하는 상황을 구별하도록 도와, 팀이 그저 변화를 바라기만 하는 대신 변화의 조건을 만들 수 있게 해준다. Invisible Machines에 오신 것을 환영한다. 나는 조시 타이슨이고, 늘 그렇듯 OneReach의 공동창업자이자 CEO인 롭 윌슨이 함께한다. 롭과 나는 에이전틱 AI에 관한 첫 베스트셀러 『Age of Invisible Machines』의 공저자다. 그리고 이 팟캐스트는 지능의 미래를 그것을 만들어 가는 사람들과의 대화를 통해 탐구하는 곳이다.

오늘 세스와 얽힘을 풀어 가면서 나쁜 압축으로서의 나쁜 데모, 선물로서의 제약, 그리고 OpenAI가 왜 당신에게 해결책 대신 드라이버를 팔았는지도 이야기한다. 그리고 선택을 거부하는 회사들이 왜 코닥인지도. 결론은 이렇다. 문제가 나쁜 것이라면 AI도 나쁜 것이다. 문제가 기회라면 이것은 당신이 기다려 온 변화의 동인이다.

세스 고딘의 이야기를 더 들어보자.

조시: 세스, 다시 만나서 정말 반갑다. 롭과 나는 당신과 이야기하게 되어 정말 들떠 있었다. 실은 오전 내내 당신과 이야기할 것에 대해 이야기하고 있었다. 그리고 우리에게 정말 흥미로웠던 것 하나는, 당신의 작업 전체를 살펴보면, 『보랏빛 소가 온다(Purple Cow)』에서 『의미의 노래(Song of Significance)』를 거쳐 이제 『매듭』에 이르기까지, 당신이 해 온 일의 상당 부분이 거의 압축처럼 느껴진다는 점이다. 사람들이 결정을 내리는 방식을 보고 그것을 압축하고 있다. 그리고 책을 낼 때마다 더 가까워진다. 이제 막 그 구조에 다다른, 일종의 날것의 진실 같은 것이다. 그리고 그게 정말 흥미로운 이유는, 정말 좋은 압축이라면, 무언가를 제대로 압축하면 구조가 남아서 어떤 데이터로 수화(hydrate)해도 여전히 작동한다는 걸 우리가 깨달았기 때문이다. 반면 나쁜 압축이라면, 혹은 나쁜 이야기를 하고 있다면, 잘못된 정체성을 갖고 있다면, 그런 것들은 다른 사람의 물을, 처음과 다른 물을 부으면 구조가 녹아 버린다. 그래서 우리가 당신의 [작업을] 이렇게 설명하는 게 당신에게 정확하게 느껴지는가?

세스: 우선, 아주 친절한 말이고 아마 내가 받을 자격 이상이지만, 훌륭한 통찰이다. 통찰이나 논평으로 통하는 것의 상당 부분은 설명되지 않은 현상에 편리한 설명을 갖다 붙이는 것일 뿐이다. 그렇지 않나? '이 회사는 X, Y, Z 때문에 성공했다' 같은 식이다. 그런데 X, Y, Z를 가진 다른 회사들은 성공하지 못했다. 그러니 아니다, 그건 맞지 않다. 오늘 아까 한 사람과 다빈치에 대해 이야기했는데, 그는 다빈치가 성공한 온갖 이유를 내놓았다. 하지만 가장 큰 이유는 그가 정말 운이 좋았다는 것이다. 그러니까 그는 다른 많은 사람들처럼 작업했지만, 그들은 1912년에 루브르에서 그림을 도난당하지 않았다. 그리고 내가 하려는 것은 사람들에게 제1원리를 가르치고 나 자신에게도 제1원리에 엄격해지는 것이다. 그것이 적용되지 않고 특수한 경우라면, 나는 아무 가치도 더하지 못한 것이기 때문이다.

조시: 그렇다. 그리고 아마 그래서 『매듭』이 지금 특히 유용하고 시의적절하고 흥미롭게 느껴지는 것 같다. AI 도입이 대부분의 회사에게 아주 가시 돋치고 얽힌 문제이기 때문이다. 그래서 이렇게 정말 믿을 만한 틀을 갖는 것은 훌륭한 도움이라고 생각한다. 정체성을 정해야 한다, 실제로 자기가 무엇인지 알아내야 한다는 생각에서 출발하는 것부터 그렇다. 그건 흔히 브랜딩이나 일종의 전문용어로 포장되지만, 당신이 말하는 것은 훨씬 더 깊은 것이고, '내 조직에 AI를 어떻게 들여올 것인가'에 있어 거의 첫 번째 과제인 것 같다. 애초에 내 조직은 대체 무엇인가.

세스: 맞다. 여기에는 까다로운 단어들이 있다. 가장 까다로운 것은 '목적'이다. 그래서 나는 거기서 시작하지 않는다. 나는 '당신이 하는 이 일은 무엇을 위한 것인가, 그리고 누구를 위한 것인가'에서 시작한다. 내 친구 에릭이 가짜 사명 선언문에 대해 이야기하고 있었는데, 존슨앤드존슨은 자기 사명 선언문을 아주 중시해서 본사 앞 3미터 높이의 화강암에 새겨 두었다. 자신들은 환자, 의사와 간호사, 직원, 그리고 그다음에 주주를 위해 존재한다고. 그렇다, 다만 그들은 베이비파우더에 석면을 넣다가 들킨 바로 그 회사다. 그러니 그들의 진짜 목적은 이익을 내고 경영진을 부유하게 하는 것인데, 그게 보상받는 것인데도 그걸 건물 앞에 거대한 글씨로 새길 용기는 없다. 그게 우리가 주목하는 것이다. 그래서 이것이 애초에 무엇을 위한 것인지 명확히 할 수 있다면, 우리가 옳은 길에 있는지 어떻게 알 수 있는가? 우리는 무엇에 서명했는가? AI와 다른 것들에 관한 많은 결정이 쉬워진다. '아, 우리는 이 사람들을 섬기려고 여기 있고 이 도구를 쓸 수 있다.' 그러면 당연히 답은 '예'다. 만약 우리가 장인들을 온전히 고용하려고 여기 있다면, 아마 아닐 것이다.

롭: AI에는, 특히 LLM에서 볼 수 있는 현상이 있는데 '파국적 망각(catastrophic forgetting)'이라고 한다. 잘 알려진 개념인데, 시스템을 코드와 의학 용어로 학습시킨 다음 코드에 최적화하기 시작하면 다른 무언가를 잃기 시작하고, 어디서 잃게 될지 모른다는 것이다. 그렇지 않나? 그리고 최근에 나온 연구가 있는데, 1,700개 언어를 입력했더니 3분의 2 이상의 언어를 잃었다. 그런데 흥미로운 건 어떤 언어가 남았고 왜 남았느냐였다. 남은 언어들은 모든 단어가 본질적으로 핵심을 강화하는 역할을 하는 핵심 문법 공식을 더 많이 갖고 있었다. 그러니까 핵심이 있는 언어들이었다. 입력된 순서가 아니었다. 더 많은 핵심 문법을 가진 언어들이 살아남은 것이다. 그게 그 이야기를 떠올리게 했다.

세스: 그렇다, 아니 완벽하게 이해된다. 문법은 너무 복잡하니 사소한 예를 들어 보자. ‘xebec’이라는 단어는 훌륭한 스크래블 단어다. X-E-B-E-C. 돛대가 셋인 범선을 뜻한다. 그리고 당신들이 그 단어를 모르는 이유는, 첫째, 영어의 다른 단어들처럼 구성되어 있지 않고, 둘째, 돛대가 셋인 범선이 더 이상 없기 때문이다. 그래서 그것은 두 가지 면에서 특수한 경우이고 스크래블 선수들 말고는 아무 기능도 없으니, 사라져 갈 것이다.

조시: 방금 받아 적었다. 아내와 스크래블 할 때 쓰려고. 고맙다. AI에서도 우리가 보고 있는 흥미로운 현상이 있는데, 당신 책이 흥미로운 방식으로 다루는 것 같다. 당신은 조직 안의 누군가가 무엇이 가능한지 보여주는 것의 힘을 언급한다. 그런데 AI 데모에서는 그게 좀 위태로워지는 것 같다. 왜냐하면 시장에 나와 있는 것의 대부분이 이런 데모이기 때문이다. 우리가 이야기하던 것처럼, 데모를 압축이라고 생각하면 나쁜 압축이다. 아주 고정된 데이터 세트에서만 작동하는 데모라서, 새 데이터로 수화하면 완전히 무너진다. AI로 무엇이 가능한지 사람들에게 보여주는 건 아주 강력하다. 하지만 잘못된 것을 보여주고 있다면, 실은 매듭의 한가운데에 핀을 하나 더 박아 넣는 셈이다.

세스: 그렇다. 자, 약간의 역사적 맥락을 살펴보자. 나는 AI가 전기 이후 우리 세계의 가장 큰 변화라고 믿는다. 그런데 전기로 돌아가 보면, 첫째, 에디슨은 공개적으로 코끼리를 감전사시키며 교류 전력에 맞서 싸웠다. 전기를 둘러싼 파국적인 소음은 엄청났다. 대부분의 회사는 '우리는 전기를 가장 늦게 도입하겠다, 우리는 이걸 걱정하지 않는다, 하던 대로 계속하겠다'고 했다. 그리고 세탁기는 최초의 가전제품 중 하나였는데, 균형이 안 맞기로 악명 높았다. 게다가 그 시절에는 전기 콘센트가 없었다. 전구를 돌려 빼고 그 자리에 기계를 돌려 끼워야 했다. 그래서 세탁기가 방 안을 돌아다니다가 사람의 목에 감겨서 사람들을 죽이고 있었다. 끔찍했다. 내가 이 모든 이야기를 꺼내는 건, 세탁기 데모에서는 그걸 볼 수 없었기 때문이다. 세탁기 데모는 [불명확: 완벽했다]. 그리고 전기를 잘, 안전하게, 생산적으로 쓰게 되기까지 수십 년이 걸렸다. 그리고 지금 우리가 전기로 하는 일은 에디슨이 바랐던 상위 100가지에 들어 있지 않았다. 그렇게 우리는 이 모든 퇴적층을 만든다. 그런데 이제 AI가 나타나니 사람들은 '왜 모든 일에서 완벽하지 않은가'라고 말한다. 글쎄, 나는 전혀 놀랍지 않다. 나는 그것이 어떤 일에서든 완벽하다는 게 놀랍다. 하지만 CEO가 그걸 보면서, 그녀가 '완벽해야 한다, 아니면 무시하겠다'고 한다면 그건 실수다. 그리고 그가 '아, 이건 지금 당장 이 일을 할 것이고 영원히 그럴 것이다'라고 한다면 그것도 틀렸다. 이건 진부한 표현을 쓰자면 패러다임 전환인데, 정말로 패러다임 전환이다.

롭: 조시와 대화하면서 당신을 의사결정의 아인슈타인 같은 사람으로 생각하고 있었다. 그러니까 '좋아, 그는 우리가 어떻게 결정을 내리는지에 대한 공식을 만들어 내고 있구나' 했는데, 그에게서 인상적인 건 수학으로 바뀐 적 없는 현실 세계의 무언가를 수학으로 바꿀 수 있었다는 것만이 아니라, 긴 공식을 E=mc²라는 단순한 것으로 압축할 수 있었다는 점이다. 그래서 이제 전달 가능한 것이 된 거다. 그리고 당신에게는 가산점을 주겠다. 당신은 그걸 '보랏빛 소' 같은 이름으로 부르는데 그의 것은 그냥 '상대성 이론'이니까. 그러니 더 나은 이름을 지은 것에 대해서는 확실히 가산점을 준다. 하지만 그 밑바탕에서, 과학자들이 자기 이론을 얼마나 붙들고 있는지 생각하지 않을 수 없었다. 누군가 그것을 반증했다는 걸 알면서도 얼마나 싸우는지, 자기 정체성이 자기 이론이 옳다는 것에 얼마나 얽혀 있는지. 그리고 그게 당신 책에서 이야기한 것을 얼마나 떠올리게 했는지 모른다. 회사가 어제는 통한다고 생각했던 공식일 뿐이고, 이제 우리는 그 공식이 내일은 통하지 않을 수도 있다고 말하는데, 당신의 정체성은 '하지만 E=mc²를 발명한 건 나야'인 거다. 그러면 어떤 젊은이가 들어와서 '아, 잠깐, 땅이 움직이고 물리학이 바뀌어서 당신 공식에서 결함을 찾았어요'라고 해도, 그게 당신이니까 저항하게 되는 것이다.

세스: 그렇다. 다시 목적으로 돌아가자. 내가 알기로는 과학자들이 궤양이 세균 때문이라는 걸 증명한 뒤에도 위장병 전문의들이 궤양이 파스트라미 샌드위치 때문이라고 말하기를 멈추기까지 20년이 걸렸다. 20년이다. 왜 그랬을까? 우리는 옳은 걸 좋아하고, 확신하는 걸 좋아하고, 특정한 사고방식에 애착을 갖기 때문이다. 하지만 제1원리로 돌아가면, 내가 이 환자와 상호작용하는 목적은 나를 똑똑하게 느끼게 하는 것이 아니다. 목적은 그들이 나아지는 것이다. 그리고 외과의들은 이걸 늘 놓친다. 많은 의사들이 늘 놓친다. 환자를 보러 갈 때마다 매번 그 방에 당신과 함께 있는 유일한 사람은 당신이기 때문이다. 그래서 당신으로 사는 게 어떤 느낌인지를 많이 생각하게 된다. AOL이 더 이상 인터넷의 중심이 아닐 거라고, 혹은 야후가 더 이상 인터넷의 중심이 아닐 거라고 인정하는 건 어떤 느낌일까? 나는 야후가 인터넷의 중심이기를 멈췄을 때 거기 있었다. 그리고 회사를 운영하던 10명은 그걸 감당하지 못했고, 그래서 계속 그게 우주의 중심인 것처럼 행동했다.

조시: 꿰뚫어 보려면 다른 종류의 명료함이 필요한가? 당신 책은 관료주의를 꿰뚫고 무엇이 정말 진실인지 찾아내는 법을 아주 잘 이야기하는 것 같다. 그리고 그게 뽑아낼 수 있는 핀이 된다. 그런데 특히 AI에는 소프트웨어가 만들어 낸 혼란의 층도 있다. 조직 안의 시스템과 조직 문화의 아주 많은 부분이 소프트웨어, 그리고 소프트웨어의 제약이나 한계에 의해 정의된다. 그러면 그건 거의 별개의 과제가 되는가? 인간적이고 운영적인 측면 일부를 꿰뚫는 명료함이 있고, 그다음에 그것들을 풀어내거나, 그것들이 우리가 그토록 오래 써 온, 이제는 사실상 다시 쓸 수 있게 된 절름발이 소프트웨어와 별개인지 연결되어 있는지 보는 일이 있는 것이다. 다만 관료주의를 먼저 해결해야만 그럴 수 있다.

세스: 음, 복잡하다. 첫째, 이게 복잡한 이유 중 하나는 조직 안의 사람들, 특히 고위 경영진이 일이 어떻게 돌아가는지 아는 척하기 때문이다. 그들은 토스터가 어떻게 작동하는지도 모른다. 냉장고가 어떻게 작동하는지도 모른다. 소프트웨어가 어떻게 작동하는지는 확실히 모른다. 하지만 최근까지 그것은 결정론적이었다. 토스터는 매번 정확히 똑같은 방식으로 작동한다. COBOL로 쓴 소프트웨어는 매번 계속해서 똑같은 방식으로 작동한다. 하지만 AI가 어떻게 작동하는지는 아무도 모른다. 그걸 만든 사람들조차. 그리고 일관성이 없다. 그런데 흥미로운 건, 특정 작업을 하기 시작한 지 6개월이 지나면 정말 일관되기 시작하고, 우리는 이제 그걸 당연하게 여긴다는 것이다. 하지만 최전선은 늘 [불명확: 엉뚱하다]. 그래서 두려워하는 사람들, 현 상태의 안심을 구하는 사람들, 얼리어답터가 되고 싶지 않은 사람들은 AI에 대해 '그럼 이건 어떻고'를 늘어놓는 데 아무 어려움이 없다. 최전선에는 늘 정말 이상하고 괴상한 무언가가 있기 때문이다. 그래서 나에게는 계속 얽힘으로 돌아오게 되고, 바로 여기서 아인슈타인이 내 책에 등장한다. 아인슈타인이 양자역학에 대해 말한 것 중 틀린 것으로 밝혀진 건 '유령 같은 원격 작용'은 사실일 리 없다는 것이었고, 알고 보니 아주 작은 입자들은 얽혀 있었다. 하지만 내가 꺼내고 싶은 건 우리가 얽혀 있다는 것이다. 우리는 소리 내어 말하고 싶지 않은 여러 감정과 두려움과 의무와 목표에 얽혀 있다. 그리고 변화가 나타나면, 결정을 내려야 하면, 우리는 기겁한다. 우리의 얽힘에 대해 이야기할 수 없는데 그것이 바로 거기 있고, 그 얽힘이 우리를 꼼짝 못 하게 하기 때문이다. 그래서 의사결정이 엉망이 된다. 잘못된 방식으로 결정을 내리고, 앞으로 나아가는 게 어려워지고, 회복력 대신 트라우마를 얻는다. 우리 삶의 유령 같은 원격 작용, 마법 같은 보이지 않는 얽힘을 다루기를 거부하기 때문이다.

조시: 그 얽힘이라는 게 정말 매혹적이다. 실은 어젯밤 아내와 바로 이 이야기를 하고 있었다. 아내도 내가 당신과 이야기한다고 들떠 있었다. 이 팟캐스트에서 전에도 언급된 적이 있는데, 아내는 미용사지만 나는 아내를 꽤 강력한 공감 능력자라고 생각한다. 아내는 어떤 여성 그룹에 대해 이야기하고 있었다. 아내는 그들 모두를 그런 면에서 강력하다고 보고, 그들 모두 서로가 자기 힘을 알아보도록 돕는 데 정말 능하다. 그런데 그들 모두 내면적으로는 자기가 충분히 강력하지 않다고 느끼고, 자기 힘을 알아보지 못하는 것으로 힘들어한다. 그리고 이야기하면서 우리는 그게 바로 그걸 특별하게 만드는 것이라는 걸 깨닫게 되었다. 자기 통제(self-mastery)라는 건 거의 모순된 말이다. 다른 사람들과 연결되면서 자기 감정의 주인이 되기 때문이다. 방 안에서 혼자 하는 게 아니다. 진짜 취약함이 있을 때 사람들 사이의 주고받음에는 무언가가 있다. 당신이 암시하던 게 그런 것 같다. 조직이 취약하다고 생각하는 건 이상하지만, 그게 필요한 것이기도 하다. 마음을 열고, 무언가를 들여야 하는데, 그건 무섭다.

세스: 그렇다. 그러니까 주입은 실재하고, 여성혐오도 실재하지만, 우리 모두는 시스템의 톱니바퀴가 되도록 주입받는다. 돈을 더 버는 사람이 그렇지 않은 사람보다 똑똑하다고 믿도록 주입받는다. 주주 가치가 최우선이라고 믿도록 주입받는다. 상사가 우리 등 뒤에서 음모를 꾸미고 있다고 믿도록 주입받는다. 그러니 그들에게 복종하는 게 낫다고. 이 모든 것이 말해지지 않은 얽힘의 파문을 만든다. 그리고 두려움은 세 가지 큰 지렛대 중 하나이고, 주입은 계속 두려움 버튼을 누른다. 여기서 '시험에 나오나요?'라는 말이 나온다. 부모에게 C 마이너스를 받았다고 말하는 것, 이런 것들이 두려움에 기반한 순환이다. 그리고 우리가 공동체 안에 있을 때, 공동체는 우리가 이런 얽힘을 드러내고, 이런 두려움을 드러내고, 앞으로 나아가는 법을 알아내는 동안 서로를 안심시키도록 도울 기회를 갖는다. 그래서 간단하고 쉬운 관찰을 하나 하자면, 샌프란시스코는 캔자스주 토피카보다 AI에 훨씬 우호적이다. 사람들이 더 똑똑한 게 아니다. 그저 그들에게는 비계와 동료의 지지가 있을 뿐이다. 샌프란시스코에서는 AI에 우호적이어야 어울리기 쉽다. 토피카에서는 그렇게 하면 어울리기 어렵다.

조시: 그렇다. 최근 『Crisis Engineering』이라는 책을 쓴, 아니 공저한 마리나 니체와 이런 대화를 나눴다. 그녀는 콜센터 이야기를 했다. 콜센터가 존재한다는 생각에 관한 이야기였는데, 캘리포니아 고용 관련 부처였던 것 같고, 팬데믹 기간이었다. 모두가 '무슨 일이 일어날까? 어떻게 해야 하지? 일자리를 잃은 사람이 이렇게 많은데'라고 궁금해했고, 모두가 계속 '걱정 마, 우리에겐 콜센터가 있어'라고 했다. 그래서 마침내 그녀와 팀이 실제로 일어나서 콜센터로 걸어갔더니, 방에 한 사람만 있었고 그는 사람들이 왜 콜센터로 전화를 하는지 정말 어리둥절해했다. 그는 '나에게는 전화를 넘길 수 있는 청구 처리 담당자들이 있지만, 여기는 콜센터가 아니다'라고 했다. 그게 당신이 책에서 이야기하는 것과 맞닿는 것 같다. 당신은 그걸 '근접 공감(proximal empathy)'이라고 부르는 것 같다. 이런 문제를 정말로 해결하려면 관광객이 될 수 없다는 생각이다. 그렇지 않나? 그리고 흥미로운 건, 특히 이 기술의 시대에 그게 인간의 일이라는 점이다. 일어나서 걸어가고, 물건을 만지고, 다른 사람과 이야기하는 것, 그게 실은 이 기술로 가는 문을 여는 길이다. 인간적인 상호작용을 통해, 존재하는 얽힘들을 찾아내고 어떻게 핀을 뽑을지 알아내는 것이다.

세스: 음, 방금 우리가 더 일찍 말했어야 할 단어를 말했다. '문제'라는 단어다. AI는 문제다. AI는 변화의 동인이기 때문에 문제다. AI는 경쟁자들이 나타나는 방식을 바꾸고 있다. 고객이 기대하는 것을 바꾸고 있다. 당신의 통제 밖에 있는 온갖 것을 바꾸고 있다. 그것은 문제이고, 당신에게 결정을 만들어 낸다. 그러니 문제가 나쁜 것이라면 AI도 나쁜 것이다. 문제가 기회라면, AI는 당신이 기다려 온 변화의 동인이다. 문제를 해결할 기회이고, 가치를 만드는 문제를 해결할 수 있다면 다시 그 일을 할 수 있게 되기 때문이다. 그리고 '문제는 해결할 수 있고 기회다'라는 이 자세가 조직에게 두려움을 내려놓고, 애초에 그들이 하려고 만들어진 일, 즉 문제를 해결하러 가는 일을 할 기회를 준다.

롭: 이 어딘가에 이런 생각이 들어맞는 것 같다. 현 상태에서 이익을 얻는 사람들이 있고 변화에서 이익을 얻는 사람들이 있는데, 자원의 대부분은 현 상태에서 이익을 얻는 사람들이 쥐고 있다는 것. 적어도 더 집중되어 있다고 해야겠다.

세스: 현 상태가 분명히 쥐고 있는 특정 범주의 이익들이 있지만, 기술의 플라이휠은 그중 하나가 아니다. 내 평생 계속 가속해 온 기술의 플라이휠이 현 상태가 수세에 몰린 이유이고, 그게 아니었다면 우리는 1960년에 살고 있을 것이다. 하지만 무어의 법칙 곱하기 20가지 다른 것들 때문에, 기술이 반대편에 있으니 현 상태가 무엇을 원하든 상관없다.

롭: 여기에는 어떤 공식이 있다. 자원이 더 많고 손이 더 적다는 건, 반대편이 더 잘 조직되어야 한다는 뜻이다. 더 많은 사람을 모아야 하니까. 하지만 일단 모으면 그들이 더 많은 힘을 갖는다. 그러니까 기술은 조직되어야 한다.

세스: 맞다. 그리고 조직이라는 게 흥미로운데, 티머시 리어리의 '다른 이들을 찾아라(find the others)'라는 표현이 여기서 중요하다. 변화의 세력, 특히 진보적 사고는 전통적인 조직화에 형편없었다. 짧은 주의 지속 시간, 방 안의 시끄러운 목소리들이 보조를 맞추지 못하고, 장기적으로 지시를 따르는 데 서툴다. 하지만 문화를 만들 수 있다면, 문화는 회복력이 있고 문화는 증폭한다. 그래서 기술과 변화는 50~60년 동안 일련의 규칙과 기준과 기대를 가진 문화와 함께해 왔다. 그리고 지금 우리가 다루고 있는 건 두 문화, 현 상태의 문화와 변화의 문화 사이의 정면 대결이다.

롭: 나는 권력을 가진 사람들이 이런 마법 지팡이를 갖고 있다고 상상하곤 한다. 적어도 그 아래 모두가 그들이 마법 지팡이를 갖고 있다고 인식한다. 그리고 그들이 '우리 문화를 바꿀 수 있나?'라고 하면 '좋아, 우리 문화가 바뀌고 있다'라고 한다. 그러면 모두가 '안 바뀌었는데, 다시 해 봐'라고 하고, '다시 해 봐' 하다가 어느 순간 사람들은 그게 마법이 아니라는 걸 깨닫는다. 아마 문화가 바뀌는 건 그것이 바닥에서 일어나야 한다는 걸 깨닫기 때문일 것이다.

세스: 그렇다, 그렇다. 바닥이 아니라 토대다. 전체를 떠받치는 것이다. 그리고 흥미로운 게, [불명확] 최전선, 그렇다, 최전선. 눈에 보이는 전설을 가진 조직들을 보면, 한동안은 그것을 유지하기가 더 쉽다. 페덱스는 그걸 오랫동안 유지했다. 스스로 일부러 허물어 버리기 전까지는. 코스트코 핫도그는 상징이자 신호다. 하워드 슐츠가 한 사람 안에 구현한, 특정한 종류의 품질에 대한 사고방식이라는 생각. 그리고 그가 미국의 모든 스타벅스 매장을 닫았을 때, 그는 문화를 다시 제자리로 돌려놓으려는 신호를 보내고 있었다. 하지만 이런 거대한 조직들조차 거기서 벗어난다. '우리 같은 사람들은 이런 일을 한다', 이것이 문화의 정의이고, 사람은 아주 많기 때문이다. 그래서 '우리 같은 사람들'은 짐이 되기도 하고, 닻이 되기도 하고, 앞으로 계속 나아가게 하는 엘리베이터가 되기도 한다. 그저 그 사람들이 누구인지 파악하고 그것을 궤도 위에 유지해야 한다.

조시: 그렇다. 롭은 최근 파타고니아의 CTO와 대화를 많이 나누고 있는데, 재미있는 게 그들은 아마 대체로 AI를 꺼리는 회사라고 말하고 싶은 곳이지만, 동시에 지구를 주요 이해관계자로 삼은 회사이기도 하다. 그래서 그들은 더 이상 이익을 내야 한다는 생각에 묶여 있지 않다. 그게 인간들 사이의 회사 내 위계를 꼭 바꾸지는 않더라도, 그들이 흥미로운 일을 많이 할 수 있도록 정말로 풀어 준다. 그 대화가 시작되기도 전에, 우리는 늘 그들을 미래의 회사가 어떤 모습이어야 하는지의 본보기로 봐 왔다. 그리고 재미있는 게, 지금 AI를 도입하거나 구현하려고 경쟁하는 회사들이 있는데, 그들은 그걸 하지 못하거나 실패하고 있다. 본질적으로 돈을 벌어야 한다는, 다른 모든 것보다 이익을 우선해야 한다는 압박에 너무 묶여 있기 때문이다. 그게 시스템적 변화의 필요에 역행하고 그것과 싸우기 때문이다.

세스: 그렇다. 그러니 목적으로 돌아갈 수 있다면, 파타고니아가 조심하지 않으면, 아주 독특한 비전을 가진 창업자를 잃은 것이 그곳을 정치적인 난장판으로 만들 것이다. 하고 있는 일에 대한 대리 지표, 규칙적으로 적용할 수 있는 대리 지표를 찾지 못하면 결국 개인의 성향 문제가 되기 때문이다. 그리고 그저 주가로만 움직이는 회사의 좋은 점은 대리 지표가 아주 명확하다는 것이다. 그래서 '우리는 무엇을 위해 여기 있는가, 무엇을 측정하는가'에 대해 많은 대화를 할 필요가 없다. 그래서 OpenAI와 파트너십을 맺으려고 경쟁하는 회사들은 보도자료를 내면 주가가 오른다는 걸 이해한다. 그러니 그건 그들의 목적과 맞고, 그게 과제이자 기회다. 그리고 짐작건대 이걸 듣는 사람들 상당수는 포춘 500대 기업에서 일하지 않을 것이다. 우리는 다시 한번 선택할 수 있다. 우리 일의 목적은 무엇인가? 오늘 우리는 왜 침대에서 일어났나? 그렇지 않나? 팟캐스트를 들을 시간이 있다면, 당신은 오늘 먹을 음식값을 벌려고 일하는 게 아니다. 삶에 여유가 좀 있다. 그걸 무엇에 쓸 것이고, 왜인가? 세상은 이것에서 무엇을 얻게 될까? 그리고 그게 이 일을 하는 목적이라고 당신이 말한 것과 어떻게 맞아떨어지는가? 그리고 나는 AI가 대립적이라고 생각한다. 우리가 무엇을 하고 있는지 아주 깊이 생각하도록 강제하기 때문이다. 그러니까 내 경우를 보면, 그것은 내가 쓴 300만 단어를 읽었다. 내 책을 전부 별 어려움 없이 읽었다. 나는 Claude를 학습시켜 내년 블로그 글을 전부 쓰게 할 수 있고, 그러면 사흘쯤이면 끝날 것이다. 그렇다면 내 블로그의 목적은 무엇인가? 내가 사무실에 가는 목적은 무엇인가? 그걸 명확히 하지 못하면, 나는 AI로 무엇을 해야 할지 모른다.

롭: 그렇다. 그리고 내가 이 책에서 좋아하는 것 하나는, 체계화할 수 있다는 것과 체계화를 꺼리는 것 사이의 차이를 끄집어낸다는 점이다. 거짓말을 하고 있으니까. 체계화한다는 건 이제 회사에 대해 진실해야 한다는 뜻이다. 회사의 일을 할 기계는 진실을 알아야 한다. AI에게 거짓말을 하면, 그것은 당신이 말한 대로 할 것이다. 사람에게 거짓말을 하면 그들은 '주가 때문이라는 거 다 알아, 더 큰 목적 때문에 여기 있다는 말은 그만해도 돼'라고 한다. 하지만 [AI는] '좋아, 그냥 당신을 믿을게'라고 한다. 그렇지 않나? '아, 우리는 환자를 위해 여기 있다'고 했다가, 어느새 '잠깐, 우리 주가는 어떻게 된 거야?' 하게 된다.

세스: 그렇다, 정확하다.

조시: 그렇다. 그런데 개인에게 이런 선택권이 있다는 당신의 지적에 대해서도 생각해 보면, 회사들은 AI 도입에 정말 늑장을 부리고 있는데 소비자들은 완전히 앞질러 달려가고 있다. 그리고 그들 중 상당수가 자기 삶에서 자기만의 고르디우스의 매듭을 풀고 있는 게 아닌가 싶다. 이 기술을 써서 온갖 멋진 방식으로 스스로를 풀어 주는 법을 알아내고 있다. 그리고 그중 일부는 직장 안에서도 일어나고 있다. 승인된 LLM 사용이든 개인적인 LLM 사용이든. 그게 조직에도 어떤 압력을 가하는지 궁금하다. 그건 상당한 변화이기 때문이다. 어떤 의미에서는 토대 수준에서 더 많은 행위 주체성이 생기는 것이다. 하지만 거기에 기회도 있다. 제대로 된 생태계가 갖춰져 있다면, 사람들이 자기만의 자동화를 만들고 있을 때 그것을 운영에 끌어들일 수 있다. 하지만 그건 도달하기 아주 어려운 위치다. 특히 낡은 소프트웨어와 낡은 시스템과 낡은 생각과 낡은 정체성에 매달려 있다면.

세스: 그렇다. 이걸 거시경제학 대 미시경제학의 비유로 본다면, 내게 본업이 있다면 AI를 써서 일하는 시간을 절약하지 않을 리가 없다. 그렇지 않나? 다른 시간대에서 일하는 100명이 구두를 만들어 주고, 그 왜, 구두를 만들어 주던 요정들처럼, 하루가 끝날 때 결과물을 넘겨받을 방법을 알아낼 수 있다면, 물론 직원들은 그렇게 할 것이다. 그러니까 미시적 수준에서는 그걸 계속해서 보게 될 것이다. 고등학생부터 시작하지만 어디서나 [불명확: 나타난다]. 하지만 거시적 수준에서는, 대부분의 회사가 올바른 것을 만들고 있지 않다. 대부분의 회사가 잘못된 비즈니스 모델을 갖고 있다. 그들은 자기가 생계를 위해 무언가를 한다고 생각하고, 그건 10년 전에는 정말 잘 통했지만 지금 그걸 하는 건 말이 안 된다. 그렇다면 어떻게 숨을 깊이 들이쉬고 그걸 다룰 것인가? 40년 전 미국에서 가구 회사를 운영하고 있었다면, 컨테이너선 덕분에 직접 만드는 가격의 4분의 1로 가구를 수입할 수 있다는 게 분명해지자마자 생계 방식을 재구성해서 '우리는 가구를 만들지 않는다, 우리는 가구를 디자인하고 판다'고 말해야 했다. 그렇게 한 회사들은 아주 잘됐고, 그렇게 하지 않은 회사들은 고전하다가 사라졌다. 이건 그것의 천 배다. 그리고 그 결정을 내리지 않는 사람들은 현 상태와 관성과 시스템을 탓하고 있다. 하지만 그들은 코닥이다. 그들은 사라질 것이고, '그런 상황에서 나는 최선을 다했다'고 말할 것이다. 그러면 나는 '당신이 그 상황이었다, 그러니 그렇게 말할 자격이 없다'고 말할 것이다. 마찬가지로 코닥은 세상이 자기들이 불편한 방식으로 바뀔 것이라는 사실을 직시하지 못해서 열심히 일하던 많은 사람에게서 경력을 빼앗았다.

롭: 그렇다. 그리고 새로운 세상이 나쁘다고 누가 말했나? 많은 사람들이 이해하지 못하는 것 같은데, 엔비디아의 산출물은 데이터 파일 같은 것이다. 칩은 다른 누군가가 만들고 엔비디아는 데이터 파일을 내놓는다. 그게 회사 전체가 하는 일이다. 데이터 파일을 만들어서 이메일로 보낸다. PDF 하나 만드는 걸로 수조 달러의 가치를 얻었다. 어쩌다 누군가 가구를 직접 만들지 않고 디자인만 하면 가치가 없다, 직접 만들어야 한다고 정했다면, 그들은 엔비디아가 PDF를 만들면서 꽤 잘하고 있다는 걸 놓치고 있는 것이다.

세스: 나는 만드는 것을 지지한다. 나는 사람들이 자랑스러워하는 일을 하도록 고용하는 것을 목적으로 하는 조직이 필요하다고 생각한다. 그리고 그게 당신이 하는 일이고 그게 잘 되고 있다면, 나는 보탤 말이 없다. 하지만 갈림길을 보면서 '이제 어떻게 해야 하지?'라고 하는데, 동시에, 바로 여기서 '하지만'이 등장한다. 결국 주가도 올리고 돈도 최대한 벌고 싶으면서, 동시에 '우리는 옛날 방식으로 한다, 우리는 물건을 만든다, 우리에게는 공장이 있다'고 말하고 싶은 것이다. 지금 그 두 가지를 동시에 할 수 있을지 모르겠다. 그러니 선택해야 한다.

조시: 그건 AI를 둘러싼 많은 두려움에도 적용되는 것 같다. 그러니까 그건 오히려 상황에 가깝다. AI에 대한 사람들의 두려움은 상황으로 볼 수 있고, 매듭의 모든 줄을 칼로 끊어 버릴 필요는 없다. 그건 역효과다. 하지만 할 수 있는 건 그것이 그들의 삶을, 그들이 하는 일을 어떻게 개선할 수 있는지 보여주는 것이다. 그리고 그게 회사의 상층부까지 올라갈 수도 있다. 그렇지 않나? 거기에 저항이 있다면 말이다. 그러면 갑자기 이런 깨달음이 온다. '이게 있다면, 이 도구가 진짜이고 내가 이걸 갖는다면, 내가 무엇을 할 수 있을지 상상해 봐, 우리가 무엇이 될 수 있을지 상상해 봐.'

세스: 그렇다. 그런데 왜 이게 일어나지 않고 있을까? 기업 수준에서 아직 일어나지 않는 이유는, 첫째, AI를 책임지는 사람이 없기 때문이다. 단일 제품이 아니다. 둘째, 가장 큰 초기 주자들이 도구 제작자이지 해결책 제공자가 아니기 때문이다. 해결책 제공자가 나타나면, 그들의 일은 완전한 해결책의 이야기를 들려주는 것이다. 그렇지 않나? '반드시, 확실히 밤사이에 그곳에 도착해야 한다면', 12달러에 페덱스가 이 봉투를 저쪽에 나타나게 해 준다. 그리고 그들에게는 이것이 회사 전체에게 상황을 바꿔 준다고 설득하려는 영업 사원들이 있다. 반면 Anthropic과 OpenAI와 다른 회사들은 '여기 멋진 드라이버와 렌치와 톱이 잔뜩 있다, 이걸로 뭘 할지 알아서 해라'라고 해 왔다. 그리고 그건 트라우마와 혼란으로 이어질 것이다. 그들은 [불명확: 총체적인] 해결책을 파는 게 아니라 기능을 팔고 있기 때문이다.

조시: 그리고 AI에는 오랫동안 이어져 온 격언들을 녹여 버리는 능력도 있는 것 같다. '더 좋게, 더 빠르게, 더 싸게, 둘만 골라라'라는 삼중 제약 같은 것 말이다. 그건 더 이상 존재하지 않는다. 전 NASA 국장 댄 골딘과 이야기했는데, 그는 그걸 '말똥 같은 소리'라고 했다. 그만의 표현을 썼는데, 어쨌든 그게 점점 더 사실이 되고 있다. 그렇다면 그건 이 시점에서 지어낸 제약인가? 유용한 제약이 있고, 결함 있는 구조를 떠받치는 이야기들을 제자리에 두기 위해 존재하는, 지어낸 제약들이 있는 것 같다. 그런 것 같다.

세스: 아니, 그러니까 우리는 직장에서 곤란해지지 않도록 훈련받아 왔고, 곤란해지지 않는 가장 쉬운 방법은 회의에 많이 가고, 최대한 적게 말하고, 시키는 대로 하는 것이다. 그리고 그중 어느 것도 혁명적이지 않다. 그래서 혁명이 나타나면, 가장 쉬운 건 '이건 어떻고 저건 어떻고' 묻는 것이고, 무엇보다 방관자로 남아 타협을 요구하는 것이다.

롭: 조시와 나는 오늘 이 대화에 대해 이야기하면서 의견을 주고받았다. 의사결정의, 이를테면 수화된 버전에 대해, 그리고 당신이 의사결정 과학자라는 것에 대해 이야기했다. 그리고 나는 당신이 메타 층위에서 하는 일을 깨닫고 그저 매료되었다. 제1원리가 있다면 거의 그 이전의 제0원리 같은 것인데, 세상에 있는 것들을 체계화하고 실현하는 당신의 능력이다. 그건 이제 모든 조직이 가져야 할 기술이다. 당신이 우리를 위해 체계화해 주는 것들이 있고, 그건 아주 흥미롭고 당신 책은 다 읽었다. 하지만 나는 체계화하는 당신의 능력에 더 관심이 있다. 그걸 어떻게 하는가? 그리고 그걸 다른 사람들에게 어떻게 가르쳐서 그들이 자기 조직 안에서 그걸 할 수 있게 할 수 있는가? 그게 기계에게 이 일을 지시하는 데 핵심이 될 것이기 때문이다. 체계화되어야 한다.

세스: 그렇다. 기법은 아주 간단하다. 몸이 건강하다면 공 세 개로 저글링하는 기법은 어렵지 않다. 어려운 부분은 아주 오랫동안 공을 떨어뜨리는 것을 편안하게 받아들이는 것이다. 그걸 괜찮아한다면 5분 안에 저글링을 가르쳐 줄 수 있지만, 당신은 그걸 괜찮아하지 않고, 그래서 어려워 보이는 것이다. 그래서 알아차리고 설명하는 것, 그게 내가 하는 일이다. 사람들이 지금 설명하지 않고 있는, 말이 안 되는 것 같은, 기대와 반대로 작동하는 무언가가 왜 그런지 알아차리는 것이다. 나는 중력을 설명할 필요가 없다. 아무도 그걸 기다리고 있지 않으니까. 중력이 작동하는 방식은 놀랍지 않다. 그러니 바뀌고 있거나 놀라운 것들을 알아차리고, 감히 설명을 시도하는 것이다. 설명이 버티지 못하면 다른 설명을 생각해 내고, 보편적이라고 느껴지는 설명이 나올 때까지 계속하는 것이다. 그러니까 이메일 마케팅을 발명하는 건 누구라도 할 수 있었다. 나는 기술적으로 그걸 한 게 아니다. 그저 주의와 신뢰에 무슨 일이 일어날지 봤을 뿐이다. 그리고 마케터들이 무료 우표로 다이렉트 메일을 보낼 수 있게 되면 무엇을 할지, 그 계산을 차근차근 따라 내려가면 된다. 그리 오래 걸리지 않는다. 그래서 내가 하고 있는 건, 때로는 개인적인 대가를 치르면서도 궁금해하는 것이다. 그걸 소리 내어 묻기 때문이다. '왜, 왜 이게 당신 일인가? 그리고 그들은 왜 그렇게 하는가?' 20~30년 전 근처에 중간 가격대의 가짜 스테이크하우스가 하나 있었는데, 가면 가게가 얼마나 바쁘든 상관없이, 예약을 했어도 바로 자리에 앉힐 수가 없었다. 그리고 그들은 '거의 준비됐습니다, 바에서 잠시 앉아 계세요'라고 했고, 10~15분 뒤에 테이블이 준비되었다. 그리고 나는 그들이 무엇을 하고 있는지 알아차린 뒤로 가지 않았다. 사람들이 바에 가면 지루하니까 술을 한 잔 시키는 것이다. 그 레스토랑의 목적은 당신이 최고의 시간을 보내도록 돕는 게 아니었기 때문이다. 그 레스토랑의 목적은 그들이 돈을 최대한 벌도록 돕는 것이었다. 그래서 7시에 식사할 수 있다고 했으니 7시에 식사할 수 있다는 약속을 지키는 것보다, 왜 바에 10분 앉아 있어야 하는지 이야기를 지어내는 게 더 중요했다. 그리고 늘 이런 것들을 알아차리고 설명을 생각해 내려 하면, 삶이 꽤 답답해진다. 얼마나 많은 시스템이 우리가 생각하는 그들의 목적에 역행하고 있는지 보이기 때문이다. 하지만 동시에 아주 유용해지기도 한다. 미신을 믿는 비둘기이기를 멈추고, 무엇이 구멍에서 먹이를 나오게 하는지 이해하기 시작하기 때문이다.

조시: 그렇다. 제약에 대해서도 그런 것 같다. 당신은 제약을 선물이라고 말하는데, 특히 LLM에 대해 이야기할 때 그게 아주 맞게 느껴진다. 환각 문제는 사실 제약의 문제다. 그리고 롭이 아까 이야기한 것처럼, 조직의 중심에 이런 핵심 공식들이 있다면, 그것이 LLM에 필요한 많은 제약을 제공할 수 있다. 하지만 그러면 물론 다시, 그 핵심이 무엇이 될지 정직해야 하는 문제가 된다. 롭 말처럼 '무엇보다 환자가 먼저'라고 하고, 그게 LLM이 매 순간 참조하는 지식 모델의 정중앙에 있다면, 그 결정들은 그걸 반영할 것이다. 그래서 그렇다, 다시 말하지만 이것도 정체성을 찾는 일인 것 같다. 하지만 그건 당신이 아름답게 묘사한 것처럼 현실 세계의 제약을 선물로 받아들이는 것 같다. 애플이 소매점에서 원하는 방식으로 제품을 팔 수 없다는 제약을 받아들여서, 아예 자기 소매점을 만들어 버린 것처럼. 그리고 이건 그것의 혼합 같기도 하다. 모든 AI가 부딪혀야 하고 모든 조직이 마주하는 진짜 제약들이 있다. 하지만 거의 스스로 만들어야 하는 내부 제약들도 아주 많다. 그게 무엇인지 알아내야 한다. 각 조직에 아주 개인적인 제약들이다.

세스: 그렇지? 그리고 다시 한번, 우리는 얽혀 있고 그 제약을 소리 내어 말하고 싶어 하지 않는다. 제약을 받아들이기를 거부하는 사람들을 조명하는, 배꼽 잡게 웃긴 영화 한 편을 통째로 만들 수 있다. 그게 앰프를 11까지 올린다는 것의 의미다. '스파이널 탭'은 제약을 받아들이기를 거부하고, 자기들이 원하는 결과로 결코 이어질 수 없는 내적 모순을 지닌 머리 빈 세 사람에 관한 이야기일 뿐이다. 그래서 AI를 파는 사람들이 당신이 믿기를 바라는 것 중 하나는 제약이 없다는 것이다. 그건 기적이고, 무료이고, 언제나 무료일 것이고, 언제나 기적일 것이라고. 하지만 그것을 성공적으로 쓸 사람들은 그걸로 하려는 일에 대해 제약을, 경계를 세울 것이다. 결정을 내릴 수 있는 건 가장자리에서이기 때문이다. 틀 밖에서 생각할 수는 없다. 밖은 너무 어둡다. 하지만 틀의 가장자리에서 기적을 일으킬 수 있다. 그래서 내 개인적인 경력의 궤적에서도, 다른 영역에서도 나는 '이건 제약이다'라고 말하려고 아주 애쓴다. 예를 들어 나는 45년 동안 고기를 먹지 않았다. 여기에는 많은 이유가 있지만, 주로는 규칙이 있어서 이제 매일 생각하는 데 시간을 낭비하지 않아도 되기 때문이다. 그게 제약이다. 내 블로그에 매일 적어도 하나의 글이 올라온다는 것도 제약이다. 그래서 이게 내가 쓴 최고의 글인지, 또 다른 글을 쓸 때인지 논쟁할 필요가 없다. 그건 '이 상황에서 우리가 할 수 있는 건 이 모든 것이다, 상황을 바꾸고 싶다면 제약을 바꿔라'라고 말할 토대를 주는 제약이다. 하지만 먼저, 우리 것이든 다른 누구의 것이든 제약을 찾고 '이 제약을 받아들이면 고객이 가고 싶은 곳에 가도록 돕게 될까?'라고 묻는 것이다.

롭: 업계, AI 업계가 마치 모두에게 제약이 없는 것처럼 움직이고 있다는 생각이 정말 마음에 들고 와닿았다. 그리고 '모든 제약을 버리고 무시하지 않으면 죽을 것'이라는 두려움. 그러면 사람들은 '죽고 싶지는 않은데, 지금 당장 생명 유지 장치를 끄고 계속 숨 쉴 거라고 그냥 믿는 건 뭔가 잘못된 것 같아' 하는 거다. '이건 확실히, 천천히 숨 쉬는 데 적응해야 할 것 같아. 그러니 서서히 들어가야 할지도 몰라.' 거의 출발점은 목록을 만드는 것이다. 틀을 그리는 것이다. 틀을 그려 보자. 틀 밖을 그리지 말고, 당신 말처럼 틀이 무엇인지 그려 보고, 가장자리를 찾은 다음, 가장자리를 밀어내면서 틀을 넓혀 가자. 하지만 반대편으로 뒤집어 보고 싶은 것 하나는, 좋아, 점진적 변화는 말이 된다, 그들이 있는 곳에서 만나라. 그런데 두려움의 측면도 있다. 우리 발밑의 토대 전체가 흔들렸다는 것에 얼마나 진실이 있는가. 그리고 내가 많이 생각해 온 것 중 하나는 경쟁 일반과 그 목적이다. 그렇지 않나? 어쩌면 경쟁의 주된 목적은 대체로 게으른 사람들에게 동기를 주는 것일지도 모른다. 그리고 AI나 LLM을 보면, 시스템에 실제로 구축하기 가장 어려운 것 중 하나가 그들을 입 다물게 하는 것이다. 시스템에 프롬프트 종료가 내장되어 있지 않으면 영원히 텍스트를 생성할 것이다. 자연 상태가 토큰 생성을 절대 멈추지 않는 것이다. 그렇지 않나? 업계에서 '그건 어떻게 멈추는가'를 묻는 사람을 별로 못 들었다. 경쟁에는 낭비가 많다. 경쟁이 사람들에게 동기를 주기 위한 것이라면, 오늘 내 집 앞에 상자를 배달하러 빌어먹을 다섯 명이 나타나는 것도 있다. 한 사람이 상자를 다 배달할 수 있는데도. 그렇지 않나? 그래서 나는 '음, 왜지? 사람들이 게으르고 우리에게 경쟁이 필요해서'라고 생각한다. 그러니 이제 시스템이 [그 일을] 하고 있다면,

세스: 롭, 당신은 여러 가지를 한데 뒤섞고 있다. 잠깐 끼어들어서 하나씩 살펴보자. 나는 세상의 왕이 아니다. 당신은 그럴지도 모르지만, 당신도 아니라고 생각한다. 그러니 우리는 시스템의 메타 왕, 시스템의 시스템에 영향을 주거나 대체할 수 없을 것이다. 그것은 자본주의, 산업주의, 반쯤 자유로운 시장이라는 긴 흐름이 있다는 생각이고, 그것은 일종의 경쟁에 의해 연료를 얻는다. 그걸 대체하려 한 사람들이 있었지만, 그러려면 거의 나라 하나를 통째로 장악해야 하고 정말 어렵다. 그러니 경쟁의 목적은, 목적이 없다. 그것은 일부에게 부러운 결과로 이어지는 경쟁을 만들어 낸 부작용이다. 하지만 우리는 경쟁을 원해서 그걸 둔 게 아니다. 우리는 결과를 원했다. 그다음 당신이 말하는 두 번째는, 일대일 채팅에 내재된 무언가가 있고 그것이 우연히 LLM에 들어갔다는 것이다. 당연하게 여겨져 왔지만 꼭 그래야 할 필요는 없었다. 일대일 채팅에서 일어나는 일은, 당신이 입력하면 그것이 영원히 답을 입력한다는 것이다. 엑셀은 그렇게 작동하지 않는다. 엑셀은 '여기 스프레드시트가 있다, 끝났다'고 한다. ChatGPT는 '나는 당신과 이야기하고 있다'고 한다. 그래서 우리가 만든 것 중 하나는, 내가 이걸 처음 한 사람인 것 같지만 아닐 수도 있는데, ‘AI Together’다. 오픈소스 커뮤니티 스레드형 대화 플랫폼인 Discourse 안에 있다. 그리고 이제 챗봇이 한 사람과 이야기하는 대신 토론 게시판 안에 있다. 그래서 이제 8명이 하나의 챗봇과 대화를 나눈다. 이건 판도를 바꾼다. 다른 사람들이 우리를 붙잡아 주니까 우리가 광적인 상태로 빠져드는 걸 막아 준다. 하지만 우리가 내장한 두 번째는, 모든 사람이 입력할 때마다 즉시 응답하지 않는다는 것이다. 그러면 전부 망가지기 때문이다. 어떤 방에서는 한 시간에 한 번, 어떤 방에서는 하루에 한 번만 허용된다. 그때만 말할 수 있고, 그게 커뮤니티 전체가 참여하는 방식을 바꾼다. 칵테일 파티의 그 사람처럼 방 안의 공기를 다 빨아들이지 않기 때문이다. 그저 가끔 나타나서 '이봐 롭, 지난주에 조시가 한 말 봤어? 너희 이것에 대해 이야기 좀 해 봐야겠다'라고 한다. 그러면 모두가 다시 신나게 달려 나간다. 그리고 나는 AI의 미래가 아직 조짐조차 보이지 않았다고 믿는다. 인터넷의 모든 것이 네트워크로 연결되어 있는데 AI만 예외다. AI는 혼자다. 인터넷에서 성공한 것 가운데 혼자인 건 그것 하나뿐이다. 그러니 그것은 네트워크의 일이 될 것이고, 그걸 만들 사람들은 아직 만들지 않았다. 그래서 이건 엄청난 기회이고, 나는 내일 당장 그걸 넣을 수 있는 곳을 500군데는 생각할 수 있다.

롭: 그렇다. 내가 보기에 당신이 방금 내 요점을 보여준 것 같다. 당신이 만든 건 내게 인간과 함께하는 최적 멈춤(optimal stopping)의 완벽한 예다. 우리는 '이걸 어떻게 시작하고 어떻게 계속 굴러가게 하지?'라고 하는데, 지금 당신은 '이걸 어떻게 멈추게 하지?'를 생각하고 있다. 그래서 나는 오늘 아무도 쓰지 않을 소프트웨어를 만들면서 토큰을 태우거나 토큰을 생성하는 회사들을 생각하고 있었는데, 그들은 '이걸 어떻게 더 생산적으로 만들지?'를 생각하고 있다. 그래서 모두가 토큰을 얼마나 태우는지 세면서 자기가 이기고 있다고 생각한다. 그러면 나는 '아니, 토큰 태우는 걸 어떻게 멈출지를 생각해야 한다'고 말하고 싶다. 그냥 다른 사고방식이다. 우리는 인간에게는 추진력이 필요하고 AI에게는 멈춤이 필요한 그런 세계에 깊이 들어와 있다.

세스: 그리고 여기서 나타나는 게 거짓 대리 지표다. 분당 몇 단어를 칠 수 있는지로 프로그래머를 채용해서는 안 된다. 모두가 본능적으로 그걸 이해한다고 생각한다. 그런데도 우리는 산출물과 아무 관계가 없는데도 누군가의 학점을 보고, 누군가가 토큰을 얼마나 태우는지를 본다. 그게 가장 [불명확: 게으른] 상사에게 아주 쉬운 관리 방법을 주기 때문이다. 그렇지 않나? 순위가 생기니까. 그리고 IBM은 1960년대 어느 시점에 IBM 360으로 이게 실수라는 걸 발견했다. 그렇지 않나? 그들은 매일 몇 줄의 코드를 커밋했는지 측정하기 시작했는데, 그건 메인프레임을 만드는 정말 나쁜 방법이다.

롭: 그렇다. 그러면 단어에 대해서도 궁금해진다. 그들을 코더라고 부르지만, 그들은 80%의 시간 동안 코딩을 하지 않는다. 디자인하고, 생각하고, 다른 사람의 코드를 검토한다. 그러면 '아, AI가 코딩을 할 수 있는데 당신은 일을 어떻게 할 거야?'라고 한다. 내 일의 20%나 15% 말인가? 그러면 15%만 개선된 거네. 뭐가 문제지?

조시: 글쓰기도 마찬가지다. 『Shell Game』을 만든 에번 래틀리프와 이야기했던 것 같은데.

롭: 그렇다, 나는 그들을 작가라고 부르고, 자, 시작이다.

조시: 그렇다. 그는 '실제로 쓰는 건 내 일의 아주 작은 부분이다'라고 했다. 시간의 대부분은 이야기를 찾고, 취재원과 이야기하고, 생각을 종합하고, 걸어 다니고, 방 안을 서성이며 생각을 정리하는 데 쓰고, 그다음 앉아서 쓰는 행위는, 그렇다, 초콜릿을 잔뜩 먹는 것이라고. 그것도 중요하다. 내가 공감에 좀 꽂혀 있는지도 모르겠지만, 당신이 공감에 기반한 타협에 대해 이야기한 것도 정말 좋았다. 그게 정말 중요하다고 느끼기 때문이다. 당신이 묘사하는 일종의 평균적인 타협은 본질적으로 그 두려움과 묶여 있다. 현 상태가 계속 돌아가도록 각자 딱 충분히만 양보하자는 것이다. 하지만 누군가 무언가를 바꾸는 데 진심으로 헌신하면 모든 것이 바뀐다. 그리고 우리는 매슈 바전과 아주 좋은 대화를 나눴는데, 그는 대사였고...

세스: 바전 대사 안다. 멋진 사람이다.

조시: 그렇다, 그렇다. 그는 『The Power of Giving Away Power』라는 멋진 책을 썼다. 그는 메리 파커 폴릿의 이야기를 꺼냈다. 그녀는 타협을 싫어했다. 그냥 터무니없다고 생각했다. 그래서 그녀는 통합에 더 집중했던 것 같다. 그리고 그는 그녀가 버몬트 숲 어딘가에 오두막을 짓는 이야기를 했다. 그 당시에는 일종의 신기술이었기 때문에 배선을 하러 전기 기사가 왔는데, 그의 설계는 '각 방 중앙에 전구가 하나씩'이었다. 그러니까 실수로 세탁기에 목이 감길 수 있게 말이다. 그리고 그녀는 '아니, 그건 안 될 거예요. 나는 이걸 원해요'라고 했다. 그는 '음, 당신 집을 이렇게 지으면 불이 날 거예요'라고 했다. 그래서 타협이었다면 반은 어둡게 조명된 집, 반은 불타는 집이 되었을 것이다. 하지만 대신 그는, 그녀가 경력 내내 이런 다음 상호작용의 중심을 파고드는 데 시간을 보낸 것처럼 이야기했다. 그런데 그건 두 사람이 앉아서 제약의 목록을 하나하나 짚어 가며, 그 가장자리를 활용해 실제로 새로운 가치를, 새로운 무언가를 만들어 내는 것이었다. 그리고 우리가 타협을 문제 해결의 쉬운 답으로만 생각할 때 그게 대충 얼버무려진다고 생각한다. 실은 그렇지 않은데.

세스: 그렇다, 아름답게 말했다. 그러니까 내가 말하는 타협에는 두 종류가 있다. 우리가 하는 타협의 대부분은 애초에 우리가 성공하기를 원하지 않는 사람들, 애초에 변화를 원하지 않는 사람들, 애초에 우리 고객이 아닌 사람들, 애초에 관심이 없는 사람들과의 타협이다. 그렇지 않나? 그래서 스테이크하우스 주인은 채식주의자를 좀 오게 하려고 타협해서 메뉴에 그저 그런 채식 요리를 하나 올리고는, 채식주의자들이 오지 않는다고 놀란다. 글쎄, 당신은 논쟁을 없애려고 타협했다. 그것이 기관의 목적에 맞아서 타협한 게 아니다. 그러니 우리는 구성원이 아닌 사람들과의 타협을 거부해야 한다. 하지만 다른 종류의 타협은 이렇게 말하는 타협이다. '아, 나는 당신이 세상을 보는 방식으로 세상을 볼 공감이 부족했구나. 그리고 내 목적이 당신을 섬기는 것이니, 내가 필요한 제약 안에서 당신을 섬기는 방식으로 나타날 수 있다면', 그 타협은 유용한 타협이다. 이것이 위대한 건축가와 프리마돈나의 차이다. 위대한 건축가는 그 건물에서 살고 일할 사람들이 더 나은 삶을 살도록 건물을 바꾼다. 그들이 유용한 구성원이기 때문이다.

조시: 그렇다. 그리고 그 섬기는 마음가짐도 중요하다고 생각한다. '나는 당신을 돕기 위해 여기 있다, 당신의 문제를 해결하도록 돕기 위해 여기 있다. 나는 내 문제를 해결하려고 여기 있는 게 아니다.' 내 문제는 나 혼자 해결할 수 있지만, 그건 [나에게는] 뿌듯하더라도 우리가 앞서 이야기한 그런 공동체를 만드는 게 아니다. 그 공동체가 얼마나 크든, 회사든 나라든. 그런 것 같다.

롭: 그렇다. 나는 가치를 체계화하고 소리 내어 말해야 한다는 것이 우리가 회사로서, 사람으로서 우리의 가치에 대해 정말로 생각하게 만들 것이라는 데 아주 희망을 갖고 있다. 그리고 그게 개선될 거라고 생각한다. 당신 말처럼 이제 그걸 다 소리 내어 말해야 하니, 아마도 우리는...

세스: 그런데 그게 정말, 정말 어렵다. 볼벨(volvelle)이 뭔지 아는지 모르겠다. 나는 그걸 이제 '스핀덱스'라고 부른다. '볼벨'이라는 단어가 너무 발음하기 어려워서. 옛날 별자리판 같은 건데, 리본이 달린 종이 조각이다. 아, 그렇다. 그래서 나는 그냥 재미로, 그리고 충성 독자들을 위해 양면 볼벨을 만들었다. 각 면에 아무도 답하고 싶어 하지 않는 질문이 18개에서 20개씩 있다. 그렇지 않나? 그리고 그걸 사람들에게 건네주면, 그들이 답하고 싶어 하지 않는다는 게 아주 분명하다. 하지만 충분히 중요할 때는 답한다. 그리고 그게 핵심이다. 위대한 항해 선장들의 역사를 보면, 그들은 배에 타서 우연히 목적지에 도착하지 않는다. 목적이 아주 분명하다. 그래서 긴 항해를 떠난다면 오렌지를 챙기는 게 좋다. 선원들이 죽는 건 당신이 감수할 의향이 없는 제약 중 하나니까. 그렇지 않나? 그들은 목적에 대해 아주 분명하다. 그리고 선원 하나가 투덜대며 '코코넛을 사야 해서 저기 들르고 싶다'고 하면, '아니, 이 배는 거기 안 간다, 여기로 간다'고 말한다. 우리는 어디로 가는지 아주 분명하고, 그걸 기꺼이 소리 내어 말한다.

롭: 우리 친구 애나 렘키는 그걸 '철저한 정직(radical honesty)'이라고 부른다. 일상에서 정말 도움이 되는 도파민 리셋이다. 하지만 계속해라.

조시: 나는 AI가 실제로 모두에게 이걸 강제하고 있다고 생각한다. 그렇지 않나? 진짜 목적을 찾을 의지가 없으면 그걸 제대로 작동시킬 수 없다. 가짜 목적, 말은 하지만 진심이 아닌 목적을 먹이면, 거의 커트 보니것의 '우리는 우리가 가장하는 존재다, 그러니 무엇인 척할지 조심하라'와 같다. 잘못된 정보나 자신에 대한 거짓된 표상을 먹이면 그것이 그걸 투영할 것이고, 그러면 아마도 당신이 가고 싶은 곳으로 데려가지 않을 것이다.

세스: 훌륭하다, 조시. 정말 훌륭하다.

롭: 멋지다. 다들 고맙다. 끝없이 계속할 수도 있겠다.

조시: 그렇다, 그렇다. 시간을 내줘서 정말, 정말 고맙다.

세스: 두 사람과 정말 즐거웠다. 준비, 통찰, 세심함, 내가 바랐던 모든 것에 감사한다. 고맙다.

롭: 멋지다.

조시: 고맙다. 세스 고딘과의 대화에 함께해 주셔서 감사하다. 다음 에피소드에서는 서비스디자인을 만든 두 사람, 벤 리즌과 라브란스 뢰블리와 함께 여기서 나눈 생각 일부를 확장할 것이다. 오늘 에피소드가 유용했다면 좋아요와 구독을 눌러 다음 이야기를 놓치지 마시라. 그리고 이 팟캐스트를 지금의 모습으로 만들기 위해 무대 뒤에서 일하는 UX Magazine의 모든 분께 감사드린다. 여러분의 도움 없이는 할 수 없었다. 다음 시간까지. [불명확]

---

번역 관련 안내

편집 사항

• 화자 분리는 클로바노트 자동 처리 결과를 내용으로 검증해 따랐다. 롭의 '파국적 망각' 발언, 세스의 '롭, 당신은 여러 가지를 뒤섞고 있다' 발언 등으로 참석자 3이 롭임을 확인했다.
• 대괄호 [ ] 안의 단어는 끊긴 문장을 잇기 위해 보충한 것이다.
• 마지막 회차 예고로 볼 때, 이 회차는 이미 게시했던 벤 리즌·라브란스 뢰블리 회차 바로 앞 에피소드다.

전사 오류 보정

• Wre → OneReach, the not → The Knot, Goden/Godon → Godin, Devincii → 다빈치, LOUV → 루브르, ACY → AC(교류), zebec/XBC → xebec, pstromiy → 파스트라미, AL → AOL, coal ball → COBOL, loms/LMS → LLM, Tapica/Topica → 토피카(Topeka), Marina Nizza → 마리나 니체(Marina Nitze), Timothy Larry → 티머시 리어리, Coosco → 코스트코, Claud → Claude, Dan Golden → 댄 골딘(Dan Goldin), Evan Rotliff → 에번 래틀리프, Matthew Barzoon → 매슈 바전(Matthew Barzun), Mary Parker Flit → 메리 파커 폴릿, Olville/Volville → 볼벨(volvelle), Anlmpkey → 애나 렘키(Anna Lembke)로 추정, Kirvanegan → 커트 보니것, George and I → Josh and I, The Reason and Lab’s Lovely → 벤 리즌과 라브란스 뢰블리
• “OT”는 ‘Knot’의 전사 오류로 보고 『매듭』으로 옮겼다.

불명확 구간

• 세스: “The demo of the washing machine was and it took us decades” — 서술어가 빠져 있어 ‘[완벽했다]’로 보충했다. 영상 설명란의 "세탁기 데모는 완벽했지만"과 일치한다.
• 세스: “the frontier is always nuddy” — ‘nutty(엉뚱한)’로 추정했다.
• 세스: “if you look at O, front line” — 앞부분 판독 불가.
• 세스: “starts with high school students but outs everywhere” — ‘shows up everywhere’로 추정했다.
• 세스: “they aren’t selling a hopic solution” — ‘holistic(총체적)’으로 추정했다.
• 세스: “lets the coolest boss” — ‘laziest(가장 게으른)’로 추정했다.
• 세스: “misogeny is real” — ‘misogyny(여성혐오)’로 옮겼으나, 앞뒤 맥락과 연결이 약해 다른 단어의 전사 오류일 가능성이 있다.
• 마지막 단어 “Owagi”는 판독 불가다.

내용 확인이 필요한 부분 (발언자의 주장)

• 존슨앤드존슨: 세스는 J&J가 베이비파우더에 석면을 넣다가 "들켰다"고 말한다. J&J는 탈크 제품의 석면 오염 의혹으로 대규모 소송을 겪었으나, 회사는 혐의를 부인해 왔다. 발언 그대로 번역했다.
• 영상 설명란의 한국어 문구("환자의 이름을 3미터 높이의 화강암에 새겨 넣고도 보너스를 챙긴 사실이 발각되지 않습니다")는 본문 내용과 다르다. 본문에서 화강암에 새긴 것은 환자 이름이 아니라 사명 선언문(J&J 신조)이다. 설명란을 인용할 일이 있으면 수정하는 것이 좋다.
• 에디슨이 교류 전력에 반대하며 코끼리를 감전사시켰다는 일화(1903년 코끼리 '톱시')에 에디슨이 직접 관여했는지는 역사가들 사이에 논란이 있다.
• 롭이 언급한 ‘1,700개 언어 학습 후 3분의 2 이상 소실' 연구, 세스가 언급한 IBM 360의 코드 줄 수 측정 일화, '궤양의 세균 원인이 증명된 뒤 20년' 발언은 출처를 확인하지 않았다. 헬리코박터 파일로리 발견(1982년) 이후 의학계가 수용하기까지 시간이 걸린 것은 사실이나, ‘20년'은 발언자의 표현이다.
• 『Crisis Engineering』은 마리나 니체 외 공저자가 있는 책이다(조시도 "공저했다"고 정정한다).

번역 용어

• entanglement → 얽힘, proxy → 대리 지표, proximal empathy → 근접 공감, catastrophic forgetting → 파국적 망각, optimal stopping → 최적 멈춤, hydrate → 수화하다(압축된 구조에 데이터를 채워 넣는다는 뜻으로 진행자들이 쓰는 표현)
• “people like us do things like this”는 세스 고딘이 문화를 정의할 때 쓰는 고정 표현으로, '우리 같은 사람들은 이런 일을 한다'로 옮겼다.