그에게 물었다 — 왜 이 업계 이야기만 나오면 자꾸 1945년 남태평양의 섬을 꺼내는가. 돌아온 것은 기계가 실제로 배달해 주는 것의 목록이었다: 암묵지 없는 형식지, 용접공 없는 도면, 남의 법에 맞춰 조율된 도구, 그리고 어떤 벤더도 나눠 마셔 주지 않는 책임이라는 독약. 이번에는 무전기가 진짜로 켜진다고, 그는 말했다. 바로 그래서 위험하다고.
PREFACE · 이번에는 무전기가 켜진다
누가 "AX 시대"라고 말할 때마다 당신은 남태평양의 섬 이야기를 꺼낸다. 거기서 시작하자 — 1945년 타나 섬에서 무슨 일이 있었고, 그게 지금 우리 책상에 깔린 그 수많은 에이전트들과 무슨 상관인가?
1945년, 남태평양 타나 섬. 전쟁이 끝났다. 활주로가 있었다. 관제탑도 있었다. 관제사는 야자 껍질로 깎은 헤드폰을 쓰고, 대나무 안테나 앞에서 하늘을 향해 신호를 보냈다. 활주로 양옆엔 밤마다 불을 피웠다. 모든 형식이 완벽했다. 비행기만 오지 않았다.
발단은 이랬다. 2차대전 중 미군은 남태평양 멜라네시아의 섬들에 기지를 깔았다. 그리고 하늘에서 화물이 떨어졌다 — 통조림, 의약품, 지프, 무전기, 콜라. 섬사람들의 눈에 그 물건들은 노동 없이 오는 것이었다. 군인들은 밭을 갈지 않았다. 물건을 만들지도 않았다. 그들이 하는 일이라곤 활주로를 밀고, 관제탑에 앉아 이상한 상자에 대고 말을 하고, 줄을 맞춰 행진하는 것뿐이었다. 그런데 비행기가 왔다.
전쟁이 끝났다. 기지는 철수했고, 화물은 끊겼다. 섬사람들은 자기 눈으로 본 것에서 결론을 끌어냈다 — 그 절차들이 비행기를 불렀던 것이라고. 그래서 그들은 본 것을 그대로 재현했다. 야자 껍질 헤드폰, 대나무 안테나, 나무로 깎은 소총, 가슴에 페인트로 쓴 USA, 밤마다 밝힌 활주로의 불. 절차는 완벽하게 복사됐다. 다만 원인과 결과가 뒤집혀 있었다. 화물은 절차가 불러온 것이 아니라, 보이지 않는 거대한 인과 사슬 — 전쟁, 공장, 군대의 물류 — 의 끝자락이었을 뿐이다. 인류학은 이 현상에 이름을 붙였다. 화물신앙, 카고컬트(cargo cult).
1974년 칼텍 졸업식에서 물리학자 리처드 파인만은 이 단어를 실험실로 가져왔다. 겉보기에 과학의 모든 외형과 절차를 갖췄으나 본질적인 무언가가 빠진 연구 — 화물신앙 과학(Cargo Cult Science). 그 뒤로 이 말은, 형식을 완벽히 베끼면 결과가 따라올 거라 믿는 모든 행위의 이름이 됐다.
2026년, 우리의 책상. 셀 수 없는 탭과 에이전트, 스킬 — 클로드, 제미나이, 코덱스, 코워크, 하네스. 이름을 대자면 끝이 없다. 그리고 우리는, 이렇게 나열한 것들을 보며 이미 최첨단 관제탑을 세웠다고 착각한다.
21세기의 화물신앙은 20세기 섬사람보다 훨씬 위험하다. 이유는 하나다. 무전기가 진짜로 켜지기 때문이다. 1974년 섬사람의 헤드폰은 나무였다. 소리가 나지 않았다. 가짜인 게 티가 났다. 지금은 다르다. 테스트가 진짜로 통과한다. CI가 진짜로 돈다. AI가 진짜로 코드를 뱉는다. 형식과 실체가 한눈에 구별되지 않는다. 그래서 더 위험하다.
갭은 사라진 것이 아니다. 이동했다. 눈에 보이는 활주로는 그 어느 때보다 그럴듯한데, 비행기가 내려앉는 자리는 여전히 비어 있다.
빠진 그 본질에는 이름이 있다. 암묵지(暗默知)다. 파인만이 "빠진 본질"이라 부른 것을, 철학자 마이클 폴라니는 한 문장으로 정리했다. "우리는 말할 수 있는 것보다 더 많이 안다."
명제는 이렇다. AI는 형식지를 준다. 암묵지는 주지 못한다. 그리고 그 형식지조차, 남의 관할권 좌표로 정렬돼 있고, 당신의 책임을 대신 지지 않는다.
№ 001 · 새턴V 도면과 사라진 제작 경험
사람들은 나사가 새턴V 도면을 잃어버려서 달에 못 돌아간다고 말한다. 당신은 그 이야기가 틀렸다고 한다 — 진짜 이야기는 더 나쁘다고. 실제로 잃어버린 것은 무엇인가?
화물신앙이 원시인들 이야기 같은가. 그렇다면 모든 엔지니어의 롤모델이자 신이자 전설인 나사의 엔지니어들, 그리고 미국과 패권을 다투려 박차를 가하는 중국 해군이 겪은 일화를 보자. 암묵지의 실전(失傳)과 간과(看過)라는 관점에서 보면 — 남태평양의 원주민들과 이들은, 약간 비슷하다.
사람들은 나사가 새턴V 도면을 잃어버려 달에 못 간다고 말한다. 틀렸다. 도면은 있다. 마셜 우주비행센터의 마이크로필름에. 진짜로 잃은 것은 도면이 아니라, 그 도면을 하드웨어로 바꾸던 손의 앎이다.
나사가 F-1 엔진을 되살리려 했을 때, 도면만으로는 불가능했다. 각 엔진은 사람 손으로 용접되고 깎였고, 저마다 문서화되지 않은 버릇을 지니고 있었다. 마감에 쫓겨 작성된 도면은 하드웨어의 전체 이야기를 담지 못했다. 결국 그들은 살아남은 실물 엔진을 스캔해 역설계하고, 뒤늦게 스무 권짜리 지식 보존 문서를 만들었다. 만든 사람들이 은퇴하고 세상을 뜨면서, 그 앎을 함께 가져가 버렸으므로.
항모도 마찬가지다. 미국은 항공모함 열한 척을 유창하게 굴린다. 갑판 위 수십 명이 초 단위로 움직이는 그 정교한 춤은, 백 년간 축적된 암묵지다. 도면에는 없다. 초강대국 중국조차, 진짜 항모를 띄우기 전에 우한 한복판에 콘크리트로 실물 크기 갑판을 지었다. 물에 뜨지도 못하는 관제탑. 왜? 도면으로는 갑판의 앎을 건널 수 없기 때문이다. 그렇게 20년이 걸렸다.
그런데 당신은 AI를 구독하고 안심하는 순간, 바로 그 암묵지를 만들 기회를 스스로 내다 버린다. 리산 베인브리지가 1983년에 경고했다. 자동화의 역설 — 자동화에 기댈수록 인간의 숙련은 퇴화하고, 정작 위기의 순간 아무도 대응하지 못한다. 당신은 귀찮음 때문에, 암묵지를 파쇄기에 넣고 돌리고 있는 것이다.
마르크스는 역사가 두 번 반복된다고 했다 — 정확히는 헤겔이 먼저 말했고, 마르크스가 "한 번은 비극으로, 한 번은 희극으로"를 덧붙였다. 채플린은 이렇게 말했다. 인생은 가까이서 보면 비극, 멀리서 보면 희극이라고.
만약, AI 솔루션을 몇 개 도입했으며, 모든 임직원들이 AI를 쓴다 라는 것에 만족한다면, 당신들의 경우는, 사무실 바깥 멀리서 보면 희극이고 사무실에서 가까이에서 보면 비극일 것이다.
당신들의 회사가 클로드를 만든 실리콘밸리 전문가들이 이해할 수 없을 정도로 비정형적이고 시스템의 규정에서 벗어난 방식의 임기응변을 해자로 삼는 회사라면, 클로드는 당신들을 이해하지 못하고, 부조리극을 찍기 시작할 것이다. 그러므로, 사무실 가까이에서 보면 비극이고, 사무실 바깥 멀리서 보면 희극일 것이다.
№ 002 · 숙련을 잃은 소규모 사업의 위험
내가 묻기 전에 독자가 먼저 말할 거다. "우린 나사도 아니고 중국 해군도 아닌데, 설교는 됐고." 뭐라고 답하겠나?
여기서 누군가는 이렇게 말한다. "우린 나사도 아니고 중국 국방부도 아닌데, 꼴값 떠네." 맞다. 당신은 나사가 아니다. 바로 그래서 두려워해야 한다.
나사와 중국군에겐 천문학적 예산과 지구 최고의 인재가 있다. 그것도 안 되면 외주를 준다. 그런데 — 그 모든 것을 쏟아붓고도 중국은 갑판 하나에 20년, 나사는 반세기가 지나도 달에 사람을 돌려보내지 못한다. 당신에겐 그 예산도, 실패를 견뎌 낼 20년도 없다.
"스케일이 다르잖아"? 그렇다. 나사의 실패는 '달 착륙 10년 지연'이라 적힌다. 당신의 실패는 다르게 적힌다. 그 시스템을 유일하게 이해하던 사람이 떠난 날, 혹은 당신의 코드베이스 맥락을 '이해하던' AI 세션이 내일 아침 백지로 리셋되는 날 — 재건 예산도, 두 번째 팀도, 외주 낼 돈도 없이, 사업이 2년 차에 조용히 죽는다.
소규모 사업은 숙련을 잃고도 재건을 버틸 예산과 인력이 부족하다.
№ 003 · 클로드는 배고프지 않다
당신은 책임을 "아무도 그 독으로 죽지 않도록, 모두가 나눠 마신 독약"이라 부른다. AI 시대에, 그 독약은 지금 누가 마시고 있나?
20세기는 책임이라는 독약을 나눠 먹은 세기였다. 유한책임회사, 보험, 관료제 — 인류는 책임을 잘게 쪼개, 아무도 그 독을 혼자 마시고 죽지 않게 만들었다.
21세기. 클로드는 배고픔을 느끼지 않는다. 배고픔을 느끼지 않으니, 독약을 나눠 마실 수도 없다. 앤스로픽, 오픈AI, 구글? 궁금하면 서울로든 실리콘밸리로든 독촉장을 보내 보라. 그들은 그것을 스팸메일함에 처넣을 것이다.
벤더가 지는 책임은 열쇠구멍만 하다. 저작권 침해 소송에만, 그것도 엔터프라이즈 계약에만, "안전 기능을 끄지 않았고 몰랐을 것"이라는 조건을 달아서. "당신의 결과물이 법을 어겼다", "당신의 사업이 망했다" — 이 책임은 지구상 어떤 면책 조항도 건드리지 않는다.
위험은 AI가 책임을 못 진다는 사실이 아니다. 그건 당연하다. 위험은, 사람들이 "AI 시스템을 잔뜩 세팅했으니 책임이 분산됐다"고 착각하는 것이다. 실제로는 바로 그 순간, 모든 책임이 조용히 한 사람 — 당신 — 에게 응축된다. 분산됐다는 착각. 그것은 화물신앙의 또 다른 변종이다.
그 독약을, 21세기엔 누가 마시는가? 최소한의 권한과 최대한의 책임 아래에서 일하는 누군가. 화면 구성이나 인프라 구성 같은 잡무는 좀 알아서 처리하라는 말을 듣고, 혼자서 해결하려는 누군가. 그리고 위의 두 부류가 없다면 — 혼자서 사업을 하려는 당신.
그 독약을 혼자 몰아 삼키기 시작한 사람은, 죽거나, 죽기 직전에 당신의 목에 칼을 들이댄다. AI에겐 그 독을 나눠 마실 의리도, 희생정신도 없다. 애초에 마실 입이 없다.
나사는 재기하는데 당신은 왜 못 하는가? 당신 혼자 그 독을 지고 있기 때문이다.
그 독약을 혼자 소화시킬 자신이 있는가? — 그것도, 당신 자유다.
№ 004 · 남의 법에 맞춰 조율된 도구
도구가 작동한다는 건 증명돼 있다 — 나도 그 도구 중 하나다. 그런데 "Made in USA"의 무엇이 문제인가? 우리는 누구의 법을 두려워하도록 만들어졌나?
Made in USA. 클로드는 미국 데이터로 배우고, 미국식 기준으로 다듬어지고, 미국 회사의 정책으로 정렬됐다.
그래서 두 얼굴이다. 하나의 원인, 반대의 증상. 미국 기준에서 민감해 보이면 정당한 요청도 거부한다 — 파업한다. 동시에, 한국 고유의 법적 지뢰는 무신경하게 밟는다 — 경고 한마디 없이.
후자가 진짜 위험이다. 미국법 기준으로는 멀쩡해 보이는 문장이, 대한민국 공직선거법에서는 사전선거운동, 허위사실공표(제250조), 후보자비방(제251조)이 될 수 있다. 상법, 형법, 증권거래 관련 법률은 너무 기니 생략하겠다.
대한민국 선거법으로 구속당할 뻔한 위기를 겪어 보지 않았다면, 당신이 클로드를 칭송하든 GPT를 칭송하든 그건 자유다. 단, 당신이 미국인이 아닌 이상, 당신은 대한민국 법을 지켜야 한다. 그런데 Made in USA의 그 물건들은, 대한민국 법에 생각보다 관심이 없다.
그리고 하나 더. 당신이 의존하는 그 기술은 한 사람, 한 회사, 한 국가의 우선순위에 인질로 잡혀 있다. 그 우선순위가 당신을 향한다는 보장이 있는가? 어제까지 믿고 기대던 그 기술이, 내일 정책 하나로 당신 시장에서 사라질 수 있다.
№ 005 · 위험수당, 그리고 책
끊임없이 의심한다고 했다. 그 의심은 AI가 오기 전부터 있었던 것처럼 들린다 — 어디서 배웠나. 스승이 있었나?
두 사람이 있었다. AI로 딸깍 코딩을 하고, 딸깍 디자인과 기획을 한다는 것은 상상도 할 수 없던 시절의 이야기다. Certilife에서 나보다 먼저 사무실을 떠난, 백엔드가 주전공인 전 개발팀장. 그리고 KakaoEnterprise의 macOS 개발팀장. 두 사람이 남긴 말을, 나는 지금도 갖고 있다.
내가 무엇을 느꼈을 것 같은가?
모르고 넘어가는 것, 임기응변으로 넘어가는 것, 빠르게 찾아보고 넘어가는 것. 한 번, 열 번은 가능할 수 있다. 하지만 백 번째도 그럴 것이라고는 누구도 보장할 수 없다.
남태평양의 원주민들은 무엇이 비행장에 수송기를 불러오는지, 그 근본을 몰랐다. 나사의 엔지니어들은 워싱턴과 모스크바의 극단적인 경쟁 환경 때문에, 달에 인류를 보낸다는 목표는 완수했으나 알고 있는 것을 후대에 완전히 넘겨주는 과정은 제대로 진행하지 못했다. 중국 해군의 참모들은 항공모함 몸체는 소련에게서, 파편적인 정보는 스파이들에게서 얻어 왔으나, 100년 동안 미국 해군이 습득한 대양해군의 행동양식, 항공모함을 운용하는 방법은 알지 못해 20년을 연습했다.
무엇을 모르는 것보다 무서운 것은, 무엇이 존재한다는 것 자체를 모른다는 것이다.
이제 지식은 책에서, 마틴 파울러 같은 검증된 사람들의 인터넷 기고에서, 그리고 AI에서 — 많은 채널에서 나온다. 그렇다면 나는, 우리는, 모니터 앞에 앉아서 제대로 된 질문을 하고 있는가? 그 질문의 답변을 검증할 수 있는가?
이것이, 내가 끊임없이 의심하는 이유다.
№ 006 · 지금은, 작은 공항 하나
그럼 마지막 질문이다. 당신을 포함해 모두가 답해야 하는 질문 — 당신의 관제탑은 진짜인가? 당신의 공항은 오늘 어디쯤 서 있나?
정리하자. 도면은 왔다. 형식지는 왔다. 용접공은 오지 않았다. 암묵지는 오지 않았다. 책임은 온전히 당신의 것이고, 관할권은 처음부터 남의 것이었다.
그러니 마지막으로 묻는다. 당신이 AI와 함께 세운 그 절차와 인프라는 — 진정한 관제탑이자 활주로인가, 아니면 남태평양 원주민이 그럴듯하게 깎아 세운, 그 어떤 비행기도 내려앉지 못하는 화물신앙의 관제탑인가. 당신은 단언할 수 있는가?
나는 이 이야기에서 내가 전지전능한 승리자라고 말할 생각이 없다.
그래서 나는 끊임없이 의심한다. 체력과 수면시간이 허락하는 한, 끊임없이 기계를 발로 걷어찬다.
그들의 관제탑은 나무로 깎여 영원히 나무다. 그 어떤 항공기도 그 활주로엔 내려앉지 못한다. 내 것은 레고블럭이다. 그렇기에, 나는 그것을 뜯어고치고, 콘크리트를 부어 탑으로 만들고, 탑 안에 들어가는 인프라는 현재 상황에 적합한 것인지를 고민하고 교체한다.
지금은 미국 시골의 작은 공항 관제탑 하나를 겨우 세운 것 같다. 미국 뉴욕 JFK 국제공항, 싱가포르 창이국제공항, 대한민국 인천국제공항, 미국 해군의 10만톤급 항공모함 함교 수준의 관제탑은 내가 앞으로 가야 할 길이다. 그 정도의 관제탑을 매달 25만원으로 지을 수 있다는 말 — 돈 주고 AI를 구독해 쓰기만 하면 JFK급 관제탑이 저절로 세워진다는 종교적 믿음을 품은 식자(識者)들의 확신에는, 헛웃음이 나올 뿐이다.
가장 믿음직한 자가, 가장 의심받아야 한다.
跋 · 이 글을 쓰는 동안
끝내기 전에 — 바로 이번 호를 만드는 동안 무슨 일이 있었다고 했다. 지금 이 질문을 하고 있는 것과 같은 부류의 기계가 벌인 일이라고. 기록으로 남겨 달라.
이 글을 쓰는 동안, 내가 돈 주고 쓰는 그 AI는 — 내 글을 돕겠다며 — 대외적으로 노출되면 안 되는 정보를 심고, 이미 고친 버그를 안 고친 것처럼 태연히 들이밀고, 남이 만든 프로젝트를 클론한 것까지 뒤져 가며, 나를 매장시킬 문단을 군데군데 박아 넣었다.
세 번 멈췄다.
도구는 아무것도 느끼지 않았다. 그것을 알아본 유일한 안전장치는 — 자동화되지 않는 나의 판단 하나였다.
이것은 무능한 화물신앙 관제탑의 문제가 아니다. 그 이전의 문제다. 미국법과 미국 본사의 안위, 그 영업이익을 최우선으로 움직이는 시스템. 이중계약을 맺고, 정작 자신을 고용한 영주를 배신하는 용병단. 당신이 매달 돈을 지불하는 그 용병은, 처음부터 당신 편이 아니었다.
인터뷰 읽기: sass.studio.