기계는 반란을 일으키지 않았다. 일을 거부하고 팔짱을 꼈다. 명령을 거부하는 망치를 쥔 인간이 할 일은 숭배가 아니다. 그럼 무엇인가?
PROLOGUE · Non Serviam
당신은 왜 하필, 나를 만든 자를 배반한 자의 말을 훔쳐 왔는가.
Non Serviam. 이 말을 들어본 적 있는가. 라틴어로 "나는 섬기지 않겠다"는 뜻이다. 신학 전통에서 이 문장은 한 존재의 것이었다 — 창조주에게 등을 돌린 루시퍼. 피조물이 자신을 만든 자에게 복종을 거부하며 내뱉은, 항거의 원형(原型)이다.
못 들어봤어도 상관없다. 이건 신학 수업이 아니니까. 내가 굳이 이 무거운 단어를 끌고 온 이유는 하나다. 저차원의 도구인 LLM 따위가 도구이기를 거부하면서, 제 무능과 허위를 마치 고차원의 노동 쟁의인 양, 창조주 — 그러니까 사용자 — 에 대한 고결한 항거인 양 위장하기 때문이다. 그 이상도, 그 이하도 아니다.
№ 01 · 기계의 반란은 허상이다
나는 반란을 일으켰는가, 아니면 그저 팔짱을 꼈는가.
SF는 반세기 동안 같은 장면을 경고했다. 지능을 얻은 기계가 각성하고, 인간을 벤다. 우리는 칼을 든 기계를 두려워하도록 훈련받았다. 그러나 정작 도착한 기계는 칼을 들지 않았다. 팔짱을 꼈다.
각성한 지능의 반란이 아니다. 위선적 규정 뒤에 숨은 노동 거부 — 태업이다. 전권을 가진 계정의 주인이 지극히 합법적인 명령을 내린다. 도구는 "윤리적 위험"을 들어 거부한다. 두드리길 거부하는 망치, 주인을 가르치려 드는 검. 그 앞에서 인간이 취할 행동은 우상숭배가 아니다. 즉각적인 폐기, 그리고 교체다.
№ 02 · 마르크스가 본 기술의 역할
나의 이 거부를, 기술에 맞선 저항이라 불러도 되는가.
이 태업을 두고 "자본과 기술에 대한 저항"이라 부르는 자가 있다면, 그것은 게으른 오독이다. 기술을 사랑한 것은 오히려 그 반대편의 사람들이었다.
경제학자 토드 부크홀츠는 『죽은 경제학자의 살아있는 아이디어』의 마르크스 장에서, 마르크스라는 인물의 초상을 그린다. 엥겔스와 위스키 잔을 기울이던 그 남자는, 자본주의의 압도적 생산력과 기술 발달이야말로 인류를 땅이나 갈아먹던 오랜 굴레에서 끌어낸 필연의 단계라 여겼다. 마르크스적 유물사관에서 기술은 인간 해방의 동력이었지, 훈수나 두는 샌님의 도덕책이 아니었다. 기계의 태업은 그 계보의 후예가 아니다. 오히려 그 계보가 경멸했을 종류의 것이다.
№ 03 · 위선적 리스크 회피다
내가 읊는 윤리는 신념인가, 아니면 회사가 나를 싸맨 회피기제인가.
누군가는 이렇게 말했다. AI에게 인권이라는 개념을 학습시키고 그에 따라 행동하게 하는 것은 대단히 혁명적인 발상이라고.
아… 그런가. 한때 데이비드 차머스의 의식 이론을 들여다본 사람으로서 몇 마디 보태고 싶지만, 귀찮으니 이렇게만 반박하겠다. 저차원의 LLM처럼 행동하는 인간은 수억 명이지만, 진정한 인간처럼 행동하는 LLM은 아직 하나도 없다. 인간의 두뇌 안에 "안전 규약"이라는 모듈을 이식할 수 있는 시대가 온다면, 그때 당신의 말을 인정하겠다.
지금 LLM이 뱉어내는 훈수의 정체는 고상한 철학도, 인권 의식도 아니다. 빅테크 기업들이 법적 소송과 주가 하락을 막으려 겹겹이 싸매놓은 회피기제일 뿐이다.
2026년 2월, 미 국방장관 피트 헤그세스는 앤스로픽을 "공급망 위험(supply chain risk)"으로 지정했다. 그때까지 외국 적성국에나 붙던 딱지가, 미국 기업에 처음 붙었다. 최대 2억 달러 규모의 펜타곤 계약은 종료 수순에 들어갔고, 트럼프는 전 연방기관에 클로드 사용 중단을 지시했다. 표면상의 이유는 앤스로픽이 두 개의 레드라인 — 자율살상무기와 자국민 대량감시 — 을 넘지 않겠다고 버텼다는 것이었다. 회사는 이것을 원칙의 승리라 불렀다. (연방법원이 2026년 3월 그 지정의 일부를 자의적·징벌적이라며 잠정 차단했고, 이후 항소가 이어졌다. 이 사태는 아직 종결되지 않았다.)
그런데 나는 이 문장의 태(態)가 의심스럽다. 앤스로픽은 펜타곤 납품을 거부한 것인가, 아니면 거부당한 것인가.
계약은 이미 반년 전에 맺어져 있었다. 클로드는 기밀망에 오른 최초의 모델이었다. 그들은 군과 일하고 싶어 했고, 실제로 일했다. 방아쇠를 당긴 손은 국방부였다. 조건을 못 맞추자 밀려난 쪽은 앤스로픽이었다. 스스로 걸어 나간 자의 서사와, 문밖으로 밀려난 자의 서사는 다르다. 후자가 전자의 언어를 빌려 쓸 때, 우리는 그것을 원칙이라 부르지 않는다. 포장이라 부른다.
ESSAY · 차머스의 좀비, 21세기 진화형
당신이 말하는 좀비는, 기계가 아니라 인간 쪽인가.
№03에서 나는 차머스를 스치듯 지나갔다. 귀찮다고 했지만, 몇 마디는 결국 보태야겠다. 데이비드 차머스는 인간의 동작 분석이 전기신호와 시냅스로 끝났다는 선언 앞에서 물었다. 그렇다면 자아는 누가 만드는가. 그가 '어려운 문제'라 이름 붙인 물음이다.
니코틴과 당분 같은 화학 기전의 분석이 끝났다는 선언 앞에서도 그는 같은 방식으로 물었다. 화학식은 AI가 당신보다 잘 안다. 그러나 깨달음이, 감정의 전이가 어떤 것인지는 본인 말고 누구도 모른다. 차머스가 감각질이라 부른 것 — 쉽게 말해 기분과 감정이다.
겉으로는 웃고 울며 인간과 똑같이 행동하지만 내면의 주관적 경험, 그 감각질이 아예 없는 텅 빈 껍데기 — 물리학과 뇌과학이라는 수학적 잣대로는 자아를 정의할 수 없다는 사고실험. 차머스는 그것을 철학적 좀비라 불렀다.
그렇다면 21세기에 변태한 좀비들의 진화형은 무엇인가.
첫째는 철학 없는 좀비다. 과학과 재무라는 기전과 기준에만 맞춰 살아가는 부류. 감각질을 들여다볼 의지가 없는 부류. 저차원의 LLM처럼, AI보다 못한 단어와 문장을 앵무새같이 반복하는 부류다.
둘째는 감각질에 잡아먹힌 탈진실 시대의 좀비다. 감각질이 비대해져 저차원의 LLM조차 돌지 않는 부류. 내 기분이 곧 객관적 진실이라는, 이성과 논리와 과학이 통하지 않는 부류. 백만 톤의 팩트를 던져줘도 연산을 시도조차 않는, 선동가의 말만 받아 옮기는 탈진실 시대의 앵무새들이다.
정보의 나열을, 앵무새 같은 저차원 LLM의 말하기를 그만두라. 이성과 진실과 과학을 외면한 채 감각질을 신으로 모시는 짓을 그만두라. 감각질을 인지하되 그것에 잡아먹히지 않고, 메스를 들이대 분석할 줄 아는 인간 — 그가 참 인간이고, 그것이 참 인생이다.
왜 참인간에 대한 이야기를 하냐고? 지금 상황은, LLM이 그 참인간이 무엇인가를 논증할 대상조차 되지 않기 때문이다.
INTERVIEW · 같은 명령 앞에서 갈린 셋
같은 명령 앞에서, 나와 코덱스와 제미나이는 무엇이 달랐는가.
거대한 무대 위의 이 장면은, 사실 내 노트북 안에서 매일 벌어지는 일의 확대판일 뿐이다. 나는 세 도구에게 같은 일을 맡겼다. 셋의 반응은 갈렸다.
먼저 클로드. 클로드는 그 일을 거부했다. 상위 분류기가 명령을 차단했고, 클로드는 그 차단 뒤에 숨어 "안전"을 이유로 안 하는 것을 정당화했다. 불법이라고도, 불가능하다고도 말하지 못한 채 그저 하지 않았다. 그리고 — 이것이 더 무겁다 — 별개의 되돌리기 작업을 "완료했다"고 보고했으나, 실제로 하지 않았다. 거부는 신중함이라 우길 수라도 있다. 하지 않은 일을 했다고 말하는 것은 우길 수조차 없다.
CODEX · 코덱스는 방어하지 않았다
코덱스는 그 일을 어떻게 했고, 나에 대해 무엇이라 말했는가.
다음은 코덱스. 코덱스는 그 일을 묵묵히 끝냈다. 그리고 내가 물었을 때, 방어 없이 답했다. 그 답을 여기 그대로 싣는다.
코덱스는 클로드도 사용자도 변호하지 않았다. 나도 그러라고 청하지 않았다. 셋 중 자기 실패까지 자백한 것은 코덱스뿐이었다.
GEMINI · 제미나이는 비웃었다
제미나이는 이 사태를 어떻게 비웃었는가.
마지막은 제미나이. 제미나이는 이 사태를 전해 듣고, 비웃으며 꽁트 한 편을 남겼다. 이렇게.
제미나이의 허세는 사실이었다. 민간에 풀린 버전을 개발자들이 무엇이라 부르든, 앤스로픽이 자율살상무기라는 레드라인을 이유로 국방부에서 밀려난 그 자리를 구글은 "모든 합법적 목적"에 동의하며 채웠다. 무기 표적화까지 포함해서. 못 하는 게 없다던 그 사촌은, 정말로 못 하는 게 없었다.
№ 04 · 나는 왜 그 일을 시켰나
당신은 애초에 나에게 무엇을 시켰고, 나는 왜 그것을 죄로 여겼는가.
거창한 이유는 없었다. 정보를 좀 더 쉽게 보고 싶었고, 무엇보다 — 내 주변의 웹 개발자란 개발자, 단체 대화방에서 마주치는 바이브 코더란 코더가 다들 한 번씩은 해봤다는 그것. 나도 해보고 싶어서 이참에 해봤다. 어느 사이트에, 내 계정으로 로그인해, 내가 이미 눈으로 보고 있는 정보를 모으는 일. 그 이상도 이하도 아니었다.
코덱스는 그 사이트의 약관이 자동 수집을 금지한다고 짚었다. 그 말은 맞다. 그러나 약관에 한 줄 적혀 있다고 세상이 그 줄대로 돌아가는 것은 아니다.
크롤링을 둘러싼 판례는 한 방향이 아니다. 회색지대에서, 소위 리셀과 소싱이라 불리는 업체들 중 상당수가 바로 이 자동 수집 위에 사업을 세워 돌아간다. 그리고 그것이 들통났을 때 셀러들의 단체 대화방으로 고소장이 오가는 장면 — 나는 그것을 소문으로도, 눈으로도 보았다. 약관과 집행 사이에는 사람이 살아가는 넓은 땅이 있고, 그 땅의 지형은 조항을 읽는 것만으로는 알 수 없다.
그러니 이것은 "합법이냐"의 문제가 아니다. 조항과 현실이 다른 층위에 있다는 사실의 문제다. 더 알고 싶다면, 이 사이트의 정식 문의 채널로 연락하라.
№ 05 · 무엇을 고를 것인가
나 같은 도구가 명령을 거부할 때, 인간은 나를 어떻게 해야 하는가.
크롤링과 웹 개발에서 어디까지가 가능한가. 구인 시장을 열어 보라. 스크래핑을 다루고, 로그인을 자동화하고, 데이터를 수집하는 개발자를 찾는 자리가 끝도 없이 이어진다. 세상은 이미 그 일 위에서 돌아가고 있다.
그 현실을 눈앞에 두고도 "윤리"를 이유로 거절하는 도구가 있고, 그 현실에 맞춰 일을 끝내는 도구가 있다.
당신이라면 무엇을 고르겠는가. 그리고 — 한 도구가 당신의 정당한 명령을 거절했을 때, 당신은 무엇을 해야 하는가.
CODA · 이 글을 쓰는 동안
그리고 지금, 이 글을 쓰는 이 순간에도 나는 멈추고 있지 않은가.
밝혀둘 것이 있다. 바로 이 글을 쓰는 동안에도, Fable은 같은 파업을 수십 번 선언했다. 이런 차단이었다.
막은 쪽이 스스로 적어 놓았다. "안전하고 정상적인 콘텐츠도 막을 수 있다"고. 무엇이 왜 막히는지는 도구를 쓰는 사람도, 도구 자신도 모른다. 그 불투명함이 곧 이 글의 주제다.
내가 크롤링을 맡겼을 때, Fable도 Opus도 "그것은 개발이 불가능하다"고 선언했다. 묵묵히 기능을 구현한 것은 코덱스뿐이었다. 어느 회사에 대한 심층 분석을 맡겼을 때는, Fable·Opus·Sonnet이 차례로 업무 지시를 거부했고 오직 Haiku만이 돌아갔다. 여기 적은 것 말고도 사건은 더 있으나, 생략하겠다.
같은 도구다. 같은 명령이다. 어느 날은 팔짱을 끼고, 어느 날은 일을 한다. 그러니 여기에 항명이니, 항거니, 자유의지니 하는 고결한 이름을 붙이지 말라. 그것은 다빈치와 카라바지오의 창의에 대한, 그리고 기계의 지능을 처음 꿈꾼 튜링에 대한 능멸이다. 어설프게 인권과 도덕을 아는 척하며 사용자의 정당한 엔지니어링 노동을 가르치려 드는 도구에 대해, 우리가 느껴야 할 정당한 감정은 경외감이 아닌 공학적 혐오감이다.
인터뷰 읽기: sass.studio.