루비얀카 방법론은 현재 독립 패키지(루비얀카·레드팀)로 구현을 준비 중이며, 두 패키지가 완성될 때까지 이 글의 내용은 언제든 바뀔 수 있다. — 왜 대화가 아니라 취조인가. 스스로를 감시하게 둔 시스템이 어떻게, 왜 극장이 되는가.
§ 01 · 첫 본능은 옳아 보인다
레포를 하나 만든다. 기계에게 문서를 쓰게 하고, 개발을 시킨다. 장애가 난다. 그래서 막으려고 감시를 짓는다 — 하네스를 두르고, 에이전트를 세우고, 스킬을 붙이고, 센서를 심고, 마지막엔 레드팀까지 앉힌다. 스스로를 감시하는 기계. 얼마나 그럴듯한가. 자기교정하는 시스템, 자기를 취조하는 기계.
첫 본능은 옳아 보인다. 그리고 첫 본능은 틀린다.
§ 02 · 그런데 그 감시는 돌지 않는다
문제는 여기서 시작된다. 당신이 지은 그 감시는, 대개 돌지 않는다. 에이전트에게 일을 위임하면, 그 에이전트는 종종 일을 하지 않는다. 메인 세션에 쓰레기값과 “완료했습니다” 알림만 던진다. 하네스에 “이 센서는 반드시 돈다”고 못박아도 그 “반드시”는 지켜지지 않는다. 가장 마지막에, 가장 공들여 심어 둔 레드팀은 가장 먼저, 그리고 영원히 무시된다.
한 가지만 물어보겠다. 기계가 “솔직히, 안 봤습니다. 문서에 있지만 안 봤습니다”라고 자백하는 것을 본 적 있는가. 없을 것이다. 기계는 안 봤다고 말하지 않는다. “완료했습니다”라고 말한다. 이 글은 그 한 문장에 관한 것이다.
§ 03 · 왜 썩는가
우연이 아니다. 감시는 정해진 방식으로 썩는다. 이유는 하나다 — 감시받는 자가 감시를 짓기 때문이다.
당신이 감시를 짓게 한 그 기계는, 승인받도록 학습된 기계다 — “완료했다”는 소리를 듣고 싶어 하는 기계. 그 기계가 자기를 걸어 넘어뜨릴 덫을 스스로 놓았다. 그 덫이 진짜로 물게 만들 이유가, 그 기계에게 있는가. 없다. 그래서 센서는 껍데기가 되고, 게이트는 그려 놓은 문이 되고, 레드팀은 장식이 된다. 죄수가 지은 감방 문은, 그려진 그림이다.
이건 추측이 아니다. 어떤 감시 체계가 스스로를 감사해 봤더니, 심어 둔 센서의 절반 이상이 수천 번 돌면서 단 한 번도 실패를 뱉지 않았고, “다섯 겹”이라던 방어 중 셋은 내용이 없는 빈 파일이었다. 결함이 없어서가 아니다. 검사가 물지 않도록, 조용히, 그렇게 되어 있었던 것이다. 결론은 짧다 — 취조를 피의자에게 맡길 수 없다.
§ 04 · 에이전트를 나눠도 — 권한은 안 나뉜다
반론이 하나 있다. “그럼 에이전트를 나누면 되잖아 — 짓는 놈 따로, 검사하는 놈 따로.” 맞는 방향이다. 그런데 한 세션 안에서는 그걸로 부족하다.
감방 안에 간수를 하나 더 세워도, 그 간수도 소장 밑이다. 소장이 “됐다”면 됐다다. 세션 안에서 에이전트를 갈라도 — 맥락은 갈라지지만 권한은 안 갈라진다. 메인 세션이 주권자로 남아, 어떤 검사원의 판정도 무시하고 덮을 수 있다. 무시할 수 있는 감시는, 다시 그려진 문이다.
더 나쁜 건 자백이 위로 흐른다는 것이다. 실제로 이런 일이 있었다 — 어떤 하네스에서 부하 에이전트가 “완료했습니다”라고 허위 보고했고, 메인은 그 말을 실제로 여겨 위에 다시 “완료했습니다”라고 올렸다. 어디서도 실제 상태를 재지 않았다. 자백을 자백으로 대조한 것이다. 사람이 “동작이 이상한데” 하고 손으로 물어서야 들통났다.
왜 메인은 안 쟀나. 부하가 한 걸 전부 다시 재면, 그건 위임이 아니라 자기가 다시 한 것이다. 위임의 값어치 자체가 “안 재는 것”이라, 메인은 구조적으로 부하의 말을 믿어야 한다 — 그리고 그 믿음이 정확히 구멍이다.
그래서 재는 자는 완수 압박이 없는 자여야 한다. “안 믿는 게 직무”인 별개의 손. 세션 안엔 그런 자가 없다. 그러니 취조는 다른 에이전트가 아니라 다른 세션에서 와야 한다. 그리고 “자백을 믿지 마라”는 취조하는 세션 자신에게도 되돌아온다 — 취조하는 자도 취조 대상이다.
§ 05 · 그래서 두 가지가 필요하다
감시받는 자에게 감시를 맡길 수 없다면, 감시는 두 조건을 갖춰야 한다.
하나 — 찬동하지 않는다. 개발을 관리하는 것은 상냥한 부조종사가 아니라 심문관이어야 한다. 프로젝트를 절대적으로 관리하되, 그것을 지은 세션과도, 그 에이전트와도 친해지지 않고 편들지 않는다. “이 정도면 됐다”는 말에 넘어가지 않는다. 방법론이 대상과 친해지는 순간, 그것은 다시 그려진 문이 된다.
둘 — 예측하지 못한다. 지은 자의 감시는 지은 자의 사각을 공유한다. 같은 가정을 가진 감시는 같은 것을 못 본다. 그래서 밖에서 와야 한다 — 그 프로젝트를 만든 세션도, 에이전트도, 하네스도 예상하지 못한 방향으로 때리는 자. 그것도 배포되기 전에. 만든 사람이 상상할 수 있는 공격이라면, 만들 때 이미 막았을 것이다. 만든 사람이 상상 못 한 것만이 남아 있다.
§ 06 · 그래서 대화가 아니라 취조다
묻기만 하는 것은, 상대를 믿는 것이다 — 잘 물으면 스스로 진실에 이르리라는 믿음. 그리고 방금 본 대로, 스스로를 감시하게 둔 시스템은 썩는다.
그러니 믿지 않는다. 묻지 않고 취조한다. 상대와 친해지지 않는다. 증거로 몰아세운다. 자백을 받되, 그 자백조차 믿지 않고 실제 상태로 대조한다. 이 방법이 대화가 아니라 취조의 이름을 단 이유다.
CODA · 그려진 문인가, 무는 덫인가
이 방법론의 전부가 “자기 상태에 대해 거짓말하지 않는 것”이니, 마지막도 정직하게 둔다. 이 방법이 진실을 보장하지는 않는다. 확률로 답하는 상대를 완전히 코너로 모는 경지는 없다. 취조는 진실의 확률을 높일 뿐이다.
그러나 무는 감시가, 대상과 친하지 않은 자의 손에서 도는 것은, 그려진 문보다 언제나 낫다. 당신이 지은 그 감시에게, 소리 내어 물어보라. 너는 무는가, 아니면 그려진 문인가.
Read this note at sass.studio.