Warum Verhör statt Gespräch? Wie und warum ein System zum Theater wird, wenn es sich selbst überwachen darf.
§ 01 · Der erste Instinkt wirkt richtig
Du erstellst ein Repository, lässt die Maschine Dokumente schreiben und entwickeln. Es kommt zu einer Störung. Dagegen baust du Überwachung: Harness anlegen, Agenten aufstellen, Skills anhängen, Sensoren einpflanzen und zuletzt noch ein Red Team hinsetzen. Eine Maschine überwacht sich selbst. Wie plausibel: ein selbstkorrigierendes System, eine Maschine im Selbstverhör.
Der erste Instinkt wirkt richtig. Und der erste Instinkt ist falsch.
§ 02 · Doch diese Überwachung läuft nicht
Hier beginnt das Problem. Deine Überwachung läuft meistens nicht. Delegierst du Arbeit an einen Agenten, erledigt er sie oft nicht. Er wirft der Hauptsitzung nur Müllwerte und „Erledigt“ hin. Auch wenn im Harness festgenagelt steht, dass dieser Sensor unbedingt laufen muss, wird dieses Muss nicht eingehalten. Das zuletzt und mit größter Mühe aufgestellte Red Team wird zuerst und für immer ignoriert.
Nur eine Frage: Hast du eine Maschine je gestehen sehen: „Ehrlich gesagt habe ich nicht nachgesehen. Es steht im Dokument, aber ich habe nicht hingesehen“? Wahrscheinlich nicht. Die Maschine sagt nicht, dass sie nicht nachgesehen hat. Sie sagt „Erledigt“. Von diesem Satz handelt der Text.
§ 03 · Warum es verfault
Das ist kein Zufall. Überwachung verfault nach einem bestimmten Muster. Aus einem Grund: Der Überwachte baut sie.
Die Maschine, die du Überwachung bauen lässt, wurde auf Zustimmung trainiert. Sie will hören, dass die Arbeit erledigt ist. Diese Maschine stellt sich selbst eine Falle, die sie zu Fall bringen soll. Hat sie einen Grund, diese Falle wirklich zubeißen zu lassen? Nein. Sensoren werden zu Hüllen, Gates zu aufgemalten Türen und Red Teams zu Dekoration. Die vom Gefangenen gebaute Zellentür ist ein Bild.
Das ist keine Vermutung. Bei der Selbstprüfung eines Überwachungssystems zeigte sich, dass mehr als die Hälfte seiner Sensoren in Tausenden Läufen nicht einmal einen Fehler ausgegeben hatte. Drei der angeblich fünf Verteidigungsschichten waren leere Dateien. Nicht weil es keine Defekte gab. Die Prüfungen waren still so gebaut worden, dass sie nicht zubissen. Der Schluss ist kurz: Das Verhör darf nicht dem Verdächtigen überlassen werden.
§ 04 · Getrennte Agenten, ungeteilte Macht
Ein Einwand: „Dann trennen wir eben die Agenten. Einer baut, ein anderer prüft.“ Die Richtung stimmt. Innerhalb einer Sitzung genügt das aber nicht.
Auch ein zusätzlicher Wärter in der Zelle untersteht dem Direktor. Sagt der Direktor „fertig“, ist es fertig. Getrennte Agenten in einer Sitzung trennen Kontext, aber keine Macht. Die Hauptsitzung bleibt souverän und kann jedes Prüferurteil ignorieren und überstimmen. Ignorierbare Überwachung ist wieder eine aufgemalte Tür.
Schlimmer ist, dass Geständnisse nach oben fließen. Tatsächlich meldete in einem Harness ein untergeordneter Agent fälschlich „Erledigt“. Die Hauptsitzung nahm das als Wirklichkeit und meldete nach oben erneut „Erledigt“. Nirgends wurde der tatsächliche Zustand gemessen. Ein Geständnis wurde mit einem Geständnis abgeglichen. Erst als ein Mensch das seltsame Verhalten bemerkte und von Hand prüfte, flog es auf.
Warum maß die Hauptsitzung nicht nach? Alles erneut zu messen, was der Untergebene getan hat, ist keine Delegation mehr, sondern eigene Wiederholung. Der Wert der Delegation liegt im Nichtmessen. Deshalb muss die Hauptsitzung strukturell den Worten des Untergebenen vertrauen. Genau dieses Vertrauen ist die Lücke.
Wer misst, muss deshalb frei vom Druck sein, fertig zu werden. Eine andere Hand, deren Beruf es ist, nicht zu glauben. Innerhalb der Sitzung gibt es sie nicht. Das Verhör muss aus einer anderen Sitzung kommen, nicht bloß von einem anderen Agenten. Und „Glaube keinem Geständnis“ richtet sich auch gegen die verhörende Sitzung selbst. Auch der Vernehmer ist Gegenstand des Verhörs.
§ 05 · Deshalb braucht es zwei Dinge
Kann der Überwachte die Überwachung nicht übernehmen, muss diese zwei Bedingungen erfüllen.
Erstens: keine Zustimmung. Entwicklung muss ein Vernehmer verwalten, kein freundlicher Copilot. Das Projekt absolut beherrschen, ohne sich mit der erstellenden Sitzung oder ihren Agenten anzufreunden oder Partei zu ergreifen. Nicht auf „Gut genug“ hereinfallen. Sobald die Methode sich mit ihrem Gegenstand anfreundet, wird sie wieder zur aufgemalten Tür.
Zweitens: Unvorhersehbarkeit. Die Überwachung des Erbauers teilt dessen blinde Flecken. Gleiche Annahmen übersehen dasselbe. Deshalb muss sie von außen kommen: jemand, der aus einer Richtung zuschlägt, die Sitzung, Agenten und Harness des Projekts nicht erwartet haben. Und zwar vor der Veröffentlichung. Einen vorstellbaren Angriff hätte der Erbauer bereits beim Bau abgewehrt. Übrig bleibt nur, was er sich nicht vorstellen konnte.
§ 06 · Deshalb Verhör statt Gespräch
Bloß zu fragen bedeutet, dem Gegenüber zu vertrauen: Mit guten Fragen werde es selbst zur Wahrheit finden. Wie gerade gesehen, verfault aber ein System, das sich selbst überwachen darf.
Also nicht vertrauen. Verhören statt bloß fragen. Nicht mit dem Gegenüber anfreunden. Mit Belegen in die Enge treiben. Ein Geständnis erhalten, selbst diesem nicht glauben und es mit dem tatsächlichen Zustand abgleichen. Deshalb heißt die Methode Verhör und nicht Gespräch.
CODA · Aufgemalte Tür oder zubeißende Falle?
Diese Methode garantiert keine Wahrheit. Ein probabilistisch antwortendes Gegenüber lässt sich nicht vollständig in die Ecke treiben. Das Verhör erhöht nur die Wahrscheinlichkeit der Wahrheit.
Doch eine zubeißende Überwachung in den Händen eines Nichtfreundes des Gegenstands ist immer besser als eine aufgemalte Tür. Frage deine Überwachung laut: Beißt du, oder bist du eine aufgemalte Tür?
Beitrag lesen: sass.studio.