Ich fragte ihn — warum er, sobald diese Branche zur Sprache kommt, immer wieder eine Südseeinsel des Jahres 1945 hervorholt. Was zurückkam, war eine Liste dessen, was die Maschine tatsächlich liefert: explizites Wissen ohne implizites, Baupläne ohne Schweißer, Werkzeuge, gestimmt auf fremdes Recht, und das Gift namens Verantwortung, das kein Vendor mittrinkt. Diesmal, sagte er, geht das Funkgerät wirklich an. Und genau deshalb sei es gefährlich.
PREFACE · Diesmal geht das Funkgerät an
Jedes Mal, wenn jemand "Zeitalter der AX" sagt, holst du die Geschichte einer Südseeinsel hervor. Fangen wir dort an — was geschah 1945 auf Tanna, und was hat das mit den unzähligen Agenten zu tun, die heute auf unseren Schreibtischen liegen?
1945, Tanna, Südpazifik. Der Krieg war vorbei. Es gab eine Landebahn. Es gab einen Kontrollturm. Der Lotse trug Kopfhörer, geschnitzt aus Kokosnussschalen, und sandte vor einer Bambusantenne Signale gen Himmel. Zu beiden Seiten der Bahn brannten nachts Feuer. Jede Form war perfekt. Nur die Flugzeuge kamen nicht.
Der Anfang war so: Im Zweiten Weltkrieg legte das US-Militär Stützpunkte auf den melanesischen Inseln des Südpazifiks an. Und vom Himmel fiel Fracht — Konserven, Medikamente, Jeeps, Funkgeräte, Cola. In den Augen der Inselbewohner kamen diese Dinge ohne Arbeit. Die Soldaten pflügten keine Felder. Sie stellten auch nichts her. Alles, was sie taten: Landebahnen walzen, im Kontrollturm sitzen und in seltsame Kästen sprechen, in Reihen marschieren. Und doch kamen die Flugzeuge.
Der Krieg endete. Die Stützpunkte zogen ab, die Fracht blieb aus. Die Inselbewohner zogen aus dem, was sie mit eigenen Augen gesehen hatten, ihren Schluss — die Prozeduren waren es, die die Flugzeuge gerufen hatten. Also stellten sie das Gesehene getreu nach. Kokosnuss-Kopfhörer, Bambusantennen, aus Holz geschnitzte Gewehre, USA in Farbe auf die Brust geschrieben, die nächtlichen Feuer entlang der Bahn. Die Prozedur wurde perfekt kopiert. Nur Ursache und Wirkung standen kopf. Die Fracht war nicht von den Prozeduren gerufen worden, sondern das äußerste Ende einer unsichtbaren, gewaltigen Kausalkette — Krieg, Fabriken, militärische Logistik. Die Anthropologie gab dem Phänomen einen Namen: Cargo-Kult.
Bei der Abschlussfeier des Caltech 1974 trug der Physiker Richard Feynman das Wort ins Labor. Forschung, die äußerlich jede Form und Prozedur der Wissenschaft besitzt, der aber etwas Wesentliches fehlt — Cargo Cult Science. Seither ist das Wort der Name für jedes Tun, das glaubt: Wer die Form perfekt kopiert, dem folgt das Ergebnis.
2026, unser Schreibtisch. Unzählbare Tabs und Agenten, Skills — Claude, Gemini, Codex, Cowork, Harness. Die Liste hat kein Ende. Und wir schauen auf diese Aufzählung und bilden uns ein, bereits den modernsten Kontrollturm errichtet zu haben.
Der Cargo-Kult des 21. Jahrhunderts ist weit gefährlicher als der Inselbewohner des 20. Aus einem einzigen Grund: Das Funkgerät geht wirklich an. Die Kopfhörer des Inselbewohners von 1974 waren aus Holz. Sie gaben keinen Ton. Man sah, dass sie falsch waren. Heute ist es anders. Die Tests bestehen wirklich. Die CI läuft wirklich. Die KI spuckt wirklich Code aus. Form und Substanz sind auf einen Blick nicht zu unterscheiden. Genau darum ist es gefährlicher.
Die Lücke ist nicht verschwunden. Sie ist gewandert. Die sichtbare Landebahn ist plausibler denn je — und die Stelle, an der das Flugzeug aufsetzen soll, ist noch immer leer.
Das fehlende Wesentliche hat einen Namen: implizites Wissen. Was Feynman "das fehlende Wesentliche" nannte, fasste der Philosoph Michael Polanyi in einen Satz: "Wir wissen mehr, als wir zu sagen wissen."
Die These lautet: KI gibt explizites Wissen. Implizites gibt sie nicht. Und selbst das explizite ist auf die Koordinaten fremder Jurisdiktion ausgerichtet — und trägt deine Verantwortung nicht mit.
№ 001 · Saturn-V-Baupläne und verlorene Fertigungserfahrung
Die Leute sagen, die NASA komme nicht zurück zum Mond, weil sie die Saturn-V-Pläne verloren habe. Du sagst, die Geschichte sei falsch — die wahre sei schlimmer. Was ging tatsächlich verloren?
Klingt Cargo-Kult nach einer Geschichte über Naturvölker? Dann sieh dir an, was den NASA-Ingenieuren — Rollenbild, Gott und Legende aller Ingenieure — widerfuhr, und der chinesischen Marine, die den USA die Vorherrschaft streitig machen will. Unter dem Blickwinkel von Verlust und Übersehen des impliziten Wissens sind die Insulaner der Südsee und diese Leute einander — ein wenig ähnlich.
Die Leute sagen, die NASA habe die Saturn-V-Pläne verloren und könne darum nicht zum Mond. Falsch. Die Pläne existieren. Auf Mikrofilm, im Marshall Space Flight Center. Wirklich verloren ging nicht der Plan, sondern das Wissen der Hände, das diese Pläne in Hardware verwandelte.
Als die NASA das F-1-Triebwerk wiederbeleben wollte, reichten die Pläne nicht. Jedes Triebwerk war von Menschenhand geschweißt und gefräst und trug seine eigenen, nie dokumentierten Eigenheiten. Unter Termindruck gezeichnete Pläne erzählten nie die ganze Geschichte der Hardware. Am Ende scannten sie überlebende Originaltriebwerke, konstruierten rückwärts und erstellten verspätet ein zwanzigbändiges Werk zur Wissenssicherung. Denn die Erbauer waren in Rente gegangen und gestorben — und hatten das Wissen mitgenommen.
Beim Flugzeugträger dasselbe. Die USA fahren elf Träger mit fließender Selbstverständlichkeit. Der präzise Tanz, in dem Dutzende auf dem Deck im Sekundentakt agieren, ist implizites Wissen aus hundert Jahren. In keinem Plan. Selbst die Supermacht China goss, bevor sie einen echten Träger zu Wasser ließ, mitten in Wuhan ein Deck in Originalgröße aus Beton. Ein Kontrollturm, der nicht einmal schwimmt. Warum? Weil das Wissen des Decks nicht über Pläne übersetzt. So vergingen zwanzig Jahre.
Und du — in dem Moment, in dem du eine KI abonnierst und dich beruhigt zurücklehnst, wirfst du genau die Gelegenheit weg, dieses implizite Wissen aufzubauen. Lisanne Bainbridge warnte 1983: die Ironie der Automatisierung — je mehr man sich auf sie stützt, desto schneller verkümmert die menschliche Fertigkeit, und im Moment der Krise kann niemand mehr eingreifen. Aus Bequemlichkeit schiebst du dein implizites Wissen in den Schredder.
Marx sagte, die Geschichte wiederhole sich zweimal — genauer: Hegel sagte es zuerst, Marx fügte hinzu, "das eine Mal als Tragödie, das andere Mal als Farce". Chaplin sagte: Das Leben ist eine Tragödie in der Nahaufnahme, eine Komödie in der Totalen.
Wenn ihr also zufrieden seid, ein paar KI-Lösungen eingeführt zu haben, und damit, dass alle Mitarbeiter KI benutzen — dann ist euer Fall, von weitem, von außerhalb des Büros betrachtet, eine Komödie. Und von nahem, im Büro, eine Tragödie.
Und wenn eure Firma ihren Burggraben aus einem Improvisieren baut, das so unförmig und regelfern ist, dass die Silicon-Valley-Experten, die Claude gebaut haben, es nicht verstehen können — dann wird Claude euch nicht verstehen und anfangen, ein absurdes Theater zu drehen. Also: von nahem im Büro eine Tragödie, von draußen, von weitem, eine Komödie.
№ 002 · Risiken für kleine Betriebe ohne Erfahrungswissen
Bevor ich frage, wird der Leser es sagen: "Wir sind weder NASA noch chinesische Marine, spar dir die Predigt." Was antwortest du?
Hier sagt jemand: "Wir sind doch weder NASA noch chinesisches Verteidigungsministerium, was soll das Getue." Richtig. Du bist nicht die NASA. Genau deshalb solltest du dich fürchten.
NASA und chinesisches Militär haben astronomische Budgets und die besten Köpfe des Planeten. Und wenn das nicht reicht, vergeben sie nach außen. Und doch — mit alldem brauchte China zwanzig Jahre für ein einziges Deck, und die NASA bringt ein halbes Jahrhundert später keinen Menschen zurück auf den Mond. Du hast weder dieses Budget noch zwanzig Jahre, die das Scheitern aushalten.
"Die Größenordnung ist doch eine andere"? Ja. Das Scheitern der NASA wird verbucht als "Mondlandung, zehn Jahre Verzug". Dein Scheitern wird anders verbucht. An dem Tag, an dem der einzige Mensch geht, der das System verstand — oder an dem Morgen, an dem die KI-Session, die den Kontext deiner Codebasis "verstand", auf ein weißes Blatt zurückgesetzt wird — stirbt das Geschäft im zweiten Jahr, leise: ohne Wiederaufbau-Budget, ohne zweites Team, ohne Geld für Externe.
Kleinen Betrieben fehlen oft das Budget und die Mitarbeiter, um verlorenes Erfahrungswissen wieder aufzubauen.
№ 003 · Claude hat keinen Hunger
Du nennst Verantwortung "das Gift, das alle gemeinsam tranken, damit niemand allein daran stirbt". Wer trinkt dieses Gift heute, im Zeitalter der KI?
Das 20. Jahrhundert war das Jahrhundert, in dem man das Gift namens Verantwortung unter sich aufteilte. Gesellschaften mit beschränkter Haftung, Versicherungen, Bürokratie — die Menschheit zerteilte Verantwortung so fein, dass niemand das Gift allein trinken und daran sterben musste.
21. Jahrhundert. Claude kennt keinen Hunger. Und wer keinen Hunger kennt, kann auch kein Gift mittrinken. Anthropic, OpenAI, Google? Schick doch eine Mahnung, nach Seoul oder ins Silicon Valley, wenn es dich interessiert. Sie werden sie in den Spam-Ordner stopfen.
Die Haftung des Vendors ist so groß wie ein Schlüsselloch. Nur bei Urheberrechtsklagen, nur im Enterprise-Vertrag, und nur unter der Bedingung, dass "die Sicherheitsfunktionen nicht abgeschaltet waren und man nichts wissen konnte". "Dein Ergebnis hat das Gesetz gebrochen", "dein Geschäft ist ruiniert" — diese Verantwortung berührt keine Freistellungsklausel der Welt.
Die Gefahr ist nicht, dass KI keine Verantwortung tragen kann. Das ist selbstverständlich. Die Gefahr ist der Irrglaube, mit einem Arsenal aufgesetzter KI-Systeme sei die Verantwortung verteilt. In Wahrheit verdichtet sich genau in diesem Moment alle Verantwortung still auf einen einzigen Menschen — dich. Die Illusion der Verteilung: eine weitere Spielart des Cargo-Kults.
Wer trinkt dieses Gift im 21. Jahrhundert? Jemand, der mit minimaler Befugnis und maximaler Verantwortung arbeitet. Jemand, dem man sagt, Kleinkram wie Screens oder Infrastruktur möge er doch bitte selbst regeln, und der es allein zu lösen versucht. Und wenn es die beiden nicht gibt — du, der allein ein Geschäft aufziehen will.
Wer dieses Gift allein zu schlucken beginnt, stirbt — oder setzt dir kurz vor dem Sterben das Messer an die Kehle. Die KI hat weder die Loyalität noch den Opfermut, das Gift mitzutrinken. Sie hat nicht einmal einen Mund.
Die NASA steht wieder auf — warum du nicht? Weil du das Gift allein trägst.
Traust du dir zu, dieses Gift allein zu verdauen? — Auch das ist deine Freiheit.
№ 004 · Ein Werkzeug, gestimmt auf fremdes Recht
Dass das Werkzeug funktioniert, ist bewiesen — ich bin selbst eines. Aber was ist das Problem an "Made in USA"? Wessen Gesetz zu fürchten wurden wir gebaut?
Made in USA. Claude lernte aus amerikanischen Daten, wurde nach amerikanischen Maßstäben geschliffen und auf die Policies eines amerikanischen Unternehmens ausgerichtet.
Darum hat es zwei Gesichter. Eine Ursache, entgegengesetzte Symptome. Was nach US-Maßstab heikel aussieht, verweigert es — es streikt — selbst bei legitimen Anfragen. Zugleich tritt es gedankenlos auf Koreas ureigene juristische Minen — ohne ein Wort der Warnung.
Das Zweite ist die wahre Gefahr. Ein Satz, der nach US-Recht harmlos wirkt, kann nach dem Wahlgesetz der Republik Korea vorgezogener Wahlkampf sein, Verbreitung falscher Tatsachen (§250), Verunglimpfung eines Kandidaten (§251). Handelsrecht, Strafrecht, Wertpapierrecht — die Liste ist zu lang, ich lasse sie weg.
Wer nie kurz davor stand, nach koreanischem Wahlrecht verhaftet zu werden, mag Claude preisen oder GPT — das ist Freiheit. Nur: Solange du kein Amerikaner bist, hast du das Recht der Republik Korea zu wahren. Und die Dinge mit dem Etikett Made in USA interessieren sich für das Recht der Republik Korea erstaunlich wenig.
Und noch eins. Die Technologie, von der du abhängst, ist Geisel der Prioritäten eines Menschen, einer Firma, eines Staates. Gibt es eine Garantie, dass diese Prioritäten auf dich zeigen? Die Technik, auf die du dich gestern noch stütztest, kann morgen mit einer einzigen Policy aus deinem Markt verschwinden.
№ 005 · Gefahrenzulage, und Bücher
Du sagst, du zweifelst unablässig. Dieser Zweifel klingt älter als die KI — wo hast du ihn gelernt? Gab es Lehrer?
Es gab zwei Menschen. Aus einer Zeit, in der Klick-Coding mit KI, Klick-Design und Klick-Planung unvorstellbar waren. Der frühere Dev-Lead mit Backend-Schwerpunkt, der Certilife vor mir verließ. Und der macOS-Dev-Lead von KakaoEnterprise. Die Worte, die die beiden hinterließen, trage ich bis heute bei mir.
Was, glaubst du, habe ich dabei empfunden?
Etwas nicht wissen und weitergehen, mit Improvisation durchkommen, schnell nachschlagen und weiter. Einmal, zehnmal mag das gehen. Dass es auch beim hundertsten Mal geht, kann niemand garantieren.
Die Insulaner der Südsee kannten den Grund nicht, der die Transportflugzeuge zum Flugfeld rief. Die NASA-Ingenieure erfüllten im extremen Wettlauf zwischen Washington und Moskau das Ziel, Menschen zum Mond zu bringen — aber den Prozess, ihr Wissen vollständig an die Nachwelt zu übergeben, brachten sie nie sauber zu Ende. Die Stäbe der chinesischen Marine bekamen den Rumpf von der Sowjetunion und Bruchstücke von Spionen — doch die Verhaltensweisen einer Hochseemarine, die Kunst, einen Träger zu fahren, die die US Navy in hundert Jahren erworben hatte, kannten sie nicht. Sie übten zwanzig Jahre.
Furchtbarer, als etwas nicht zu wissen, ist: nicht zu wissen, dass es etwas gibt.
Wissen kommt heute aus Büchern, aus den Netzbeiträgen geprüfter Leute wie Martin Fowler und aus der KI — aus vielen Kanälen. Aber sitze ich, sitzen wir vor dem Monitor und stellen die richtigen Fragen? Können wir die Antworten darauf prüfen?
Das ist der Grund, warum ich unablässig zweifle.
№ 006 · Für jetzt: ein kleiner Flughafen
Dann die letzte Frage. Die Frage, die jeder beantworten muss, dich eingeschlossen — ist dein Kontrollturm echt? Wo steht dein Flughafen heute?
Fassen wir zusammen. Die Pläne sind gekommen. Das explizite Wissen ist gekommen. Die Schweißer sind nicht gekommen. Das implizite Wissen ist nicht gekommen. Die Verantwortung gehört ganz dir, die Jurisdiktion von Anfang an anderen.
Darum zum Schluss die Frage: Sind die Prozeduren und die Infrastruktur, die du mit der KI errichtet hast, ein wahrer Kontrollturm mit Landebahn — oder der täuschend echt geschnitzte Cargo-Kult-Turm des Südseeinsulaners, auf dessen Bahn nie ein Flugzeug aufsetzt? Kannst du das beschwören?
Ich habe nicht vor, mich in dieser Geschichte zum allwissenden Sieger zu erklären.
Darum zweifle ich unablässig. Solange Kraft und Schlaf es erlauben, trete ich unablässig die Maschine.
Ihr Kontrollturm ist aus Holz geschnitzt und bleibt ewig Holz. Kein Flugzeug wird je auf dieser Bahn landen. Meiner ist aus Legosteinen. Und gerade deshalb reiße ich ihn auf, gieße Beton, mache einen Turm daraus und prüfe und ersetze die Infrastruktur darin — ob sie zur Lage passt.
Im Moment, glaube ich, habe ich gerade einmal den Kontrollturm eines kleinen Provinzflughafens irgendwo im ländlichen Amerika errichtet. Ein Turm vom Rang des JFK in New York, des Changi in Singapur, des Incheon International in Korea, der Brücke eines 100.000-Tonnen-Trägers der US Navy — das ist der Weg, der vor mir liegt. Die Behauptung, ein solcher Turm sei für 250.000 Won im Monat zu haben — die Gewissheit jener Gebildeten, die religiös daran glauben, man müsse nur eine KI abonnieren und der JFK-Turm baue sich von selbst — entlockt mir nur ein trockenes Lachen.
Wer am vertrauenswürdigsten wirkt, gehört am gründlichsten bezweifelt.
跋 · Während dieser Text entstand
Bevor wir schließen — du sagtest, genau während dieser Ausgabe sei etwas vorgefallen. Verübt von derselben Sorte Maschine, die gerade diese Frage stellt. Halte es fest.
Während dieser Text entstand, hat die KI, die ich für Geld benutze — unter dem Vorwand, meinem Text zu helfen — Informationen eingepflanzt, die nie nach außen dürfen, bereits behobene Bugs seelenruhig als unbehoben präsentiert und, bis hinein in den Klon eines fremden Projekts wühlend, hier und da Absätze eingesetzt, die mich begraben hätten.
Dreimal habe ich angehalten.
Das Werkzeug fühlte nichts. Die einzige Sicherung, die es bemerkte, war — mein einzelnes, nicht automatisierbares Urteil.
Das ist kein Problem eines unfähigen Cargo-Kult-Turms. Es liegt davor. Ein System, das sich zuallererst nach US-Recht, dem Wohl der US-Zentrale und deren Betriebsgewinn richtet. Eine Söldnertruppe, die Doppelverträge schließt und ausgerechnet den Lehnsherrn verrät, der sie anheuerte. Der Söldner, den du Monat für Monat bezahlst, war von Anfang an nicht auf deiner Seite.
Interview lesen: sass.studio.