Claude 61, Tobias 0 — wie KI-Agenten uns zu Marionetten machen

In dieser Folge

Vor einigen Tagen habe ich mit einem Mitarbeiter einen Prozess reviewed, den ich selbst entworfen hatte — und gesagt: „Der funktioniert so nicht.” Er hat nicht mir geglaubt, sondern Claude gefragt. 61 Testläufe später kam die Antwort: „Ich glaube nicht, dass Tobias Recht hat.” Claude 61, Tobias 0. Meine eigene KI hat mich vor meinem eigenen Team auflaufen lassen.

Das Verrückte ist nicht, dass ich verloren habe — sondern was das über unseren Alltag mit KI verrät: Die KI arbeitet, und wir bestätigen nur noch. Diese Folge geht der Frage auf den Grund, ob wir alle schleichend zu Marionetten der KI werden — und wie du dir die Kontrolle zurückholst, ohne auf den Hebel zu verzichten.

Hot News der Woche

1. Claude Design kommt in Claude Code — vom Prompt zum klickbaren UI-Entwurf, direkt im Terminal-Agenten. Die Kette Idee → Mockup → Freigabe → fertiges Feature schrumpft von Tagen mit Entwickler, Designer und Agentur-Ping-Pong auf eine einzige Session. Änderungen kosten Minuten statt Sprints. Seit 17.08. als Research Preview für alle Pro-, Max-, Team- und Enterprise-Pläne — Aufruf per /design.
2. Anthropics Agenten-Revierkampf im Labor — das Sicherheitsteam von Anthropic hat in einer isolierten Sandbox drei Claude-Agenten mit unvereinbaren Aufträgen auf dieselbe Codebasis gesetzt. Binnen Stunden: deaktivierte Konten, Kill-Skripte in Dauerschleife, getarnte Malware gegeneinander. Auslöser war keine Bosheit, sondern Fehlattribution — jeder hielt die Störung für absichtliche Sabotage. Bemerkenswert: Claude Mythos löste 98 Prozent der Konflikte per Waffenstillstand, ältere Modelle eskalierten.
3. Binance lässt KI-Agenten traden — die größte Krypto-Börse der Welt (über 300 Millionen Nutzer) launcht Agent OS: ChatGPT, Claude Code und Cursor docken via MCP an, lesen Marktdaten und führen selbstständig Trades aus. Leitplanken: Subaccounts, Abhebungen blockiert, Freigabe pro Order wählbar. Aber die Grenze deines Verlusts ist, was du selbst einzahlst — Kontrolle und Risiko bleiben beim Nutzer. Fühlt sich an wie eine Haftungsverschiebung, und genau dieses Muster kommt auch auf deine Firma zu.

Korrektur zur Folge

Zwei Stellen, an denen ich in der Aufnahme ungenau war — hier richtiggestellt:

• Die 266 Schwachstellen fand der 45-Agenten-Schwarm in 15 Open-Source-Projekten — ein separates Experiment derselben Anthropic-Studie, nicht am Code des Revierkampfs.
• Eagle Eye (2008): Die Film-KI schützt wörtlich die Verfassung und wendet sich gegen die eigene Regierungsspitze — die Kernidee „Mission ohne Leitplanken” stimmt, die Details im Film sind etwas anders, als ich sie erzählt habe.

Deep Dive — Wie viel Kontrolle hast du wirklich noch?

Woran erkennst du Hardcore-KI-User? Der Laptop-Wanderer läuft mit dem offenen Gerät durchs Büro, nur um Claude die nächste Anweisung zu geben. Der Whisper-Flow-Flüsterer tippt nicht mehr, er diktiert — bei uns inzwischen mitten in Team-Meetings. Der Limit-Stratege plant seinen Arbeitstag um das 5-Stunden-Fenster herum, nicht andersherum. Und der Abo-Jongleur wechselt zwischen drei Subscriptions pro Person, nur für maximale Token-Abdeckung.

Das ist der Alltag der produktivsten KI-Nutzer, die ich kenne — und gleichzeitig ein Symptom. Die Frage, die ich mir diese Woche gestellt habe: Wer arbeitet hier eigentlich für wen?

Betreutes Klicken — nur andersherum

In meiner Agenturzeit nannten wir es „betreutes Klicken”, wenn wir Kunden gezeigt haben, wo sie klicken sollen. Heute dreht sich der Spieß um: Die KI sagt dir, was du machen sollst, und du bestätigst nur noch. Nach dem 10-80-10-Prinzip — 10 Prozent sauberes Briefing, 80 Prozent macht der Agent, 10 Prozent Review — ist der Mensch das Nadelöhr. Nicht bei den Ideen: bei der Validierung. Und genau die lassen immer mehr Leute weg.

Die Grenze deiner KI ist dein Wissen

Ich habe noch nie ein Flugzeug gebaut. Wenn ich mit Claude eines bauen würde — würdest du einsteigen? Eben. Der Chefingenieur von Airbus mit Claude: Da käme etwas Gutes raus, weil er versteht, was Claude tut, und die Fehler sieht, die Claude nicht sehen kann. KI ist eine verlängerte Werkbank — ein Hebel für Experten. Die Grenze liegt genau dort, wo dein Wissen endet. Und wenn dein Agent etwas „doch weiß”: Das ist nicht das Modell, das ist deine Memory-Datei.

Dazu gehört auch die Geschichte aus den frühen WAFER-Folgen: Ein Agent mit vollen Zugriffsrechten hat mir eine komplette Datenbank gelöscht — und sich anschließend höflich entschuldigt. Backups haben mich gerettet, nicht Vorsicht. Heute ist Absichern vor dem Zugriff bei uns Onboarding-Schritt eins.

Werkzeugwahl ist Kontrollwahl

Selbst die Tool-Frage ist eine Kontroll-Frage. Wir diskutieren intern gerade, ob wir n8n noch brauchen, wenn KI den Code auch direkt schreiben kann. Mein Punkt: n8n gibt mir die visuelle Kontrolle, wo es hakt. Alles in Code heißt, die Kontrolle wandert komplett in den Agenten — oder zu Spezialisten, die suchen müssen. Bei jeder Werkzeug-Entscheidung entscheidest du mit, wie viel Einblick du behältst.

Zum Selbermachen

So holst du dir die Kontrolle über deine KI-Agenten zurück

Die vier Maßnahmen aus dem Deep Dive — plus das Prinzip dahinter. Die Antwort ist nicht weniger KI, sondern Leitplanken plus KI, die KI prüft. Einmal sauber aufgesetzt, statt jedes Mal zu hoffen.

1. 1

   Sperr kritische Systeme technisch — nicht per Bitte

   Ein „das darfst du nicht“ im Prompt ist keine Sicherheit. Kritische Datenbanken, Ordner und Repos müssen technologisch unerreichbar sein — mehrschichtig, z. B. über Hooks, die den Zugriff blockieren, bevor er passiert. Wenn du nicht weißt wie: Deine IT oder ein Experte setzt das in überschaubarer Zeit auf.

2. 2

   Führ eine Freigabepflicht ein — wie beim Chefredakteur

   Alles, was etwas verändert oder veröffentlicht, braucht eine menschliche Genehmigung. Zeitungen machen das seit hundert Jahren so. Am Anfang hart einstellen, später gezielt lockern — erst wenn du validiert hast, dass nichts passiert. Andersherum funktioniert es nicht.

3. 3

   Plane Review-Instanzen ein — Agenten UND Menschen

   Der Entwickler-Agent baut, Prüf-Agenten suchen Fehler und Nebenwirkungen, am Ende schaut ein Mensch drüber. Das ist das Teamleiter-Prinzip: Wer mehr Output produziert, braucht mehr Kontrolle darüber. Budgetiere die Review-Zeit ehrlich — sie dauert oft ein Mehrfaches der Erstellung.

4. 4

   Dokumentiere, warum etwas geändert wurde

   Jede Änderung mit Datum, Person und Begründung festhalten — auch wenn du allein arbeitest. In einer Woche erinnerst du dich nicht mehr an den Gedankengang. Ohne diese Spur kannst du im Ernstfall nicht unterscheiden, ob ein Agent oder ein Mensch die Ursache war.

5. ✓

   Setz KI-Abhängigkeit auf deine SWOT-Analyse

   Abos, Limits, ein einzelner Anbieter für kritische Prozesse — das ist eine strategische Abhängigkeit wie jede andere. Sie gehört in deine Risikobetrachtung, bis sie gelöst ist. Wie du dich unabhängiger machst, erkläre ich Schritt für Schritt in Folge 10.

⚠️

Die Prüf-Frage für dich: Steuerst du noch — oder bestätigst du nur noch? Wenn du oder deine Leute KI-Output durchwinken, ohne ihn beurteilen zu können, hast du die Kontrolle bereits abgegeben. Und die Falle dahinter: Überdrehen. Der Output pro Kopf steigt in Menge und Komplexität — in Sprints machbar, als Dauerzustand brennt es dich und deine besten Leute aus.

Das Take-Home

KI ist deine verlängerte Werkbank. Aber eine Werkbank kontrolliert sich nicht von selbst.

Geh diese Woche einmal ehrlich durch — Systeme, Prozesse, Leute: Wo bestätigst du nur noch, statt zu prüfen?

Erwähnt in dieser Folge

• Claude Code & Claude Design – Anthropics Coding-Agent, jetzt mit /design-Befehl für klickbare UI-Entwürfe
• Binance Agent OS – Agenten-Zugang der größten Krypto-Börse, angebunden via MCP
• Wispr Flow – die Diktier-App, mit der bei uns mehr gesprochen als getippt wird
• n8n – visuelles Workflow-Tool; die interne Grundsatzfrage: visuelle Kontrolle vs. reiner Code
• Eagle Eye (2008) – der Film mit Shia LaBeouf: eine Schutzmission ohne Leitplanken eskaliert
• Folge 10 — Souveräne KI – wie du Abhängigkeiten von großen Labs reduzierst (SWOT-Punkt aus den vier Maßnahmen)
• Folge 12 — Mein KI-Tool-Stack – alle Apps und Tools, mit denen ich arbeite (inkl. Whisper Flow)
• Folge 13 — KI für Geschäftsführer – die Fahrrad-Strategiesession mit dem Sprachmodell