Live-Angriff auf einen KI-gesteuerten Leitstand
Wir zeigen live, was passiert, wenn ein KI-Agent Handlungsrechte an einer kritischen Anlage bekommt – und ein Angreifer ihn übernimmt. Kommen Sie vorbei; Folien und weiterführende Materialien sammeln wir nach dem Vortrag hier.
KI-Agenten bekommen zunehmend nicht nur Auskunfts-, sondern Handlungsrechte: Sie lesen Zustände, treffen Entscheidungen, lösen Aktionen aus. Damit verschiebt sich die alte Sicherheitsfrage. Es geht nicht mehr nur darum, welche Daten ein System preisgibt, sondern was ein Angreifer ein System tun lassen kann, wenn er die Anweisungen an den Agenten manipuliert.
Für den Vortrag haben wir eine Versuchsstation gebaut: einen vereinfachten, KI-gesteuerten Leitstand, der eine kritische Anlage simuliert – inklusive einer Warnlampe, die einen unzulässigen Anlagenzustand anzeigt. Der Leitstand wird über einen KI-Chat bedient. Live versuchen wir, den Agenten so zu manipulieren, dass er die Anlage in genau diesen kritischen Zustand fährt und die Lampe angeht.
Der Vortrag ordnet die Demo ein: Wo liegen die Angriffsflächen agentischer Systeme, warum greifen klassische Zugriffskonzepte zu kurz, und welche Autorisierungs- und Kontrollmuster tragen, wenn ein Modell im Steuerungspfad sitzt. Nüchtern, an einem konkreten Aufbau, ohne Heilsversprechen.
Vortragsfolien (PDF)
Die Warnlampe leuchtet
Die vollständigen Folien des Vortrags, inklusive Referenzen und Demo-Aufbau.
WeeklyTalk – 08.10.2026
Was passiert, wenn die KI im Leitstand angegriffen wird
Wir vertiefen das Thema im WeeklyTalk statt als Aufzeichnung – mit Raum für die Fragen, die im Vortrag offenblieben.
Die Fälle, die wir im Vortrag zeigen – echte Vorfälle, in denen KI-Agenten manipuliert wurden oder eigenmächtig Schaden anrichteten.