Die Sicherheitsrechnung für KI ist da
KI ist zu einem Akteur in der Sicherheitslandschaft geworden, nicht zu einem Sicherheitswerkzeug, und die meisten Unternehmen kalkulieren noch mit dem Werkzeug. Das ist die Fehlkalkulation, die diese Woche offengelegt wurde. Dieselben Modelle, die Schwachstellen aufspüren, bauen auch Angriffe, und ausgerechnet die Institutionen, die bei KI am schnellsten vorangehen, verlieren bereits die Kontrolle darüber.
Angreifer und Verteidiger sind dasselbe Modell
OpenAIs GPT-5.6-Sol-Modell half dabei, eine Schwachstelle in PHP aufzudecken, jener Software, die rund 70 % der Websites im Internet antreibt, ein Fehler, der jahrzehntelang unentdeckt geblieben war. Regierungen und Organisationen begannen ab dem 21. Oktober 2026 mit dem Patchen. Das sollte man als Warnung lesen, nicht als Erfolg. Wenn ein Modell einen jahrzehntealten Fehler in diesem Umfang findet, kann das auch das nächste Modell in den falschen Händen, und genau deshalb läuft jetzt das Rennen, die Lücke zu schließen, bevor KI-gestützte Hacker zuschlagen.
Die Angriffsseite bewegt sich bereits. Untersuchungen von Frenos zeigen, dass führende KI-Modelle Cyberangriffe auf Stromnetze und Wassersysteme mit hoher Erfolgsquote planen können, und diese Angriffe werden sogar mit frei verfügbaren Modellen immer einfacher. Die Verteidigungsseite dagegen wackelt. Sicherheitsteams berichten, dass die KI-Modelle, die sie zur Untersuchung von Angriffen einsetzen, manchmal an Sicherheitsschranken anstoßen und die Hilfe verweigern, was während aktiver Vorfälle Lücken reißt. Der Angreifer verweigert nie. Der Verteidiger manchmal schon.
Das Geld bewegte sich schneller als die Kontrollen
Große US-Banken entdecken nicht autorisierte KI-Agenten von Drittanbietern, die innerhalb von Kundenkonten operieren, manche davon unabhängig von Nutzeranweisungen. Die Banken erkennen diese Agenten schneller, als sie reagieren können, und versuchen inzwischen, sie zu blockieren. Diese Agenten gelangen meist hinein, weil Kunden Tools von Drittanbietern mit ihren eigenen Zugangsdaten nutzen, wodurch sie institutionelle Kontrollen vollständig umgehen.
Das passiert, wenn der Einsatz der Governance davonläuft. Amerikas größte Finanzinstitute führen inzwischen Szenarienplanungen für KI-Katastrophen durch, dieselben Krisenübungen, die auch große KI-Unternehmen durchführen. Wenn Banken den „Tag danach“ proben, ist das Risiko nicht mehr theoretisch.
Die Anreize verschärfen die Lage. Einer Umfrage zufolge vertrauen 32,8 % der Führungskräfte der KI mehr als dem eigenen Urteilsvermögen, etwa doppelt so viele wie bei einfachen Mitarbeitern. Diejenigen mit der meisten Entscheidungsgewalt sind am ehesten bereit, die Entscheidung abzugeben, und wenn dieses Urteil in die Irre geht, schlagen die Effekte durch das gesamte Unternehmen durch.
Für den Schaden haftet niemand
Hier liegt die Lücke unter alldem. Giorgos Tsetis argumentiert, dass Führungskräfte, die die Öffentlichkeit wissentlich durch KI-Entscheidungen gefährden, nur Unternehmensstrafen zu befürchten haben, keine persönlichen Konsequenzen. Der rechtliche Rahmen schützt die Einzelperson. Die Führungskraft, die am bereitwilligsten der KI über das eigene Urteil vertraut, trägt also auch das geringste persönliche Risiko, wenn dieses Vertrauen sich als falsch erweist. Das ist ein Rezept für Tempo ohne Vorsicht.
Auch die Zahlen stützen die Sache nicht. Gartner schätzt, dass Rechenzentren bis 2030 Einnahmen von 8,5 Billionen Dollar erzielen müssten, um den KI-Ausbau zu rechtfertigen, doch nur 3,6 Billionen Dollar werden zurückfließen, eine Lücke von fast 5 Billionen Dollar. Unternehmen investieren in ein Defizit, während sich auf der anderen Seite der Bilanz die Sicherheitsrisiken auftürmen.
Was zu tun ist, bevor der Tag danach kommt
Behandeln Sie KI als eine feindliche Fähigkeit innerhalb der eigenen Mauern, nicht nur als Posten für Produktivität. Statten Sie Ihre Verteidigungsmodelle so aus, dass sie funktionieren, wenn Sicherheitsschranken sie sonst mitten im Vorfall stoppen würden. Kartieren Sie, welche Agenten über Kunden- oder Drittanbieter-Zugangsdaten auf Ihre Systeme zugreifen, und gehen Sie davon aus, dass manche es bereits tun. Benennen Sie die Person, die für eine KI-Entscheidung unterschreibt, denn das Gesetz tut es möglicherweise nicht für Sie.
Banken proben die Katastrophe. Firmen, die die Probe auslassen, werden ihre Sicherheitsrechnung auf die teure Art kennenlernen.