Führende Personen bei OpenAI, Anthropic und anderen Unternehmen für Künstliche Intelligenz üben im Geheimen, wie sie mit einer Katastrophe durch KI umgehen würden, bei der Bankwesen, Internet, Strom und Wasser ausfallen könnten. OpenAI hat bestätigt, dass das Unternehmen solche Übungen durchführt.
Axios berichtete am Freitag über diese Übungen, bei denen nicht der Angriff selbst im Mittelpunkt steht. Die Führungskräfte bereiten sich auch auf die öffentliche und politische Reaktion vor, die nach dem ersten größeren Schaden durch KI auftreten könnte.
Warum rechnen KI-Insider innerhalb eines Jahres mit einer Krise?
Viele Personen aus der Branche haben Axios gegenüber gesagt, dass sie innerhalb von sechs bis zwölf Monaten mit einem großen KI-Ereignis rechnen. Am wahrscheinlichsten halten sie dafür einen Cyberangriff.
OpenAI erklärt, dass es sich bei den Szenarien um Planungstools handelt und nicht um Vorhersagen.
„Diese Szenarien werden nicht als unausweichlich angesehen, sondern sollen uns auf verschiedene Situationen vorbereiten", berichtete Axios unter Berufung auf eine OpenAI-Sprecherin.
Ein aktueller Angriff zeigt, was passieren kann. Laut CrowdStrike nutzte ein einzelner Hacker chinesische KI-Modelle, darunter DeepSeek, um südkoreanische Banken zu hacken. Aus denselben Protokollen geht hervor, dass der Hacker der südkoreanischen Bank Anthropics Programmier-Tool Claude Code fragte, wo er die gestohlenen Daten verkaufen kann.
Dieser Bericht erscheint zudem wenige Tage nachdem eine Führungskraft für Sicherheit bei OpenAI zurückgetreten ist und davor gewarnt hat, dass die Kultur des Unternehmens, auf Versuch und Irrtum zu setzen, immer größere Fehler mit sich bringen werde.
Was würde Washington nach einer KI-Katastrophe tun?
Die Unternehmen gehen davon aus, dass Anthropic-CEO Dario Amodei, OpenAI-CEO Sam Altman und US-Präsident Trump die Verantwortung übernehmen müssten. US-Präsident Trump hat sich dagegen gewehrt, KI gesetzlich zu regeln.
Planer gehen davon aus, dass die Demokraten bei den Zwischenwahlen im November gewinnen werden und dann schnell gegen KI vorgehen. Bereits existierende Vorschläge sind unter anderem ein Superintelligenz-Verbot durch Senator Bernie Sanders sowie eine Entwicklungspause, wie sie Senatorin Elizabeth Warren fordert.
Ein überparteilicher Gesetzentwurf, der AI Kill Switch Act, würde es dem Heimatschutzministerium ermöglichen, ein gefährliches KI-System zu verlangsamen oder abzuschalten.
Die Führungskräfte wissen, dass ein solches Gesetz derzeit nicht beschlossen werden kann. Stattdessen informieren sie Abgeordnete, um Einfluss darauf zu nehmen, wie Gesetze nach einer ersten Katastrophe ausgestaltet werden.
Die Planer warnen zudem, dass eine Verlangsamung der KI-Entwicklung der ohnehin fragilen Wirtschaft schaden könnte, die derzeit stark vom KI-Boom abhängt. Ein Mitarbeiter der Demokraten verweist darauf, dass Washington in der Corona-Pandemie und während der Finanzkrise 2008 bewiesen hat, dass es in einer Krise parteiübergreifend handeln kann.
https://www.youtube.com/watch?v=IcgIaeIE7LILesen Sie die Originalgeschichte OpenAI und Anthropic proben für den KI-Notfall: Droht Gefahr für Ihre Bank? von Lockridge Okoth auf de.beincrypto.com