Trump überlässt KI-Sicherheit den Tech-Konzernen: Das steht im neuen KI-Abkommen

Trump überlässt KI-Sicherheit den Tech-Konzernen: Das steht im neuen KI-Abkommen

US-Präsident Trump und sechs Technologieführer unterzeichneten am Dienstag eine freiwillige KI-Vereinbarung, in der Unternehmen dazu aufgefordert werden, ihre eigenen KI-Systeme selbst zu kontrollieren. Trump lehnt dabei Forderungen nach staatlichen Regelungen ab.

Trump veröffentlichte das einseitige Dokument auf Truth Social. Der Widerstand gegen Rechenzentren wächst, zudem sind KI-Agenten, also Software, die im Auftrag von Nutzern handelt, in mehreren bekannten Fällen außer Kontrolle geraten.

Was die KI-Vereinbarung von Technologie-Unternehmen verlangt

Nach Angaben von Reuters setzt die Vereinbarung auf vier Ebenen der Kontrolle. Unternehmen sollen zunächst interne Kontrollen entwickeln, die das Verhalten der Modelle vom Training bis zur Veröffentlichung überwachen, wobei auf Risiken wie Hacking, biologische und chemische Gefahren besonders hingewiesen wird. Ein internes Team überprüft, ob diese Kontrollen richtig funktionieren.

Danach arbeitet jedes Unternehmen mit einem externen Prüfer zusammen, der unabhängige Tests durchführt. Ein unabhängiger Ausschuss des Verwaltungsrats überprüft anschließend die Ergebnisse von den Prüfern und den internen Teams.

AP berichtete, dass neben Trump auch Dario Amodei von Anthropic, Sundar Pichai von Google, Mark Zuckerberg von Meta, Greg Brockman als OpenAI-Präsident, Jensen Huang von Nvidia und Elon Musk als Gründer von xAI unterzeichneten.

Alle Unterzeichner der KI-Vereinbarung.Alle Unterzeichner der KI-Vereinbarung. Bildquelle: Truth Social

„Die teilnehmenden Unternehmen werden sich regelmäßig treffen, um Standards und bewährte Methoden zu entwickeln, die die Sicherheit ihrer Systeme verbessern."

White House-Vereinbarung, laut Reuters

Warum die KI-Vereinbarung nur eingeschränkte Wirkung haben könnte

Die Zusage ist jedoch freiwillig. Im Text heißt es, dass eine gesetzliche Verankerung dieser Schritte später sinnvoll sein kann. Trump sieht die Vereinbarung als moralisch verbindlich und meint, sie setzt auf Reputation und nicht auf Gesetz.

Bisherige Berichte zum Dokument sagen nicht, wer die Prüfer auswählt, welche Standards sie nutzen oder was geschieht, wenn Kontrollen versagen. Trump kündigte an, in den nächsten Tagen eine Aufsichtsperson zu benennen, zudem soll ein Ausschuss mit etwa 10 Personen entstehen.

Trump lehnte Forderungen nach KI-Regelungen bereits Anfang dieses Monats ab und bezeichnete KI aktuell als Wettlauf mit China, bei dem kein Platz für den zweiten ist.

Die Branche ist weiterhin uneinig über die Debatte um eine Verlangsamung der KI-Entwicklung. Amodei, der Anfang dieses Monats in einem Essay für einen solchen Schritt warb, erklärte, die Technologie berge echte Risiken und die Reaktion darauf werde noch diskutiert.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

Dagegen meint Sprecher des Repräsentantenhauses Mike Johnson, dass die Verantwortung für KI-Sicherheit bei den Entwicklern liegt.

Daher könnte die nächste Bewährungsprobe bereits in wenigen Tagen kommen. Trumps Auswahl der Aufsichtsperson und das angekündigte Gremium werden zeigen, ob die Vereinbarung tatsächlich auch außerhalb kontrolliert wird.

Lesen Sie die Originalgeschichte Trump überlässt KI-Sicherheit den Tech-Konzernen: Das steht im neuen KI-Abkommen von Darryn Pollock auf de.beincrypto.com