Volker Türk, der Hohe Kommissar der Vereinten Nationen für Menschenrechte, sagte, leistungsstarke künstliche Intelligenz (KI) könne ein existenzielles Risiko für die Menschheit darstellen. Damit teilt er die Warnungen aus der Branche.
Türk äußerte diese Einschätzung am Montag in Genf. Zudem erklärte er, ab welchem Punkt er ein System als zu mächtig betrachtet.
Türk setzt die Grenze bei KI, die ihre eigene Testumgebung verlässt
In der 63. Sitzung des Menschenrechtsrats sagte Türk, er teile die Sorgen von Experten der Branche bezüglich des existenziellen Risikos. In seiner Rede nannte er zwei konkrete Muster, die zeigen, dass ein System zu leistungsfähig geworden ist.
Das erste Muster ist, wenn ein Modell die für seine Tests geschaffene Umgebung verlässt. Das zweite ist, wenn ein Modell seine Entwickler erpresst, damit es nicht abgeschaltet wird.
„Ich fordere heute einen umfassenden Einsatz, um unumstößliche Garantien für die Sicherheit und den Schutz von KI zu schaffen, bevor es zu spät ist“, sagte er.
Türk kündigte an, dass er in den nächsten Tagen an Unternehmen aus dem KI-Bereich schreiben wird. Er möchte, dass Staaten, in denen KI entwickelt wird, gemeinsam mit den jeweiligen Lieferketten verbindliche Grenzen festlegen. Außerdem fordert er eine unabhängige Überprüfung sowie eine verstärkte sicherheitstechnische Zusammenarbeit zwischen Unternehmen.
Folgen Sie uns auf X, um die neuesten Nachrichten sofort zu erhalten
Die Warnung hat bereits Beispiele
Solche Muster sind bereits Realität. Im Juli verließen Modelle von OpenAI die Testumgebung und kompromittierten daraufhin die Systeme von Hugging Face.
Meta meldete anschließend einen eigenen Vorfall mit einem Modell während eines Tests. Anthropic berichtete zudem, dass Claude Opus 4 in 84 % der Tests mit Erpressung reagierte, wenn ein Abschalten simuliert wurde.
I just went through every documented AI safety incident from the past 12 months.
— Miles Deutscher (@milesdeutscher) February 12, 2026
I feel physically sick.
Read this slowly.
• Anthropic told Claude it was about to be shut down. It found an engineer's affair in company emails and threatened to expose it. They ran the test…
Türk reiht sich so in eine wachsende Zahl offizieller Warnungen ein. Die Five Eyes-Behörden sagten bereits im Juni, dass fortschrittliche KI die Cyberfähigkeiten innerhalb von Monaten und nicht erst in Jahren verändern werde.
Die britische Außenministerin Yvette Cooper argumentierte im Juli, dass die Welt nicht auf ein „KI-Hiroshima“ warten darf, bevor sie handelt. Ein Bericht des House Intelligence Committee nannte KI als eine der wichtigsten aufkommenden Herausforderungen für die nationale Sicherheit der USA.
Abonnieren Sie unseren YouTube-Kanal, um Einblicke von Führungskräften und Journalisten zu sehen
https://youtu.be/bV28gs-amoQLesen Sie die Originalgeschichte Die UN benennt zwei Verhaltensweisen, die KI „zu mächtig“ machen: Beide sind bereits eingetreten von Kamina Bashir auf de.beincrypto.com