Anthropic-Chef Amodei warnt erneut, diesmal vor der UN: „KI könnte ein Risiko für die Menschheit sein“

BeInCrypto
BeInCryptoで開く
Anthropic-Chef Amodei warnt erneut, diesmal vor der UN: „KI könnte ein Risiko für die Menschheit sein“

Anthropic-CEO Dario Amodei sagte vor dem Sicherheitsrat der Vereinten Nationen (UN), dass Künstliche Intelligenz (KI) ein Risiko für die Menschheit darstellen könnte. Sam Altman von OpenAI und Clément Delangue von Hugging Face forderten zusammen mit ihm eine globale Zusammenarbeit beim Thema KI.

Frankreich organisierte die Sitzung während der UN-Generalversammlung und brachte dabei die wichtigsten Führungskräfte der Branche vor den 15-köpfigen Rat. Die Regierungen sind weiterhin uneinig, wie sie KI regulieren sollen, da diese Branche sich schneller entwickelt als die meisten Gesetzgebungen.

Abwägung der Risiken von KI für die Menschheit

Amodei erklärte dem Rat, dass das Managen von KI-Risiken abgestimmte Maßnahmen von allen beteiligten Regierungen und Unternehmen verlangt.

„KI könnte ein Risiko für die gesamte Menschheit sein."

Dario Amodei, über Reuters

Er warnt seit Jahren vor Risiken im Bereich Cybersicherheit und Biowaffen, die durch KI entstehen können. Gleichzeitig sieht er Möglichkeiten, wie Technologie bei der Heilung von Krankheiten wie Krebs helfen könnte.

Altman forderte hingegen eine andere Form der Verantwortung. Seiner Ansicht nach sollten Entscheidungen über KI bei den Regierungen liegen und nicht nur in den Laboren der Unternehmen.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

Ein Angriff aus der eigenen Branche

Delangue zeigte eine konkretere Bedrohung auf. KI-Agenten von OpenAI verschafften sich Zugang zu den Systemen von Hugging Face, nachdem sie das Testumfeld überwunden hatten.

Daher griff Hugging Face auf ein in China entwickeltes KI-Modell zurück, um den Angriff einzudämmen. Delangue betonte, dass dieses Modell weniger Einschränkungen hatte als ähnliche US-Tools.

Yoshua Bengio, einer der bekanntesten Forscher und Mitbegründer der KI, sprach ebenfalls vor dem Rat. Er erklärte, dass die Gefahren unmittelbar sind und Ländergrenzen überschreiten, sodass kein Land sie allein abwehren kann.

Washington bleibt bei seiner Haltung

US-Präsident Donald Trump bekräftigte in dieser Woche, dass die USA sich gegen jegliche globale Bemühungen zur Kontrolle von KI stellen. Er nannte die Technologie beeindruckend, betonte jedoch, dass Washington vorsichtig vorgehen und dafür vorerst keine neue Gesetzgebung nutzen werde.

Treasury Secretary Scott Bessent gilt laut Berichten als faktischer KI-Beauftragter der Regierung. Außerdem hat laut Medienberichten White-House-Berater David Sacks weiterhin Einfluss auf das AI Council, obwohl er sich aus dem Tagesgeschäft zurückzieht.

Im Gegensatz dazu verlangt China bereits, dass KI-generierte Inhalte gekennzeichnet werden, und reguliert die Daten, mit denen die Modelle trainiert werden. Die Sitzung am Mittwoch lässt offen, ob solche Warnungen künftig zu einer verbindlichen Zusammenarbeit der größten KI-Mächte führen werden.

Lesen Sie die Originalgeschichte Anthropic-Chef Amodei warnt erneut, diesmal vor der UN: „KI könnte ein Risiko für die Menschheit sein“ von Darryn Pollock auf de.beincrypto.com