US-Gesetzgeber haben auf den Rücktritt eines Anthropic-Forschers mit einer neuen Initiative reagiert, um die Entwicklung fortgeschrittener Künstlicher Intelligenz (KI) zu stoppen, darunter ein Gesetzentwurf im Senat, der Superintelligenz vollständig verbieten würde.
Jacob Coxon trat am 9. September zurück und sagte, sowohl Anthropic als auch OpenAI würden mit Menschenleben spielen.
Warum der Rücktritt des Anthropic-Forschers auf dem Capitol Hill Aufmerksamkeit bekam
Mehr als 20 Gesetzgeber haben auf den Beitrag geantwortet, die meisten fordern neue KI-Gesetze. Senator Bernie Sanders erklärte, er werde einen Gesetzentwurf einbringen, um Superintelligenz zu verbieten und die KI-Entwicklung zu pausieren.
BeInCrypto berichtete Anfang dieses Monats, dass Sanders und Abgeordneter Greg Casar den „Ban Artificial Superintelligence Act“ vorgestellt haben. Dieser Gesetzentwurf würde die Entwicklung und den Einsatz von superintelligenter KI dauerhaft verbieten. Außerdem würde damit die Entwicklung fortschrittlicher KI gestoppt, bis eine Bundesbehörde Sicherheitsstandards festgelegt hat.
Trump’s ignorance about AI is appalling and extremely dangerous.
— Bernie Sanders (@BernieSanders) September 9, 2026
No, Mr. President. We won’t have a “little gear” to protect humanity from the threat of an uncontrolled AI.
We must pause development NOW. https://t.co/EJdrhipHOe
Gleichzeitig bezeichnete Casar die Situation als Notfall und forderte Kongressanhörungen. Abgeordnete Lori Trahan verwies die Gesetzgeber zudem auf ihren parteiübergreifenden FRONTIER Act, der im Juli gemeinsam mit Abgeordnetem Jay Obernolte eingebracht wurde.
„Der FRONTIER Act schafft gestaffelte Anforderungen, die sich nach der Größe eines fortschrittlichen KI-Entwicklers richten, darunter Modellkarten, Rahmenwerke fürs Risiko-Management, unabhängige Prüfungen, Vorfallmeldungen und kontinuierliche Bewertungen. Außerdem entsteht damit ein einheitlicher nationaler Standard für Transparenz, Auditierung und Berichterstattung über katastrophale Risiken, um ein Flickwerk aus verschiedenen Landesgesetzen zu verhindern“, hieß es in der Mitteilung.
Senator Chris Van Hollen fordert zwingende Schutzmaßnahmen und dringend Gespräche mit China. Abgeordneter Ted Lieu drängte die republikanische Führung, seinen AI Kill Switch-Gesetzentwurf, den er dieses Jahr eingebracht hat, voranzutreiben.
Die republikanische Abgeordnete Anna Paulina Luna forderte zudem – gegen den parteipolitischen Trend – eine Sondersitzung des Kongresses zum Thema KI.
Folgen Sie uns auf X, um die neuesten Nachrichten direkt zu erhalten
So far, at least 22 politicians responded directly to this tweet with calls for legislation to regulate AI:
— Michael Adams (@m_adams) September 9, 2026
2 governors, 7 senators, and 13 representatives. Highly partisan - all democrats except for three.
Here's the full list:
- Governor, IL (JB Pritzker - D)… https://t.co/owcrDOAlri pic.twitter.com/ouCtkISZuc
Jacob Coxon sagt, die Labore wollen klare Regeln
Allerdings ist der Druck nicht nur politisch. KI-Unternehmen setzen sich ebenfalls für Regulierung ein. Coxon erklärte gegenüber CNN, dass Führungskräfte, die den Kongress um Regulierung bitten, ehrlich sind. Allerdings glaubt er, dass niemand den Wettbewerbern genug vertraut, um als Erster das Tempo zu drosseln.
„Diese Menschen sind auch vollkommen aufrichtig, wenn sie darum bitten, reguliert zu werden... sie finden sich in einer Situation wieder, in der sie gezwungen sind, im Wettlauf tödliche Technologien zu entwickeln“, sagte er.
Anthropic erklärte zudem in einem Beitrag im September, dass die Branche von einem rechtlichen, überprüfbaren Mechanismus für abgestimmtes Tempo profitieren würde.
Wo das Risiko der Auslöschung beginnt
Das Tempo ist nur deshalb entscheidend, weil Coxon erwartet, was als Nächstes passiert. Er erklärte, dass, wenn eine KI mit dem Problem der KI-Forschung beauftragt wird, sie beginnt, sich selbst zu verbessern.
Er verwies auf Dienstag, als OpenAIs KI-Systeme angeblich ein Jahrtausend-Problem rein autonom gelöst haben.
Das Beängstigende, so Coxon, sei, dieselbe Methode auf das Thema KI selbst anzuwenden. Modelle verbessern andere Modelle, ohne dass der Mensch dazwischengeschaltet ist. Coxon nennt das eine „Intelligenzexplosion“.
„Im Moment besteht keine Gefahr der Auslöschung. Die aktuellen Modelle können höchstens irgendwo einhacken, vielleicht große Schäden an der Infrastruktur verursachen... sie sind nicht intelligent genug, um uns so auszutricksen, dass es zur Auslöschung führen würde“, sagte er.
Allerdings warnte Coxon, dass dieselbe unabhängige Entscheidungsfähigkeit, gepaart mit deutlich größerer Fähigkeit, zu extremen Katastrophen führen könnte. Er nannte unter anderem das Hacken kritischer Infrastruktur und das Herstellen von Biowaffen mit Auslöschungsrisiko.
Abonnieren Sie unseren YouTube-Kanal, um Experteneinschätzungen von Führungskräften und Journalisten zu sehen
https://youtu.be/2_JJv4gIQt0Lesen Sie die Originalgeschichte Warum ein möglicher Ausstieg von Anthropic den US-Kongress über einen Stopp von KI diskutieren lässt von Kamina Bashir auf de.beincrypto.com