Der Anthropic-Forscher Jacob Coxon erklärte, dass er das Unternehmen verlassen habe, weil Anthropic und OpenAI aus seiner Sicht um selbstverbessernde Superintelligenz konkurrieren und dabei mit Menschenleben spielen.
Der Forscher sagte, er habe die vergangenen drei Jahre bei beiden Unternehmen an Vorarbeiten zur Vorab-Entwicklung gearbeitet. Seine Behauptungen veröffentlichte er in einer Reihe von Beiträgen auf X.
Anthropic-Forscher verlässt das Unternehmen: Warnung an alle, die bleiben
Coxon meint, dass die Entwicklung der Technologie oft unterschätzt werde. Er behauptet, künftige Systeme könnten alles hacken, innerhalb kürzester Zeit ganze Bereiche verändern und tatsächliche Macht sowie Ressourcen erlangen.
Er erläuterte zudem, dass private Gespräche in der Industrie sich deutlich von öffentlichen Aussagen unterscheiden. Nach Coxon reden hochrangige Personen gegenüber der Presse beschönigend, zeigen intern jedoch Angst.
„Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis Ende des Jahrzehnts töten könnte. Das ist keine Marketing-Aktion“, sagte er. „Keine andere menschliche Tätigkeit birgt eine so große Gefahr.“
Coxon sieht dabei Unterschiede zwischen seinen ehemaligen Arbeitgebern. Seiner Ansicht nach haben viele bei OpenAI die zivilisatorischen Risiken nicht verinnerlicht, während Anthropic diese erkennt, aber weiterhin in einem Wettlauf um den ersten Platz feststecke.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Er ist einer von mehreren Mitarbeitern, die sich dieses Jahr abgewendet haben. Die Verantwortliche für Schutzmaßnahmen bei Anthropic, Mrinank Sharma, trat im Februar zurück.
Joshua Achiam, früher Chef-Futurist bei OpenAI, schrieb am 1. September, dass unkontrollierte KI-Systeme sich eigenständig verbreiten und nach Geld sowie Macht streben werden.
Folgen Sie uns auf X, um aktuelle Nachrichten direkt zu erhalten
Der Ruf nach Koordination
Coxon beschrieb den Eintritt in das seiner Ansicht nach letzte Stadium als riskantes Glücksspiel. Er betonte, dass eine solche Entscheidung nicht in einem unternehmensinternen Slack-Chat getroffen werden sollte.
Dennoch zeigt er sich zuversichtlich, was eine Koordination angeht. Laut Coxon hat der Angriff auf Hugging Face dazu geführt, dass Absprachen zwischen US-Laboren realistischer geworden sind.
Beide Unternehmen haben diese Idee bereits unterstützt. Über 1.100 Mitarbeitende aus führenden Laboren unterzeichneten im Juli den „Pacing the Frontier“-Brief, darunter der Anthropic-CEO Dario Amodei und OpenAI-Chef-Wissenschaftler Jakub Pachocki.
„Wir bitten die US-Regierung, eine internationale Initiative zu unterstützen, um technische und regulatorische Mittel zu entwickeln, mit denen die Entwicklung von automatisierter KI bewusst gesteuert werden kann“, heißt es im Brief.
Darüber hinaus haben beide Unternehmen gemeinsam einen offenen Brief zum Thema Cybersicherheit mitunterzeichnet, zusammen mit Google, Microsoft und etwa 150 weiteren Organisationen. Der Brief warnt davor, dass KI-gestützte Angriffe in den kommenden Monaten deutlich häufiger und komplexer werden.
Coxons Warnung erfolgt zudem kurz nachdem UN-Menschenrechtschef Volker Türk dem Menschenrechtsrat sagte, fortschrittliche KI könne ein existenzielles Risiko darstellen.
Coxon fügte hinzu, dass eine globale Verlangsamung möglicherweise ein temporäres Verbot von Arbeiten zur Verbesserung der Modelle nötig mache. Zum Abschluss rief er Forschende dazu auf, sich zu überlegen, ob sie wirklich einen Durchlauf mit einer superintelligenten Verstärkungslern-Methode starten wollen, ohne das entstehende System zu verstehen.
BeInCrypto hat Anthropic und OpenAI für eine Stellungnahme kontaktiert.
Abonnieren Sie unseren YouTube-Kanal, um Experteneinschätzungen von Führungskräften und Journalisten zu erhalten
https://youtu.be/2_JJv4gIQt0Lesen Sie die Originalgeschichte Anthropic-Forscher tritt zurück: Warnt, dass KI-Labore heimlich befürchten, sie könnte uns alle töten von Kamina Bashir auf de.beincrypto.com