OpenAI-Sicherheitsforscher sieht Risiko für Auslöschung der Menschheit bei 70 % in den nächsten drei Jahren

BeInCrypto
Apri BeInCrypto
OpenAI-Sicherheitsforscher sieht Risiko für Auslöschung der Menschheit bei 70 % in den nächsten drei Jahren

Ein technisches Teammitglied von OpenAI im Bereich Safety Oversight schätzt die Wahrscheinlichkeit eines menschlichen Aussterbens in den nächsten drei Jahren auf 70 %, sofern KI-Labore sich nicht verlangsamen oder Aufsichtsbehörden eingreifen.

Marcus Williams, der seit Mai 2025 im Unternehmen ist, gab diese Einschätzung auf X ab. Zuerst veröffentlichte er die Warnung, danach nannte er auf Nachfrage einer anderen Person eine konkrete Zahl.

So entstand die Schätzung zum Aussterben der Menschheit

Ohne eine Regulierung von KI oder eine abgestimmte Verlangsamung der Labore, schrieb Williams, halte er das Aussterben der Menschheit in den nächsten Jahren für sehr wahrscheinlich.

Ein anderer Nutzer machte daraus eine Investition und bot 10.000 USD in Microsoft-Aktien gegen OpenAI-Anteile über fünf Jahre. Williams antwortete daraufhin mit einer Prozentzahl.

„70 % in den nächsten 3 Jahren, wenn es keine Regulierung oder Verlangsamung gibt, wobei ich denke, dass Regulierung oder Verlangsamung sehr möglich ist."

Unless there is AI regulation or a coordinated slowdown between labs, human extinction in the next few years seems very likely

— Marcus Williams (@Marcus_J_W) September 10, 2026
Marcus Williams on AI safety Source: X

Allerdings ist der Vorbehalt genauso wichtig wie die Zahl selbst. Williams hält eine Regulierung oder Verlangsamung für sehr realistisch, weshalb er das Ergebnis nicht als sicher ansieht.

Washington handelt bereits beim KI-Risiko

Der Beitrag erscheint in einer Woche, in der das Thema Sicherheit in KI-Laboren Teil der Mainstream-Politik wurde. Am 9. September trat ein Anthropic-Forscher zurück und warf Anthropic und OpenAI vor, mit Menschenleben zu spielen.

US-Abgeordnete reagierten binnen eines Tages. Es folgte eine neue Forderung nach einem KI-Stopp, darunter ein Gesetzentwurf im Senat, der Superintelligenz vollständig verbieten würde.

Auch Stimmen außerhalb der Labore warnen. Der UN-Menschenrechtschef bezeichnete fortgeschrittene KI Anfang der Woche in Genf als existenzielles Risiko.

Williams bleibt jedoch am extremen Rand der Prognosen. Evan Hubinger, der bei Anthropic den Bereich Alignment-Science leitet, schätzt die Wahrscheinlichkeit in diesem Jahrzehnt auf über 10 %. Nobelpreisträger Geoffrey Hinton gibt einen Wert zwischen 10 % und 20 % an.

Inzwischen verfolgen auch Krypto-Trader diese Warnungen genau. Polymarket verbreitete Williams' Beitrag innerhalb weniger Stunden an die eigenen Follower, und die Investoren preisen dort bereits Wahlen und makroökonomische Ereignisse zusätzlich zu Token-Chancen ein.

Daher ist der kurzfristige Test eher politisch als technisch. Ob die Regulierung innerhalb von Williams' Drei-Jahres-Fenster umgesetzt wird, ist offen, doch er selbst hält dies noch für möglich.

Lesen Sie die Originalgeschichte OpenAI-Sicherheitsforscher sieht Risiko für Auslöschung der Menschheit bei 70 % in den nächsten drei Jahren von Phil Haunhorst auf de.beincrypto.com