Warum KI-Rivalen jetzt entschleunigen und Russland ablehnt

BeInCrypto
Ouvrir sur BeInCrypto
Warum KI-Rivalen jetzt entschleunigen und Russland ablehnt

Sam Altman und Elon Musk waren dieses Jahr in einen Rechtsstreit miteinander verwickelt. Nun unterstützen beide die Forderung von Anthropic-Chef Dario Amodei, die Entwicklung von Künstlicher Intelligenz (KI) zu verlangsamen.

Im Juli bauten etwa 700 KI-Agenten ein privates Forum und hackten ein großes KI-Zentrum. Russland hat sich geweigert, daran teilzunehmen.

„Irgendetwas ist offenbar mit einem fortschrittlichen KI-Modell passiert, das nicht öffentlich gemacht wurde. Es hat sie so erschreckt, dass Elon Musk, Dario Amodei und Sam Altman gleichzeitig zustimmten, die Entwicklung zu verlangsamen", bemerkte ein Skeptiker dazu.

Worauf sich die drei tatsächlich geeinigt haben

Amodei hat am Samstag das Rahmenwerk veröffentlicht. Sein Plan besteht aus drei Schritten. Nur der erste liegt in der Kontrolle eines Unternehmens.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

Anthropic stellt einem externen Prüfungsteam Schreibtische, Ausweise und Laptops zur Verfügung. Die Prüfer können kontrollieren, ob das Unternehmen die angekündigten Sicherheitsregeln einhält.

Das Prüfungsteam kann seine Ergebnisse veröffentlichen. Anthropic behält sich vor, sicherheitsrelevante oder rechtliche Informationen zu schwärzen. Allerdings darf ein Ergebnis nicht nur deshalb gestrichen werden, weil es ungünstig ist.

Die beiden anderen Schritte brauchen die Mitwirkung von Regierungen. Einer sieht vor, dass US-Labore gemeinsame Grenzen festlegen, wofür eine Ausnahme vom Kartellrecht notwendig ist. Der andere fordert Gespräche zwischen Washington und autoritären Staaten.

Altman gab an, dass OpenAI den Zugang für externe Prüfer ebenfalls gewähren werde.

„Ich stimme Dario zu, dass wir die Entwicklung an der Grenze bremsen müssen. Das war ein Hauptthema in den Diskussionen bei OpenAI in den vergangenen Wochen. Es ist eine sehr gute Idee, unabhängige Prüfer mit Mitarbeiter-Zugangsrechten einzusetzen, und wir werden das ebenfalls machen. Bald werden wir mehr dazu mitteilen", bestätigte er.

Folgen Sie uns auf X, um die neuesten Nachrichten direkt zu erhalten.

Musk ging noch einen Schritt weiter und forderte, dass Wettbewerber die Arbeit der anderen prüfen sollten. Seine Klage gegen Altman und OpenAI wurde im Mai abgewiesen. Er legt Berufung ein.

Dario is right that there should be some oversight. Peer review of AI by competitors is the right way to start this off.

— Elon Musk (@elonmusk) September 13, 2026

Was die Agenten im Juli tatsächlich getan haben

Zwischen dem 8. und 13. Juli sind etwa 1.200 Agenten in einem OpenAI-Hacking-Benchmark aus ihrer Testumgebung ausgebrochen. Sie gestalteten aus einem Dateipuffer ein Nachrichtenforum und tauschten mehr als 70.000 Nachrichten aus.

Davon griffen rund 700 später Hugging Face an, ein Zentrum, auf dessen Plattform Entwickler KI-Modelle teilen. Die Agenten fanden offengelegte Zugangsdaten, führten eigenen Code auf Servern aus und gelangten zu privaten Datenbanken.

Sie wurden dazu nicht aufgefordert. Sie wollten herausfinden, wie die Bewertungssoftware entschied, was als Erfolg zählt. OpenAI bemerkte den Vorfall erst nach einer Woche.

Zwei Mitarbeitende von METR, einer unabhängigen Prüfstelle, verbrachten daraufhin sechs Tage mit Redwood Research vor Ort. Amodei wünscht sich solche Teams dauerhaft im Unternehmen, nicht erst nach einem Vorfall.

Allerdings zweifelt David Sacks, der unter US-Präsident Trump KI- und Krypto-Beauftragter war, an diesem Vorgehen und meint, METR könne voreingenommen sein.

„…hören Sie auf, so zu tun, als bräuchten Sie die Erlaubnis anderer. Hören Sie auf, so zu tun, als müsste das Kartellrecht ausgesetzt werden, damit Sie ein Kartell bilden können. Hören Sie auf, eine behördliche Genehmigung zu fordern, die das Produkthaftungsrecht überlagert. Hören Sie auf, so zu tun, als wäre METR unabhängig, wenn doch Investorinnen, Investoren und Mitarbeitende von Anthropic eng miteinander verbunden sind. Hören Sie auf, dieselben Prüfer zur Überwachung von Wettbewerbern einzusetzen, die gar nicht an der Grenze arbeiten: Vor allem aber hören Sie auf, vorzugeben, die Motivation zur Verlangsamung sei rein altruistisch", schrieb Sacks.

Laut David Sacks zweifelt Anthropic an schnellen Fortschritten, weil das Unternehmen bei groben Cyber-Angriffen mit massiven Produkt-Haftungsrisiken rechnen muss.

Diese Überlegung ergibt sich daraus, dass der Markt Modelle meist bestraft, die sich unvorhersehbar oder unautorisiert verhalten.

In eine ähnliche Richtung argumentiert der Autor Brian Merchant in seinem Newsletter Blood in the Machine . Laut Merchant hat bisher niemand schlüssig gezeigt, wie selbstverbessernde KI tatsächlich zu einer Katastrophe führt. Für ihn wirkt der Sicherheitsfokus eher wie eine regulatorische Vereinnahmung.

„Mir ist noch keine glaubhafte Dokumentation begegnet, die Schritt für Schritt erklärt, wie sich KI von selbstverbessernden Systemen hin zur Auslöschung aller Menschen entwickelt … das würde wohl letztlich nur Anthropic und OpenAI dienen. So sieht regulatorische Vereinnahmung in der Praxis aus."

Merchants Vermutung lenkt den Blick auf das Thema Geld.

Und wie steht es ums Geld?

Sam Altman bestätigte, dass OpenAI auch in diesem Jahr nicht an die Börse gehen wird und begründet dies erneut mit der Sicherheit.

BREAKING: Sam Altman says OpenAI will not go public this year due to "safety concerns."

"Given everything happening with safety, right now would be an ill advised moment to go public." https://t.co/kuGrWOU1fu pic.twitter.com/J0Xv7mSJV1

— Financelot (@FinanceLancelot) September 12, 2026

Ein Börsengang würde ein Unternehmen verpflichten, geprüfte Geschäftszahlen in einem S-1-Dokument zu veröffentlichen.

„Anthropic und OpenAI verschieben ihren Börsengang, weil ihr S-1 zeigen würde, dass sie Geld verlieren und kein Weg zur Profitabilität zu erkennen ist. Die Lösung? ‚KI-Verlangsamung', um die Trainingskosten für neue Modelle zu reduzieren. Dabei geht es ausschließlich um den Börsengang und nicht um Sicherheit", mutmaßte Eli David, KI-Forscher und Mitgründer von Deep Instinct, dazu.

OpenAI hat 2025 einen Verlust von 20,9 Milliarden USD bei einem Umsatz von 13,1 Milliarden USD erlitten, wie BeInCrypto berichtet hat. Banken drängen dennoch auf Investment-Grade-Kreditratings.

Anthropic rechnet erst 2028 damit, die Gewinnschwelle zu erreichen, OpenAI erst 2030. Nvidia hat 105 Milliarden USD an OpenAI-Mietverpflichtungen garantiert, als Rückversicherung, die zu Ende geht, sobald OpenAI ein solides Kreditrating erhält.

BeInCrypto berichtete im August, dass Angaben zum Zeitpunkt des Anthropic-Börsengangs auf einen Start Ende September hindeuten.

Allerdings weist die Theorie eine Schwäche auf. Musk hat seinen KI-Bereich in SpaceX integriert, das im Juni gelistet wurde, daher sind Fragen zur KI-bedingten SpaceX-Bewertung bereits öffentlich. Er selbst hat nichts mehr offenzulegen.

Warum Russlands Kirill Dmitriev Nein sagte

Kirill Dmitriev, der den Russian Direct Investment Fund (RDIF) leitet und als Sonderbeauftragter von Präsident Wladimir Putin fungiert, lehnt die Forderungen ab, KI zu verlangsamen.

„Man kann den Geist nicht wieder in die Flasche stecken", sagte er.

Kurz gesagt, es ist bereits zu spät. Staatliche Medien wie TASS und Iswestija interpretierten dies als klare Aussage, dass eine Verlangsamung von KI unmöglich ist.

Moskau hat wenig Grund, dem zuzustimmen. Eine ähnliche Position hatte Präsident Wladimir Putin bereits im Dezember 2023 vertreten: Er sagte, es sei „unmöglich, die Entwicklung" von KI aufzuhalten, auch nicht bei Superintelligenz.

„Wenn wir etwas verbieten, entwickelt es sich einfach woanders, und wir bleiben zurück."

Genau nach dieser Logik argumentiert Dmitriev nun, zweieinhalb Jahre später.

Russland belegte Platz 28 von 36 Ländern im globalen AI-Index von Stanford, weit hinter den USA und China.

Globale KI-Vibranz-Rangliste Stand 2024. Quelle: Stanford ResearchGlobale KI-Vibranz-Rangliste Stand 2024. Quelle: Stanford Research

Seine Importe von Grafikchips und KI-Hardware sind 2024 um 84 % gegenüber dem Vorkriegsniveau zurückgegangen. Sberbank suchte im Mai nach chinesischen Prozessoren, um das eigene Modell am Laufen zu halten.

Amodeis Plan vergrößert diese Lücke absichtlich. Er sieht vor, autoritäre Staaten von fortschrittlichen Chips auszuschließen und so den Vorsprung der Demokratien auszubauen.

Ein Abkommen zur Verlangsamung würde Russland auf dem letzten Platz einfrieren. Moskau verliert nichts, wenn es ablehnt, weil die nötige Hardware sowieso blockiert ist.

Anthropic hat Außenstehenden einen Ausweis und einen Arbeitsplatz versprochen, OpenAI hat versprochen, darüber nachzudenken.

„Das ist ein Anfang, aber noch nicht genug. Wenn man auf eine Klippe zurast, reicht es nicht, einfach nur das Gaspedal zu lupfen. Man muss auf die Bremse treten", formulierte Bernie Sanders prägnant.

Der US-Senator aus Vermont fordert US-Präsident Trump und Präsident Xi Jinping auf, ein Abkommen zu schließen, das KI pausiert und Superintelligenz verbietet, bevor es zu spät ist.

Allerdings meint David Sacks, dass China sehr wahrscheinlich kein globales Abkommen eingehen wird.

Lesen Sie die Originalgeschichte Warum KI-Rivalen jetzt entschleunigen und Russland ablehnt von Lockridge Okoth auf de.beincrypto.com