Elon Musk reagierte am frühen Sonntag mit einer klaren Aussage auf die Debatte zur KI-Sicherheit. Er schrieb, dass er hofft, KI ist freundlich zu uns. Damit griff er eine deutliche Warnung des Investors Naval Ravikant auf.
Sein Beitrag erschien nur eine Minute, nachdem Musk den Kommentar „Interessanter Austausch" unter einen Thread geschrieben hatte, der zuvor von Anthropic-CEO Dario Amodei veröffentlicht wurde. In diesem verteidigte Amodei seine Warnungen vor KI-Risiken gegen die Kritik, seine Aussagen seien zu negativ.
Warum Amodei seine KI-Risikowarnungen verteidigt
Der Thread begann mit Investor Gavin Baker. Der Silicon-Valley-Fondsmanager meinte, Gerüchte über Amodei verbreiten sich leicht, weil sie zum öffentlichen Auftreten des CEOs passen.
Interesting exchange https://t.co/1bTW3V2nCu
— Elon Musk (@elonmusk) August 15, 2026
Amodei wies die Vorstellung zurück, er spreche überwiegend über Gefahren. Seine zwei wichtigsten Aufsätze seien gleichmäßig zwischen Risiken und Vorteilen aufgeteilt, sagte der Anthropic-Chef. Zudem würden kurze Interviewausschnitte negativ wirken, weil sie mehr Klicks bringen, argumentierte er.
Sein Text „Machines of Loving Grace", in dem es um Chancen der KI geht, existiert nach Aussage des CEO, weil die Branche zuvor ein zu düsteres Bild zeichnete.
Amodei verwies außerdem auf einen tieferliegenden Grund. Laut dem Anthropic-Chef misstrauen viele Menschen Unternehmen, Regierungen und der Tech-Branche. Daher wird das Misstrauen gegenüber KI über Jahrzehnte hinweg verstärkt.
Diese Sichtweise prägt seine Arbeit an politischen Strategien. Im Juni forderte Amodei verpflichtende Tests für fortschrittliche KI-Modelle anstelle freiwilliger Zusagen. Wenige Tage später warnte der Anthropic-Chef in seinem G7-Appell vor einer fragmentierten globalen Vorgehensweise.
Ich denke, die bei Weitem zutreffendste Kritik an KI-Unternehmen, auch an Anthropic, ist, dass wir unsere großen Versprechen zum Nutzen der Welt noch nicht eingelöst haben.
Amodei
Musk mischt sich ein: Das Heilversprechen kehrt zurück
Musk nannte den Austausch interessant und lenkte so die Aufmerksamkeit auf die Komplexität der Debatte. Neben Amodeis Schwerpunkt auf Regulierung gibt es auch eine philosophische Seite, die Investor Naval Ravikant treffend zusammenfasste: Man könne keinen Gott erschaffen und ihn dann an die Leine legen.
Musk griff dieses Gefühl direkt auf, indem er schrieb: „Ich hoffe, KI ist freundlich zu uns". Damit brachte er kurz zum Ausdruck, dass die Gesellschaft letztlich auf das Wohlwollen ihrer eigenen Schöpfung angewiesen ist, wenn die Kontrolle des Menschen über eine Superintelligenz scheitert.
I hope AI is nice to us https://t.co/NefIRrrg96
— Elon Musk (@elonmusk) August 15, 2026
Musk hatte Anthropic bereits zuvor gelobt. Im Juli kritisierte der Tesla-CEO OpenAI dafür, sich abzuschotten, und hob Amodei für dessen anderen Weg hervor.
Amodei kritisierte auch eine gängige Sichtweise aus dem Silicon Valley. Regulierung führe nicht zwangsläufig zu Machtkonzentration, sagte er. Das von Anthropic unterstützte kalifornische KI-Sicherheitsgesetz SB 53 schließe Unternehmen mit weniger als 500 Millionen USD Umsatz aus.
Ähnliche Spannungen gab es im Juni, als Vitalik Buterin wachsenden KI-Nationalismus in Washington kritisierte.
Amodei nannte dann zwei von ihm unterstützte Ansätze. Einer ist der nach Berichten geplante Vorstoß der US-Regierung unter Trump, fortschrittliche Modelle vor ihrer Markteinführung zu testen. Der andere ist eine Aufsicht, die sich an FINRA, der US-Organisation für Broker-Dealer, orientiert und von Demis Hassabis, dem Google-DeepMind-Chef, vorgeschlagen wurde.
Amodei kam abschließend auf sein kühnstes Versprechen zurück. KI, eingesetzt in der Biologie, könnte laut ihm die meisten menschlichen Krankheiten innerhalb von fünf bis zehn Jahren heilen. Anthropic und Pfizer betrachten KI im Gesundheitswesen bereits als grundlegende Infrastruktur.
Der Anthropic-CEO verband diesen Drang mit seinem Vater, der an Hepatitis C starb, kurz bevor heilende antivirale Medikamente verfügbar wurden.
Trotzdem lehnt Amodei Werbekampagnen mit großen Versprechen ab. Zu sagen, KI werde Krebs heilen, sei mittlerweile ein Klischee, argumentiert er. Tatsächlich Krebs zu heilen, sei die einzige Lösung.
Daher könnten die nächsten Monate von Anthropic im Bereich Biologie zeigen, ob dieses Versprechen im Labor Bestand hat.
Lesen Sie die Originalgeschichte Musk hofft: „KI ist freundlich zu uns“, während Anthropic-CEO KI-Warnungen verteidigt von Phil Haunhorst auf de.beincrypto.com