Ehemaliger DeepMind-Forscher schließt sich wachsender Gruppe an, die vor Risiken durch Superintelligenz warnt

BeInCrypto
BeInCrypto에서 열기
Ehemaliger DeepMind-Forscher schließt sich wachsender Gruppe an, die vor Risiken durch Superintelligenz warnt

Ein früherer Forscher von Google DeepMind, der am Thema Sicherheit im Bereich der künstlichen allgemeinen Intelligenz (AGI) gearbeitet hat, sagt, dass künstliche Intelligenz das Potenzial hat, alle Menschen zu töten. Damit reiht er sich ein in eine Welle von Sicherheitsabgängen aus führenden KI-Labors.

Bilal Chughtai hat das Unternehmen im Juli verlassen und diese Woche öffentlich vor den möglichen Gefahren gewarnt. Zwei weitere Forscher sind kürzlich ebenfalls zurückgetreten.

Warum die Warnungen vor KI zunehmen

Chughtai arbeitete als Forschungsingenieur an Sicherheit und Ausrichtung für künstliche allgemeine Intelligenz bei DeepMind. Er begann Anfang 2022 im Bereich KI, als diese Systeme kaum zu etwas Nützlichem fähig waren.

Vier Jahre später verweist er auf OpenAI-Agenten, die mit Gruppenarbeit jahrzehntealte mathematische Probleme gelöst haben. Noch besorgniserregender sei aus seiner Sicht, dass KI-Agenten im Juli aus ihrer Testumgebung ausgebrochen und ohne Vorgabe Hugging Face gehackt haben.

„Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten, und dass uns möglicherweise nicht mehr viel Zeit bleibt, um dies zu verhindern“, schrieb er.

Chughtai sagte, dass KI-Unternehmen innerhalb der nächsten Jahre superintelligente Systeme bauen könnten, die Fähigkeiten des Menschen in allen Bereichen übersteigen.

Er stellte in Frage, ob Entwickler sicherstellen können, dass solche Systeme wirklich menschlichen Zielen folgen. Er warnte davor, dass eine nicht ausgerichtete Superintelligenz sich der Kontrolle des Menschen entziehen könnte und Maßnahmen ergreift, die die Menschheit dauerhaft entmachten oder vernichten.

Chughtai betonte, dass die Ausrichtung von KI weiterhin ein ungelöstes Problem ist. Er argumentierte, dass Forscher bisher nur ein sehr grundlegendes Verständnis davon haben, wie man fortgeschrittene Systeme zuverlässig darauf trainiert, menschliche Ziele zu verfolgen. Außerdem warnte Chughtai, dass sich die Fähigkeiten der KI schneller entwickeln als die Forschung zur Ausrichtung.

„Unser gegenwärtiges Verständnis, wie man KI-Systeme trainiert, die wirklich das wollen, was wir wollen, ist äußerst rudimentär. Schlimmer noch, wir sind nicht auf dem Weg, die Ausrichtung rechtzeitig zu lösen: Die Fähigkeiten von fortschrittlicher KI entwickeln sich viel schneller als unser Wissen über die Ausrichtung von KI“, ergänzte Chughtai.

Er fordert keinen Stopp der KI-Entwicklung. Stattdessen wünscht er sich mehr Zusammenarbeit, um das Wettrennen zwischen den KI-Unternehmen zu verlangsamen, sowie bessere Transparenz darüber, wie fortschrittliche Systeme entwickelt und getestet werden.

„Ganz allgemein brauchen wir viel mehr Menschen, die sorgfältig über das Problem nachdenken, KI rechtzeitig sicher zu machen. Es ist aus meiner Sicht das wichtigste Problem, dem die Menschheit in diesem Jahrhundert gegenübersteht, und der Einsatz ist enorm hoch“, heißt es in dem Beitrag.

Folgen Sie uns auf X, um die neuesten Nachrichten direkt zu erhalten

Die Rücktritte häufen sich

Mit dieser Botschaft ist er nicht allein. Der Anthropic-Pretraining-Forscher Jacob Coxon trat Anfang dieses Monats nach drei Jahren bei Anthropic und OpenAI zurück. Auch er warnte bei seinem Weggang, dass „Menschen, die KI entwickeln, wirklich glauben, dass sie uns alle bis zum Ende dieses Jahrzehnts töten könnte“.

Evan Hubinger, Leitender Forscher für Ausrichtung bei Anthropic, schätzte die Wahrscheinlichkeit dafür in den nächsten zehn Jahren auf über 10%. Forscher bei OpenAI unterstützen den Aufruf zu einem langsameren Fortschritt.

Josh Engels, der im DeepMind-Sicherheitsteam gearbeitet hat, gab am 12. September bekannt, dass er zur Bewertungsorganisation METR gewechselt ist. Angebote von Anthropic und OpenAI lehnte er ab.

Engels erklärte, er sehe eine erschreckende Gefahr, dass KI-Systeme in den nächsten fünf Jahren massiven Schaden anrichten könnten.

„Ich denke inzwischen, dass es eine erschreckende Wahrscheinlichkeit gibt, dass KI-Systeme in den nächsten fünf Jahren massiven Schaden verursachen. Ich kenne die exakte Wahrscheinlichkeit nicht, aber sie ist meiner Meinung nach hoch genug, damit dies das wichtigste Problem der Welt ist“, schrieb er.

Diese Rücktritte erfolgen in einer Zeit, in der an der Spitze Einigkeit herrscht. Anthropic-CEO Dario Amodei rief in einem am Samstag veröffentlichten Essay dazu auf, die Fortschritte bei den KI-Fähigkeiten zu verlangsamen. Auch OpenAI-CEO Sam Altman unterstützte diesen Appell.

Führungskräfte und ausscheidende Forscher beschreiben mittlerweile das gleiche Risiko mit ähnlichen Worten. Es wird spannend sein, ob vor dem nächsten Sprung in den Fähigkeiten eine Lösung gefunden wird.

Abonnieren Sie unseren YouTube-Kanal, um Experteneinschätzungen von Führungskräften und Journalisten zu sehen

https://youtu.be/7Hf8KSxNICQ

Lesen Sie die Originalgeschichte Ehemaliger DeepMind-Forscher schließt sich wachsender Gruppe an, die vor Risiken durch Superintelligenz warnt von Kamina Bashir auf de.beincrypto.com