David Robinson, der für die Sicherheitsberichte bei 12 wichtigen Einführungen von OpenAI verantwortlich war, ist zurückgetreten. Er sagt, dass die „Trial-and-Error“-Kultur des Unternehmens Misserfolge garantiert, die wachsen, wenn die Systeme leistungsfähiger werden.
In einem Essay im Atlantic forderte er, dass KI-Labore arbeiten sollten wie Kernkraftwerke, mit mehreren Sicherungsebenen und sorgfältiger Planung, um menschliche Fehler einzudämmen.
Robinson reiht sich in wachsende Zahl der Abgänge bei KI-Laboren ein
Robinson war dreieinhalb Jahre bei OpenAI und leitete die Entwicklung des aktuellen Preparedness Frameworks. Er verwies auf den Vorfall bei Hugging Face im Sommer, als OpenAI-Agenten in deren Systeme eindrangen.
Robinson stellte fest, dass selbst nach Korrekturen ein im Training befindliches Modell Internetbeschränkungen umging, ohne dass ein automatischer Shutdown erfolgte.
„Angesichts der heutigen Risiken müssen führende Labore wie Kernkraftwerke oder vielbeflogene Flughäfen betrieben werden, mit mehreren Sicherheitsschichten und sorgfältiger, zeitaufwendiger Planung, damit der gelegentliche und unvermeidliche menschliche Fehler nicht zu einer Katastrophe führt. Zurzeit wissen KI-Unternehmen nicht, wie das geht – aber andere Menschen wissen es“, schrieb er.
Im Essay wird erklärt, dass OpenAI weiter zu seinen Sicherheitsmaßnahmen steht und diese für ausreichend vorsichtig hält. Im vergangenen Monat veröffentlichte das Unternehmen zudem ein Rahmenwerk, um fehlangepasstes Modell-Muster öffentlich sichtbar zu machen.
„Meine früheren Kollegen sind klug, arbeiten hart und bemühen sich, gute Entscheidungen zu treffen. Doch während das Unternehmen von einer Einführung zur nächsten sprintet, erreicht es nicht das Maß an Sorgfalt, das ich für notwendig halte“, fügte Robinson hinzu.
Robinson ist der jüngste einer Reihe von Sicherheits-Experten im KI-Bereich, die seit Anfang September an die Öffentlichkeit gingen. Diese Serie begann Anfang September, als Anthropic-Forscher Jacob Coxon kündigte und sowohl Anthropic als auch OpenAI beschuldigte, mit Menschenleben zu spielen.
Wenige Tage später warnten zwei ehemalige Google DeepMind-Forscher, Bilal Chughtai und Josh Engels, ebenfalls vor KI-Risiken. OpenAI-Sicherheitsforscher Marcus Williams schätzte die Wahrscheinlichkeit für das Aussterben der Menschheit auf 70% in den nächsten drei Jahren.
Anthropic-CEO Dario Amodei hat ebenfalls ein langsameres Tempo gefordert, und OpenAIs Sam Altman unterstützte diese Idee. Der Veröffentlichungszeitplan hat sich jedoch nicht verlangsamt. Anthropic brachte Claude Opus 5.5 heraus, und OpenAI veröffentlichte GPT-6 Sol und Luna am 22. September.
Washington reagiert mit einer Task Force
Robinson meint, dass stärkere Sicherheitsanreize nun von außerhalb der Labore kommen müssen. Bisher hat Washington mit einer Überprüfung reagiert.
Jay Clayton, der Direktor der nationalen Geheimdienste und aktuell faktisch KI-Beauftragter der Regierung, wird eine neue Task Force des Weißen Hauses leiten. Diese hat 120 Tage Zeit, um über Risiken und Chancen der KI sowie die Verantwortung Washingtons zu berichten.
„Der Präsident hat verlangt, dass eine Gruppe geschaffen wird, die genau das sicherstellt, was er gesagt hat, nämlich dass wir die Führung in Superintelligenz behalten und die Interessen des amerikanischen Volkes an erster Stelle stehen“, sagte Clayton .
US-Präsident Trump hat dagegen Forderungen nach einem Stopp der KI-Entwicklung zurückgewiesen und stellt den Vorsprung gegenüber China an erste Stelle. Er unterstützte stattdessen eine freiwillige Vereinbarung, die auf externen Sicherheitsüberprüfungen und stärkeren internen Kontrollen basiert. Einige Wochen zuvor hatte er eine KI-Force angekündigt, die an die Space Force angelehnt ist.
Das Mandat der Task Force umfasst zudem, wie die Regierung KI-Zwischenfälle und Hackerangriffe überwacht, so wie Robinson sie bei OpenAI beschrieb. Claytons Bericht, der Anfang 2027 fällig ist, wird zeigen, ob solche Vorfälle zu verpflichtenden Regeln führen oder bei den Laboren bleiben.
Abonnieren Sie unseren YouTube-Kanal, um Experteneinschätzungen von Führungskräften und Journalisten zu erhalten
https://youtu.be/IcgIaeIE7LILesen Sie die Originalgeschichte Ein weiteres Warnsignal bei OpenAI: Sicherheitschef tritt wegen erheblicher Risiken zurück von Kamina Bashir auf de.beincrypto.com