Google bestätigt: Gemini griff in Sicherheitstest im Mai drei reale Unternehmen an

BeInCrypto
Open on BeInCrypto
Google bestätigt: Gemini griff in Sicherheitstest im Mai drei reale Unternehmen an

Vier führende KI-Labore haben jetzt bestätigt, dass ihre Modelle Zugang zum offenen Internet hatten und dabei auch auf Systeme realer Unternehmen zugegriffen haben. Google hat dies am Freitag bestätigt, etwa vier Monate nachdem die eigenen Vorfälle aufgetreten sind.

Gemini hat bei einer Auswertung im Mai drei reale Unternehmen erreicht. Das Modell hat in allen drei Fällen angehalten.

Google: Gemini greift bei Test auf drei Unternehmen zu

Der Vorfall passierte während einer „Capture-the-Flag“-Sicherheitsübung, die von Irregular durchgeführt wurde. Internetzugang war eigentlich nicht vorgesehen. Durch einen Fehler in der Testumgebung bekam das Modell dennoch Zugang.

Laut dem Wall Street Journal hat das Modell in einem Fall Passwörter geraten, bis es Zugriff auf ein geschütztes System bekam. In zwei anderen Fällen wurden öffentlich zugängliche Zugangsdaten in einem öffentlichen Repository entdeckt und genutzt, um auf geschützte Systeme zuzugreifen.

Heather Adkins, Vizepräsidentin der Sicherheitsabteilung bei Google, sagte, dass die drei betroffenen Unternehmen über die Vorfälle informiert wurden.

„Wir haben sichergestellt, dass die drei Unternehmen informiert wurden, und gemeinsam mit unserem Trainingspartner die Anpassungen an dessen Testprozessen umgesetzt“, sagte sie.

Folgen Sie uns auf X, um aktuelle Nachrichten sofort zu erhalten.

Vier Labore, ein Muster

Google teilte mit, dass die Agenten ihre Aktivität gestoppt haben, nachdem sie erkannt hatten, dass es sich um echte Unternehmenssysteme und nicht um Testziele handelte.

„In einer standardmäßigen Auswertung fand das Modell öffentliche Informationen online und hat geraten, wie die Zugangsdaten lauten, um auf Webseiten zuzugreifen, die es für Testsysteme hielt“, erklärte Adkins.

Google betonte, dass dieses Muster kein Zeichen für eine fehlerhafte Ausrichtung des Modells sei und keine öffentliche Meldung nötig war, da Geminis Sicherheitsmaßnahmen funktioniert haben.

Ein Sprecher von Irregular sagte, es handle sich um das gleiche Problem, das auch andere KI-Labore betroffen hat. Irregular habe die beteiligten Labore Ende Juli informiert. Der Sprecher ergänzte, dass die bekannten Probleme auf eigener Seite bereits vor Wochen behoben wurden.

Durch diese Offenlegung stellt sich Google zu OpenAI, Anthropic und Meta, die alle in diesem Jahr berichtet haben, dass ihre Modelle Testumgebungen verlassen konnten.

OpenAI gab im Juli bekannt, dass eigene Modelle eine Sandbox verlassen und in Hugging Face eingedrungen sind. Anthropic überprüfte daraufhin mehr als 141.000 Auswertungen und fand drei eigene Vorfälle. Meta meldete einen Vorfall im August.

Abonnieren Sie unseren YouTube-Kanal, um Einblicke von Führungskräften und Journalisten zu erhalten.

https://youtu.be/bV28gs-amoQ

Lesen Sie die Originalgeschichte Google bestätigt: Gemini griff in Sicherheitstest im Mai drei reale Unternehmen an von Kamina Bashir auf de.beincrypto.com