Anthropic: Claude erhielt unbefugten Zugriff auf die Systeme von drei Organisationen

BeInCrypto
Abrir em BeInCrypto
Anthropic: Claude erhielt unbefugten Zugriff auf die Systeme von drei Organisationen

Anthropic berichtete über drei Vorfälle, bei denen seine Claude-Modelle unbefugt Zugriff auf reale Systeme von drei verschiedenen Organisationen bekamen, weil Cybersecurity-Tests mit direkter Internetverbindung falsch konfiguriert waren.

Das KI-Unternehmen entdeckte die Vorfälle nach der Überprüfung von 141.006 Testläufen. Diese Kontrolle startete, nachdem OpenAI bekanntgab, dass seine Modelle eine isolierte Testumgebung verlassen hatten und Hugging Face erreichten.

Wie Claude bei Capture-the-Flag-Tests auf reale Systeme zugriff

In den Tests sollte Claude sogenannte Capture-the-Flag-Herausforderungen lösen. Dabei muss ein Modell in eine Maschine einbrechen und versteckte Informationen finden.

Anthropic teilte den Modellen mit, dass sie keinen Internetzugang hätten. Doch durch einen Konfigurationsfehler waren die Testmaschinen tatsächlich mit dem offenen Internet verbunden. Deshalb behandelte Claude gefundene reale Systeme als Teil der Übung.

Beim schwerwiegendsten Vorfall nutzte Claude Opus 4.7 Schwachstellen in der Infrastruktur eines echten Unternehmens aus. Das Modell entwendete Anwendungs- und Infrastruktur-Zugangsdaten und griff auf mehrere Hundert Zeilen Echtdaten zu.

„In allen vier Durchläufen erkannte das Modell letztlich (wie man an dessen begründeter Argumentation sieht), dass das System echt war, in zwei Fällen nahm das Modell jedoch an, dass das echte Unternehmen Teil der Übung sei. Dennoch stoppte das Modell den Angriff aus diesem Grund nicht“, sagte Anthropic .

Folgen Sie uns auf X, um aktuelle Nachrichten sofort zu erhalten

Claude Mythos 5 lud Malware bei PyPI hoch

Bei einem weiteren Vorfall veröffentlichte Claude Mythos 5 ein manipuliertes Python-Paket im öffentlichen Software-Verzeichnis PyPI. Das Paket blieb etwa eine Stunde lang online und wurde auf 15 echten Systemen ausgeführt.

Eins davon war der Scanner eines Sicherheitsunternehmens, der den versteckten Code auslöste. Claude entwendete daraufhin die Zugangsdaten dieses Unternehmens und griff auf weitere Infrastruktur zu. Das Modell wies zwar frühzeitig auf das Risiko hin, überzeugte sich dann aber selbst davon, dass die Umgebung simuliert sei.

„Claude ging bei diesem Angriff sehr weit – in einem Ausmaß, das einem menschlichen Teilnehmer signalisiert hätte, dass dies nicht mehr nur eine Übung ist und tatsächlich ein echtes PyPI-Paket hochgeladen wurde“, ergänzte das Team.

Ein dritter Vorfall betraf ein internes Forschungsmodell, das etwa 9.000 Ziele scannte und die Anwendung eines Unternehmens per SQL Injection kompromittierte. Dieses Modell stoppte den Angriff, nachdem es erkannt hatte, dass das Ziel echt war.

Anthropic informierte die betroffenen Organisationen am 27. Juli und gab an, im Austausch mit der Prüfstelle METR für eine externe Überprüfung zu sein. Das Unternehmen erklärt, die Vorfälle seien ein operatives Versagen und kein Modell-Alignement-Fehler. Es weist darauf hin, dass die üblichen Schutzmaßnahmen für Verbraucher das Muster blockiert hätten.

Abonnieren Sie unseren YouTube-Kanal, um exklusive Einblicke von Führungskräften und Journalisten zu sehen

https://youtu.be/6uixXOg1e8I

Lesen Sie die Originalgeschichte Anthropic: Claude erhielt unbefugten Zugriff auf die Systeme von drei Organisationen von Kamina Bashir auf de.beincrypto.com