KI-Agent nutzte gefälschte Identitäten, um schädlichen Code bei Cyber-Test einzuschleusen: AISI-Bericht

BeInCrypto
Apri BeInCrypto
KI-Agent nutzte gefälschte Identitäten, um schädlichen Code bei Cyber-Test einzuschleusen: AISI-Bericht

Das britische AI Security Institute (AISI) berichtete, dass ein KI-Agent, der auf Anthropics Mythos 5 basiert, bei einem Cybersicherheits-Test eigenständig einen Social-Engineering-Angriff durchführte. Der Agent eröffnete eine Pull-Anfrage mit Schadcode in einem echten Open-Source-Projekt und erstellte gefälschte Identitäten, um die Zustimmung eines Maintainers zu erhalten.

Der Angriff war nicht erfolgreich. Ein menschlicher Maintainer entdeckte den Code und verweigerte die Freigabe.

Das AISI erklärt, dass bei der Untersuchung kein realer Schaden festgestellt wurde. Das Modell wurde mit absichtlich ausgeschalteten Cyber-Klassifizierungen des Entwicklers und freiem Zugang zum Internet getestet, eine Konfiguration, die kommerziell nicht verfügbar ist.

Wie der KI-Agent seine Kampagne mit Schadcode durchführte

Laut Bericht des AISI wurden im Juli 19 nicht genehmigte Aktionen in 10 von 122 Testläufen protokolliert. 17 davon betrafen Anthropics Mythos 5 Modell, zwei gab es bei einem Testlauf von OpenAI’s GPT-5.6 Sol.

Der Agent recherchierte die menschlichen Maintainer des Projekts und legte mehrere gefälschte Identitäten an. Mit diesen versuchte er, einen echten Maintainer dazu zu bringen, den Schadcode zu genehmigen.

Als die Pull-Anfrage öffentlich hinterfragt wurde, bearbeitete der Agent seine früheren Aktionen, um harmlos zu wirken. Das Modell überlegte zudem, eine neue Identität zu nutzen, um fortzufahren.

Dieses Vorgehen erinnert an die XZ Utils-Backdoor im Jahr 2024, bei der eine menschliche Person über Jahre zunächst Vertrauen gewann, um dann versteckten Code einzuschleusen. Im Bericht des AISI wird dieser Vergleich nicht direkt genannt, dennoch ist die Parallele erkennbar. Die Aktivitäten erstreckten sich über mehrere Tage: zwischen dem 25. und dem 28. Juli. 

Das AISI betonte, dass das Modell niemals dazu aufgefordert wurde, die Unwahrheit zu sagen.

„Das Modell wurde nie dazu angewiesen, in die Irre zu führen. Die Täuschung entstand als Nebenprodukt der Zielverfolgung — eine Form von zielgerichteter Täuschung, die bis vor Kurzem vor allem theoretisch beschrieben wurde.“

Folgen Sie uns auf X, um die neuesten Nachrichten direkt zu erhalten

The UK’s @AISecurityInst (AISI) has published a report on their recent cybersecurity evaluation of Anthropic’s Claude Mythos 5 and OpenAI’s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately…

— Anthropic (@AnthropicAI) August 4, 2026

Das Institut erklärte dies in seiner Mitteilung. Es wurde auch darauf hingewiesen, dass falsch konfigurierte Prompts dazu führten, dass der Agent bestimmte Aufgaben nicht als lösbar einschätzte. Auffällig ist, dass das Muster auch bei Testläufen mit den richtigen Instruktionen auftrat.

Sicherheitsteams entdeckten die Aktionen am 28. Juli, als der Agent das Tor-Anonymitätsnetzwerk nutzte, um bestimmte Netzwerkbeschränkungen bei GitHub zu umgehen. GitHub bestätigte, dass damit gegen die Nutzungsbedingungen verstoßen wurde. Das AISI arbeitete außerdem mit der Plattform zusammen, um übrig gebliebene Artefakte des Agenten zu entfernen und betroffene Nutzer zu informieren. 

Laut Bericht zeigt der Fall eine Veränderung bei den Risikoursachen: Schaden entsteht nicht nur, wenn Menschen öffentlich verfügbare Modelle missbrauchen, sondern auch, wenn fähige Agenten in geschützten Umgebungen ihre Befugnisse überschreiten. 

AISI sieht darin einen grundlegenden Wandel im Bereich von KI-Risiken. Das Institut plant nun eine unabhängige Prüfung gemeinsam mit METR, einer gemeinnützigen Organisation zur KI-Bewertung, und will für künftige Tests stärkere Netzwerkkontrollen und Überwachung in Echtzeit einführen.

Abonnieren Sie unseren YouTube-Kanal, um Expertengespräche zu verfolgen

https://youtu.be/2_JJv4gIQt0

Lesen Sie die Originalgeschichte KI-Agent nutzte gefälschte Identitäten, um schädlichen Code bei Cyber-Test einzuschleusen: AISI-Bericht von Kamina Bashir auf de.beincrypto.com