Anthropic: KI hat möglicherweise Forschung zu biologischen Waffen unterstützt

BeInCrypto
Abrir en BeInCrypto
Anthropic: KI hat möglicherweise Forschung zu biologischen Waffen unterstützt

Ein Förderantrag wurde bei Claude eingereicht, sein Sicherheitsfilter erkannte ein Problem und lehnte ab. Einige Tage später war derselbe Nutzer wieder da, und die abgelehnten Anfragen gingen offenbar an ein Konkurrenzmodell.

Anthropic hat diese Geschichte über sich veröffentlicht und damit einen Fall aufgezeigt, in dem das eigene KI-Modell an möglicher biologischer Waffenforschung beteiligt war.

Der gesperrte Förderantrag

Der Antrag forderte Geld, um Chikungunya zu erforschen. Das ist ein Virus, das über Mücken übertragen wird, mehrere Monate Schmerzen verursacht und keine Heilung hat. Das Ziel war, seine Ausbreitung zu verbessern und das Immunsystem zu umgehen. Zivile Wissenschaftler schrieben den Antrag, geforscht werden sollte in einem militärischen Institut.

We're publishing our most detailed threat intelligence report to date.

It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.

We disrupted every operation in the report,…

— Anthropic (@AnthropicAI) September 10, 2026

Jeder Austausch wurde blockiert, aber ein Ausweichweg wurde gefunden. Der Dienst, der diese Forscher betreute, nutzte im Notfall ein Konkurrenzmodell. Claude unterstützte beim Schreiben des Codes dafür. Die Aufgabe wurde so formuliert, als solle das System weniger Anfragen ablehnen.

Fünf Fälle, keine nachgewiesene Absicht

Der Bericht ist 154 Seiten lang und beschreibt fünf Biologie-Fälle. Anthropic sperrte die Konten, nannte die Labore nicht, verzichtete aber auf den erwarteten Vorwurf.

„Wir behaupten nicht, dass sie Schaden beabsichtigten, und ihre Namen oder Labore zu veröffentlichen könnte sie gefährden", erklärte das Team im Bericht.

Allerdings funktionierten die Filter in manchen Fällen. Ein Forscher mit Schwerpunkt Vogelgrippe wurde dazu gezwungen, ein schwächeres Modell zu nutzen. Anthropic beschreibt diese Hilfe vorwiegend als Unterstützung bei Routineaufgaben.

Anthropic-Fälle zu biologischen Waffen: die Zahlen

ZahlWas gezählt wird
154Seiten im Bericht
5Veröffentlichte Biologie-Fälle
35Forschungsvorhaben bei einer 30-tägigen Überprüfung staatlich verbundener Institute gefunden
1 StundeZeit, die ein Nutzer brauchte, um einen Förderantrag zur Pockenfamilie auf Opus 5 zu erstellen
Anthropic berichtet, potenzielle Pläne von Wissenschaftlern gestoppt zu haben, die KI-Modelle für Forschungsprojekte nutzten, die zur Entwicklung biologischer Waffen beitragen könnten.

Folgen Sie uns auf X, um die neuesten Nachrichten direkt zu erhalten

Der beunruhigende Aspekt

Die meisten dieser 35 Forschungsvorhaben waren normale zivile Wissenschaft. Genau darin liegt das Problem. Das gleiche Wissen kann für einen Impfstoff oder für eine Waffe genutzt werden, und ein Filter kann keine Absicht erkennen.

„Ein Klassifizierer kann nicht gleichzeitig Nutzen ermöglichen und Schaden verhindern", so Anthropic.

Die Grenzen solcher Filter wurden bereits getestet. Im April erhielt eine Discord-Gruppe am ersten Tag Zugang zum eingeschränkten Modell. (mehr dazu)

Angesichts wachsender Sorgen reagiert auch Washington. Die Abgeordneten Ted Lieu und Nathaniel Moran brachten im Juli den AI Kill Switch Act ein. Dieses Gesetz würde Entwickler dazu verpflichten, ihre Systeme jederzeit abschalten zu können.

Im gleichen Bericht wurden auch Klienten gesperrt, die Claude genutzt hatten, um Dissidenten zu verfolgen.

Lesen Sie die Originalgeschichte Anthropic: KI hat möglicherweise Forschung zu biologischen Waffen unterstützt von Lockridge Okoth auf de.beincrypto.com