Bir hibe başvurusu Claude’a gönderildiğinde, güvenlik filtresi devreye girdi ve başvuruyu reddetti. Günler sonra aynı operatör tekrar geldi, bu kez reddedilen metinlerin rakip bir yapay zeka modeline aktarıldığı bildirildi.
Anthropic, kendi modellerinin potansiyel biyolojik silah çalışmalarına nasıl dokunduğunu anlatan bu hikayeyi kendisi açıkladı. Şirket, kendiyle ilgili önemli bir örnek paylaştı.
Engellenen Hibe Başvurusu
Başvuruda, aylarca süren ağrılara neden olan, tedavisi olmayan ve sivrisineklerle bulaşan chikungunya virüsünü incelemek için fon talep edildi. Plan; virüsün daha iyi yayılmasını sağlamak ve bağışıklık sisteminden kaçmasına yardımcı olmaktı. Bu projeyi sivil bilim insanları hazırladı. Askeri bir enstitü ise projeye ev sahipliği yapacaktı.
We're publishing our most detailed threat intelligence report to date.
— Anthropic (@AnthropicAI) September 10, 2026
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…
Tüm girdiler engellendi ama bir çözüm bulundu. Araştırmacıların kullandığı servis, rakip bir modele yönelik yedek bir sistem geliştirdi. Bu kodu yazmaya Claude da yardımcı oldu. İş, modele fazla titizliğin aşılması olarak sunuldu.
Beş Vaka, Kanıtlanmış Niyet Yok
Rapor tam 154 sayfa ve beş biyoloji vakası içeriyor. Anthropic ilgili hesapları yasakladı, laboratuvarları açıklamadı ve herkesin beklediği suçlamayı yöneltmekten kaçındı.
Anthropic ekibi raporda şu değerlendirmeyi yaptı: ‘Zarar verme niyetinde olduklarını iddia etmiyoruz, isimlerini ya da laboratuvarlarını açıklamak onları tehlikeye atabilir’ dedi.
Önemli bir nokta da filtrelerin bazen çalışması. Kuş gribi araştırmacısı daha zayıf modellere yönlendirildi ve Anthropic bu desteği esasen ‘idari’ olarak nitelendiriyor.
Anthropic Biyolojik Silah Vakaları: Rakamlarla
| Rakam | Ne ifade ediyor |
|---|---|
| 154 | Rapordaki sayfa sayısı |
| 5 | Yayınlanan biyoloji vakası |
| 35 | Devlet bağlantılı kurumlarda 30 günde tespit edilen araştırma girişimi |
| 1 saat | Bir kullanıcının Opus 5’de çiçek hastalığı ailesine dair hibe metni hazırlaması için geçen süre |
X’te bizi takip edin – gelişmeleri anlık olarak öğrenin!
Endişelendiren Kısım
Bu 35 girişimin çoğunu sıradan sivil araştırmalar oluşturuyor. İşte mesele de burada! Aynı bilgiyle hem aşı hem de silah üretmek mümkün ve bir filtre, insanın niyetini okuyamaz.
Anthropic şu yorumu yaptı: ‘Bir sınıflandırıcı hem fayda sağlarken hem de zararı önleyemez’ dedi.
Sistemin sınırları daha önce de test edildi. Nisan ayında bir Discord grubu, kısıtlı modele ilk gününde erişti.
Tüm bu artan endişeler gölgesinde Washington harekete geçti. Temsilciler Ted Lieu ve Nathaniel Moran, temmuz ayında AI Kill Switch Act’i sundu. Bu yasa geliştiricileri, sistemleri diledikleri an kapatma yetkisine sahip olmaya zorlayacak.
Aynı raporda, Claude’u muhalifleri takip etmek için kullanan müşterilerin de yasaklandığı bildirildi.
Orijinal Anthropic: Yapay Zeka Biyolojik Silah Araştırmalarına Destek Mi Verdi? hikayesini Lockridge Okoth tarafından tr.beincrypto.com ’da okuyun