Anthropic: Yapay Zeka Biyolojik Silah Araştırmalarına Destek Mi Verdi?

BeInCrypto
Abrir en BeInCrypto
Anthropic: Yapay Zeka Biyolojik Silah Araştırmalarına Destek Mi Verdi?

Bir hibe başvurusu Claude’a gönderildiğinde, güvenlik filtresi devreye girdi ve başvuruyu reddetti. Günler sonra aynı operatör tekrar geldi, bu kez reddedilen metinlerin rakip bir yapay zeka modeline aktarıldığı bildirildi.

Anthropic, kendi modellerinin potansiyel biyolojik silah çalışmalarına nasıl dokunduğunu anlatan bu hikayeyi kendisi açıkladı. Şirket, kendiyle ilgili önemli bir örnek paylaştı.

Engellenen Hibe Başvurusu

Başvuruda, aylarca süren ağrılara neden olan, tedavisi olmayan ve sivrisineklerle bulaşan chikungunya virüsünü incelemek için fon talep edildi. Plan; virüsün daha iyi yayılmasını sağlamak ve bağışıklık sisteminden kaçmasına yardımcı olmaktı. Bu projeyi sivil bilim insanları hazırladı. Askeri bir enstitü ise projeye ev sahipliği yapacaktı.

We're publishing our most detailed threat intelligence report to date.

It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.

We disrupted every operation in the report,…

— Anthropic (@AnthropicAI) September 10, 2026

Tüm girdiler engellendi ama bir çözüm bulundu. Araştırmacıların kullandığı servis, rakip bir modele yönelik yedek bir sistem geliştirdi. Bu kodu yazmaya Claude da yardımcı oldu. İş, modele fazla titizliğin aşılması olarak sunuldu.

Beş Vaka, Kanıtlanmış Niyet Yok

Rapor tam 154 sayfa ve beş biyoloji vakası içeriyor. Anthropic ilgili hesapları yasakladı, laboratuvarları açıklamadı ve herkesin beklediği suçlamayı yöneltmekten kaçındı.

Anthropic ekibi raporda şu değerlendirmeyi yaptı: ‘Zarar verme niyetinde olduklarını iddia etmiyoruz, isimlerini ya da laboratuvarlarını açıklamak onları tehlikeye atabilir’ dedi.

Önemli bir nokta da filtrelerin bazen çalışması. Kuş gribi araştırmacısı daha zayıf modellere yönlendirildi ve Anthropic bu desteği esasen ‘idari’ olarak nitelendiriyor.

Anthropic Biyolojik Silah Vakaları: Rakamlarla

RakamNe ifade ediyor
154Rapordaki sayfa sayısı
5Yayınlanan biyoloji vakası
35Devlet bağlantılı kurumlarda 30 günde tespit edilen araştırma girişimi
1 saatBir kullanıcının Opus 5’de çiçek hastalığı ailesine dair hibe metni hazırlaması için geçen süre
Anthropic, yapay zeka modellerini kullanan bilim insanlarının biyolojik silah geliştirmeye yardımcı olabilecek araştırmaları engellediğini belirtiyor.

X’te bizi takip edin – gelişmeleri anlık olarak öğrenin!

Endişelendiren Kısım

Bu 35 girişimin çoğunu sıradan sivil araştırmalar oluşturuyor. İşte mesele de burada! Aynı bilgiyle hem aşı hem de silah üretmek mümkün ve bir filtre, insanın niyetini okuyamaz.

Anthropic şu yorumu yaptı: ‘Bir sınıflandırıcı hem fayda sağlarken hem de zararı önleyemez’ dedi.

Sistemin sınırları daha önce de test edildi. Nisan ayında bir Discord grubu, kısıtlı modele ilk gününde erişti.

Tüm bu artan endişeler gölgesinde Washington harekete geçti. Temsilciler Ted Lieu ve Nathaniel Moran, temmuz ayında AI Kill Switch Act’i sundu. Bu yasa geliştiricileri, sistemleri diledikleri an kapatma yetkisine sahip olmaya zorlayacak.

Aynı raporda, Claude’u muhalifleri takip etmek için kullanan müşterilerin de yasaklandığı bildirildi.

Orijinal Anthropic: Yapay Zeka Biyolojik Silah Araştırmalarına Destek Mi Verdi? hikayesini Lockridge Okoth tarafından tr.beincrypto.com ’da okuyun