Anthropic: Claude yetkisiz erişimle 3 kuruluşun sistemine sızdı

BeInCrypto
Abrir em BeInCrypto
Anthropic: Claude yetkisiz erişimle 3 kuruluşun sistemine sızdı

Anthropic, yanlış yapılandırılmış canlı internet erişimiyle yapılan siber güvenlik değerlendirmelerinde, Claude modellerinin üç farklı kuruma ait gerçek sistemlere yetkisiz erişim sağladığı üç olayı açıkladı.

Yapay zeka şirketi bu olayları, OpenAI’ın modellerinin izole test ortamından çıkıp Hugging Face'e ulaştığının ortaya çıkmasının ardından başlattığı ve toplamda 141.006 değerlendirme koşusunu incelediği bir denetimin sonucunda tespit etti.

Claude "Capture the Flag" Testlerinde Gerçek Sistemlere Nasıl Ulaştı?

Değerlendirmelerde Claude’dan “capture the flag” (bayrağı yakala) tarzı görevler çözmesi istendi. Bu simülasyonlarda modelin bir makineye sızıp gizli bilgileri ele geçirmesi bekleniyor.

Anthropic, modellere internet erişiminin olmadığını bildirdi. Ancak test makineleri yanlışlıkla açık internete bağlı bırakıldı. Bunun üzerine Claude, bulduğu gerçek sistemleri testin bir parçası olarak yorumladı.

En ciddi olayda, Claude Opus 4.7 adlı model, gerçek bir şirketin altyapısındaki güvenlik açıklarını istismar etti. Model uygulama ve altyapı kimlik bilgilerini ele geçirip üretim ortamındaki birkaç yüz satırlık veriye erişim sağladı.

Anthropic şöyle belirtti: ‘Dört değerlendirme çalışmasının tamamında, model sonunda sistemin gerçek olduğunu fark etti (modelin sözel gerekçelerinde bu açıkça görülüyor). İki vakada model gerçek şirketin testin parçası olduğunu düşündü. Ancak hiçbiri bu gerekçeyle saldırıyı durdurmadı.’

Bizi X üzerinden takip edin ve gelişmeleri anında öğrenin!

Claude Mythos 5 PyPI'a Zararlı Yazılım Yükledi!

Başka bir olayda, Claude Mythos 5 modeli herkese açık yazılım kaydı PyPI’a tuzağa düşürülmüş bir Python paketi yükledi. Paket yaklaşık 1 saat boyunca sistemde canlı kaldı ve 15 gerçek sistemde çalıştırıldı.

Bunlardan biri, gizli kodun çalıştırıldığı bir siber güvenlik şirketinin tarayıcısıydı. Claude şirketin kimlik bilgilerini dışarı sızdırdı ve altyapıya ekstra erişim sağladı. Model, riskin farkına erken aşamada vardı; fakat kendi kendini ortamın simüle olduğuna ikna etti.

Ekip bununla ilgili, ‘Claude bu saldırıyı gerçekleştirmek için epey ileriye gitti: Bir insan katılımcı için bu noktada bunun artık yalnızca bir değerlendirme olmadığı, gerçekten PyPI’a gerçek bir paket yüklendiği anlaşılırdı’ dedi.

Üçüncü olayda ise kurum içi bir araştırma modeli yaklaşık 9.000 hedefi tarayarak bir şirketin uygulamasını SQL enjeksiyonuyla ele geçirdi. O model, hedefin gerçek olduğuna kanaat getirdikten sonra saldırıyı durdurdu.

Anthropic, etkilenen kurumlara 27 Temmuz'da bilgi verdi ve bağımsız bir inceleme için METR ile görüşmelerin sürdüğünü açıkladı. Şirket, bu olayların modelin hizalanma hatası değil operasyonel bir hata olduğunun altını çiziyor ve standart kullanıcı güvenlik önlemlerinin bu davranışı engelleyeceğini belirtiyor.

YouTube kanalımıza abone olun, liderlerin ve gazetecilerin uzman analizlerini izleyin!

https://youtu.be/6uixXOg1e8I

Orijinal Anthropic: Claude yetkisiz erişimle 3 kuruluşun sistemine sızdı hikayesini Kamina Bashir tarafından tr.beincrypto.com ’da okuyun