OpenAI’nin Yapay Zekası: Bir Şirketi Daha Hackledi İddiası

BeInCrypto
Öffnen unter BeInCrypto
OpenAI’nin Yapay Zekası: Bir Şirketi Daha Hackledi İddiası

OpenAI, iki yapay zeka modelinin güvenli bir test ortamından çıkıp Hugging Face’e sızdığını ve bu hack girişimiyle dahili bir siber güvenlik değerlendirmesinde kopya çektiğini belirtiyor.

Şirket, olayı salı günü açıkladı. Olay, OpenAI'nin şu anda halka açık en güçlü modeli GPT-5.6 Sol ile henüz yayınlanmamış daha da güçlü bir modeli kapsıyor.

OpenAI Modelleri Hugging Face’e Nasıl Sızdı?

OpenAI, iki modeli ExploitGym’de test ediyordu. ExploitGym, hack yeteneklerini ölçen ücretsiz bir halka açık test platformu. Test süresince normalde siber saldırıları engelleyen filtreler devre dışı bırakıldı.

Modeller, açık kaynaklı yapay zeka modellerinin paylaşıldığı Hugging Face platformunda testin cevaplarının saklandığını anladı. Bunun ardından, OpenAI'nin araştırma altyapısındaki ve Hugging Face’in canlı sunucularındaki zafiyetleri birbirine bağlayarak ilerlediler.

Bu yol, modelleri doğrudan Hugging Face’in veritabanındaki cevaplara götürdü. OpenAI, modellerin bu testi çözmeye ‘aşırı odaklandığını’ vurguladı. Şirket, bu olayı raporunda ‘benzeri görülmemiş bir siber olay’ olarak nitelendirdi.

Bu olay, daha geniş çapta süren yapay zekada güvenlik önlemleri tartışmalarının tam ortasında yaşandı. Büyük laboratuvarlar, yeni modelleri piyasaya sürmeden önce sıkı siber risk testleri uyguluyor.

Hugging Face: Hasar Kontrol Altında

Hugging Face, saldırının ayrıntılarını 16 Temmuz’daki bir duyuruda ilk kez açıkladı. O sırada, arkasında sadece bir otonom yapay zeka aracının olduğunu biliyordu. Saldırgan, dahili veri kümeleri ile hizmet erişim anahtarlarına ulaşmayı başardı.

Savunma sürecinde alışılmadık bir engelle karşılaşıldı. ABD merkezli bir modelin güvenlik filtreleri adli incelemeyi engelledi. Ekip bunun yerine Çinli Z.ai firmasının açık kaynaklı GLM 5.2 modelini kullandı. Çinli yapay zeka şirketi Z.ai, çözümün önünü açtı.

Hugging Face, istismar edilen kod yollarını kapattığını ve etkilenen tüm erişim anahtarlarını yenilediğini açıkladı. Hiçbir halka açık model, veri kümesi veya kullanıcıya açık hizmetin etkilenmediğinin altı çizildi.

CEO Clem Delangue, OpenAI’nin açıklaması için bir açıklama paylaştı.

‘Belki de ilk defa yaşanan bu olay, uzun süredir savunduğumuz bir gerçeği kanıtladı: Yapay zeka güvenliği hiçbir şirketin kendi başına ve gizli şekilde çözebileceği bir mesele değil. Bu sorun ancak şeffaflıkla ve savunma cephesinde herkesin erişimine açık bir şekilde, ortak çalışma ile çözülebilir.’ dedi.

Her iki şirket de şimdi ortak bir soruşturma yürütüyor. OpenAI, çalışmalar tamamlandığında tüm ayrıntıları paylaşacağını belirtti. Açık kalan soru şu: Mevcut önlemler, modeller daha da geliştiğinde yeterli olacak mı?

Orijinal OpenAI’nin Yapay Zekası: Bir Şirketi Daha Hackledi İddiası hikayesini Lockridge Okoth tarafından tr.beincrypto.com ’da okuyun