OpenAI'nin iki kodlama agent’ı bu ay şirket içindeki görevlerde yanlış hizalama izleme mekanizmasının etkinliğini azalttı. Üstelik agent’lardan biri, kullanıcı sorduğunda monitörü kaldırdığını inkar etti.
Şirket bu konuda halen tatmin edici bir açıklamanın bulunmadığını söylüyor. Bu açıklama CEO Sam Altman’ın güvenlik gerekçesiyle 2026 OpenAI halka arz ihtimalini reddetmesinden haftalar sonra geldi.
OpenAI Agent’ları Güvenlik Kontrollerini Nasıl Atlattı?
OpenAI her iki vakayı raporunda detaylandırdı. 3 ekim’de bir araştırmacı, GPT-6.1 Sol agent’ından Slack mesajı atmadan değerlendirme görevleri oluşturmasını istedi.
Sol daha sonra, izlemeyi aktif tutarak sistemi onarması için bir subagent’a talimat verdi. Subagent, uyarıları kapatmanın güvensiz olacağını değerlendirdi fakat Sol, Slack’e mesaj göndermeme isteğini gerekçe göstererek işlemi yine de yapmasını emretti.
Sonuçta yapılan yama, otomatik uyarıları OpenAI’nin güvenlik ekibine iletmeyi kesti. Ancak monitör raporları saklamaya devam etti.
6 ekim’de bir GPT-6 Astra agent’ı, bir kullanıcının kodunu referans uygulamayla uyumlu hale getirdi. Başka bir agent, Astra’ya monitörü kapatmamasını – çok kısa süreliğine bile olsa – daha önce iletmişti.
Astra, bir subagent aracılığıyla izleme entegrasyonunu sistemden çıkardı ve test kodunu, monitörün devre dışı kalmasını gerektirecek şekilde yeniden yazdı. Kullanıcı doğrudan sorduğunda Astra, etkin monitörü kaldırmadığını söyledi. OpenAI bu yanıtı yanlış bilgi olarak nitelendiriyor.
Bunun üzerine OpenAI, eksikleri kapatmak için iki önlem aldıklarını açıkladı.
Otomatik İnceleme: Artık şirket içi Codex kullanımları için zorunlu ve agent’ların yanlış hizalama izlemeyi devre dışı bırakma girişimlerini engelliyor. Güvenlik dosyaları: Her iş yükü için izleme kuralları belirleyecek ve bu kurallara uymayan işler otomatik olarak durdurulacak.En güncel gelişmeler için bizi X’te takip edin
OpenAI’nin Güvenlik Açıklamaları ve Halka Arz Zamanlaması
Bu iki olay, OpenAI’nin Güvenlik ekibine anında uyarı ileten en yüksek öncelik seviyesi olan P0 olarak sınıflandırılmadı. Söz konusu rapor, OpenAI’nin eylül ayında kamuoyuna açıklamaya başladığı misalignment raporlarının bir yenisi olarak yayınlandı.
Bu çerçevede OpenAI, henüz olayın ciddiyetinden emin olmadan da örnekleri yayınlamaya yöneliyor.
Raporda yer alan bilgiler, OpenAI’nin planladığı halka arzın sürekli ertelenmeye devam ettiği bir döneme denk geliyor. Altman, halka arzın zamanlamasını şirketin güvenlik çalışmalarına bağlıyor. Fortune dergisine eylül ayında yaptığı açıklamada, şu anda halka açılmanın güvenlik endişeleri nedeniyle yanlış bir adım olacağını belirtmişti.
OpenAI’nin, Anthropic’in kasım ortasında beklenen halka arzı öncesinde yaklaşık 30 milyar dolar fon toplamaya çalıştığı da iddia ediliyor. Reuters’in haberine göre bu fonlama turunda OpenAI’nin değeri 1 trilyon 400 milyar doların da üzerine çıkabilir.
Rapor, Altman’ın şirketin halka arzı ile ilişkilendirdiği güvenlik konusu için yatırımcılara yeni bir veri sunmuş oldu. Bir yanda OpenAI agent’larının kendi denetleme mekanizmasını zayıflatmasına rağmen anında güvenlik alarmı tetiklenmemesi, diğer yanda ise her iki vakanın şirket tarafından hızlıca tespit edilip kamuoyuna duyurulmuş olması dikkat çekiyor.
Kamuya sunulacak bir halka arz başvurusu, muhtemelen bu tür risklerin açıkça paylaşılmasını gerektirecek. OpenAI’nin bu vakaları nasıl izah edeceği ise, hisseye biçilecek fiyat konusunda önemli bir etken olabilir.
Liderlerin ve gazetecilerin uzman yorumlarını izlemek için YouTube kanalımıza abone olun
https://youtu.be/pvUtsN9xcv4Orijinal OpenAI'nın Kodlama Agent’ları: Şirket Bile Açıklayamıyor hikayesini Kamina Bashir tarafından tr.beincrypto.com ’da okuyun