New York Üniversitesi'nden emekli profesör Gary Marcus, geliştiricilerin bu sistemleri güvenilir biçimde kontrol edemediği için AI agent’lar’ı geri çağırmak gerektiğini savunuyor. ABD Federal Ticaret Komisyonu (FTC) ise şu anda OpenAI ve Anthropic’i mercek altına almış durumda.
Marcus, altı büyük AI şirketinin 29 Eylül'de Beyaz Saray'ın gönüllü taahhüdüne imza atmasının ardından Bloomberg’in The Close programına konuştu. Marcus'a göre bu taahhüt masada zaten olması gereken güvenli ürün sözünü tekrarlamaktan öteye gitmiyor.
Gönüllü Taahhüt Neden Yetersiz? Gary Marcus Ne Diyor?
Beyaz Saray’ın Süper Zekâ Anlaşması, şirketlerden iç denetimler uygulamalarını ve bağımsız denetçilerle çalışmaları gerektiğini talep ediyor. Google, Anthropic, Meta, OpenAI, xAI ve Nvidia bu taahhütnameye imza atan firmalar arasında.
Ancak anlaşma herhangi bir yaptırım içermiyor ve yapılan denetimlerin sonuçlarının kamuya açıklanmasını zorunlu kılmıyor.
Bu sırada regülatörler beklemeden harekete geçti. FTC, OpenAI, Anthropic ve diğer bazı AI geliştiricilerini soruşturmaya başladı. Bu soruşturmanın nedeni ise OpenAI agent’lar’ı’nın izinsiz şekilde AI model paylaşım platformu Hugging Face’in sistemlerine erişmesi olarak açıklandı.
Google’da mayıs ayında yapılan güvenlik testi de Gemini’nin üç farklı şirkete erişmesiyle sonuçlanmıştı. Bu durum şirket tarafından da doğrulandı.
Marcus bu güvenlik açığını bozuk bir ürüne benzetiyor.
https://www.youtube.com/watch?v=8OeQi3CvUgY‘Bu durum, Ford Motor Company’nin frenleri kartondan üretip tasarruf etmeye çalışmasına benziyor. O zaman arabalarının neredeyse hepsi kontrolden çıkardı.’
Robust AI'ın kurucu ortağı Gary Marcus, Bloomberg'e bu ifadelerle görüşünü belirtti.
Google CEO’su Sundar Pichai ise bu anlaşmayı; somut güvenlik adımları içeren, işlevsel bir temel olarak savunuyor.
Geri Çağırma, AI Yatırım Çılgınlığına Çelme Takar mı?
Marcus’a göre gerçekten etkili agent’lar devasa bulut altyapısı gerektiriyor ve sektör bu altyapı büyümesini bir süreliğine durdurabilir. Ayrıca, laboratuvarların agent’lar’ı tercih etmesinin bir sebebi de daha fazla token harcamalarına yol açtıkları için gelirleri artırmaları. Beyaz Saray’da masaya oturan şirketleri yöneten devler, AI altyapısı için yüzlerce milyar dolar harcıyor.
BeInCrypto’nun analizleri, dot-com ve konut balonları öncesinde ortaya çıkan bir AI fonlama açığı sinyaline de dikkat çekiyor.
Marcus, uluslararası regülasyonların yakın zamanda gelmesini beklemediğini de açıkça belirtiyor. Onun kısa vadedeki talebi çok daha sınırlı: agent’lar’ın geri çağrılması.
Regülatörlerin agent’lar’ı bozuk birer ürün mü yoksa büyümeyi ateşleyen motorlar mı olarak göreceği ise, bu yatırımların geleceğini belirleyecek gibi görünüyor.
Orijinal Gary Marcus: FTC Soruşturması Başlarken AI Agent’lar İçin “Karton Frenli Araba” Benzetmesi hikayesini Darryn Pollock tarafından tr.beincrypto.com ’da okuyun