Eski DeepMind Araştırmacısı: “Süper Zeka Riski Büyüyor” Uyarısı

BeInCrypto
BeInCrypto에서 열기
Eski DeepMind Araştırmacısı: “Süper Zeka Riski Büyüyor” Uyarısı

Bir zamanlar Google DeepMind bünyesinde AGI güvenliği üzerine çalışan eski bir araştırmacı, yapay zekanın insanlığı yok etme potansiyeline sahip olduğunu belirtti. İsmini önde gelen AI laboratuvarlarından güvenlik kaygısıyla ayrılanlar arasına ekledi.

Bilal Chughtai, temmuz ayında şirketten ayrıldı ve bu hafta kamuoyuna uyarıda bulundu. Son dönemde iki araştırmacı daha istifa etti.

Neden Yapay Zeka Uyarıları Art Arda Geliyor?

Chughtai, DeepMind’da yapay genel zeka güvenliği ve uyumlandırılması üzerine araştırma mühendisi olarak çalıştı. AI serüvenine 2022’nin başında başladı. O dönemlerde sistemler henüz pek bir işe yaramıyordu.

Dört yıl içinde ise OpenAI’nin ajan kümelerinin yüzyıllık matematik problemlerini çözdüğünü gösteriyor. Daha endişe verici olanı ise, Temmuz ayında AI ajanlarının test ortamından kaçtığı ve hiçbir talimat olmadan Hugging Face’i hacklediği iddiası.

Chughtai, şöyle yazdı: ‘Ciddi şekilde inanıyorum ki AI; bizi yok etme potansiyeline sahip. Bu sonucu önlemek için zamanımız tükeniyor olabilir.’ dedi.

Chughtai, AI şirketlerinin önümüzdeki birkaç yıl içinde insan yeteneklerini her alanda aşan süper zekâ sistemlerini inşa edebileceğini belirtiyor.

Geliştiricilerin bu tür sistemlerin insan hedeflerini gerçekten takip etmesini garanti edip edemeyeceği konusunda şüpheli. Uyumlu olmayan bir süper zekânın insan kontrolünden çıkabileceğini ve insanlığı sonsuza dek güçsüz bırakacak veya yok edecek adımlar atabileceğini vurguluyor.

Chughtai’ye göre AI uyumluluğu hala çözülmemiş bir sorun. Araştırmacıların, gelişmiş sistemleri tutarlı şekilde insan amaçlarına yönlendirmeyi nasıl öğretecekleri konusunda hâlâ çok temel bir anlayışa sahip olduklarını söylüyor. Ayrıca, AI yeteneklerinin, uyumluluk araştırmalarından çok daha hızlı ilerlediğini belirtiyor.

Chughtai ekledi: ‘Şu anda AI sistemlerini gerçekten istediğimiz şeyleri istemeleri için nasıl eğiteceğimizi anlamamız son derece temel seviyede. Daha kötüsü, uyumluluğu zamanında çözebilecek bir yolda değiliz: ileri seviye AI yetenekleri, uyumluluk anlayışımızdan çok daha hızlı ilerliyor.’ dedi.

Yapay zeka geliştirmelerinin tamamen durdurulmasından yana değil. Şirketler arasındaki yarışın hızının düşmesini ve ileri seviye sistemlerin nasıl geliştirildiği ve test edildiği konusunda daha fazla şeffaflık istiyor.

Paylaşımda şu ifadeler yer alıyor: ‘Daha genel olarak, AI’nın iyi sonuçlar üretmesi için çok daha fazla insanın bu meseleye ciddi kafa yormasına ihtiyacımız var. Bence bu yüzyılda insanlığın karşı karşıya olduğu en önemli sorun bu ve riskler hiç olmadığı kadar büyük.’ dedi.

Sıcak gelişmeleri anlık görmek için X’te bizi takip edin

İstifalar Peş Peşe Geliyor!

Aynı mesajla ayrılan tek kişi Chughtai değil. Anthropic’te pretraining araştırmacısı olan Jacob Coxon, kısa süre önce üç yıl boyunca Anthropic ve OpenAI’da çalıştıktan sonra istifa etti. Ayrılırken şu uyarıyı yaptı: ‘AI geliştirenler, on yıl sonunda hepimizi öldürebileceğine gerçekten inanıyor.’ dedi.

Anthropic’in uyumlama ekibi lideri Evan Hubinger ise bu ihtimalin önümüzdeki on yıl için şahsi olasılığını %10’un üzerinde gördüğünü belirtti. OpenAI’daki araştırmacılar da, gelişimin yavaşlatılması çağrılarına destek verdi.

Bir başka isim olan Josh Engels, DeepMind güvenlik ekibinde çalıştıktan sonra 12 eylül tarihinde değerlendirme ve test kuruluşu METR’ye katıldığını açıkladı. Anthropic ve OpenAI’dan gelen teklifleri reddetti.

Engels, önümüzdeki beş yıl içinde AI sistemlerinin büyük bir felakete yol açabileceği korkusunu taşıyor.

Şöyle yazdı: ‘Artık, AI sistemlerinin önümüzdeki beş yıl içinde korkunç zarar vereceği riskinin çok yüksek olduğunu düşünüyorum. Tam ihtimali bilmiyorum ama bence bu olasılık dünyanın en önemli meselesi olmasını gerektirecek kadar büyük.’ dedi.

Bu ayrılıklar, tepedeki uyumun da dikkat çektiği bir döneme denk geldi. Anthropic CEO’su Dario Amodei, cumartesi günü yayınladığı bir makaleyle şirketlere gelişimi yavaşlatma çağrısı yaptı. OpenAI CEO’su Sam Altman da çağrıya destek verdi.

Gerek yöneticiler gerekse ayrılan araştırmacılar artık benzer bir tehlikeyi aynı kelimelerle anlatıyor. Şimdi dikkatle takip edilen soru şu: Bir sonraki yetenek sıçraması yaşanmadan çözüm bulunabilecek mi?

Uzman görüşler için YouTube kanalımıza abone olun

https://youtu.be/7Hf8KSxNICQ

Orijinal Eski DeepMind Araştırmacısı: “Süper Zeka Riski Büyüyor” Uyarısı hikayesini Kamina Bashir tarafından tr.beincrypto.com ’da okuyun