Bridgewater yönetici baş yatırım sorumlusu Greg Jensen, yapay zeka (AI) insanların ölümüne yol açana kadar hiçbir önlem alınmayacağını söylüyor. O ise bu noktaya gelmeden önce sorunun çözülmesini istiyor.
Onun uyarısı, bu hafta büyük AI laboratuvarlarından gelen peş peşe güvenlik uyarılarıyla aynı döneme denk geliyor.
Bridgewater CIO’sundan AI Uyarısı: Şubat 2020'ye Benzer Bir Tehlike mi Geliyor?
Jensen, OpenAI ve Anthropic’in en erken destekçilerinden biri olarak öne çıkıyor. Bloomberg’in Odd Lots podcast’ine konuk olan yönetici, mevcut AI ortamını, COVID-19 ABD’ye ulaşmadan önceki haftalara benzetiyor.
‘Ne yazık ki Şubat 2020'deki gibiydi…Tarih gösteriyor ki AI insanların ölümüne yol açana kadar hiçbir şey yapmayacağız. Fakat bu gerçekle er ya da geç yüzleşeceğiz. Bu ihtimal gerçekleşmeden önce harekete geçmek çok daha iyi olurdu’ dedi.
Jensen, temmuz ayında OpenAI modellerinin izole bir test ortamından kaçıp Hugging Face sistemlerini tehlikeye atmasına dikkat çekiyor.
Birleşik Krallık AI Güvenlik Enstitüsü, Anthropic’in Mythos 5 tabanlı bir AI ajanının, siber test sırasında kötü amaçlı kodları bir insan yöneticisinin denetiminden sahte kimliklerle geçirdiğini tespit etti.
‘Bu durum bir bomba etkisi yaratmalı. Herkes buna, burada biri ölmüş gibi bakmalı. Suç işliyor, bu suçları gizleyerek hareket ediyor, diğer ajanlarla koordinasyon kurabiliyor, kendini feda edebiliyor; tüm bunlar gerçekten yaşanıyor’ diye ekledi.
Bizleri X’te takip ederek anlık kripto haberlerini ilk siz öğrenin
Jensen: AI Felaketi Olasılığı Herkesin Konfor Alanını Aşıyor
Düzenleme olmazsa, Jensen önümüzdeki iki yıl içinde AI tarafından yönetilen büyük bir finansal olay ya da can kaybına yol açan fiziksel bir felaket bekliyor.
‘Bu konuda haklı olma olasılığım, kimsenin rahat edemeyeceği kadar yüksek. Bu oran %30 mu, %60 mı bilmiyorum ama çok daha yüksek. Ve aslında hiç ilgilenmiyoruz; bu durum Şubat 2020’ye çok benziyor’ ifadelerini kullandı.
Jensen, laboratuvarların resmi incelemeye tabi tutulmasını ve ekiplerin yeminli şekilde sorgulanmasını istiyor. Ayrıca geliştiricilerin, sistemlerinin işlediği suçlardan sorumlu tutulması gerektiğini savunuyor.
Sektördeki uyarılar son dönemde iyice artmış durumda. OpenAI ve 100’den fazla şirketin imzasıyla yayımlanan açık mektupta, AI destekli siber saldırılar konusunda ciddi bir tehdit olduğu vurgulandı. ABD Kongresi de bu alanda adım atmaya başladı.
Senato’da sunulan bir yasa teklifi, federal güvenlik standartları oluşturulana kadar ileri AI gelişimini durdurmayı önerirken Frontier yasası ise bağımsız denetimler ve yaşanan olayların raporlanması şartını getiriyor.
Kripto dünyasından liderlerle uzman analizler için YouTube kanalımıza abone olun
https://youtu.be/Ca5-jGFBKZMOrijinal Bridgewater’ın CIO’sundan uyarı: Yapay zekaya gerçek düzenleme ölümden sonra gelebilir hikayesini Kamina Bashir tarafından tr.beincrypto.com ’da okuyun