Gary Marcus, professore emerito alla New York University, sostiene che gli agenti AI abbiano bisogno di un richiamo perché gli sviluppatori non possono controllarli in modo affidabile. La Federal Trade Commission (FTC) sta ora indagando su OpenAI e Anthropic.
Marcus ha parlato a The Close di Bloomberg dopo che sei aziende AI hanno firmato un impegno volontario alla Casa Bianca il 29 settembre. Sostiene che l’impegno cambi poco, perché quelle aziende devono già offrire prodotti sicuri agli utenti.
Perché Gary Marcus ritiene che un impegno volontario sia insufficiente
L’Accordo della Casa Bianca sulla Super Intelligenza invita le aziende a mantenere controlli interni e collaborare con revisori esterni. Google, Anthropic, Meta, OpenAI, xAI e Nvidia lo hanno firmato.
Tuttavia, l'accordo non prevede sanzioni e non richiede la divulgazione pubblica dei risultati delle verifiche.
Nel frattempo, le autorità di regolamentazione non stanno aspettando. La FTC ha aperto un’indagine su OpenAI, Anthropic e altri sviluppatori AI. L’indagine segue il caso di agenti OpenAI che hanno avuto accesso senza autorizzazione ai sistemi della piattaforma di condivisione modelli AI Hugging Face.
Un test di sicurezza condotto da Google a maggio si è anche concluso con Gemini che ha avuto accesso a tre aziende, come confermato dall’azienda stessa.
Marcus paragona il problema a un prodotto difettoso.
https://www.youtube.com/watch?v=8OeQi3CvUgY“È come se Ford Motor Company decidesse di risparmiare costruendo i freni in cartone, poi molte delle loro auto finirebbero fuori controllo.”
Gary Marcus, co-fondatore di Robust AI, intervistato da Bloomberg
Sundar Pichai, CEO di Google, ha difeso l’accordo, definendolo una base praticabile con passaggi concreti per la sicurezza.
Un richiamo potrebbe scontrarsi con il boom degli investimenti nell'AI?
Secondo lui, agenti efficaci necessitano di una enorme capacità cloud, e il settore potrebbe fermare questa espansione. Sostiene anche che i laboratori preferiscano gli agenti perché consumano più token, aumentando quindi i ricavi. Le aziende guidate dai partecipanti all’incontro alla Casa Bianca stanno investendo centinaia di miliardi di dollari nelle infrastrutture AI.
Un’analisi di BeInCrypto ha segnalato un segnale di gap dei finanziamenti nell’AI che ha preceduto lo scoppio della bolla dot-com e della crisi immobiliare.
Marcus ammette che regole internazionali non arriveranno presto. La sua richiesta a breve termine è più circoscritta: il richiamo degli agenti.
Il fatto che le autorità considerino gli agenti prodotti difettosi o motori di crescita potrebbe influenzare fino a che punto questi investimenti proseguiranno.
Leggi la storia originale Gary Marcus paragona gli agent AI a auto con freni di cartone mentre la FTC apre un’indagine di Darryn Pollock su it.beincrypto.com