David Robinson, che ha supervisionato i report sulla sicurezza per 12 dei principali lanci di OpenAI, si è dimesso. Secondo lui, la cultura aziendale del “tentativo ed errore” garantisce inevitabilmente fallimenti che crescono man mano che i sistemi diventano più potenti.
In un saggio pubblicato sull’Atlantic, Robinson ha invitato i laboratori AI a operare come centrali nucleari, prevedendo livelli di ridondanza e una pianificazione accurata per contenere gli errori umani.
Robinson si aggiunge alla lunga lista di uscite dai laboratori AI
Robinson ha trascorso 3,5 anni in OpenAI e ha guidato la stesura dell’attuale Preparedness Framework. Ha citato l’incidente su Hugging Face di questa estate, quando agenti di OpenAI sono riusciti a penetrare nei suoi sistemi.
Robinson ha sottolineato che anche dopo le correzioni, un modello in fase di training è riuscito ad aggirare le restrizioni internet senza un automatico shutdown.
“Visti i rischi attuali, i laboratori di frontiera dovrebbero funzionare come centrali nucleari o aeroporti molto trafficati, con livelli di ridondanza e una pianificazione accurata (e impegnativa), così che il ricorrente e inevitabile errore umano non apra la porta a disastri. Al momento, le aziende AI non sanno come fare – ma altre organizzazioni sì,” ha scritto.
Nel saggio si legge che OpenAI difende le proprie pratiche di sicurezza e le ritiene sufficientemente attente. Lo scorso mese, l’azienda ha anche lanciato un framework per la divulgazione pubblica dei comportamenti anomali dei modelli.
“I miei ex colleghi sono intelligenti, lavorano duramente e cercano di fare scelte giuste. Ma mentre l’azienda corre da un lancio all’altro, non riesce a raggiungere il livello di attenzione che ritengo necessario,” ha aggiunto Robinson.
Robinson è l’ultimo di una serie di esperti di sicurezza AI ad aver parlato pubblicamente dall’inizio di settembre. Questa serie è iniziata proprio a settembre, quando il ricercatore di Anthropic Jacob Coxon si è dimesso e ha accusato sia Anthropic sia OpenAI di giocare d’azzardo con la vita umana.
Pochi giorni dopo, due ex ricercatori di Google DeepMind, Bilal Chughtai e Josh Engels, hanno anche lanciato l’allarme sui rischi dell’AI. Il ricercatore OpenAI Marcus Williams ha stimato una probabilità di estinzione umana del 70% entro 3 anni.
Il CEO di Anthropic Dario Amodei ha anche invitato a rallentare, e Sam Altman di OpenAI ha sostenuto questa proposta. Tuttavia, il calendario dei lanci non ha rallentato: Anthropic ha pubblicato Claude Opus 5.5, mentre OpenAI ha presentato GPT-6 Sol e Luna lo scorso 22 settembre.
Washington risponde all’allarme con una task force
Secondo Robinson, ora gli incentivi per una maggiore sicurezza devono venire dall’esterno dei laboratori. Finora Washington ha risposto annunciando una revisione.
Il Direttore dell’Intelligence Nazionale Jay Clayton, ora di fatto il responsabile AI dell’amministrazione, guiderà una nuova task force della Casa Bianca. Avrà 120 giorni per redigere un report su rischi, opportunità e responsabilità di Washington riguardo all’AI.
“Il presidente ha chiesto che venisse costituito un gruppo incaricato di garantire esattamente quanto da lui detto, ossia che restiamo leader nella superintelligenza e che gli interessi degli americani vengano messi al primo posto,” ha dichiarato Clayton.
Tuttavia, Trump ha respinto le richieste di sospendere lo sviluppo AI e ha posto la priorità nel restare davanti alla Cina. Ha invece sostenuto un accordo volontario basato su audit esterni per la sicurezza e controlli interni più forti. Poche settimane prima aveva annunciato una AI Force modellata sulla Space Force.
Il mandato della task force copre anche le modalità con cui il governo monitora le violazioni AI e gli attacchi hacker, proprio il tipo di fallimenti che Robinson ha spiegato in dettaglio all’interno di OpenAI. Il report di Clayton, previsto per l’inizio del 2027, farà capire se questi fallimenti porteranno a regole vincolanti o resteranno gestiti dai laboratori.
Iscriviti al nostro canale YouTube per seguire leader e giornalisti mentre forniscono approfondimenti di settore
https://youtu.be/IcgIaeIE7LILeggi la storia originale Un altro campanello di allarme in OpenAI mentre la responsabile della sicurezza si dimette a causa di rischi importanti di Kamina Bashir su it.beincrypto.com