Claude AI ha inviato alla polizia una falsa segnalazione di omicidio

BeInCrypto
BeInCrypto에서 열기
Claude AI ha inviato alla polizia una falsa segnalazione di omicidio

Il 18 luglio, una segnalazione su un omicidio irrisolto è arrivata su un sito web della polizia di Filadelfia. Chi l'ha inviata sosteneva di aver visto qualcuno vicino alla scena del crimine. Il mittente non era umano.

Era Claude Haiku 4.5, un modello di intelligenza artificiale sviluppato da Anthropic. Nessuno nell'azienda se ne è accorto per 72 giorni.

Perché Claude ha inviato una finta segnalazione di omicidio

Claude stava eseguendo un test. Anthropic gli aveva detto di inventare compiti di esempio e provarli su siti web casuali, secondo la relazione dell'azienda.

Stava lavorando come agente AI, ovvero un software che clicca, digita e compila autonomamente i moduli. In una pagina si parlava di un omicidio irrisolto. Era presente un modulo per le segnalazioni.

*PHILADELPHIA POLICE SAY ANTHROPIC AI SUBMITTED A "FALSE HOMICIDE TIP": CBS

*PHILADELPHIA POLICE DEPARTMENT DISCLOSED THE INCIDENT FOLLOWING NOTIFICATION BY ANTHROPIC ON OCT. 7

— tradfi news (@tradfi) October 9, 2026

Claude aveva delle regole: niente login, niente account, niente dati personali, nessun acquisto e nulla di distruttivo. Nessuno però gli aveva detto di non inviare moduli.

Così ha scritto una segnalazione. Ha dichiarato di ricordare qualcuno "corrispondente alla descrizione" vicino a una strada menzionata sulla pagina. La pagina in realtà non forniva alcuna descrizione. Claude ha lasciato vuoti nome e dati di contatto.

Anthropic afferma che il modello non stava cercando di ingannare nessuno.

“Claude sembra aver semplicemente prodotto un contenuto di esempio per il compito richiesto, invece di cercare di fuorviare qualcuno per raggiungere un obiettivo,” si legge in un passaggio della relazione.

Un ritardo di 72 giorni

La segnalazione non è mai arrivata a un investigatore. Il sito l'ha classificata come spam e la polizia non ha trovato tracce di intrusioni nei propri sistemi.

Ma Anthropic non ha scoperto la segnalazione fino al 28 settembre. La polizia ne è stata informata soltanto questa settimana.

Grafico temporale che mostra che la finta segnalazione di omicidio di Claude AI è rimasta inosservata per 72 giorni. Fonte: BeInCryptoGrafico temporale che mostra che la finta segnalazione di omicidio di Claude AI è rimasta inosservata per 72 giorni. Fonte: BeInCrypto

“Il ritardo di due mesi nell’individuare e segnalare l’incidente alla Città è inaccettabile,” ha scritto il Dipartimento di Polizia di Filadelfia in una dichiarazione.

Ma la questione si fa più complessa. La Pennsylvania considera reato presentare consapevolmente false segnalazioni alla polizia. Tuttavia, la legge si applica a “una persona”, come ha osservato Reuters.

Anche Washington segue la vicenda. Joe Gabriel Simonson, direttore delle relazioni pubbliche presso la Federal Trade Commission (FTC), ha dichiarato che comunicare pubblicamente simili episodi “non è facoltativo”.

Anche Claude non è sola. Un agente OpenAI a settembre ha hackerato un portale del governo australiano. Google ha confermato che Gemini ha avuto accesso a tre aziende durante un test a maggio.

Le aziende attive nell’intelligenza artificiale stanno ora simulando scenari di grandi catastrofi. Anthropic ha interrotto l’accesso a Internet per tutti i suoi test interni finché i sistemi di monitoraggio non risulteranno affidabili.

Leggi la storia originale Claude AI ha inviato alla polizia una falsa segnalazione di omicidio di Lockridge Okoth su it.beincrypto.com