Un difetto strutturale nei motori di ricerca basati sull’intelligenza artificiale trasforma Google in un vettore di frodi. E coi browser agentici il problema potrebbe diventare molto più grave
Lo scorso agosto Alex Rivlin, imprenditore di Las Vegas, ha cercato su Google il numero del servizio clienti di Royal Caribbean per prenotare un transfer verso la sua nave da crociera. Il numero che le AI Overviews gli hanno mostrato in cima alla pagina sembrava legittimo, e il rappresentante che gli ha risposto ben conosceva prezzi e dettagli logistici. Rivlin gli ha fornito i dati della carta di credito e com’è andata a finire… beh, l’avrete capito. Fatta la legge, trovato l’inganno, si usa dire. E i truffatori hanno imparato a manipolare l’intelligenza artificiale di Google con tecniche vecchie di trent’anni. Il caso, riportato dal Washington Post e da Digital Trends, non è isolato, tant’è che banche e cooperative di credito statunitensi stanno avvertendo i propri clienti di non fidarsi dei numeri di telefono restituiti dai sistemi di ricerca basati sull’IA.
IL SEO POISONING APPLICATO ALL’IA
La tecnica si chiama SEO poisoning: i truffatori disseminano numeri falsi su forum, piattaforme di recensioni e siti secondari, associandoli ai nomi di grandi aziende quali compagnie aeree, istituti bancari, operatori telefonici. Nella ricerca tradizionale questi numeri apparirebbero in un elenco di link, lasciando all’utente il compito di valutarne l’attendibilità. Con le AI Overviews il meccanismo cambia radicalmente: il sistema aggrega le informazioni trovate sul web e le presenta come una risposta autorevole e verificata. Che però può essere falsa…
Continua la lettura
Il presente articolo è stato redatto da FinanciaLounge.com .