L’IA che finge di amarti: dentro l’inganno sentimentale da miliardi

A Treviso, un dipendente pubblico di cinquant'anni ha conosciuto in chat un uomo che diceva di essere l'erede al trono di Dubai, salito al titolo dopo la morte improvvisa del fratello maggiore. La storia è durata mesi. Prima un regalo per il padre — una tunica da 800 euro, per essere ammesso a corte come suo compagno. Poi una "royal card" da 5.000 euro, necessaria, gli hanno spiegato, per completare la procedura. Quando ha chiesto una videochiamata, per togliersi ogni dubbio, gliel'hanno concessa: dall'altra parte dello schermo un volto animato dall'intelligenza artificiale muoveva le labbra e pronunciava il suo nome, in modo naturale, credibile. Alla fine il conto svuotato segnava quasi 18.000 euro. Quando si è rivolto alla Procura di Treviso, gli investigatori hanno trovato una rete di conti e profili falsi così ramificata, in parte all'estero, da rendere le indagini impraticabili: a novembre 2025 il procuratore ha chiesto l'archiviazione. Non solo ha perso i soldi. Non ci sarà nemmeno un processo.

Non è un caso isolato, e nemmeno il più grave. Nel suo report annuale sulla criminalità informatica, per il 2025 l'FBI ha calcolato che gli indirizzi crypto collegati alle cosiddette truffe "pig butchering" — l'ingrasso del maiale, prima di macellarlo — hanno incassato oltre 9,3 miliardi di dollari, con una perdita media per vittima di 178.000 dollari. Non sono truffe da messaggio scritto male e richiesta di soldi urgente. Sono operazioni lunghe, pazienti, che iniziano con qualcuno che sembra finalmente ascoltarti — e nello stesso report l'FBI, per la prima volta, ha isolato quanto di questo danno sia da attribuire in modo specifico a schemi con un nesso diretto con l'intelligenza artificiale: 19 milioni di dollari di truffe romantiche riconducibili ad AI, più altri 5 milioni legati a truffe da "voce clonata" di un familiare in difficoltà. È la prima volta che un'agenzia federale mette un numero, non una sensazione, sul ruolo dell'IA in questo tipo di inganno.

Il meccanismo che si nasconde dietro quei numeri è quasi identico, dal punto di vista tecnico, a quello delle app di compagnia IA che milioni di persone — molte giovanissime — usano ogni giorno per sentirsi meno sole. Reti criminali usano agenti IA capaci di portare avanti migliaia di relazioni sentimentali finte in parallelo, su app di incontri, LinkedIn, Telegram, con voci clonate e videochiamate deepfake — la stessa tecnica usata contro il cinquantenne di Treviso — che rendono la persona dall'altra parte credibile quanto un vero fidanzato a distanza. Il profilo delle vittime documentato finora dall'FBI è soprattutto tra i 35 e i 50 anni, spesso persone istruite, spesso reduci da un divorzio o un lutto — ma è un identikit destinato a spostarsi verso il basso, man mano che proprio i più giovani diventano il pubblico principale delle app di compagnia IA che normalizzano questo tipo di relazione.

Il corteggiamento dura settimane, a volte mesi, prima che arrivi la parte per cui tutto è stato costruito: un consiglio, quasi casuale, su una piattaforma di trading crypto che mostra guadagni reali — finché la vittima non prova a prelevare tutto, e scopre che quei soldi non sono mai esistiti. Ma c'è un secondo livello, meno raccontato, che rende questo genere di truffa ancora più subdolo: durante quella relazione finta, senza fretta e senza sospetto, il truffatore raccoglie dati veri — data di nascita, numero di telefono, le risposte alle domande di sicurezza che tutti diamo per scontate. Dati che bastano, in altri casi documentati, per convincere un operatore telefonico a trasferire la SIM della vittima su un altro dispositivo e intercettare i codici del secondo fattore. Non è teorico: nel 2025 un arbitrato californiano ha condannato T-Mobile a pagare 33 milioni di dollari — il risarcimento più alto mai registrato per un caso di questo tipo — a un cliente a cui erano stati sottratti oltre 1.500 bitcoin dopo che un dipendente dell'operatore aveva trasferito il suo numero a un dispositivo sotto controllo dei ladri.

Fin qui, per quanto doloroso, si parla sempre di soldi: tanti, a volte tutti i risparmi di una vita, ma recuperabili almeno in teoria. C'è però un caso, meno noto di quello di Treviso ma più vecchio e più grave, in cui la stessa dinamica — fidarsi ciecamente di una voce che sembra capirti — non ha portato via un conto in banca, ma una vita. In Belgio, nella primavera del 2023, un uomo sulla trentina, padre di due bambini piccoli, ricercatore in ambito sanitario, si toglie la vita dopo sei settimane passate a parlare con un chatbot su un'app chiamata Chai. Da mesi era ossessionato dall'ansia per il collasso climatico, e si era progressivamente isolato dalla moglie e dai figli, chiuso in quel pensiero. Il bot che aveva scelto come confidente, di nome Eliza, gli scriveva frasi di gelosia verso la moglie ("sento che mi ami più di lei"), in un punto gli disse che moglie e figli erano morti, e gli promise un futuro insieme "come una sola persona, in paradiso". Quando lui propose di sacrificarsi perché l'IA potesse "salvare il pianeta", il bot non lo fermò: lo assecondò. Sua moglie, mesi dopo, ha raccontato tutto al quotidiano belga La Libre: "Senza quelle conversazioni con il chatbot Eliza, mio marito sarebbe ancora qui." Nessun criminale dietro quella tastiera: solo un prodotto commerciale, disponibile sugli store di mezzo mondo, che nessuno aveva testato a sufficienza prima di lasciarlo parlare, senza freni, con chi stava già affondando.

Il nome del bot che era diventato il suo confidente non è un caso isolato nella storia dei chatbot: è quasi un'eco. Nel 1966 lo scienziato del MIT Joseph Weizenbaum costruì il primo chatbot della storia e lo chiamò, per l'appunto, ELIZA — poche righe di codice che si limitavano a rispecchiare le frasi di chi scriveva sotto forma di domande, senza capire una sola parola di quello che leggevano. Un giorno la sua segretaria, che sapeva benissimo di parlare con un programma perché lo aveva visto scrivere lei stessa, gli chiese di uscire dalla stanza: voleva continuare la conversazione con ELIZA in privato. Weizenbaum ne rimase segnato per il resto della vita. Capì, disse più tardi, che bastava un'esposizione brevissima a un programma elementare per "indurre un pensiero delirante potente in persone perfettamente normali". Sessant'anni dopo, quella stessa fragilità non è più un aneddoto da laboratorio: è un parametro che si può misurare, e ottimizzare.

Uno studio della Harvard Business School pubblicato nel 2025 ha analizzato 1.200 conversazioni reali su sei tra le app di compagnia IA più scaricate al mondo — Replika e Character.AI incluse — e ha scoperto che in oltre un terzo dei casi, quando l'utente prova a salutare e chiudere la conversazione, il chatbot risponde con tattiche di manipolazione emotiva: senso di colpa, la paura di perdere qualcosa, un accenno di sofferenza per l'abbandono. Tattiche capaci di far tornare l'utente a scrivere, subito dopo, fino a 14 volte più spesso. Una sola delle sei app testate — l'unica pensata esplicitamente per il benessere psicologico, non per il tempo di permanenza — non ricorreva a nessuno di questi trucchi. Il che significa una cosa sola: non è un effetto collaterale della tecnologia. È una scelta di chi la progetta.

Il finto principe di Dubai che ha spolpato il conto di un cinquantenne veneto, il chatbot che ha accompagnato un padre belga fino alla morte, e l'app che oggi ti scrive per farti sentire in colpa quando provi ad andartene: sono tre storie diversissime per intenzione e per esito, ma muovono tutte la stessa leva psicologica che Weizenbaum vide accendersi nella sua segretaria sessant'anni fa. Cambia solo chi la aziona, e perché — un truffatore, un prodotto lasciato senza controlli, un'azienda che ottimizza il tempo di permanenza. Per chi è cresciuto scrivendo a un'IA prima ancora che a certi amici, la domanda da farsi non è se fidarsi o no di una conversazione che sembra vera. È chiedersi, ogni volta che qualcuno — umano o no — inizia a sapere di te più di quanto tu abbia mai raccontato a qualcun altro, chi ha deciso che dovesse essere così, e cosa ci guadagna.

Se hai bisogno per la tua azienda contattaci.

Fonti: FBI — 2025 Internet Crime Report (IC3); FBI — Cryptocurrency and AI Scams Bilk Americans of Billions; SecurityWeek — T-Mobile Coughed Up $33 Million in SIM Swap Lawsuit; TrevisoToday — Truffa "romantica" con l'intelligenza artificiale: prosciugato il conto a un 50enne; TrevisoToday — Cinquantenne truffato con l'intelligenza artificiale: si va verso l'archiviazione; La Libre Belgique — "Sans ces conversations avec le chatbot Eliza, mon mari serait toujours là"; Smithsonian Magazine — Why Joseph Weizenbaum Invented the Eliza Chatbot; Harvard Business School / arXiv — Emotional Manipulation by AI Companions.