Clonazione vocale AI: cosa sapere prima che tocchi a te

Il 31 dicembre 2019, sul palco più seguito della televisione giapponese, Misora Hibari è tornata a cantare. Aveva l'abito di scena, il microfono, gli stessi movimenti di trent'anni fa. Peccato che fosse morta dal 1989.

Non era un filmato d'archivio. Era un ologramma 3D a grandezza naturale, costruito da Yamaha con un sistema chiamato VOCALOID:AI: un modello principale più altri quattro, ciascuno addestrato su una sfumatura diversa della sua voce — vibrato, armoniche, persino il respiro — ricavati dalle registrazioni che aveva lasciato in vita. Il risultato ha eseguito una canzone che lei non ha mai scritto, mai provato, mai sentito: "Arekara", composta apposta per l'occasione da un produttore che ha deciso, al posto suo, cosa la sua voce dovesse dire. Il Mori Art Museum l'ha rimessa in scena proprio nel 2026, sette anni dopo, tra le opere che raccontano il futuro dell'intelligenza artificiale.

Il cantante Yamashita Tatsuro ha guardato la scena e ha usato una parola sola: blasfemia. Non era una reazione religiosa: era la sensazione che qualcun altro avesse deciso al posto di una persona che non poteva più dire di no.

Non è nemmeno un caso isolato al Giappone. Pochi mesi prima, negli Stati Uniti, il podcast Dudesy aveva pubblicato "George Carlin: I'm Glad I'm Dead", uno speciale comico interamente generato da un'AI addestrata sulla voce e sullo stile del comico, morto nel 2008. Stessa idea: prendere una voce che non può più dire di no e farle dire cose che non ha mai scelto. Ma qui la storia finisce diversamente — gli eredi di Carlin hanno fatto causa, e nel giro di una settimana i podcaster hanno rimosso il video, cancellato ogni riferimento a Carlin dai loro canali e accettato un'ingiunzione permanente che vieta di riusare la sua voce o la sua immagine. Negli Stati Uniti esiste un diritto di pubblicità che sopravvive alla morte e che qualcuno può far valere in tribunale. In Giappone, per Misora Hibari, quel diritto semplicemente non c'è: non è che Yamaha e NHK lo abbiano aggirato, è che nessuno ha mai scritto la regola che avrebbero dovuto rispettare.

È lo stesso nodo, capovolto, che avevamo toccato parlando di interfacce cervello-computer: lì la tecnologia restituisce la parola a chi l'ha persa, ma lo fa decodificando l'intenzione della persona stessa, non sostituendola. Chi porta un impianto non diventa un burattino del sistema che lo assiste: resta lui a scegliere cosa dire, l'elettronica traduce soltanto. È la differenza tra restituire controllo e prenderlo in prestito senza permesso.

E poi c'è il terzo scenario, quello che nessuna mostra celebra: rubare una voce. Per chi è vivo esiste almeno la finzione di una tutela — è frode, si può denunciare, sono le stesse leggi che puniscono chi si spaccia per un dirigente al telefono per autorizzare un bonifico, o per un familiare in difficoltà. Le tecniche sono le stesse che hanno ricostruito il timbro di Misora Hibari — voice cloning addestrato non su ore di registrazioni in studio, ma su tre secondi di audio: bastano, secondo un test del 2023 di McAfee, una delle principali aziende di sicurezza informatica, per produrre un clone con l'85% di somiglianza vocale con l'originale. Non serve rubare niente: basta un video pubblico, una diretta, un colloquio di lavoro registrato — qualunque traccia della tua voce lasciata in giro senza pensarci.

A febbraio 2024 un dipendente della sede di Hong Kong dello studio di ingegneria Arup ha partecipato a una videochiamata con il suo direttore finanziario e diversi altri colleghi. Li ha visti, li ha sentiti, ha riconosciuto le loro voci — ed erano tutti deepfake, volto e voce clonati in tempo reale. Nel giro di quella chiamata ha autorizzato quindici bonifici per un totale di 25 milioni di dollari, verso conti che non hanno più rivisto un centesimo. Non c'era nulla di rotto nella sua prudenza: aveva esitato, prima che la videochiamata lo convincesse a fidarsi. È lì che si sposta oggi il sospetto — non su chi ti scrive, ma sulla scena che qualcuno mette in piedi apposta per farti sentire al sicuro mentre non lo sei.

Deloitte, una delle quattro maggiori società di consulenza al mondo, stima che le frodi rese possibili dall'AI generativa costeranno alle sole banche americane 40 miliardi di dollari entro il 2027, contro i 12,3 miliardi del 2023. Ma il dato che dovrebbe preoccupare chi lavora in azienda è un altro: il 70% delle persone intervistate da McAfee ammette di non riuscire a distinguere una voce clonata da quella vera. Non è un problema che si risolve allenando l'orecchio — non ci riesci, e nemmeno chi l'ha già subito ci riusciva. Si risolve dandosi una regola prima che serva: una parola d'ordine con chi conta economicamente su di te, o la richiamata su un numero che conosci già, mai su quello che ti ha appena chiamato.

Alla vigilia delle primarie del New Hampshire, nel gennaio 2024, migliaia di elettori democratici hanno ricevuto una telefonata con la voce clonata di Joe Biden che li invitava a non andare a votare. Il consulente politico che l'aveva commissionata ha ricevuto una multa da 6 milioni di dollari dalla Federal Communications Commission ed è stato incriminato in quattro contee — poi assolto da una giuria l'anno successivo. La stessa tecnica usata per far cantare Misora Hibari, usata per rubare 25 milioni di dollari a uno studio di ingegneria, usata per provare a manipolare un'elezione: a cambiare non è lo strumento, è chi decide di premere play.

Per chi non c'è più, quella finzione non esiste nemmeno. Nessuno può sporgere denuncia per un furto d'identità a nome di Misora Hibari. Non c'è una legge che dica chi ha il diritto di rispondere no al posto suo, né chi debba concedere il permesso perché la sua voce torni a cantare una canzone che lei non ha mai scelto.

Tre modi di toccare la stessa cosa, e si ripetono uguali dal Giappone agli Stati Uniti: restituirla con consenso, prestarla dichiaratamente, o prenderla — a chi è vivo con la frode, a chi è morto senza nemmeno bisogno di infrangere una regola, tranne dove quella regola esiste già e qualcuno la fa valere. La tecnologia dietro è, sempre più spesso, la stessa. A cambiare è chi resta in mano il consenso — e quando non resta più nessuno a reclamarlo, quella mano spesso non esiste proprio.

Lavoriamo ogni giorno con agenti AI e con aziende di settori molto diversi, e da quella posizione vediamo tornare le stesse domande sotto forme diverse: chi teme che la propria voce sia stata usata senza permesso, chi non sa più se una telefonata al lavoro è reale, chi si accorge tardi di aver dato a una macchina più fiducia di quanta ne meritasse. Sono preoccupazioni fondate, e raramente qualcuno si prende il tempo di spiegarle con chiarezza invece che con allarmismo o tecnicismo. Costruiamo agenti vocali e automazioni AI per PMI italiane, e lo facciamo sapendo esattamente dove si nascondono questi rischi — perché li affrontiamo ogni giorno sul campo, non li leggiamo soltanto. Il nostro lavoro, anche qui, è lo stesso: trasformare quello che vediamo in informazione verificabile, per dare a chi legge gli strumenti per riconoscere il rischio prima che diventi un problema — e soprattutto per conoscere questa tecnologia abbastanza bene da poterla usare nel migliore dei modi.

Se hai bisogno per la tua azienda contattaci.

Fonti:
AIｘMisora Hibari — Mori Art Museum
NHK raises the dead for 'Kohaku' to mixed reviews — The Japan Times
Yamashita Tatsuro on AI Misora Hibari: "Blasphemy" — ARAMA! JAPAN
NHK, Yamaha use AI to bring back late Japanese singer — ISPR
George Carlin's estate settles lawsuit over AI comedy special — The Hollywood Reporter
Criminal charges and FCC fines issued for deepfake Biden robocalls — NPR
Deepfake video call scam costs engineering firm Arup $25 million — CNN Business
Artificial Imposters: cybercriminals turn to AI voice cloning — McAfee
Generative AI deepfake banking fraud risk on the rise — Deloitte