Deepfake e voce clonata, quando la telefonata del capo è falsa
Per chi paga, autorizza o reimposta le password: come funziona la truffa con un deepfake, cosa è accertato nei casi famosi e quali controlli non dipendono dall'orecchio.
In breve. Un deepfake è una voce o un video falsi, generati con l'intelligenza artificiale, che imitano una persona vera. Nelle truffe alle aziende serve a far sembrare autentica una richiesta di denaro o di accesso. A orecchio non si distingue con sicurezza: si chiude, si richiama al numero già noto e una seconda persona approva.
La telefonata arriva alle sei di sera. La voce è quella dell'amministratore delegato, con la sua cadenza e il suo modo di chiamarti per nome: c'è un'acquisizione riservata e serve un bonifico entro domani. Oggi quella voce può essere un deepfake, eppure in molte aziende e in molti studi una richiesta passa ancora perché chi la riceve ha riconosciuto chi parlava.
Del quadro generale degli attacchi con l'AI si occupa la guida su hacker e intelligenza artificiale, della frode sulle coordinate bancarie quella sulla truffa dell'IBAN e del finto CEO. Qui vediamo in quali passaggi una voce vale ancora come una firma, e cosa metterci al suo posto.
Cos'è un deepfake e cosa serve per clonare una voce
Un deepfake è un'immagine o un contenuto audio o video generato o manipolato dall'intelligenza artificiale, che somiglia a persone, luoghi o eventi esistenti e apparirebbe falsamente autentico: è la definizione dell'AI Act (art. 3, punto 60). Per un'azienda conta soprattutto la voce: al telefono arriva senza un allegato da controllare.
La clonazione della voce parte da registrazioni spesso già pubbliche: un'intervista, un webinar, un video sul sito. A Hong Kong, ha spiegato la polizia, il materiale veniva da filmati e audio dei dirigenti su YouTube; il report 2025 della Polizia Postale scrive che i criminali, raccolti i dati da fonti aperte, possono ricreare voce e movenze del bersaglio.
La voce clonata con l'intelligenza artificiale non richiede un laboratorio. In uno studio pubblicato su Scientific Reports nel 2025 i ricercatori hanno clonato 220 voci con un servizio commerciale, usando l'audio di due sole registrazioni per persona.
Come funziona la truffa della voce clonata
La truffa della voce clonata dà credibilità a una richiesta che, scritta in un'email, insospettirebbe. Le autorità e i casi noti descrivono questa sequenza:
- Chi attacca raccoglie nomi, ruoli, impegni pubblici e registrazioni da sito, social e video.
- Il primo contatto può arrivare per messaggio, da un numero nuovo con la foto del dirigente.
- La telefonata con la voce clonata presenta il bonifico come un'operazione «riservata e urgente», nelle parole della Polizia Postale.
- La fretta toglie il tempo dei controlli, la riservatezza toglie la possibilità di chiedere a un collega.
Non sempre si punta al denaro: nel 2025 l'FBI ha descritto una campagna di messaggi vocali generati con l'AI che imitavano alti funzionari statunitensi, per poi mandare un link dannoso con la scusa di spostare la conversazione su un'altra piattaforma.
Il numero sul display non prova niente
Nelle chiamate del falso ministro della Difesa, secondo le fonti della procura che indaga, la credibilità veniva proprio dal numero che compariva sullo schermo, riconducibile alla struttura delle comunicazioni del ministro. In Italia il filtro anti-spoofing dell'AGCOM blocca le chiamate dall'estero con un numero italiano contraffatto o non conforme: circa 191 milioni nei primi otto mesi del 2026. Una chiamata su WhatsApp o su Teams però non passa da lì.
Su Teams, nota il rapporto 2026 di Microsoft, la maggior parte dei nomi mostrati da chi attacca ormai imita quelli dei dipendenti, e il 93% degli attaccanti è riuscito almeno una volta a tenere qualcuno in linea per 20 secondi o più. La voce non contiene link da intercettare.
I casi famosi e cosa è davvero accertato
Nei casi famosi è accertato meno di quanto raccontano i titoli, e ognuno insegna una cosa diversa.
| Caso | Cosa dicono le fonti | Cosa insegna |
|---|---|---|
| Hong Kong, 2024 | Per la polizia, un dipendente del reparto finanza ha disposto 15 bonifici, circa 200 milioni di dollari di Hong Kong (26 milioni di dollari statunitensi), dopo una riunione video con dirigenti falsi. La società, Arup, ha confermato l'uso di voci e immagini false. I video erano registrati prima, senza dialogo. | Il dipendente aveva sospettato dell'email iniziale e la riunione gli ha tolto il dubbio. La conferma deve arrivare da fuori della richiesta. |
| Ferrari, 2024 | Lo racconta Bloomberg, ripreso dal Post: messaggi da un numero sconosciuto con la foto dell'amministratore delegato, poi una chiamata che ne imitava l'accento. L'azienda non ha commentato. | Il dirigente ha chiesto il titolo di un libro consigliato pochi giorni prima, e la chiamata si è interrotta. Serve un dettaglio che conosce solo la persona vera. |
| Falso ministro, 2025 | Chiamate a noti imprenditori per pagare il riscatto di giornalisti rapiti, con la promessa di un rimborso. Il Post e Sky TG24 scrivono di un software per la voce; il 9 febbraio 2025 fonti della procura lo escludevano, «al momento»: a chiamare sarebbe stato un uomo dal timbro simile. Dopo i due indagati di quel mese non abbiamo trovato altre notizie. | Il numero sul display era falso. Chi ha versato quasi un milione di euro ha denunciato subito, e il denaro è stato bloccato su un conto olandese. |
Nessuno dei tre dimostra una voce clonata che regge una conversazione: il caso di Hong Kong usava video registrati prima, negli altri due l'uso dell'AI non è accertato. In tutti e tre, però, qualcosa di familiare, un volto, una voce o un numero, ha dato peso a una richiesta che andava verificata altrove.
I segnali per riconoscere un deepfake e i loro limiti
A orecchio si sbaglia spesso. Nello studio di Scientific Reports, con 604 persone, una voce clonata è stata presa per quella della persona vera circa otto volte su dieci, e riconosciuta come artificiale solo circa sei volte su dieci. Erano frasi brevi in inglese, ascoltate apposta per giudicarle, non telefonate vere: al lavoro, notano gli autori, si presta meno attenzione. Ricordano anche che gli strumenti automatici di riconoscimento lavorano per lo più dopo, non mentre la chiamata è in corso.
L'FBI consiglia di ascoltare tono e scelta delle parole e, nei video, di cercare dettagli distorti, ombre o movimenti innaturali; nei colloqui di lavoro online ha segnalato labbra che non seguono l'audio e colpi di tosse fuori sincrono con l'immagine. Il Garante, nel vademecum del 2020, indica occhi dal movimento innaturale, bocche deformate, luci e ombre anomale sul viso.
Un segnale strano basta per fermarsi. La sua assenza non dimostra niente: riconoscere un deepfake resta un aiuto, mai una verifica.
Dove in azienda una voce vale ancora come firma
Difendersi dai deepfake vuol dire togliere alla voce il potere di autorizzare. Il primo passo è elencare i passaggi in cui oggi basta una telefonata, una chiamata video o un messaggio vocale.
| Operazione | Come passa con una voce | Cosa metterci al suo posto |
|---|---|---|
| Bonifico urgente o riservato | Il «direttore» ordina di pagare prima di sera | Richiamata al numero in rubrica e seconda approvazione sopra una soglia |
| Cambio di IBAN o del conto dello stipendio | Una telefonata conferma l'email con i dati nuovi | La telefonata la fai tu, al numero in anagrafica; un'altra persona conferma il cambio |
| Password e secondo fattore all'assistenza | Un finto dipendente chiede di reimpostarli o di spostarli su un altro telefono | Conferma del responsabile al numero interno, mai sulla linea di chi chiede |
| Documenti di clienti e pazienti negli studi | Un finto cliente chiede una copia su un recapito nuovo | Si manda solo al recapito in anagrafica o nell'area riservata |
| Colloquio di lavoro online | Il candidato ha volto e voce costruiti e dati rubati | Documento verificato prima di dare accesso a dati e sistemi |
| Telefonate ai tuoi clienti | Qualcuno li chiama a tuo nome | Dire prima ai clienti cosa non chiederai mai e quale numero usare per verificare |
La terza riga è la meno ovvia. La CISA, l'agenzia statunitense per la sicurezza informatica, descrive un gruppo criminale, Scattered Spider, che al telefono convince l'assistenza informatica a reimpostare la password di un dipendente e a spostare il suo secondo fattore su un dispositivo controllato dagli attaccanti. Per riuscirci non serve una voce artificiale: chi chiama studia prima i passaggi della reimpostazione e arriva con dati personali presi dai social e da archivi trafugati. Una procedura che si accontenta di quelli non regge.
Parola d'ordine e richiamata, scritte in una regola
La richiamata è il controllo più semplice. Si chiude, si cerca il numero in rubrica o nel gestionale e lo si compone a mano: mai quello sul display, mai uno dettato al telefono. Lo raccomanda l'FBI. Europol, nel volantino per i dipendenti, aggiunge di non eseguire nulla durante la chiamata e di riferire poi all'assistenza interna giorno, ora e numero del chiamante.
La parola d'ordine nasce come consiglio alle famiglie: l'FBI suggerisce di concordare una parola o una frase segreta. In azienda regge con poche attenzioni:
- Non passa per email o chat. Si concorda a voce, in ufficio, e non finisce mai in una casella di posta.
- Non si ricava dai social. Un compleanno, il nome di un figlio o della squadra del cuore non servono.
- Riguarda un giro stretto. Chi paga e chi autorizza. Cambia quando qualcuno se ne va.
- Può essere una domanda. Un dettaglio recente, come il titolo del libro nel caso Ferrari, funziona anche senza una parola concordata.
- Vale dall'alto in basso. Chi sta al vertice dichiara per iscritto che vuole essere richiamato, così nessuno teme di far aspettare il capo.
Una traccia da adattare, che copre le operazioni della tabella:
Oggetto: Richieste ricevute a voce o in chiamata video
Nessun pagamento, cambio di coordinate bancarie, reimpostazione di password o invio di documenti di clienti si esegue sulla base di una telefonata, di un messaggio vocale o di una chiamata video, anche se chi parla sembra un nostro dirigente o un nostro cliente.
Chi riceve la richiesta chiude e richiama al numero indicato in [rubrica interna o anagrafica]. Sopra [importo] serve anche l'approvazione di [seconda persona] nel [gestionale o home banking].
Le richieste di saltare questi passaggi, per urgenza o riservatezza, si segnalano a [referente] con data, ora e numero. Chi si ferma e richiama ha sempre ragione, anche se la richiesta era vera.
Quando il deepfake usa la tua voce o il tuo volto
Se un deepfake usa la tua voce o il tuo volto, il primo obiettivo è fermarne la diffusione e avvisare chi potrebbe crederci. La Polizia Postale registra questi falsi soprattutto negli investimenti pubblicizzati sui social, con personaggi noti che sponsorizzano il prodotto: un professionista conosciuto nel suo settore o un imprenditore possono finire nello stesso modo.
Il vademecum del Garante indica i primi passi, e per un'azienda se ne aggiungono due:
- non ricondividere il contenuto e segnalarlo alla piattaforma come possibile falso;
- se c'è un reato o una violazione della privacy, rivolgersi alla Polizia Postale o al Garante;
- conservare indirizzo, data e una copia, e valutare la querela con il legale: il termine è di tre mesi dal giorno in cui si scopre il fatto;
- avvisare clienti e fornitori dal canale ufficiale, dicendo cosa è falso e cosa non chiederete mai.
Vale anche al contrario: se in azienda la voce o il volto di una persona vera vengono rifatti con l'AI, per uno spot o per un risponditore, servono il suo consenso e, se il contenuto si pubblica, l'indicazione che è generato. Il reato e la responsabilità dell'azienda li spiega la pagina sulla legge italiana sull'intelligenza artificiale.
Se la telefonata è già arrivata
Se nessuno ha eseguito la richiesta basta fermarsi; altrimenti conta l'ordine:
Si ferma tutto
Nessun pagamento, nessun codice. Si richiama al numero in rubrica.
Si conserva quello che c'è
Numero, data, ora, messaggi vocali e chat.
Se il denaro è partito
Banca e Polizia Postale subito: i passi sono nella guida sulla truffa dell'IBAN. Nel caso del falso ministro, per chi aveva pagato, la denuncia immediata ha facilitato il blocco.
Se hai dato una password o un codice
La password si cambia da un dispositivo pulito; per il resto valgono i passi su cosa fare in caso di attacco informatico.
Avvisa anche la persona imitata e i colleghi: nel caso del falso ministro le chiamate sono arrivate a più imprenditori.
Come togliamo alla voce il potere di autorizzare
Una voce può convincere una persona, non un programma che aspetta una seconda approvazione. Con aziende, studi e professionisti lavoriamo su quel passaggio.
- Un gestionale su misura o un ERP fatto da noi può far passare pagamenti, cambi di IBAN e reimpostazioni da una richiesta registrata: chi l'ha fatta, quando, e chi l'ha approvata dopo, con il proprio secondo fattore o una passkey. Chi telefona, da solo, non fa partire nulla.
- Negli studi, richieste e documenti dei clienti possono stare in un'area riservata o nel gestionale per professionisti: così chi chiama non ottiene un allegato su un recapito nuovo.
- Quando verifichiamo la sicurezza informatica di un'azienda guardiamo anche come si reimpostano password e secondi fattori, chi può farlo e cosa resta scritto nei registri.
- Se un deepfake ha portato a una casella o a un accesso violati, il pronto intervento lavora 24 ore su 24, con un prezzo fisso detto prima di cominciare.
- Richiesta registratatelefonata delle 17:52, importo e beneficiario annotati
- Richiamata al numero in rubricaalle 17:58: il vero amministratore non ne sa niente
- Seconda approvazionenon data: il bonifico resta fermo
La regola scritta e la parola concordata non hanno bisogno di noi: se per ora basta questo, si comincia da lì.
Domande frequenti
Cos'è un deepfake audio?
È una voce generata o modificata con l'intelligenza artificiale per somigliare a quella di una persona reale, durante una chiamata o in un messaggio vocale. Il vademecum del Garante, del 2020, parla di software capaci di imitare fedelmente una determinata voce. Europol, nel rapporto IOCTA 2026, segnala anche chatbot vocali usati per selezionare le vittime su grandi volumi, prima di passarle a un operatore umano.
Il deepfake è reato in Italia?
Sì, dal 10 ottobre 2025. Il reato di deepfake è l'art. 612-quater del codice penale, introdotto dalla legge 132/2025: la pena va da uno a cinque anni di reclusione per chi provoca un danno ingiusto a qualcuno cedendo, pubblicando o diffondendo immagini, video o voci falsificati o alterati con l'AI, senza il consenso della persona e tali da far credere che siano autentici. Serve la querela di chi ha subito il danno, entro tre mesi dal giorno in cui ha saputo del fatto; si va avanti d'ufficio se c'è un collegamento con un delitto perseguibile d'ufficio, o se la vittima è una persona incapace oppure una pubblica autorità colpita per le sue funzioni. Dal 30 settembre 2026 il reato rientra anche nella responsabilità degli enti del decreto 231: da 200 a 700 quote e sanzioni interdittive. Se la voce falsa serve a farsi mandare denaro entrano in gioco anche la truffa e l'aggravante per l'uso dell'AI: come si combinano va valutato con un legale.
Cosa dice l'AI Act sui deepfake?
Dal 2 agosto 2026 chi usa un sistema di AI per pubblicare un deepfake deve dichiarare che il contenuto è generato o manipolato (art. 50, par. 4); per un'opera artistica, satirica o di finzione basta segnalarlo in modo adeguato. Chi fornisce questi sistemi deve anche inserire nei contenuti un marchio che le macchine possano leggere: per quelli già sul mercato prima di agosto il termine è il 2 dicembre 2026 (art. 111, par. 4). Chi truffa non mette etichette, quindi la loro assenza non prova che una voce sia vera. Il codice di buone pratiche della Commissione, volontario, ha una parte sull'etichettatura; le regole complete stanno nella guida sull'AI Act.
Quali truffe telefoniche si fanno con l'intelligenza artificiale?
Secondo l'FBI la voce di un parente in difficoltà serve a chiedere soldi subito o un riscatto, e la voce del titolare serve a entrare nel suo conto bancario; per la Polizia Postale la voce del falso amministratore ordina bonifici. Le truffe con l'intelligenza artificiale passano anche da messaggi vocali, non solo da chiamate.
Da leggere insieme
Una voce non deve bastare
Una chiamata breve e senza impegno: ci dite chi può chiedere cosa al telefono, e vi diciamo dove mettere una richiamata o una seconda firma nei vostri programmi. Se qualcuno è già entrato in un account, scriveteci subito: il pronto intervento è operativo 24 ore su 24, con un prezzo fisso detto prima di cominciare.
- Società
- Automatia S.r.l.Gestionali su misura, automazioni, integrazioni tra sistemi.
- Italia
- +39 375 669 3055anche WhatsApp
- Svizzera
- +41 76 511 26 10anche WhatsApp
- info@automatia.it
- Operativi
- 24 ore su 24, 7 giorni su 7
- Lingue
- Italiano, inglese o russo
- Ci scrivi
- Prima valutazione
- Breve chiamata