Deepfake dannosi: come i media generati dall'IA vengono usati per disinformazione, frodi e spionaggio

Un deepfake è un'immagine, un video o una registrazione audio creati o alterati con l'intelligenza artificiale per mostrare qualcuno mentre dice o fa qualcosa che non ha mai detto o fatto. Non è malware: nessun codice infetta un dispositivo, e un antivirus non può "rilevare" una telefonata falsa. È un media sintetico usato come strumento di inganno, e i casi documentati qui sotto riguardano tre danni distinti: disinformazione, frode finanziaria e spionaggio.

1. Che cos'è davvero un deepfake dannoso

Per le stesse forze dell'ordine c'è una linea netta tra deepfake e malware tradizionale: il danno passa dalla fiducia delle persone, non da un sistema compromesso.

2. Come vengono creati i deepfake

La maggior parte dei deepfake moderni risale a un'unica tecnica di addestramento avversariale. La clonazione della voce, in particolare, costa ormai così poco da poter essere usata come arma senza quasi alcuna spesa iniziale.

I modelli di diffusione e i sistemi di clonazione vocale che si basano sullo stesso approccio hanno reso i falsi convincenti sempre più economici e rapidi da produrre. Così i deepfake sono passati da curiosità a strumento di routine per tre diverse categorie di malintenzionati.

3. Disinformazione e manipolazione elettorale

Audio e immagini falsi si diffondono più in fretta, e sono più difficili da correggere, quando sono calibrati su un momento, come un'elezione o una notizia dell'ultim'ora, in cui manca il tempo di verificare prima che il danno sia fatto.

Un terzo caso mostra la stessa dinamica senza un'elezione di mezzo. Nel maggio 2023 un'immagine falsa che sembrava mostrare un'esplosione vicino al Pentagono si è diffusa su Twitter, amplificata in parte da account verificati e dai media di stato russi, ed è stata collegata a un breve calo in borsa, finché la polizia della contea di Arlington non ha confermato ufficialmente che non c'era stata alcuna esplosione.^[12][13][14]

4. Frode finanziaria tramite impersonificazione dei dirigenti

I casi di deepfake documentati più costosi finora seguono tutti lo stesso schema: un dipendente reale, una richiesta che sembra arrivare da qualcuno di cui già si fida, e un senso di urgenza che scoraggia un secondo canale di verifica.

Arup ha confermato direttamente a CNN Business la perdita e ha dichiarato che la frode ha usato voci e immagini false senza compromettere alcun sistema interno dell'azienda.^[16] Il caso britannico del 2019 è diventato pubblico solo grazie all'assicuratore che ha coperto la perdita, Euler Hermes, che ha mantenuto anonime le aziende coinvolte; i fondi sono passati da un conto ungherese prima di essere dispersi ulteriormente.^[15]

5. Spionaggio e accesso non autorizzato

I deepfake servono anche a superare del tutto i controlli di identità: per farsi assumere in un lavoro con accesso legittimo ai sistemi, oppure per impersonare un funzionario di cui ci si fida abbastanza da abbassare la guardia.

6. Le dimensioni del problema: perdite per frodi e un mercato del rilevamento in crescita

I casi isolati sottostimano la velocità con cui il fenomeno cresce. I fornitori di prevenzione delle frodi che monitorano i tentativi di frode con deepfake (non solo quelli riusciti) registrano una forte crescita annua, e il mercato degli strumenti di rilevamento si espande di conseguenza.

7. Come difendersi dagli attacchi con deepfake

I deepfake attaccano la fiducia delle persone e non un sistema informatico, quindi le difese più efficaci sono procedurali, non tecniche:

• Verifica le richieste con un canale separato. Contatta la persona usando un numero di telefono o un indirizzo che avevi già, non quello indicato nel messaggio sospetto. Il caso Arup mostra che una videochiamata da sola non è più una prova d'identità.
• Aggiungi attrito ai pagamenti. Richiedi più approvazioni e un periodo di attesa per i trasferimenti importanti o insoliti, soprattutto quelli presentati come urgenti o riservati: urgenza e segretezza compaiono in quasi tutti i casi documentati qui sopra.
• Rafforza le assunzioni da remoto. Verifica i documenti d'identità, fai attenzione a audio e video che non combaciano e valuta un controllo di identità dal vivo prima di concedere a un nuovo assunto da remoto l'accesso a sistemi sensibili.
• Forma il personale a riconoscere lo schema, non solo la tecnologia: chi sa che voci e volti possono essere falsificati in modo convincente è più portato a fermarsi e verificare prima di agire.
• Aspetta le conferme sulle notizie dell'ultim'ora, soprattutto con immagini o registrazioni scioccanti, prima di condividerle: le fonti ufficiali e i fact-checker affermati smascherano la maggior parte dei falsi nel giro di poche ore, ma raramente in pochi minuti.

8. Il quadro normativo

Gli strumenti di rilevamento e gli standard sulla provenienza dei contenuti stanno migliorando, e le autorità di regolamentazione cominciano a scrivere nella legge regole di trasparenza specifiche per i deepfake, invece di affidarsi alle norme generali sulla frode.

I dati chiave in sintesi

Fonti