In che modo il rilevamento dei deepfake sta cambiando l’analisi forense?

Durante la prima ondata di contenuti generati dall’IA, la tecnologia era tutt’altro che democratizzata. Creare contenuti deepfake convincenti richiedeva ancora risorse significative e competenze tecniche. Ma il 2025 ha annunciato una seconda ondata, e un’esplosione di strumenti di IA generativa sofisticati e facili da usare ha significato che chiunque, non solo ingegneri o ricercatori, poteva creare video, immagini e audio deepfake convincenti in pochi secondi. Quando si è trattato di rilevamento dei deepfake, questo ha ribaltato la natura dell’analisi forense, e le agenzie di intelligence, le forze dell’ordine e le autorità giudiziarie ne stanno subendo le conseguenze.

Nel corso dei successivi 12 mesi, la manipolazione digitale si è diffusa più velocemente della verifica, e la fiducia stessa è diventata una vulnerabilità.

Siamo ora entrati in un’era in cui vedere non significa più credere, e sapere non è più un risultato passivo della percezione. L’IA generativa non ha solo creato contenuti completamente nuovi; ha creato una superficie di attacco completamente nuova: la realtà stessa.

Il rilevamento dei deepfake è ora una capacità critica nel toolkit dell’analisi forense.

Una storia dei deepfake e del rilevamento dei deepfake

Il concetto generale di ‘deepfaking’, nel senso di contenuti manipolati o generati artificialmente, esiste quasi da quando esiste la fotografia. Ci sono prove di manipolazione delle immagini poco dopo la creazione della prima fotografia nel 1825, e negli ultimi 200 anni la pratica si è spostata dalle immagini statiche al video e all’audio di pari passo con l’evoluzione tecnologica. Joseph Stalin fece notoriamente rimuovere dalle sue fotografie individui caduti in disgrazia negli anni ’30, facendo guadagnare all’ex funzionario della polizia segreta sovietica Nikolai Yezhov il soprannome di ‘Commissario Svanito’.

Ma mentre l’atto di creare contenuti falsi non è nuovo, i deepfake come li conosciamo oggi sfruttano in modo unico tecniche di Machine Learning e Intelligenza Artificiale per manipolare o sintetizzare contenuti multimediali, e la creazione di contenuti sintetici ultra-realistici arrivata nel 2025 è stata in sviluppo per molto tempo.

La CGI (Computer Generated Imagery) è arrivata sui grandi schermi negli anni ’70, ’80 e ’90, con falsificazioni goffe e facili da individuare, anche se il programma Video Rewrite, pubblicato nel 1997, ha cambiato le regole del gioco essendo in grado di modificare filmati video esistenti di una persona per raffigurarla mentre pronuncia le parole di una traccia audio diversa.

Negli anni 2010, il cloud computing accessibile, i grandi dataset e i progressi nel Machine Learning si sono scontrati, portando al lancio delle GAN (Generative Adversarial Networks) nel 2014, che hanno messo in moto la prima ondata di contenuti sintetici ultra-realistici.

Un ecosistema di primi utilizzatori è emerso presto, e nel 2017 la tecnologia era stata cooptata per abusi sessuali sotto forma di pornografia non consensuale, in cui i volti delle celebrità venivano sovrapposti ai corpi di attori in film espliciti.

Casualmente, è stato proprio il forum Reddit dove questi video e immagini venivano condivisi che è stato coniato il termine ‘deepfake’—una combinazione di ‘deep learning’ e ‘fake’.

Successivamente, ogni iterazione dell’IA generativa ha portato falsificazioni più realistiche, spingendo gli osservatori sociali a suonare l’allarme e a chiedere un intervento normativo tra i timori che i deepfake stessero diventando una minaccia chiara e presente per gli individui e la società in generale.

A questo punto però, il genio era uscito dalla bottiglia. I contenuti generati dall’IA—i deepfake moderni—non erano più solo una novità destinata all’intrattenimento, la tecnologia veniva attivamente adottata dagli ecosistemi criminali e utilizzata come meccanismo di diffusione per frodi, coercizione, influenza, manomissione di prove e furto d’identità.

Identificando la necessità di soluzioni rapidamente reattive costruite per professionisti dell’intelligence, forensi, delle forze dell’ordine e legali per i quali l’autenticazione delle prove è critica, lo specialista in rilevamento dei deepfake e verifica forense dei media Sensity AI è stato costituito nel 2019.

2025: La democratizzazione dei contenuti sintetici

Nei successivi anni, la tecnologia dell’IA generativa ha continuato a evolversi a ritmo rapido, sostenuta da grandi attori come OpenAI e dall’emergere di strumenti di creazione di contenuti sempre più sofisticati come Stable Diffusion e DALLE-E per immagini e video, ed ElevenLabs per la generazione vocale. Con l’arrivo delle reti di diffusione—che hanno eclissato le GAN nelle applicazioni di modellazione generativa—le tecnologie text-to-speech, text-to-image e text-to-video hanno ridotto la creazione di contenuti sintetici a nient’altro che un prompt e hanno inaugurato l’era dei deepfake veramente democratizzati.

È seguita un’adozione di massa. Si pensa che il volume di contenuti sintetici sul web abbia superato i contenuti reali nel 2025, e alcune stime prevedono che fino al 90% di tutti i contenuti sul web potrebbero essere completamente fabbricati, o almeno manipolati dall’IA, entro la fine del 2026.

La sfida oggi non è solo che i contenuti sintetici esistano. È che sono massicciamente scalabili, a basso costo e molto persuasivi. Oltre a questo, la barriera tecnica all’ingresso è inesistente e il tempo di creazione è quasi istantaneo—il che significa che anche il tempo di impatto è ridotto.

Mentre migliaia di titoli dei media si concentrano sul problema molto reale che i deepfake introducono in termini di impatto sociale—che va dalla pubblicità ingannevole alla proliferazione di revenge porn e ‘deepnudes’ non consensuali usati per attaccare le donne—c’è una minaccia parallela che emerge sotto forma di attori di minaccia sofisticati che utilizzano campagne deepfake altamente mirate per interrompere tutto, dal crimine informatico alla politica alla sicurezza nazionale, guidando una reale necessità di soluzioni di rilevamento dei deepfake di livello forense.

L’industrializzazione criminale dei deepfake generati dall’IA

Mentre Big Tech, regolatori e governi dibattono sui modi più efficaci per identificare ed etichettare i contenuti sintetici per le masse, stati-nazione, hacktivisti e criminali stanno industrializzando i contenuti generati dall’IA e i deepfake per l’uso in campagne sofisticate e mirate contro individui, imprese e interi paesi.

Storicamente, la propaganda è stata utilizzata con grande efficacia sia in tempi di pace che di guerra, dai volantini demoralizzanti lanciati dall’alto sui combattenti dall’altra parte, ai pettegolezzi falsi ben piazzati sulle figure di leadership, e mentre queste moderne ‘fabbriche di deepfake’ sono solo una parte della macchina industriale della disinformazione, che si basa anche pesantemente su una rete di distribuzione rilevante, sono le più impattanti, capaci di creare letteralmente realtà alternative. Il teatro della politica, e del conflitto, si è ora esteso in un nuovo livello più sottile, di influenza continua sulla percezione.

Se la guerra è la continuazione della politica con altri mezzi, allora i deepfake sono la continuazione della guerra con mezzi moderni. Il rilevamento dei deepfake è oggi una questione di sicurezza nazionale.

La prima vittima della guerra è la verità: Guerra ibrida e operazioni psicologiche

Il punto è che ci sono attori, siano essi stati-nazione, attivisti, criminali o disturbatori, che hanno da guadagnare da contenuti deliberatamente ingannevoli, disinformanti e fuorvianti, e tutte le principali iniziative pubbliche e dell’ecosistema aperto mirate a identificare ed etichettare i contenuti generati dall’IA sono limitate nell’effetto quando si tratta di attività malevole deliberate.

Le moderne minacce alla sicurezza nazionale operano sempre più al di sotto della soglia del conflitto tradizionale. Nell’era della guerra ibrida, campagne di influenza, operazioni psicologiche (psyops) e propaganda sintetica vengono distribuite su larga scala per distorcere la percezione, erodere la fiducia e destabilizzare il processo decisionale—spesso in tempo reale, durante le crisi. L’interferenza elettorale e politica e la disinformazione nei conflitti sono solo due dei pericoli attuali di cui abbiamo prove.

Attori nel panorama delle minacce per la realtà sintetica:

Stati-nazione

Gruppi sostenuti dai governi che operano ufficialmente o ufficiosamente con obiettivi politici, militari o strategici. Sono ben finanziati e combinano capacità di intelligence, operazioni informatiche e campagne di influenza per utilizzare i deepfake per plasmare i risultati geopolitici.

Criminali informatici

I criminali informatici sono gruppi altamente sofisticati e organizzati motivati dal guadagno finanziario. Operano con risorse simili a quelle delle imprese legittime e sfruttano i deepfake dell’IA generativa per scalare frodi, estorsioni, impersonificazioni e attacchi di ingegneria sociale, operando da mercati sotterranei globali che commerciano anche in identità sintetiche.

Testate giornalistiche

Le testate di fake news sono reti, spesso anonime o finanziate in modo occulto, che pubblicano storie fuorvianti o create per influenzare l’opinione pubblica. Usano deepfake per aggiungere “prove” visive o audio a narrazioni che altrimenti mancherebbero di credibilità.

Testate giornalistiche legittime private e pubbliche, e altre piattaforme di contenuti, sono state anche esposte per l’uso di contenuti sintetici per spingere la propria agenda o quella di un alleato politico. In definitiva, le testate giornalistiche sono tipicamente impiegate come tattica da altri attori di minaccia, ma possono anche essere una minaccia individuale.

Hacktivisti

Gli hacktivisti sono gruppi o individui guidati ideologicamente che usano operazioni informatiche per promuovere cause politiche o sociali. Impiegano deepfake per mettere in imbarazzo obiettivi, esporre presunte ingiustizie o amplificare la loro narrativa contro governi o aziende.

Gli strumenti che questi attori di minaccia hanno a portata di mano oggi sono senza precedenti in termini di capacità. Nel 2026, una bugia convincente può essere prodotta con qualità cinematografica, localizzata su un obiettivo, distribuita su più canali e iterata in ore. E le agenzie di intelligence, le forze dell’ordine e le autorità giudiziarie—coloro che sono responsabili di trovare la verità—ne stanno subendo le conseguenze quando si tratta di rilevamento dei deepfake e verifica dei media.

Qual è il ruolo degli strumenti di analisi forense specializzati nel rilevamento dei deepfake?

I team di analisi forense digitale responsabili del rilevamento dei deepfake stanno affrontando un cambiamento strutturale: i volumi di prove stanno esplodendo, mentre l’affidabilità del materiale visivo e audio sta crollando. Video, immagini e registrazioni vocali, un tempo trattati come artefatti oggettivi, sono ora abitualmente manipolati, generati sinteticamente o modificati selettivamente per fuorviare investigatori, pubblici ministeri e tribunali.

Vettori di minaccia deepfake:

Manipolazione del volto con IA

L’IA generativa viene utilizzata per alterare o sostituire un volto in un video o in un’immagine, come:

Scambio di volti con IA

Sostituisce un volto in una foto o in un video con un altro volto, creando l’apparenza che l’individuo target abbia eseguito le azioni o le espressioni della fonte.

Sincronizzazione labiale con IA

Altera i movimenti della bocca di una persona in un video per corrispondere a un nuovo audio, facendo sembrare che abbia pronunciato le parole nella traccia audio target.

Rievocazione del volto con IA

Trasferisce le espressioni facciali e i movimenti di una persona su un’altra in un video, facendo sì che il target imiti la fonte in tempo reale o in post-produzione. Questo differisce dallo scambio di volti in quanto fa agire una persona come un’altra, mentre lo scambio altera l’identità del soggetto.

Morphing del volto con IA

Fonde due o più volti in un unico composito, trasformando gradualmente un’identità in un’altra con transizioni visive senza soluzione di continuità. Questa tecnica viene utilizzata per ingannare il riconoscimento facciale nel KYC, per esempio. Creando un volto morphed o fuso, più persone potrebbero passare per un unico ID. Funziona particolarmente bene con persone che condividono punti di riferimento facciali simili, come i membri della famiglia.

Video e immagini generati dall’IA

Questi sono contenuti completamente sintetici, tipicamente creati attraverso strumenti di IA text-to-image o text-to-video, che convertono descrizioni scritte in immagini sintetiche realistiche, tra cui:

Avatar IA

Personaggi o ‘pupazzi’ generati digitalmente—spesso somiglianti a una persona reale—che possono parlare, muoversi ed esprimere emozioni utilizzando animazione guidata dall’IA e sintesi vocale.

Volti sintetici (GAN)

Volti umani generati dall’IA creati da Generative Adversarial Networks, producendo identità fotorealistiche che non corrispondono a nessuna persona reale.

Voci sintetiche e clonazione vocale

La sintesi vocale è la produzione artificiale di parlato simile a quello umano, incluso l’uso di cloni completamente sintetici indistinguibili da voci umane specifiche. Le reti neurali possono analizzare e modellare le caratteristiche uniche della voce di una persona da pochi secondi di audio campione, replicando tono, timbro, prosodia e intonazione. Mentre la tecnologia text-to-speech (TTS) ha ridotto l’output a un semplice prompt.

Voce sintetica

Parlato generato dall’IA che imita tono, ritmo ed emozione umani.

Clone vocale IA

Replica della voce di una persona specifica, consentendo la creazione di audio altamente realistici che suonano come il parlante originale.

Le unità investigative si confrontano sempre più con crimini in cui i contenuti sintetici non sono incidentali, ma centrali: impersonificazione, inganno, sextortion, molestie, frodi finanziarie e abusi online coordinati. In questi casi, la velocità conta tanto quanto la precisione. Ogni ora spesa a convalidare contenuti manipolati con strumenti di rilevamento dei deepfake obsoleti è un’ora persa per la protezione delle vittime, le rimozioni o l’identificazione dei sospetti.

Per gli investigatori forensi e gli analisti di intelligence che affrontano queste minacce, il software forense legacy per immagini, video e audio è stato superato dai rapidi progressi nei contenuti generati dall’IA. Presto saremo al punto in cui anche i professionisti addestrati non potranno più distinguere tra contenuti genuini e manipolati, e abbiamo già superato il punto in cui i volumi di contenuti sospetti sono gestibili solo dagli esseri umani.

Esistono strumenti di analisi forense digitale specializzati, ma non sono attrezzati per rilevare falsificazioni sofisticate generate dall’IA su larga scala, rendendo più difficile che mai scoprire la verità nei media digitali.

● Gli investigatori forensi sono sotto crescente pressione per gestire carichi di lavoro elevati e analizzare i contenuti rapidamente per prevenire crimini o risolvere casi urgenti. Gli strumenti forensi tradizionali si basano pesantemente sull’interpretazione umana dei risultati, il che ritarda significativamente il processo decisionale nelle indagini urgenti.

● Gli strumenti forensi legacy sono anche soluzioni puntuali, progettate per analizzare un tipo di contenuto alla volta—video, immagini o audio. I contenuti completamente sintetici possono includere sia audio che video generati artificialmente, richiedendo agli investigatori di utilizzare più strumenti disgiunti per

analizzare i diversi formati, portando a inefficienze del flusso di lavoro e problemi di compatibilità, oltre ad aumentare il carico sull’essere umano per l’interpretazione.

● Gli investigatori forensi professionisti sono altamente qualificati, e il software forense tradizionale ha una curva di apprendimento ripida, che aumenta il costo della formazione, rallenta le indagini ed esclude gli analisti meno esperti dal punto di vista tecnico dal processo.

Fondamentalmente, la facilità con cui i contenuti malevoli possono essere manipolati o completamente fabbricati sta cambiando la natura di come viene gestita l’autenticità forense in termini di rilevamento dei deepfake. Dati i volumi e la sofisticazione coinvolti, non può più essere trattata come un’opinione di esperti in fase avanzata, ma deve essere affrontata invece come un passaggio di verifica automatizzato nel processo.

Il processo forense ottimale dovrebbe essere quello di integrare il rilevamento dei contenuti generati dall’IA e dei deepfake nella fase più precoce dell’acquisizione delle prove, in modo che ogni file multimediale estratto possa essere automaticamente controllato per segni di manipolazione prima che entri nel registro investigativo.

Seguendo questo approccio, gli analisti forensi riportano riduzioni drastiche nel tempo di revisione manuale dei casi di rilevamento dei deepfake, triage più rapido di grandi dataset e—cosa più critica—maggiore fiducia nell’introdurre contenuti digitali nei procedimenti legali.

Anche la spiegabilità è critica. Quando si tratta di deepfake generati dall’IA altamente sofisticati, i rapporti forensi devono essere riproducibili, spiegabili e tracciabili, evitando il ‘problema della scatola nera’ e consentendo ai tribunali di fare affidamento su analisi tecniche verificabili piuttosto che su interpretazioni soggettive.

Realtà sintetica: I deepfake come rischio nazionale ed economico

La principale insidia dell’era dei deepfake democratizzati è che la società sta entrando in un’era in cui non può più essere determinato da un essere umano se il contenuto di un mezzo corrisponde alla verità.

All’interno di questo nuovo panorama di minacce della realtà sintetica, i deepfake sono uno strumento chiave negli attacchi di disinformazione, influenzando la percezione, creando dubbi e minando la fiducia. I deepfake forniscono artefatti che si inseriscono in narrazioni progettate e sono capaci di interferire con le funzioni democratiche nelle società, arrivando a rappresentare un rischio nazionale ed economico che si sta evolvendo più velocemente di quanto i quadri normativi possano rispondere.

Poiché i contenuti sintetici sono ‘contenuti’, gli attori malevoli sono in grado di sfruttare l’area grigia tra lo scopo della regolamentazione di mitigazione del danno e le protezioni offerte alla libertà di espressione.

Questo è già evidente nella natura insidiosa delle recenti campagne di disinformazione ben orchestrate. L’IA generativa non produce solo singoli artefatti falsi, fornisce anche supporto contestuale sotto forma di altri contenuti falsi, corroboratori o testimoni, con ogni inganno su misura per organizzazioni, comunità o individui specifici per il massimo effetto.

Su larga scala, questo cambiamento erode la fiducia e crea una negabilità plausibile, oltre a stabilire un’opportunità per gli eventi reali di essere respinti come falsi, manifestandosi nel fenomeno del Dividendo del Bugiardo.

Dove tali inganni sofisticati richiedevano una volta livelli quasi impossibili di abilità, tempo e risorse, l’IA generativa riduce tutti questi costi e il tempo necessario per creare, distribuire e iterare tali campagne.

Per governi, tribunali, redazioni, istituzioni finanziarie e imprese, l’attenzione ora è su come trovare soluzioni di rilevamento dei deepfake di livello forense per mantenere catene di custodia chiare e prove verificabili quando nulla è ciò che sembra, la fiducia è morta e la realtà stessa è sotto minaccia.

Scarica

Tutti i report

Scarica il report