Nel 2017, il co-fondatore di Sensity AI Giorgio Patrini era un ricercatore post-dottorato che lavorava sui modelli generativi profondi con Max Welling presso l’Università di Amsterdam.
Questa ricerca pionieristica si concentrava sulla generazione di immagini con reti neurali che, all’epoca, consisteva nel creare minuscole foto profilo con GAN (Generative Adversarial Networks) e VAE (Variational Autoencoders). Ma questo lavoro, e ricerche simili, hanno tracciato la strada per i modelli generativi che avrebbero presto alimentato ogni caso d’uso per la creazione di contenuti tra immagini, video e audio, mettendo il potere di quella che sarebbe diventata la generazione di “deepfake” nelle mani di tutti.
In quel periodo, la comunità tecnologica in generale non rifletteva sulle probabili conseguenze di questo sviluppo: ovvero che, nel giro di un decennio, la comunicazione digitale sarebbe crollata fondamentalmente una volta che i contenuti avessero potuto essere facilmente fabbricati. La “realtà” non sarebbe più stata oggettiva. Ciò che vedi e senti non sarebbe più stato affidabile.
Patrini si rese conto che mettere gli strumenti di IA generativa nelle mani di malintenzionati avrebbe inevitabilmente dato loro nuovi modi per costringere, truffare e attaccare gli altri. Era necessario che nascesse un movimento contrario. A counter movement needed to happen.
La nascita del rilevamento deepfake
Nel marzo 2018, Patrini è diventato probabilmente la prima persona in assoluto ad addestrare un rilevatore di deepfake, uno sviluppo che ha mostrato risultati promettenti. Partendo dal presupposto che i progressi tecnologici avrebbero aumentato rapidamente il realismo dei media generati dall’IA, rendendo esponenzialmente più difficile per gli esseri umani identificare immagini e audio sintetici, Patrini si convinse che presto ci sarebbe stato bisogno di una tecnologia di rilevamento deepfake forense e robusta in grado di sostenere la spiegabilità in un tribunale.
Anticipando i tempi, Patrini ha unito le forze con Francesco Cavalli, uno specialista di threat intelligence che studiava il fenomeno delle “fake news” e i suoi effetti sociali sulle comunità internet e sulla politica, e alla fine del 2018 è nata Sensity AI come prima azienda al mondo per il rilevamento dei deepfake.
Missione
Sensity AI esiste per proteggere stati, organizzazioni, aziende e individui dai deepfake malevoli.
Visione
Un mondo in cui tutti i media digitali possano essere verificati in tempo reale, per dimostrare in modo conclusivo se siano stati manipolati dall’IA generativa o meno.
Perché?
Crediamo che i media generati dall’IA e i deepfake siano un problema sociale della stessa portata del cambiamento climatico: inevitabile e destinato a cambiare il mondo. La democratizzazione dei media generati dall’IA e dei deepfake sta ridefinendo il significato di fiducia in ciò che vediamo e sentiamo, ogni volta che non lo sperimentiamo in prima persona.
Sensity AI è una risposta alla realtà sintetica
Vediamo i deepfake malevoli e le simili tecnologie di media sintetici come una nuova ondata di minacce alla cybersicurezza, con il potenziale di colpire ogni canale di comunicazione audiovisiva digitale utilizzato da ogni essere umano.
Proprio come il software antivirus è diventato la soluzione onnipresente per la scansione di file ottenuti al di fuori di fonti attendibili, immaginiamo un simile approccio di verifica fluido per i media audiovisivi. Ciò che stiamo difendendo non è un software che può essere infettato e manipolato da malware, ma i sentimenti, le opinioni e le azioni umane, infettati e manipolati da video falsi, furti d’identità, influenza e sofisticate frodi informatiche.
Tuttavia, ed è questo un elemento chiave di differenziazione nel settore del “rilevamento deepfake”, la soluzione che stiamo costruendo è forense e robusta. Non crediamo che basti dire “questo media è sintetico” o meno; la nostra analisi deve essere conclusiva e sufficientemente spiegabile per superare la prova delle prove in un tribunale. Altrimenti non fornirebbe alcuna reale sicurezza alle vittime di complesse frodi informatiche generate dall’IA, sarebbe solo una soluzione di facciata. Il nostro vero obiettivo è incentrato sul raggiungimento di un impatto significativo.
La tecnologia di rilevamento deepfake di Sensity AI funziona individuando le “impronte digitali” lasciate su foto, video e audio manipolati o generati sinteticamente. Lo facciamo addestrando una rete di deep learning su ampi set di dati deepfake noti, dove impara a identificare queste impronte a livello di pixel o analizzando sottili artefatti acustici. Poiché la tecnologia di generazione deepfake continua a migliorare e gli indizi visivi e uditivi della manipolazione diventano inevitabilmente impercettibili per gli esseri umani, questa machine-level analysis diventerà essenziale per rilevare i deepfake in modo affidabile.
Ma questo deve avvenire anche su larga scala. Un elemento sorprendente dello stato attuale della tecnologia di creazione deepfake rispetto a soli 12 mesi fa è quanto poche conoscenze tecniche siano necessarie a un individuo per creare media sintetici. Ogni giorno vengono ora creati milioni di deepfake, sia innocui che dannosi, e ciò ha generato un carico di lavoro insostenibile per gli investigatori forensi e gli specialisti delle forze dell’ordine incaricati di garantire giustizia alle vittime di abusi sessuali su minori, molestie, coercizione e frodi.
Non stiamo solo scrivendo il manuale per il rilevamento accurato dei media deepfake malevoli, stiamo anche aiutando le autorità a far evolvere il processo forense per tenere il passo in un mercato che si muove rapidamente e continuare a fornire risultati.
Il nostro punto di forza è che siamo innanzitutto un’azienda specializzata nel deep learning, il che ci permette di stare al passo con un vettore di minaccia in rapida evoluzione. Tuttavia, pur sviluppando una soluzione tecnologica, siamo anche profondamente consapevoli del più ampio impatto socio-etico dei deepfake e di come tale impatto si manifesterà in molti modi diversi.
In che modo il rilevamento dei deepfake sta cambiando l’analisi forense?