Détecter la nouvelle vague de vidéos deepfake hyperréalistes

La génération de deepfakes en temps réel devient terriblement performante. Au cours des dernières semaines, notre équipe de renseignement sur les menaces a suivi l’émergence de générateurs de réanimation corporelle complète par deepfake hyperréaliste capables de créer des vidéos convaincantes même pour un œil averti.

Comme vous pouvez le constater dans la vidéo, ces nouveaux modèles peuvent créer des avatars corporels convaincants qui peuvent être contrôlés par un opérateur et utilisés pour réaliser des vidéos autonomes, ou même injectés en temps réel dans un flux vidéo à l’aide de techniques de détournement de caméra.

Ces outils sont déjà largement adoptés par les cybercriminels pour perpétrer diverses formes de fraude, notamment les arnaques sentimentales, l’usurpation d’identité et le vol d’identité, ainsi que la fraude à l’emploi ou le subterfuge d’entreprise.

D’autres acteurs malveillants peuvent également utiliser de telles vidéos deepfake convaincantes pour diffuser de la désinformation ou influencer l’opinion publique et politique, en particulier lorsqu’ils se font passer pour des personnalités publiques.

Les deepfakes hyperréalistes de nouvelle génération permettent des attaques plus sophistiquées

Mais ce n’est pas seulement la qualité hyperréaliste du contenu qui est préoccupante, c’est la facilité avec laquelle ces deepfakes peuvent être créés. Même les outils d’IA générative grand public destinés au divertissement et étiquetés comme tels peuvent être détournés par des acteurs malveillants à des fins plus sinistres en supprimant les filigranes intégrés.

Il existe également une sophistication considérable dans les vecteurs d’attaque. Les adversaires peuvent facilement injecter ces flux vidéo de réanimation faciale et corporelle dans les systèmes KYC (Know Your Customer) en temps réel et les plateformes de visioconférence. Les analystes de menaces doivent donc être en mesure de détecter les deepfakes en temps réel et à grande échelle.

Détecter les nouveaux modèles de deepfake par IA générative

Heureusement, le moteur de détection de deepfakes de Sensity AI détecte déjà ces nouveaux modèles et signale ce contenu comme suspect. La détection de deepfakes étant une course aux armements, la détection s’améliore avec l’entraînement sur des ensembles de données générés par chaque modèle, ce qui explique les niveaux de confiance variables.

Dans le premier exemple, vous pouvez constater que la plateforme de détection de deepfakes de Sensity AI détecte le contenu comme faux, même si elle a une faible confiance dans l’identification du générateur spécifique, en raison de sa nouveauté. Nos analystes pensent qu’il s’agit du générateur de modèle d’IA vidéo Kling, développé par Kuaishou Technology en Chine, qui a été utilisé.

Les indicateurs de détection précoce comme celui-ci témoignent de la stratégie de Sensity AI pour une détection robuste, dans laquelle nous avons équipé notre solution de multiples couches d’analyse, examinant des éléments tels que les pixels, la voix, la manipulation faciale, l’analyse du bytecode, les certificats C2PA, les filigranes et plus encore, en exploitant les réseaux neuronaux profonds et la criminalistique numérique.

L’objectif est que si une couche s’avère non concluante ou fournit une analyse à faible confiance, une autre couche se déclenche avec un résultat plus définitif, fournissant une évaluation globale plus robuste. En fin de compte, c’est ce qui rend notre solution capable de répondre aux normes criminalistiques devant les tribunaux.

Ainsi, ce que vous pouvez constater dans la première vidéo, c’est que la vérification du contenu généré par IA a analysé l’intégralité de la vidéo image par image pour détecter tout signal de synthèse et a obtenu un score moyen de 52,1 % sur toutes les images. Cependant, nos fonctionnalités d’explicabilité telles que les cartes thermiques, qui montrent le bruit au niveau des pixels le plus intéressant pour le modèle, et l’analyse par segments, qui mettent en évidence les objets probablement générés par IA, fournissent de solides signaux criminalistiques même lorsque le score de confiance global est faible.

Par exemple, la carte thermique a identifié le casque à oreilles de chat comme suspect, et lors d’un examen attentif à l’œil humain, vous pouvez constater qu’il semble fabriqué. Mais c’est l’analyse par segments qui signale l’avatar et l’environnement comme générés par IA.

Dans le deuxième exemple, la confiance est beaucoup plus élevée à 87,8 %, détectant clairement des preuves de manipulation faciale, malgré la nouveauté du modèle, tout en exposant le bruit au niveau des pixels comme preuve supplémentaire de synthèse.