Ce rapport sur l’état des deepfakes expose nos conclusions issues d’un travail aux côtés de la communauté du renseignement, à l’intérieur et à l’extérieur de l’Ukraine, au cours de l’année écoulée. Il définit un cadre d’attaque pour le déploiement de médias synthétiques en tant qu’arme cognitive dans les conflits modernes.

Nous sommes désormais entrés dans une ère où voir n’est plus croire. L’IA générative n’a pas seulement créé de nouveaux contenus ; elle a créé une toute nouvelle surface d’attaque : la réalité elle-même. Désormais, en matière de détection des deepfakes, la nature de l’analyse criminalistique est bouleversée, et les agences de renseignement, les forces de l’ordre et les autorités judiciaires en subissent les conséquences. Ce guide constitue une introduction à la détection des deepfakes et aux médias synthétiques à destination des professionnels des forces de l’ordre et des analystes criminalistiques.

Dans ce rapport, notre objectif est de montrer où opèrent les acteurs malveillants, dans quelles zones géographiques ils agissent, quelles techniques et quels cadres ils utilisent, qui sont leurs cibles et quelles technologies ils emploient. Nous nous sommes également concentrés sur des événements en cours, comme les élections américaines de 2024, la guerre Russie-Ukraine et le conflit Israël-Hamas.

Le rapport aborde les défis croissants posés par la technologie deepfake dans le domaine de la vérification d’identité en ligne, un élément essentiel de nombreuses transactions financières. Il met en évidence la vulnérabilité des systèmes Know Your Customer (KYC), qui comprennent traditionnellement des étapes telles que la vérification d’identité, la correspondance faciale et la détection de présence, face aux manipulations par deepfake.