Erkennung der neuen Welle hyperrealistischer Deepfake-Videos

Die Echtzeit-Deepfake-Generierung wird beängstigend gut. In den letzten Wochen hat unser Threat Intelligence Team das Aufkommen einiger hyperrealistischer Deepfake-Ganzkörper-Reenactment-Generatoren verfolgt, die Videos erstellen können, die selbst für das geschulte Auge überzeugend sind.

Wie Sie im Video sehen können, können diese neuartigen Modelle überzeugende Ganzkörper-Avatare erstellen, die von einem Bediener gesteuert und zur Erstellung eigenständiger Videos oder sogar in Echtzeit mittels Kamera-Hijacking-Techniken in einen Videostream eingespeist werden können.

Diese Tools werden bereits von Cyberkriminellen eingesetzt, um verschiedene Formen des Betrugs zu begehen, darunter Romantikbetrug, Identitätsdiebstahl und -betrug sowie Beschäftigungsbetrug oder Unternehmenssubterfuge.

Andere Bedrohungsakteure könnten solche überzeugenden Deepfake-Videos auch nutzen, um Desinformation zu verbreiten oder die öffentliche und politische Meinung zu beeinflussen, insbesondere wenn sie sich als Persönlichkeiten des öffentlichen Lebens ausgeben.

Neue Welle hyperrealistischer Deepfakes ermöglicht ausgeklügeltere Angriffe

Doch nicht nur die hyperrealistische Qualität der Medien ist besorgniserregend, sondern auch die Leichtigkeit, mit der diese Deepfakes erstellt werden können. Selbst die verbraucherfreundlichen Gen-KI-Tools, die für Unterhaltungszwecke gedacht und als solche gekennzeichnet sind, können von bösartigen Akteuren für finsterere Zwecke missbraucht werden, indem die eingebetteten Wasserzeichen entfernt werden.

Es gibt auch eine beträchtliche Raffinesse bei den Angriffsvektoren. Angreifer können diese Gesichts- und Körper-Reenactment-Videostreams problemlos in Echtzeit-KYC (Know Your Customer)-Systeme und Videokonferenzplattformen einspeisen. Daher müssen Bedrohungsanalysten in der Lage sein, Deepfakes in Echtzeit und in großem Umfang zu erkennen.

Erkennung neuartiger Gen-KI-Deepfake-Modelle

Glücklicherweise erkennt die Deepfake-Erkennungs-Engine von Sensity AI diese neuartigen Modelle bereits und kennzeichnet diese Medien als verdächtig. Da die Deepfake-Erkennung ein Wettrüsten ist, verbessert sich die Erkennung durch das Training mit Datensätzen, die von jedem Modell generiert werden, weshalb Sie unterschiedliche Konfidenzniveaus sehen.

Im ersten Beispiel sehen Sie, dass die Sensity AI Deepfake Detection Plattform die Medien als Fälschung erkennt, obwohl sie aufgrund ihrer neuartigen Natur nur geringes Vertrauen in die Identifizierung des spezifischen Generators hat. Unsere Analysten glauben, dass der Kling Video AI Modellgenerator, entwickelt von Chinas Kuaishou Technology, verwendet wurde.

Frühe Erkennungsindikatoren wie diese sind ein Beweis für die Strategie von Sensity AI für eine robuste Erkennung, bei der wir unsere Lösung mit mehreren Analyseebenen ausgestattet haben, die Elemente wie Pixel, Stimme, Gesichtsmanipulation, Bytecode-Analyse, C2PA-Zertifikate, Wasserzeichen und mehr untersuchen, unter Nutzung tiefer neuronaler Netze und digitaler Forensik.

Ziel ist es, dass, wenn eine Ebene unschlüssig ist oder eine Analyse mit geringer Konfidenz liefert, eine andere Ebene mit einem definitiveren Ergebnis ausgelöst wird, was eine robustere Gesamtbewertung ermöglicht. Letztendlich macht dies unsere Lösung in der Lage, forensischen Standards vor Gericht gerecht zu werden.

Was Sie also im ersten Video sehen können, ist, dass die KI-generierte Inhaltsprüfung das gesamte Video Bild für Bild auf Synthesesignale analysiert und einen Durchschnittswert von 52,1 % über alle Bilder hinweg ermittelt hat. Unsere Erklärbarkeitsfunktionen wie Heatmaps, die pixelgenaues Rauschen zeigen, das für das Modell am interessantesten ist, und segmentbasierte Analysen, die wahrscheinlich KI-generierte Objekte hervorheben, liefern jedoch starke forensische Signale, selbst wenn der Gesamtkonfidenzwert niedrig ist.

Zum Beispiel hat die Heatmap die Katzenohrkopfhörer als verdächtig identifiziert, und bei genauerer Betrachtung mit dem menschlichen Auge kann man sehen, dass sie fabriziert erscheinen. Aber es ist die segmentbasierte Analyse, die den Avatar und die Umgebung als KI-generiert kennzeichnet.

Im zweiten Beispiel ist die Konfidenz mit 87,8 % viel höher, wobei eindeutig Beweise für Gesichtsmanipulation erkannt werden, obwohl das Modell neuartig ist, und gleichzeitig pixelgenaues Rauschen als weiterer Beweis für die Synthese aufgedeckt wird.