Bereits im Jahr 2017 war der Mitbegründer von Sensity AI, Giorgio Patrini, ein Postdoktorand, der mit Max Welling an der Universität Amsterdam an tiefen generativen Modellen arbeitete.
Diese wegweisende Forschung konzentrierte sich auf die Bilderzeugung mit neuronalen Netzen, was zu dieser Zeit der Erstellung winziger Profilfotos mit GANs (Generative Adversarial Networks) und VAEs (Variational Autoencoders) gleichkam. Doch diese Arbeit und ähnliche Forschungen ebneten den Weg für generative Modelle, die bald jeden Anwendungsfall für die Inhaltserstellung über Bilder, Videos und Audio hinweg antreiben und die Möglichkeit zur Generierung von „Deepfakes“ in die Hände aller legen sollten.
Zu dieser Zeit reflektierte die Tech-Community im Allgemeinen nicht über die wahrscheinlichen Folgen dieser Entwicklung: dass innerhalb eines Jahrzehnts die digitale Kommunikation grundlegend zusammenbrechen würde, sobald Inhalte leicht gefälscht werden könnten. „Realität“ wäre nicht länger objektiv. Dem, was man sieht und hört, könnte nicht mehr vertraut werden.
Patrini erkannte, dass die Bereitstellung generativer KI-Tools für böswillige Akteure diesen unweigerlich neue Wege eröffnen würde, andere zu nötigen, zu betrügen und anzugreifen. Eine Gegenbewegung musste stattfinden.
Die Geburtsstunde der Deepfake-Erkennung
Im März 2018 trainierte Patrini möglicherweise als erster Mensch überhaupt einen Deepfake-Detektor, eine Entwicklung, die vielversprechende Ergebnisse zeigte. Ausgehend von der Annahme, dass technologische Fortschritte den Realismus von KI-generierten Medien schnell erhöhen und es für Menschen exponentiell schwieriger machen würden, synthetische Bilder und Audios zu identifizieren, war Patrini überzeugt, dass bald ein Bedarf an forensisch robuster Deepfake-Erkennungstechnologie bestehen würde, die vor Gericht Bestand haben könnte.
Um der Entwicklung voraus zu sein, schloss sich Patrini mit Francesco Cavalli zusammen, einem Spezialisten für Bedrohungsanalysen, der das Phänomen der „Fake News“ und seine sozialen Auswirkungen auf Internetgemeinschaften und Politik erforschte, und Ende 2018 wurde Sensity AI als weltweit erstes Unternehmen für Deepfake-Erkennung gegründet.
Mission
Sensity AI schützt Staaten, Organisationen, Unternehmen und Einzelpersonen vor bösartigen Deepfakes.
Vision
Eine Welt, in der alle digitalen Medien in Echtzeit authentifiziert werden können, um schlüssig zu beweisen, ob sie durch generative KI manipuliert wurden oder nicht.
Warum?
Wir glauben, dass KI-generierte Medien und Deepfakes ein gesellschaftliches Problem von ähnlichem Ausmaß wie der Klimawandel sind – unvermeidlich und weltverändernd. Die Demokratisierung von KI-generierten Medien und Deepfakes definiert die Bedeutung des Vertrauens in das, was wir sehen und hören, neu, wann immer wir es nicht aus erster Hand erleben.
Sensity AI ist eine Antwort auf die synthetische Realität
Wir sehen bösartige Deepfakes und ähnliche synthetische Medientechnologien als eine neue Welle von Cyber-Bedrohungen, die das Potenzial haben, jeden digitalen audiovisuellen Kommunikationskanal zu beeinflussen, der von jedem Menschen genutzt wird.
So wie Antivirensoftware zur allgegenwärtigen Lösung für das Scannen von Dateien aus nicht vertrauenswürdigen Quellen geworden ist, stellen wir uns einen ähnlichen reibungslosen Verifizierungsansatz für audiovisuelle Medien vor. Was wir verteidigen, ist keine Software, die durch Malware infiziert und manipuliert werden kann, sondern menschliche Gefühle, Meinungen und Handlungen, die durch gefälschte Videos, Identitätsdiebstahl, Einflussnahme und ausgeklügelte Cyberbetrügereien infiziert und manipuliert werden.
Entscheidend ist jedoch – und dies ist ein wesentliches Unterscheidungsmerkmal in der Branche der „Deepfake-Erkennung“ –, dass die Lösung, die wir entwickeln, forensisch robust ist. Wir glauben nicht, dass es ausreicht, sagen zu können, „dieses Medium ist synthetisch“ oder nicht; unsere Analyse muss schlüssig und erklärbar genug sein, um den Beweisanforderungen vor Gericht standzuhalten. Andernfalls würde sie den Opfern komplexer KI-generierter Cyberbetrügereien keine wirkliche Sicherheit bieten, sondern wäre lediglich eine „Checkbox-Lösung“. Unser eigentlicher Zweck ist es, eine sinnvolle Wirkung zu erzielen.
Die Deepfake-Erkennungstechnologie von Sensity AI funktioniert, indem sie die „digitalen Fingerabdrücke“ erkennt, die auf synthetisch manipulierten oder generierten Fotos, Videos und Audios hinterlassen werden. Dies erreichen wir, indem wir ein Deep-Learning-Netzwerk mit großen Mengen bekannter Deepfake-Daten trainieren, wo es lernt, diese Fingerabdrücke auf Pixelebene oder durch die Analyse subtiler akustischer Artefakte zu identifizieren. Da sich die Deepfake-Generierungstechnologie ständig verbessert und die visuellen und akustischen Hinweise auf Manipulationen unweigerlich für Menschen unerkennbar werden, wird diese maschinelle Analyse für die zuverlässige Erkennung von Deepfakes unerlässlich sein.
Dies muss aber auch in großem Maßstab geschehen. Ein auffälliges Element des aktuellen Stands der Deepfake-Erstellungstechnologie im Vergleich zu vor nur 12 Monaten ist, wie wenig technisches Wissen eine Person benötigt, um synthetische Medien zu erstellen. Millionen von harmlosen und bösartigen Deepfakes werden heute täglich erstellt, und dies hat zu einer unüberschaubaren Arbeitslast für forensische Ermittler und Spezialisten der Strafverfolgungsbehörden geführt, die mit der Durchsetzung der Gerechtigkeit für Opfer von sexuellem Kindesmissbrauch, Belästigung, Nötigung und Betrug beauftragt sind.
Wir schreiben nicht nur das Handbuch für die genaue Erkennung bösartiger Deepfake-Medien, wir helfen den Behörden auch, den forensischen Prozess anzupassen, um in einem sich schnell entwickelnden Markt Schritt zu halten und weiterhin Ergebnisse zu liefern.
Unser Vorteil ist, dass wir in erster Linie ein Deep-Learning-Unternehmen sind, und das stellt sicher, dass wir mit einem sich schnell entwickelnden Bedrohungsvektor Schritt halten können. Aber während wir eine technologische Lösung entwickeln, verfügen wir auch über ein fundiertes Wissen über die größeren sozio-ethischen Auswirkungen von Deepfakes und wie sich diese auf zahlreiche verschiedene Weisen bemerkbar machen werden.
Wie verändert die Deepfake-Erkennung die forensische Analyse?