Digitale Wasserzeichen und Inhaltsherkunft erfordern einen mehrschichtigen Ansatz für Strafverfolgungsbehörden

Zwei aktuelle Ankündigungen zu digitalen Wasserzeichen und der Provenienz von Inhalten zeigen eine breitere Akzeptanz von Technologien in der Branche, die darauf abzielen, Erstellern, Verlegern und Verbrauchern zu helfen, die Ursprünge und die Historie digitaler Inhalte zu überprüfen. Doch keiner der Ansätze ist ein Allheilmittel und macht lediglich die Notwendigkeit eines mehrschichtigen Ansatzes für Strafverfolgungsbehörden und forensische Ermittler deutlich, wenn es darum geht, mutmaßlich KI-generierte Inhalte zu identifizieren und zu priorisieren.

OpenAI hat Googles SynthID-Technologie für digitale Wasserzeichen in seine generativen Tools integriert und ein Bildverifizierungstool eingeführt, das prüft, ob ein Bild in ChatGPT, einschließlich über die API, oder Codex erstellt wurde.

Gleichzeitig hat Google die SynthID-Erkennung von der Gemini-App auf Lens, den KI-Modus, Circle to Search und Gemini in Chrome erweitert, sodass Sie eine Datei nun in mehreren Anwendungen auf ein SynthID-Wasserzeichen überprüfen können.

OpenAI hat auch die Unterstützung für Content Credentials-Metadaten erweitert, als Teil seiner Zusammenarbeit mit der Coalition for Content Provenance and Authenticity (C2PA), der branchenübergreifenden Gruppe hinter dem offenen technischen Standard für die Provenienz von Inhalten.

Jeder Ansatz zur Inhaltsherkunft ist für sich genommen ineffektiv

Doch in der Ankündigung räumt OpenAI ein, dass digitale Wasserzeichen und Metadaten von Inhaltsnachweisen als eigenständige Lösungen nur begrenzt wirksam sind und ein mehrschichtiger Ansatz erforderlich ist. „C2PA-Metadaten sind eine wichtige Grundlage für die Provenienz. Sie helfen Inhalten, Informationen darüber zu tragen, woher sie stammen, wie sie erstellt oder bearbeitet wurden und wer diese Informationen signiert hat. Aber Metadaten sind nicht narrensicher. Sie können entfernt, durch Uploads und Downloads verloren gehen oder durch Transformationen wie Dateiformatänderungen, Größenänderungen oder Screenshots beschädigt werden“, so das Unternehmen.

„Um die Provenienz widerstandsfähiger zu machen, verfolgen wir einen mehrschichtigen Ansatz und integrieren Wasserzeichen durch Google DeepMinds SynthID⁠… SynthID bettet eine unsichtbare Wasserzeichenschicht ein, die C2PA-Metadaten-basierte Ansätze ergänzt.“

Doch während diese Initiativen für teilnehmende Inhaltsersteller und Vertriebsplattformen nützlich sind, um Vertrauen aufzubauen, Verbraucher zu informieren und potenzielle Gelegenheitskriminelle – wie diejenigen, die kommerzielle Tools zur Erstellung bösartiger Deepfakes zum Zweck von Betrug oder Belästigung verwenden – abzuschrecken, haben sie nur begrenzte Auswirkungen bei schwerwiegenderen Verbrechen und böswilligen Absichten.

Sowohl digitale Wasserzeichen als auch Metadaten von Inhaltsnachweisen sind als Lösungen trivial umgehbar.

Entwickler stellen fest, dass Stable Diffusion mit einer Denoising-Stärke von 10-15 % das Wasserzeichen entfernen kann, ebenso wie ein ComfyUI-Knoten, und es existiert bereits mindestens ein GitHub-Repository, um SynthID-Wasserzeichen umzukehren.

Hinsichtlich der Metadaten von Inhaltsnachweisen können diese leicht bearbeitet oder entfernt werden. Tatsächlich entsteht eines der größten Hindernisse für diesen Ansatz durch die einfache Verbreitung. Wenn Dateien organisch hochgeladen und verteilt werden, beispielsweise über soziale Medien, kopieren die Plattformen typischerweise die visuellen und akustischen Komponenten der Datei in einen neuen Container, ignorieren dabei ursprüngliche Metadaten und beeinträchtigen eingebettete Signaturen durch Komprimierung.

Bösartige Akteure verschleiern absichtlich die Herkunft synthetischer Inhalte

Sowohl für Gelegenheits- als auch für Schwerverbrecher existiert die Technologie, mit der böswillige Akteure Wasserzeichen und C2PA-Manifeste absichtlich entfernen können, um die Erkennung durch groß angelegte Brancheninitiativen mit geringem Aufwand zu umgehen.

Der größte Fehler bei diesen Initiativen, die größtenteils durch Verbraucher- und Regulierungsdruck vorangetrieben werden, ist jedoch, dass sie auf Freiwilligkeit basieren und eine freiwillige Beteiligung erfordern, weshalb wir sie wahrscheinlich nur bei kommerziellen und handelsüblichen Tools anwenden sehen werden.

Es existiert auch ein Untergrundmarkt, der „Crime-as-a-Service“ anbietet, wo nicht konforme KI-Generatoren verwendet werden können, um nicht gekennzeichnete Deepfakes zu erzeugen oder KYC-Identitätsprüfungen (Know Your Customer) zu umgehen, um Kriminellen zu helfen, ihre Betrugsoperationen schnell zu skalieren.

Darüber hinaus verwenden Nationalstaaten, Hacktivisten und andere politisch motivierte Akteure, wie wir in unserem jüngsten Bericht „Die Rolle von Deepfakes in der kognitiven Kriegsführung“ aufzeigten, Deepfakes für ausgeklügelte Einflusskampagnen, psychologische Operationen und kognitive Kriegsführung. Diese Akteure verschleiern aktiv KI-Inhaltskennzeichnungen, um sicherzustellen, dass ihre täuschenden Inhalte nicht als solche markiert werden.

Letztendlich besteht die Herausforderung bei allen Formen der Selbstkennzeichnung von KI-generierten Inhalten darin, dass es sich um einen freiwilligen Ansatz handelt und es immer ein Ökosystem bösartiger Akteure geben wird, die einen Anreiz haben, die Tatsache zu verschleiern, dass ihre Inhalte synthetisch sind.

Ermittler müssen am Punkt der Beweisaufnahme mehrere Prüfungen durchführen

Aus Triage-Sicht ist es sinnvoll, digitale Wasserzeichen und Metadatenprüfungen von Inhaltsnachweisen in den Ermittlungsablauf zu integrieren. Dieser Ansatz kann helfen, konforme synthetische Inhalte unter großen Mengen von Beweismitteln zu identifizieren, und er wird auch faule Versuche aufdecken, bösartige Inhalte mit kommerziellen Tools zu erstellen.

Forensisch gesehen werden Authentizitäts- und Provenienzprüfungen, die auf diesen groß angelegten Initiativen basieren, jedoch vor Gericht nicht standhalten, wenn Metadaten leicht entfernt und Open-Source-Denoiser Wasserzeichen entfernen können. Keine einzelne Provenienztechnik ist für sich allein ausreichend.

Um dem entgegenzuwirken, müssen Strafverfolgungs- und forensische Ermittler auch ergänzende Technologien in ihre Arbeitsabläufe integrieren, um eine robuste Medienverifizierung und eine nachvollziehbare Beweiskette zu gewährleisten. Spezialisierte forensische Tools können verwendet werden, um eine zweite Meinung oder eine Expertenprüfung in Situationen zu liefern, die zusätzliche technische Beweise erfordern, und helfen, die Schwelle für die Authentifizierung von Beweismitteln vor Gericht zu erreichen.

Wir sprechen über all dies in unserem jüngsten Podcast – C2PA und ähnliche Initiativen sind ein echter Fortschritt, und die Idee, die Provenienz direkt bei der Erstellung in Inhalte einzubetten, ist elegant und bietet denen, die in gutem Glauben handeln, einen echten Mehrwert. Aber im Grunde sind C2PA und Wasserzeichen Systeme, die auf Vertrauen und freiwilliger Teilnahme basieren.

In einem Raum voller unbestätigter Flaschen hilft das Etikett auf der Flasche nur, wenn der Vergifter beschlossen hat, es anzubringen. Die Provenienz sagt Ihnen, woher etwas stammt, wenn der Ersteller es Ihnen mitteilen wollte. Die Erkennung muss funktionieren, wenn er es nicht getan hat.