Abschnitt: Technologie & KI | Gerechtigkeit & Rechts Autor: IN Leselänge: ~27 Min Quellen und weiterführende Literatur: 22 Artikel Themen: Deepfake, C2PA, Content Credentials, Videoerkennung, Fotos, AI Act, Strafgesetzbuch SEO / Arbeitstitel: Deepfake: Wie erkennt man ein gefälschtes Video oder Foto?
Die Frage ist: Wie erkennt man ein gefälschtes Video oder Foto? Es klingt einfach, bis wir merken, dass wir eine Sache nicht vergleichen. Ein fehlender Content Credentials-Stempel ist kein Echtheitsbeweis. C2PA sagt, wer den Ursprung behauptete, nicht, dass sich die Szene in der Welt ereignet habe. Der „Blut im Pixel“-Detektor ist keine forensische Schlussfolgerung auf Instagram. Die Benennung nach dem KI-Gesetz stellt keine strafrechtliche Verfolgung des Täters dar. Erst wenn diese vier Dinge getrennt sind, können Unterschrift, Labor und Änderung gelesen werdendes Strafgesetzbuches vom September 2026 wirklich gilt – und was das zufällig getroffene Auge nicht hält.
Dieser Text löst die Stimme nicht. Telefonanruf, synthetische Stimme und Bezahlung gehören zu einem anderen Artikel. Es geht auch nicht auf die umfassendere Frage ein, ob ein Foto allein als Beweismittel vor Gericht ausreicht. Dies ist ein separater Text zum Thema Fotografie als Beweismittel. Hier ist eine praktischere Frage: Was tun mit einer Datei, die auf dem Display liegt und wie ein Abbild der Welt aussieht?
1. Ein Journalist, ein Kriminalbeamter und ein Staatsanwalt beschäftigen sich nicht mit demselben Foto
Stellen wir uns eine Redaktionssitzung an einem Tag vor, an dem ein kurzes politisches Video viral geht. Der Herausgeber möchte wissen, ob er eine offensichtliche Kennzeichnung nach dem KI-Gesetz hat. Der Grafikdesigner ist auf der Suche nach Content-Anmeldeinformationen. Ein Forensik-Enthusiast bringt einen Detektor auf den Markt, der synthetische Videos anhand subtiler Farbveränderungen in einem Gesicht erkennen soll. Der Anwalt fragt, ob es sich um eine Verleumdung, einen Betrug, einen Eingriff in das Bildnis oder eine neue Tatsachengrundlage im Strafgesetzbuch handele. Der Leser schreibt in den Kommentaren, dass es „zunächstder Anblick sieht".
Auf den ersten Blick ist es umstritten, ob das Video echt ist. In Wirklichkeit hält jeder einen anderen Gegenstand. Der Herausgeber befasst sich mit der Kennzeichnungspflicht gegenüber dem Publikum. Das Diagramm löst das kryptografische Manifest in der Datei auf. Der Enthusiast löst das statistische Signal im Bild. Der Anwalt beschäftigt sich mit dem Umgang mit Ähnlichkeit, Absicht und Konsequenz. Der Leser beschäftigt sich mit Eindruck.
Daher können sie alle teilweise recht haben und das gemeinsame Urteil dennoch falsch sein. Das Video kann unmarkiert und trotzdem echt sein. Es kann ein gültiges Manifest haben und dennoch nicht erfassen, was der Betrachter aus der Überschrift schließt. Es kann einen Labordetektor passieren und wird trotzdem nur schlecht komprimiert. Es kann eindeutig synthetisch sein und dennoch möglicherweise kein bestimmtes Verbrechen erfüllen.
Daher lautet die erste Regel der praktischen Erkennung nicht: Finden Sie den besten Detektor. Es lautet: Geben Sie eine Ebene an. Für die Signatur fragen wir nach, ob die Datei ein überprüfbares Manifest enthält. Am Detektor fragen wir, an welcher Population es getestet wurde. Im Gesetz fragen wir, was jemand mit dem Bild gemacht hat. Mit dem menschlichen Auge fragen wir, ob es überhaupt eine Chance hat, zu unterscheiden, was es behauptet.
Ein fehlender Stempel ist kein Echtheitsbeweis.
– Anderer Kontext
2. Eine Szene auf dem Display hat mindestens sechs Ebenen
Ein Bild auf dem Telefon sieht wie eine Sache aus. Das ist sie nicht. Es ist das Ergebnis einer Kette, in der sich Sensor, Behälter, Modifikationen, Verteilung, Etiketten, algorithmische Eingriffe und rechtliche Konsequenzen vermischen. Wenn diese Ebenen gemischt werden, entsteht eine falsche Gewissheit: Die Metadaten fehlen, es handelt sich also um eine Fälschung; Der Detektor hat eine hohe Punktzahl angezeigt, also ist es erledigt; es gibt kein Zeichen, also ist das Gesetz gebrochen; Das Bild sieht seltsam aus, also ist es KI.
Sechs Ebenen einer Szene:
- Sensor und Behälter. Kamera, Telefon, soziales Netzwerk, Messenger, Screenshot und Komprimierung. Jeder Schritt kann Metadaten bewahren, ändern oder verwerfen.
- Generator oder Modifikation. Face-Swap, GAN-Gesicht, Bildmodell, Videomodell, manuelle Retusche, Schnitt oder normaler Filter. Nicht jede Bearbeitung ist ein Deepfake und nicht jeder Deepfake ist gleich.
- Erkennungssignal. Visuelles Artefakt, biologischer Rhythmus im Gesicht, Wasserzeichen, Maschinenmetadaten, auf einen bestimmten Satz trainiertes Netzwerk.
- Verteilung. Redaktionelle Veröffentlichung, Anzeige, private Nachricht, Kampagnenmaterial, anonymer Repost. Dieselbe Datei in einem anderen Kanal bedeutet eine andere Verantwortung.
- Bezeichnung. Maschinenlesbare Anbieterkennzeichnung und für die Öffentlichkeit offensichtliche Deepfake-Kennzeichnung gemäß Artikel 50 des KI-Gesetzes sind zwei Dinge [6][7].
- Gleich nach der Tat. Strafgesetzbuch, Zivilgesetzbuch und Datenschutz berücksichtigen Verhalten, Einwilligung, Schaden, Absicht und Kontext, nicht nur die Pixelstruktur [9][10][22].
Diese Schichtung ist kein Wortspiel. Ändert, wer bei einem Fehler gefragt werden soll. Wenn das Manifest verloren geht, wurde es möglicherweise im Screenshot gelöscht. Wenn der Detektor schreit, erkennt er möglicherweise das falsche Licht. Wenn das Werk nicht markiert ist, wissen wir noch nicht, wer es veröffentlicht hat und in welchem Modus. Bei falschen Abbildungen fragt das Gesetz nicht nur nach der Herstellungstechnik, sondern auch nach der Behandlung der abgebildeten Person.
Anschauliches Diagramm: Signatur, Detektor und Recht sind drei Spalten. Es gibt keinen „Es ist eine Fälschung“-Pfeil, der zwischen ihnen führt. In jeder Spalte gibt es eine andere Frage: Ist das Manifest gültig, auf welchem Set wurde das Signal überprüft, welche Aktion wurde ausgeführt?
3. Ein fehlender Stempel ist kein Echtheitsbeweis
Content Credentials werden manchmal als digitale Geburtsurkunde eines Bildes bezeichnet. Es ist eine nützliche Abkürzung, wenn wir wissen, wo sie endet. Ein C2PA-Manifest kann Angaben zu Herkunft, Änderungen und signierten Inhalten enthalten. Die meisten gängigen Dateien benötigen jedoch überhaupt kein solches Manifest. Das Telefon hat es nicht hinzugefügt. Das soziale Netzwerk hat ihn fallen lassen. Messenger hat das Bild neu berechnet. Jemand hat einen Screenshot gemacht.
Das Fehlen eines Stempels ist daher an sich kein Verdacht. Dies ist häufig der Standardzustand. Wenn eine Datei von einem normalen Telefon kein C2PA unterstützt, bedeutet das nicht, dass sie durch künstliche Intelligenz generiert wurde. Wenn ein Bild während des Chats Metadaten verloren hat, bedeutet das nicht, dass die Originalszene nicht passiert ist. Es bedeutet lediglich, dass die bestimmte Datei, die wir besitzen, kein überprüfbares Manifest enthält.
Das ist zwar umständlich für den Redakteur, aber genauer. Für die öffentliche Erhebung darüber, wie viele Nachrichtenvisualisierungen in der Tschechischen Republik im September 2026 über gültige Content-Anmeldeinformationen verfügen, gibt es kein Dossier. Ohne eine solche Messung ist es nicht möglich, aus dem Fehlen einer Signatur eine Aussage über den tschechischen Medienverkehr zu treffen. Man kann nur sagen, dass die Signatur dort hilft, wo sie vorhanden ist und wo die Vertrauenskette sitzt.
Die praktische Frage ist also nicht, ob das Bild „einen Stempel der Authentizität trägt“. Es liest, ob es für eine bestimmte Datei eine überprüfbare Ursprungssignatur gibt und was diese genau signiert. Abwesenheit ist ein Signal zur Vorsicht. Es ist kein Urteil.
4. C2PA gibt an, wer den Ursprung beansprucht hat. Es heißt nicht, dass die Szene stattgefunden hat
C2PA ist eine technische Spezifikation für die Herkunft. Im Kern funktioniert es mit Manifest, Ansprüchen, Anspruch und Signatur. Wenn die Datei ein Manifest enthält und die Vertrauenskette passt, kann die Überprüfung erkennen, wer eine bestimmte Aussage über den Inhalt unterzeichnet hat und ob sich der signierte Teil seitdem geändert hat [1][2][3].
Das ist eine Menge. Es ist nicht alles. Die Spezifikation 2.2 vom Mai 2025 gewährt nicht ausdrücklich ein Werturteil „guter“ Herkunft [1]. Es heißt nicht: Diese Szene ist passiert. Es heißt nicht: Das Etikett ist wahr. Es heißt nicht: Die abgebildete Person hat eingewilligt. Es heißt auch nicht: Jeder spätere Betrachter versteht den Kontext. C2PA kann die Herkunftsspur verbessern, verwandelt ein Bild jedoch nicht ohne zusätzlichen Aufwand in ein Beweismittel.
Stellen wir uns ein Foto von einer Demonstration mit einem gültigen Kameramanifest vor. Ein Manifest kann bestätigen, dass eine Datei von einem bestimmten Gerät stammt und nach dem Signieren nicht so geändert wurde, dass die Signatur erhalten bleibt. Es beantwortet jedoch nicht von sich aus, ob die Bildunterschrift den Ort korrekt benannt hat, ob das Bild nicht von einem anderen Tag stammt, ob der Ausschnitt nicht die Umgebung verdeckt und ob die Person im Vordergrund das getan hat, was der Text ihr zuschreibt.
Der umgekehrte Fehler ist ebenso gefährlich. Fehlt das Manifest, ist das nicht automatisch ein Zeichen einer Manipulation. Wenn ein Manifest existiert, ist es nicht automatisch ein Zeichen der Wahrheit. Die korrekte Lesart ist enger gefasst: C2PA ist eine Vertrauensebene für bestimmte Aussagen über die Herkunft und Integrität einer Datei. C2PA ist kein Deepfake-Detektor.
5. SynthID ist kein Inhaltsnachweis
Zusätzlich zu Manifesten gibt es Wasserzeichen. Google DeepMind beschreibt SynthID als eine Technologie, die ein digitales Wasserzeichen in die Ausgaben ausgewählter Modelle einbettet [19]. OpenAI kündigte im Mai 2026 C2PA- und SynthID-Layering für Bildinhalte an und fügte im Update vom Juli 2026 Audio hinzu; Dieser Text bleibt beim Bild und Video hängen [20].
Der Unterschied ist erheblich. Inhaltsnachweise enthalten eine strukturierte Behauptung und Signatur in einem Container. Ein Wasserzeichen ist ein in den Inhalt eingebettetes Signal. Sie können einige Transformationen besser überstehen als Metadaten, enthalten jedoch normalerweise weniger Kontext. Es kann erkennen, dass die Ausgabe wahrscheinlich von einem bestimmten beteiligten System stammt. Er kann die gesamte Bearbeitungskette, die Quelle des Bildes, die Zustimmung der Person oder den Wahrheitsgehalt der Szene nicht alleine beschreiben.
OpenAI nennt den Verlust von Metadaten durch Screenshots, Neukodierung oder Container-Zuschneiden als Grund für die Überlagerung von Wasserzeichen mit C2PA [20]. Dies bedeutet nicht, dass es sich bei dem Wasserzeichen um eine Sperre handelt. Es funktioniert für die beteiligten Generatoren und entsprechend den Eigenschaften der spezifischen Implementierung. Inhalte von einem anderen Modell, einer manuellen Bearbeitung, einer älteren Datei oder einem normalen Foto sind ohne diese Technologie möglicherweise nicht lesbar.
Es handelt sich nicht um einen „Metadaten vs. Wasserzeichen“-Streit. Es sind zwei verschiedene Schichten. Das Manifest gibt Kontext und Signatur dort, wo es überlebt hat. Wasserzeichen gibt das Signal an, wo es eingefügt wurde und wo der Detektor es lesen kann. Keiner von beiden allein beantwortet die Frage, was in der Welt passiert ist.
6. Auge auf GAN-Gesichtstrefferchance
Das menschliche Auge ist in vielen Dingen gut. Kann Ausdruck, Stimmung, Absicht und soziale Signale lesen. Deshalb vertrauen wir ihm bei synthetischen Gesichtern oft mehr, als er verdient. Eine Studie von Nightingale und Farid in PNAS aus dem Jahr 2022 testete die Unterscheidung zwischen echten und StyleGAN2-Gesichtern. Im ersten Experiment beurteilten 315 Teilnehmer 128 Gesichter aus 800 Objekten, von denen 400 real und 400 synthetisch waren. Die mittlere Richtigkeit betrug 48,2 Prozent, mit einem 95-Prozent-Konfidenzintervall von 47,1 bis 49,2Prozent [13].
Das kommt einem Zufall nahe. Die Zahl misst die binäre Rolle von „echt vs. synthetisch“ für statische Gesichter in einem bestimmten Experiment. Es misst weder Video, tschechischen Feed, aktuelle Verbreitungsmodelle noch die Fähigkeit, den gesamten Kontext des Bildes zu bewerten. Gerade deshalb ist es nützlich: Es besagt nicht, dass die Menschen nie etwas erfahren werden. Er sagt, dass die Gewissheit des Blicks ein schlechter Detektor sei.
Die Autoren versuchten auch, mit Feedback zu trainieren. Im zweiten Experiment erreichten 219 neue Teilnehmer 59,0 Prozent, mit einem 95-Prozent-Intervall von 57,7 bis 60,4 Prozent [13]. Dies ist auch kein Tutorial, wie man synthetische Gesichter bei der Arbeit jagt. Zwischen der ersten und zweiten Hälfte von 64 Gesichtern erhöhte sich die Genauigkeit nicht: 59,3 gegenüber 58,8 Prozent. Der Test zeigt, dass selbst kurzes Training eine begrenzte Wirkung hat.
Dies bedeutet nicht, dass eine visuelle Inspektion keinen Wert hat. Daraus folgt, dass das Auge an den Anfang der Frage gehört, nicht an das Ende. Wenn etwas seltsam erscheint, ist es ratsam, mit dem Teilen aufzuhören und nach einem anderen Kanal, einer anderen Quelle, einem anderen Original und einem anderen Kontext zu suchen. Es ist nicht sinnvoll, auf das Gesicht eines Kollegen zu zeigen und zu sagen: „Ich habe KI erkannt.“
7. Sechsundneunzig Prozent auf FaceForensics sind keine Instagram-Sperre
Intel führte FakeCatcher im November 2022 als Echtzeit-Deepfake-Detektor ein und gab eine Genauigkeitsrate der Produktlinie von 96 % an [15]. Die wissenschaftliche Arbeit von Ciftci, Demir und Yin beschreibt die Erkennung synthetischer Porträtvideos anhand biologischer Signale, insbesondere subtiler Veränderungen im Zusammenhang mit der Gesichtsdurchblutung. Es wird eine Genauigkeit von 96 Prozent für den FaceForensics-Datensatz, 94,65 Prozent für FaceForensics++, 91,50 Prozent für Celeb-DF und 91,07 Prozent für den als „in the wild“ eingestuften Deep Fakes-Datensatz der Autoren angegeben [14].
Dies sind spezifische Ergebnisse für bestimmte Sets. Es ist keine verschlossene Tür. Genauigkeit ist nicht dasselbe wie die Falsch-Positiv-Rate im Verkehr. FaceForensics ist nicht Instagram 2026. Ein gut beleuchtetes Porträtvideo ist kein düsterer Konzertclip. Das Signal im Frontalgesicht ist kein Profil, Make-up, niedrige FPS, starke Komprimierung oder ein neuerer Generator, der lernt, einen ähnlichen Rhythmus zu imitieren oder zu verwischen.
Darüber hinaus gerät eine Marketingphrase ohne einen Teil der Datensätze und ohne eine operative Grundgesamtheit leicht in Missbrauch. Wenn jemand sagt „Der Melder hat 96 Prozent“, fehlt die Frage: Auf was, wann, mit welcher Schwelle, mit welchem Fehlalarmanteil und bei welchem Schaden? Bei redaktionellen Entscheidungen ist ein Fehlalarm teuer. Ein echtes Video als Fälschung zu kennzeichnen kann genauso schädlich sein, wie eine Fälschung als echt zu teilen.
Der rPPG-Detektor ist daher keine forensische Schlussfolgerung. Kann eine Hypothese für ein Porträtvideo sein, wenn wir die Bedingungen und Grenzen kennen. Es sollte nicht allein in der Spalte „wahr/falsch“ stehen. Ohne unabhängige Bewertung aktueller Generatoren, mit einer kalibrierten Falsch-Positiv-Rate und realen Vertriebskanälen ist dies ein Hilfshinweis, kein Urteil.
8. DFDC ließ die Erkennung offen. Niemand hat auf der Blackbox die siebzigste erreicht
Die Deepfake Detection Challenge war gerade deshalb nützlich, weil sie den Unterschied zwischen einem bekannten Set und einem versteckten Test zeigte. Laut Meta AI hatte die Challenge 2.114 Teilnehmer und über 35.000 Modelle. Der von Dolhansky und Kollegen beschriebene Datensatz enthielt mehr als 100.000 Clips mit 3.426 bezahlten Schauspielern [16][17]. Dies ist eine große, aber dennoch Betonkonstruktion.
Am öffentlichen Set beziffert Meta den Wert auf 82,56 Prozent, während die Kommunikation zwischen Genauigkeit und durchschnittlicher Präzision schwankt [16]. Am Black-Box-Set erreichte der beste Teilnehmer, Selim Seferbekov, 65,18 Prozent; keiner erreichte 70 Prozent [16]. Die Zahl misst eine spezifische Herausforderung des Jahres 2020, nicht das heutige Internet. Sein Wert liegt in der Unterscheidung: Die Leistung bekannter Daten bedeutet keine Verallgemeinerung auf unsichtbare Fälschungen.
Dies ist der Kern des Erkennungsproblems. Generatoren wechseln. Die Komprimierung variiert. Die Veröffentlichungskanäle verändern sich. Der Detektor kann anstelle einer allgemeinen Spoof-Signatur eine Spur des Datensatzes lernen. Im Labor arbeitet es präzise und im Betrieb trifft es auf eine andere Welt.
NIST GenAI Image-D veröffentlicht einen Zeitplan und Metriken wie AUC, EER, TPR bei einem bestimmten FPR- und Brier-Score in Bins; Gleichzeitig ist es den Teilnehmern untersagt, werbliche Aussagen über das Ranking zu machen [18]. Das ist angemessene Zurückhaltung. Mit Stand September 2026 gibt es im Dossier keine einzige Primärzahl „NIST verifiziert 96 Prozent in freier Wildbahn“. Wenn ein solcher Satz irgendwo kursiert, gibt es in diesem Text keine Unterstützung dafür.
9. Die Benennung nach dem KI-Gesetz stellt keine strafrechtliche Verfolgung dar
Das KI-Gesetz führt Transparenzpflichten ein, keinen neuen einheitlichen Polizeidetektor. Artikel 3 Nummer 60 definiert Deepfake kumulativ: Es muss sich um Inhalte handeln, die existierenden oder plausibel existierenden Personen, Gegenständen, Orten, Entitäten oder Ereignissen ähneln und fälschlicherweise authentisch oder wahr erscheinen [6]. Artikel 50 unterscheidet dann die Pflichten von Anbietern und einführenden Stellen [6][7].
Ab dem 2. August 2026 gilt Artikel 50; für Systeme, die vor diesem Datum in Verkehr gebracht werden, wird die Maschinenkennzeichnung nach Absatz 2 auf den 2. Dezember 2026 verschoben [7]. Die Kommission stellt in ihren FAQ vom 24. Juli 2026 außerdem fest, dass Inhalte, die vor dem 2. August 2026 erstellt wurden, nicht nachträglich mit Tags versehen werden müssen [7]. Zum 31. Juli 2026 machte die CTU auf die Anwendbarkeit der Transparenzregeln aufmerksam und verwies auf den Code of Good Practice [8].
Diese Daten messen die Verwendbarkeit der Pflichten, nicht die Authentizität der Datei. Eine Deepfake-Marke für das Publikum gemäß Artikel 50 Absatz 4 ist nicht dasselbe wie eine maschinenlesbare Anbietermarke gemäß Absatz 2. Darüber hinaus stellt die Kommission fest, dass sich das irreführende Unternehmen nicht ausschließlich auf die maschinenlesbare Marke des Anbieters verlassen sollte [7]. Wenn die Herausgeber ein synthetisches oder bearbeitetes Bildmaterial veröffentlichen, erfüllen sie ihre eigene Pflicht gegenüber dem Leser. Wenn ein Täter ein Bild zum Betrügen nutzt, ist es schwierig, von ihm zu erwarten, dass er seine Pflicht ehrlich erfüllt.
Häufig gestellte Fragen Die Kommission legt für KMU bei Verstößen gegen Transparenzpflichten eine Strafobergrenze von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Umsatzes fest, je nachdem, welcher Betrag höher ist [7]. Das ist eine Obergrenze, kein Tarif für ein Meme ohne Tag. Und das Wichtigste: Das Transparenz-Sanktionsregime ist keine strafrechtliche Qualifizierung eines konkreten Schadens.
10. Der Bereich für nicht einvernehmliche Pornografie ist kein Bereich für politische Videos
Tschechische Novelle Nr. 270/2025 Slg. tritt ab dem 1. Januar 2026 in Kraft und ergänzt unter anderem § 181 Absatz 2 und den neuen § 191a in das Strafgesetzbuch [9]. Dies ist eine wesentliche Änderung, führt aber auch häufig zu Abkürzungen. Der neue § 191a bezieht sich auf die Herstellung und Verbreitung eines pornografischen Werks unter Ausbeutung einer Person ohne deren Zustimmung. Die grundlegenden Fakten deuten auf eine Freiheitsstrafe von bis zu 2 Jahren hin [9].
Diese Zahl misst die gesetzliche Rate der zugrunde liegenden Straftat zum 1. Januar 2026. Sie misst nicht die Zahl der Verurteilungen, berücksichtigt nicht jedes synthetische Bild und gilt nicht für ein nicht pornografisches politisches Video, nur weil es durch künstliche Intelligenz erstellt oder bearbeitet wurde. Wichtig sind der Umgang mit dem Werk, die Art des Inhalts und das Einverständnis der abgebildeten Person.
§ 181 Abs. 2 zielt auf eine falsche Ähnlichkeit oder einen falschen Ausdruck mit der Absicht ab, den Rechten schweren Schaden zuzufügen [9]. Das ist eine andere Konstruktion. Satire und Kunst sind nicht automatisch kriminell. Ebenso ist nicht jedes schlechte Etikett ein Verbrechen. Das Gesetz beurteilt konkrete Umstände.
Daraus folgt nicht, dass es sich bei der Technik um ein rechtlich neutrales Spielzeug handelt. Daraus folgt, dass „Deepfake“ kein einzelner Absatz ist. Ein Bild kann ein Instrument für sexuellen Missbrauch, Verleumdung, Betrug, Verletzung der Privatsphäre oder einen zivilrechtlichen Streit um ein Bild sein. Eine Erkennungs-App wird keinen Unterschied machen.
11. Verleumdung und Betrug bestrafen Unwahrheit und Konsequenzen. Keine Datei
Das Strafgesetzbuch kennt in § 184 Verleumdung, in § 209 Betrug und in § 180 den unerlaubten Umgang mit personenbezogenen Daten [10]. Das Bürgerliche Gesetzbuch schützt Ähnlichkeit und Privatsphäre in den §§ 84 ff [22]. Deepfake kann ein Mittel sein. Es ist nicht automatisch sachlich.
Das hört sich legal an, ist aber in der Praxis eine einfache Bremse. Wenn jemand ein Video zeigt und fragt: „Ist es kriminell?“, reicht die Antwort nicht aus, ob das Bild synthetisch ist. Es ist notwendig zu wissen, wer es geschaffen hat, wer es verbreitet hat, was es behauptet hat, wem es Schaden zugefügt hat, ob es sich um ein pornografisches Werk handelte, ob eine Einwilligung vorlag, ob die Absicht bestand, ernsthaften Schaden anzurichten, und ob es finanzielle oder sonstige Folgen hatte.
Der Detektor konstruiert aus dem Pixel nicht die eigentliche Substanz. Es kann ein Anreiz zur Vorsicht sein, es kann den Redakteuren helfen, nicht voreilig zu veröffentlichen, es kann ein Anhaltspunkt für die professionelle Beurteilung sein. Sie kann eine juristische Qualifikation nicht ersetzen. So wie ein gültiges C2PA-Manifest kein Ersatz für die Zustimmung einer Person zur Offenlegung ist, ist ein hoher Detektorwert kein Ersatz für einen Absichtsnachweis.
Die praktische Empfehlung ist daher weniger spektakulär, aber fundierter: Wenn ein Schadensverdacht besteht, stoppen Sie die Verbreitung, bewahren Sie die verfügbare Datei und den Kontext auf, überprüfen Sie dies mit einem zweiten Kanal und überlassen Sie die rechtliche Qualifikation der Berichterstattung und den Strafverfolgungsbehörden. Der Artikel verknüpft kein bestimmtes Video mit einem bestimmten Absatz. Es zeigt, warum es nicht mit einer einzigen Punktzahl möglich ist.
12. Der Screenshot löscht das Manifest. Passt nicht zum Ereignis
Der kürzeste Content Credentials-Test ist absichtlich banal. Nehmen Sie eine Datei, von der Sie wissen, dass sie mit Content Credentials signiert ist, und überprüfen Sie sie bei Content Credentials Verify [5]. Geben Sie den Status ein: gültig, ungültig, fehlt. Machen Sie dann einen Screenshot davon und überprüfen Sie die neue Datei erneut. Sie werden häufig feststellen, dass das Manifest fehlt.
Dies ist keine Betrugserkennung. Es ist eine Eigenschaft des Pfades. Der Screenshot stellt keine kryptografische Kontinuität mit der Originaldatei her. Durch Neukodieren, Zuschneiden oder Ändern des Containers kann das Manifest ebenfalls ausgelöst werden. OpenAI nennt dies als einen der Gründe, warum es SynthID über C2PA legt [20]. Der Verlust des Manifests darf daher nicht als Beweis dafür gewertet werden, dass das ursprüngliche Ereignis nicht stattgefunden hat.
Ebenso sagt ein gültiges Manifest für das Original nicht aus, dass ein Screenshot, der zwei Stunden später im Umlauf ist, denselben Wert hat. Der Leser hält eine andere Datei. Es kann ein anderes Ansichtsfenster, eine andere Beschriftung und einen anderen Kontext haben. Die Überprüfung erfolgt immer für eine bestimmte Datei, nicht für einen allgemeinen Bildspeicher.
So testen Sie die Anmeldeinformationen für Inhalte vor und nach dem Screenshot
Der Test besteht aus drei Schritten. Überprüfen Sie zunächst die Originaldatei und speichern Sie das Überprüfungsergebnis. Erstellen Sie dann über eine Anwendung, die den Container ändert, einen Screenshot oder eine normale Kopie. Überprüfen Sie abschließend die neue Datei. Wenn das Manifest verschwindet, schreiben Sie den Unterschied zwischen den Dateien und nicht die Schlussfolgerung über die Wahrheit der Szene. Wenn das Manifest bestehen bleibt, lesen Sie immer noch nur die darin enthaltenen Anweisungen.
13. Die beste Kontrolle ist diejenige, deren Fehlalarm Sie mit sich herumtragen
Bei einem Deepfake-Bild wird oft darüber gesprochen, wie man eine Fälschung erkennt. Ebenso wichtig ist es, echten Inhalten nicht durch einen Fehlalarm zu schaden. Die Redaktion, das Unternehmen und der Einzelne müssen wissen, welche Fehler sie sich leisten können. Das Aussetzen des internen Teilens ist ein billiger Fehler. Eine Person öffentlich als Urheber einer Fälschung zu brandmarken, ist ein kostspieliger Fehler. Geld auf der Grundlage eines Videos zu senden ist eine andere Schande, als versehentlich ein anschauliches Bild nicht zu veröffentlichen.
| Eine Art Misserfolg | Wie sieht er aus? | So testen Sie | Was wird den Schaden begrenzen? |
|---|---|---|---|
| Fehlen von C2PA als Fälschung | Ein Telefon ohne Stempel wird als AI gekennzeichnet | Überprüfen Sie Datei, Screenshot und Dateipfad | Abwesenheit ist keine Anpassung; Die Zählung der tschechischen Bilder fehlt |
| Genauigkeit als Operation | Die Labornummer entscheidet über den Streit im Netzwerk | Fragen Sie nach Datensatz, Schwellenwert, FPR und Generatorjahr | Detektor nur als Hypothese, nicht als Urteil |
| Ein Auge genügt | „Ich sehe, das Gesicht ist nicht echt“ | Erinnern Sie sich an das Experiment von 48,2 Prozent mit GAN-Gesichtern | Der zweite Kanal und Zurückhaltung |
| Als Täter eingestuft | Wir gehen davon aus, dass der Betrüger Deepfake markiert | Trennen Sie Artikel 50 vom Strafgesetzbuch | Lesen Sie die Markierung nicht als Strafe |
| Ein Absatz für alles | Ein politisches Video ist automatisch § 191a | § 191a, § 181 Abs. 2, § 184, § 209 und OZ gesondert | Qualifizierung durch Verhandlung |
NÚKIB erwähnt Deepfake im Cyber-Hygieneunterricht, nicht als zertifizierten Detektor [11]. Der nationale Plan für Forschung und Entwicklung im Bereich Cyber- und Informationssicherheit bis 2025 arbeitet mit Deepfake als Risikovektor [12]. ÚOOÚ hat im April 2026 Deepfake-Videos in die Übersicht über KI-Betrugskanäle und digitale Spuren aufgenommen [21]. Der rote Faden dieser Materialien ist nicht „Installieren Sie eine Zauber-App“. Es ist Alphabetisierung, Validierung und Prozess.
Die beste Kontrolle ist also nicht die strengste Kontrolle. Es handelt sich um einen Scheck, dessen Fehler Sie rechtzeitig erkennen und dessen Kosten Sie tragen. Bei geringem Schaden können Verzögerung und eine zweite Ressource ausreichend sein. Für eine öffentliche Anklage ist ein strengeres Verfahren erforderlich. Im Falle eines Verbrechensverdachts gehört die Angelegenheit in einen anderen Modus als der Kommentarthread.
14. Signatur, Detektor und zweiter Kanal ergeben nicht ein Urteil
Durch eine praktische Prüfung darf man nicht lernen, eine Fälschung anzufertigen. Es soll dem Leser zeigen, wo die Signatur endet, wo der Detektor endet und wo die Überprüfung der Out-of-File-Situation beginnt.
Was muss getestet werden, bevor Sie Ihren Augen trauen
Beim ersten Test geht es um die Signatur. Überprüfen Sie die Datei mit Content Credentials und machen Sie dann einen Screenshot davon. Beim zweiten Test geht es um Abwesenheit. Machen Sie ein normales Foto von Ihrem eigenen Telefon ohne C2PA und schreiben Sie ihm keinen künstlichen Ursprung zu, nur weil das Manifest fehlt. Beim dritten Test geht es um das Auge. Vergleichen Sie ein bekanntes synthetisches Gesicht aus einer sicheren Demoquelle mit einem normalen Foto und gehen Sie davon aus, dass die menschliche Gewissheit ein schwaches Werkzeug ist. Nightingale und Farid geben für das erste Experiment 48,2 Prozent, keine Lizenz zur Kollegenjagd [13].
Achten Sie bei Nachrichten oder Unternehmensbildern auf eine deutliche Kennzeichnung, an der sie von der irreführenden Stelle gemäß Artikel 50 Absatz 4 angesprochen werden sollen. [6][7]. Erwarten Sie es nicht in einem anonymen Repost als Beweis für die Ehrlichkeit des Täters. Wenn Sie einen Schaden vermuten, verifizieren Sie dies über einen zweiten Kanal: eine bekannte Nummer, ein bekanntes Konto, einen persönlichen Kontakt oder eine Institution, deren Kommunikation über ein eigenes Verifizierungsverfahren verfügt. Es ist ein Prozess, kein Detektor.
Der Blutdetektor im Pixel ist kein Schloss.
– Anderer Kontext
Das Testergebnis klingt nicht in einem Wort „wahr“ oder „falsch“. Es lautet: Signatur gültig, ungültig oder fehlt; Der Detektor ist nur für den angegebenen Dateityp und innerhalb der angegebenen Grenzen verwendbar. Der unabhängige Kanal bestätigt oder lehnt das Ereignis ab. Nur diese Sätze zusammen verringern das Risiko, dass aus einem Eindruck eine öffentliche Schlussfolgerung wird.
15. Der persönliche Gebrauch liegt außerhalb des KI-Gesetzes. Es liegt nicht außerhalb des Strafgesetzbuches
In den FAQ der Kommission heißt es, dass die private, nicht-berufliche Nutzung nicht unter das KI-Gesetz fällt [7]. Dies ist eine wichtige Grenze. Dies bedeutet jedoch nicht, dass persönliche Handlungen nicht mit anderen Rechten kollidieren können. Wenn jemand ein nicht einvernehmliches pornografisches Werk erstellt oder verbreitet, in dem er eine Person ohne Zustimmung missbraucht, stellt § 191a nicht die Frage, ob es sich um einen geschäftlichen Einsatz eines KI-Systems handelte [9]. Benutzt jemand ein falsches Bildnis oder einen falschen Ausdruck mit der Absicht, einen schweren Rechtsschaden herbeizuführen, stellt sich nach § 181 Abs. 2 eine andere Frage [9].
Das Mischen dieser Schichten ist praktisch, aber falsch. Das KI-Gesetz regelt bestimmte Marktrollen und Transparenz. Das Strafgesetzbuch beurteilt bestimmte Handlungen. Das Bürgerliche Gesetzbuch schützt die Persönlichkeit und die Privatsphäre. Der Schutz personenbezogener Daten fragt nach der Datenverarbeitung. Eine einzelne Datei kann in mehrere Ebenen fallen oder in keine der im Kommentar genannten.
Die praktische Implikation ist einfach. Wenn wir fragen, ob der Inhalt hätte gekennzeichnet werden müssen, lesen wir das AI-Gesetz. Wenn wir fragen, ob ein Bildnis missbräuchlich verwendet wurde, lesen wir das tschechische Recht und konkrete Umstände. Wenn wir fragen, ob eine Datei technisch signiert ist, lesen wir C2PA. Wenn wir fragen, ob es sicher ist, auf den Inhalt zu reagieren, rufen wir den zweiten Kanal an.
16. Nach den neuen Abschnitten gibt es immer noch keine öffentliche Strafverfolgung
Mit Stand September 2026 enthält das Dossier keine öffentlichen polizeilichen Statistiken über die Zahl der Strafverfolgungen nach § 181 Abs. 2 und § 191a für das Jahr 2026. Dies ist kein Beweis dafür, dass die Taten nicht stattfinden. Es ist eine Lücke im öffentlichen Streit. Ein genauerer Satz lautet also nicht: „Niemand verfolgt Deepfake“. Darin heißt es: Für die neuen Absätze liegt uns zum Zeitpunkt der Recherche kein öffentlicher Jahresüberblick vor, der ehrlich zitiert werden könnte.
Ebenso haben wir keine verifizierte Primärzahl dafür, dass FakeCatcher oder ein ähnlicher rPPG-Detektor bei 2025- und 2026-Generatoren in kostenlosen sozialen Kanälen funktionsfähig ist. Wir haben nicht einmal eine offizielle tschechische Zählung gültiger C2PA-Manifeste für Nachrichtenvisualisierungen. Und wir haben keine aggregierte NIST-Nummer, die es uns erlaubt zu sagen: „Die Detektoren sind betriebsbereit.“ [18].
Dies schwächt die Hauptthese nicht. Vielmehr hält es sie auf dem Boden. Wenn C2PA zur standardmäßigen, nicht entfernbaren Ebene der Mehrheitsbeteiligung würde, würde das Fehlen eines Stempels die Bedeutung ändern. Wenn eine unabhängige rPPG-Bewertung aktueller Generatoren mit kalibriertem FPR eine stabile Betriebsleistung ergeben würde, würde der Detektor eine stärkere Rolle spielen. Wenn eine DFDC-ähnliche Herausforderung auf dem versteckten Set und im Dienst deutlich über 70 Prozent bliebe, würde die Vorsicht neu berechnet werden. Bis dahin fehlt kein StempelAuthentizität und 96 Prozent ist kein Schloss.
17. Versteckte Ladung ist ein Auge, das zufällig getroffen wird
Die bequemste Antwort wäre: ein paar Zeichen lernen, einen Detektor installieren und nach einem Stempel suchen. Es wäre kurz. Und sie wäre gefährlich selbstbewusst. Bilder und Videos erfordern heute keinen Trick mehr, sondern eine Änderung der Reihenfolge der Inspektion.
Zuerst fragen wir, was wir in der Hand haben. Original, Screenshot, Repost, komprimiertes Video oder nur eine Vorschau? Wir fragen dann, ob es ein überprüfbares Manifest gibt und was es aussagt. Dann fragen wir, ob ein Detektor für diesen Dateityp, diese Qualität und diese Population sinnvoll ist. Erst dann fragen wir, was rechtlich und praktisch folgt. Und wenn es um Schaden, Geld, Ruf oder intime Ähnlichkeit geht, kehren wir vom Pixel zur Person und zur Institution zurück.
Dadurch wird die Steuerung zwar langsamer, aber an der richtigen Stelle langsamer. Nicht bei jedem Bild. Mit jedem Bild sollen wir handeln.
Die Frage ist nicht, wie man ein gefälschtes Video oder Foto auf den ersten Blick erkennt. Darin heißt es: Was können Sie aufgrund der Unterschrift, des Detektors und des Gesetzes über diese Akte glauben – und welchen Fehlalarm, welchen fehlenden Stempel oder welchen winzigen Eingriff des Auges werden Sie in Bezug auf diese Szene tolerieren?
Verwandte Texte in dieser Reihe
- Auf der Website: Fotos allein reichen nicht mehr aus. Auch seine Herkunft wird zum Beweis – der Wert des richtigen Bildes nach generativer KI. Bei diesem Text handelt es sich um eine praktische Video- und Fotoerkennung.
- Ist das Foto ein Beweis? Wenn ein Bild auch ohne Bearbeitung täuschen kann — Täuschung ohne Pixelanpassungen.
- Was tun, wenn jemand Ihr Foto oder Ihre Identität missbraucht? — Zivil-, Kriminal- und Plattformkanal.