Stellen Sie sich eine nachts aufgenommene Fotografie vor. Sie zeigt eine bekannte Person, die einem anderen Mann einen Umschlag übergibt. Im Hintergrund steht ein schwarzes Auto. Zeit, Ort und Gesichter sind erkennbar. Innerhalb weniger Minuten verbreitet sich das Bild im Internet.
Die erste Reaktion ist vorhersehbar: Ist es echt?
Wenige Minuten später antwortet die abgebildete Person: „Das ist KI.“
Damit verändert sich das Problem.
Bis vor Kurzem bestand das zentrale Risiko visueller Manipulation darin, dass jemand ein falsches Bild erzeugt und die Öffentlichkeit es glaubt. Generative Systeme fügen eine zweite Möglichkeit hinzu: Jemand legt ein echtes Bild vor – und die Person, der es schadet, weist es als synthetisch zurück.
Genau diesen zweiten Effekt beschrieben die Juristen Bobby Chesney und Danielle Citron als liar’s dividend – als „Dividende des Lügners“. Je glaubwürdiger eine Technologie Fälschungen erzeugen kann, desto glaubwürdiger kann auch die Behauptung wirken, eine unangenehme authentische Aufnahme sei gefälscht.1
Der Titel dieses Artikels ist deshalb bewusst überzeichnet. Natürlich kann eine Fotografie etwas beweisen. Doch das Bild allein dient immer weniger als Beleg für seine eigene Herkunft. Was wir in den Pixeln sehen, wird zunehmend nur der Beginn der Überprüfung sein.
Fotografie war nie reine Wahrheit
Wir haben die Fotografie immer ein wenig überschätzt. Das Objektiv wählt einen Ausschnitt der Wirklichkeit. Der Fotograf steht an einem bestimmten Ort. Das Bild hält eine Zehntelsekunde fest und lässt alles davor und danach weg. Die Brennweite verändert räumliche Beziehungen. Die Belichtung verändert, was sichtbar ist. Die Bildunterschrift verändert die Interpretation.
Ein Bild war daher nie mit dem Ereignis selbst identisch.
Dennoch besaß es einen enormen psychologischen Vorteil: Die Entstehung einer Fotografie war lange fest an die physische Welt gebunden. Irgendwo musste Licht vorhanden sein. Ein Objektiv. Ein Augenblick, der auf Film oder Sensor eine Spur hinterließ.
Digitale Bearbeitung lockerte diese Verbindung, doch meist dachten wir weiterhin in den Kategorien „Originalaufnahme“ und „bearbeitete Aufnahme“.
Ein generatives Modell zerlegt diese Intuition gründlicher. Es kann ein Bild erschaffen, zu dem es vor einem Objektiv nie einen entsprechenden realen Augenblick gegeben haben muss.
Das größte Problem ist nicht, dass KI uns täuscht
Die Debatte über Deepfakes wird häufig auf einen Wettlauf zwischen Generator und Detektor reduziert. Ein System erzeugt falsche Bilder, das andere sucht nach ihnen. Der Generator wird besser, der Detektor neu trainiert – und die Runde beginnt von vorn.
Das gesellschaftliche Problem ist jedoch breiter.
NIST beschreibt in seinem Bericht zu den Risiken synthetischer Inhalte keine einzige magische Abwehr. Stattdessen behandelt es mehrere technische Familien zugleich: Herkunft und Authentifizierung von Inhalten, Kennzeichnung oder Watermarking, Erkennung synthetischer Inhalte, Prüfung solcher Werkzeuge und weitere Mechanismen digitaler Transparenz.2
Das ist wichtig. Würde es genügen, irgendein Foto in einem universellen „KI-Detektor“ zu öffnen und eine sichere Ja-oder-Nein-Antwort zu erhalten, wäre das gesamte Problem unvergleichlich einfacher.
NIST unterhält eigene forensische Programme zur Evaluation von Systemen, die KI-generierte Manipulationen erkennen sollen, und veranstaltet Forschungs-Challenges. Denn die Zuverlässigkeit analytischer Systeme muss an realen und sich verändernden Manipulationstypen gemessen werden.3
Praktischer Grundsatz: Das Ergebnis eines Detektors ist nicht dasselbe wie Provenienz. Ein Detektor schätzt anhand von Merkmalen im Inhalt. Provenienz fragt, woher eine Datei stammt, wer sie erstellt hat, wie sie verändert wurde und ob sich diese Kette kryptografisch verifizieren lässt.
Die Dividende des Lügners
Kehren wir zur Fotografie mit dem Umschlag zurück.
Ist sie falsch, hat generative KI die Herstellung einer Verleumdung ermöglicht.
Ist sie echt und erklärt die abgebildete Person sie zur KI-Fälschung, hat generative KI ihr eine neue Verteidigungsstrategie geliefert.
Chesney und Citron beschrieben diese zweite Situation bereits 2019. Je stärker die Öffentlichkeit weiß, dass sich Bild und Ton überzeugend fälschen lassen, desto leichter kann Zweifel auch an einer tatsächlichen Aufnahme gesät werden.1
Interessanter ist, dass dies inzwischen nicht mehr nur Theorie ist.
Kaylyn Jackson Schiff, Daniel Schiff und Natália Bueno führten fünf experimentelle Studien mit mehr als fünfzehntausend Erwachsenen in den USA durch. Sie untersuchten Situationen, in denen ein Politiker auf einen realen Skandal mit der Behauptung reagiert, es handle sich um Desinformation oder einen Deepfake.4
Das Ergebnis verdient jedoch eine genaue Lektüre, weil es weniger filmreif ausfällt, als häufig behauptet wird.
Die Autoren fanden die „Dividende des Lügners“ vor allem bei textlich präsentierten Skandalen. Bei Videos waren Versuche, das Beweismittel als Deepfake zurückzuweisen, insgesamt deutlich weniger wirksam; in den meisten Videobedingungen ließ sich kein klarer Effekt bestätigen.4
Technologie schafft die Möglichkeit glaubhaften Bestreitens. Das bedeutet aber nicht, dass Menschen automatisch jedem glauben, der „Deepfake“ ruft.
Das ist eine wichtige Bremse gegen übertriebenen Katastrophismus. Die „Dividende des Lügners“ ist keine Zauberformel, die jede Videoaufnahme sofort zerstört. Empirische Daten zeigen, dass ihre Wirkung von der Form des Beweismittels, vom Kontext und von der Formulierung des Dementis abhängt.
Doch schon die Existenz dieser Strategie verändert die Informationsumgebung. Neben der Frage „Kann ein falscher Beweis erzeugt werden?“ müssen wir auch fragen: „Kann ein echter überzeugend bestritten werden?“
Warum ein Detektor nicht genügt
Stellen Sie sich eine Software vor, die zu einem Foto ausgibt: „KI-Wahrscheinlichkeit: 87 Prozent“.
Was genau haben Sie damit erfahren?
Vielleicht viel. Vielleicht weniger, als die Zahl vermuten lässt.
Ein solches Ergebnis hängt davon ab, an welchen Generatoren und Manipulationsarten das System getestet wurde, was nach der Erstellung mit der Datei geschah, ob sie komprimiert, abfotografiert, beschnitten oder über ein soziales Netzwerk erneut hochgeladen wurde und wie gut der Detektor auf Generatoren verallgemeinert, die während seiner Entwicklung noch gar nicht existierten.
Forensische Erkennung ist deshalb nützlich, aber epistemisch etwas anderes als eine Herkunftskette. Der Detektor betrachtet das Ergebnis und sucht nach Spuren. Provenienz versucht, die Geschichte zu belegen.
Die Zukunft lautet vielleicht nicht „Fake erkennen“, sondern „Herkunft belegen“.
Genau deshalb entstehen Standards für die Provenienz digitaler Inhalte. Die Coalition for Content Provenance and Authenticity – C2PA – entwickelt den offenen technischen Standard Content Credentials.
Die aktuelle Spezifikation 2.4 beschreibt das Prinzip als kryptografisch verifizierbares System von Herkunftsinformationen: Wer oder was eine bestimmte Aussage über die Datei erstellt hat, welche Bearbeitungen dokumentiert wurden und ob diese Angaben nach der Signatur verändert wurden.5
Das ist eine wichtige Veränderung der Logik.
Statt endlos zu fragen, „Finden wir in diesen Pixeln eine Spur von KI?“, können wir fragen:
Wo entstand die Datei? Was wurde mit ihr gemacht? Welches System hat diese Informationen signiert? Passt die kryptografische Bindung noch zu genau diesem Inhalt?
Genau hier müssen wir eine neue Illusion verhindern.
Provenienz ist nicht Wahrheit.
C2PA erklärt ausdrücklich, dass die Spezifikation keine Werturteile darüber fällen soll, ob Provenienzdaten „gut“ oder „schlecht“ sind. Sie überprüft die Bindung von Aussagen an eine Datei, ihre korrekte Form und ihre Integrität. Sie sagt nicht, ob die Szene vor der Kamera inszeniert war oder die Bildunterschrift lügt.5
Eine Kamera kann kryptografisch bestätigen: Diese Datei entstand auf diesem Gerät und wurde seit der Signatur nicht auf diese Weise verändert.
Sie kann damit nicht selbst bestätigen: Was Sie sehen, bedeutet genau das, was die Schlagzeile behauptet.
Was wird ein Foto also beweisen?
Vielleicht weniger für sich allein. Und mehr als Teil eines Beweissystems.
Die Forensik kennt dieses Prinzip seit Langem. Ein Beweis ist nicht allein deshalb stark, weil er „echt aussieht“. Der Wert digitalen Materials steigt mit belegter Herkunft, Integrität, Originaldatei, Zeitleiste, weiteren Geräten, Zeugen, Protokollen und unabhängigen Spuren.
Generative KI verlagert diese Denkweise lediglich aus den forensischen Laboren in den Alltag.
Jemand schickt Ihnen einen Screenshot eines Chats? Fragen Sie nicht nur, was darauf steht, sondern auch, woher er stammt.
Ein Video taucht auf? Fragen Sie nicht nur, ob es realistisch aussieht, sondern auch, ob eine Originaldatei, eine kontinuierliche Aufnahme und weitere Perspektiven existieren.
Jemand behauptet, ein Foto sei KI-generiert? Derselbe Maßstab des Zweifels muss auch für diese Behauptung gelten. „Das ist ein Deepfake“ ist genauso wenig ein Beweis wie „Ich habe es im Internet gesehen“.
Das Paradox immer perfekterer Fälschungen
Je perfekter synthetische Bilder werden, desto weniger nützlich ist eine der ältesten menschlichen Heuristiken: „Das würde ich erkennen.“
Doch die wirklich gefährliche Welt ist nicht die, in der jeder alles glaubt.
Es ist die Welt, in der jeder auswählt, was er glauben möchte.
Ein Foto, das meine Ansicht bestätigt? Echt.
Ein Foto, das mich stört? KI.
Das Video meines Gegners? Beweis.
Das Video meines Verbündeten? Manipulation.
In einer solchen Umgebung ist die technische Fähigkeit, Medien zu verifizieren, nicht mehr nur eine Frage der Cybersicherheit. Sie wird Teil der gesellschaftlichen Infrastruktur des Vertrauens.
Die Forschung zur „Dividende des Lügners“ erinnert zugleich an etwas Wichtiges: Dieses dystopische Szenario ist noch keine fertige Wirklichkeit. Menschen messen audiovisuellen Beweisen weiterhin erhebliches Gewicht bei, und die bloße Behauptung „Deepfake“ löschte in experimentellen Studien die Wirkung eines Videos nicht automatisch aus.4
Vielleicht befinden wir uns also in einer Übergangsphase. Die alte Regel „Sehen heißt glauben“ reicht nicht mehr. Eine neue Regel hat die Gesellschaft noch nicht vollständig angenommen.
Die neue Regel des Beweises
Die Zukunft visueller Verifikation wird wahrscheinlich nicht auf einer einzigen Technologie beruhen.
Es wird nicht der eine KI-Detektor sein.
Es wird nicht das eine Wasserzeichen sein.
Es wird nicht der eine kryptografische Standard sein.
Es wird eine Kombination sein: Provenienz, forensische Analyse, Beweismittelkette, unabhängige Quellen und menschliches Urteil. Genau einen solchen mehrschichtigen Ansatz beschreibt auch NIST in seinem Bericht über die Transparenz synthetischer Inhalte.2
Und vielleicht führt uns KI zu einem viel älteren Grundsatz der Beweiswürdigung zurück:
Das ist eine unbequemere Welt.
Ein Screenshot wird nicht mehr das Ende einer Diskussion sein. Er wird ihr Anfang sein.
Eine Fotografie wird nicht automatisch zum Urteil. Sie wird eine Spur sein.
Und die wichtigste Frage lautet womöglich nicht:
„Ist dieses Bild echt?“
Sondern:
„Was genau wissen wir über den Weg, auf dem es zu uns gelangt ist?“
Denn generative KI brachte nicht nur die Fähigkeit hervor, eine Wirklichkeit zu erzeugen, die nie existiert hat.
Sie brachte auch etwas Subtileres hervor: die Fähigkeit des Zweifels, selbst dort fortzubestehen, wo die Wirklichkeit sehr wohl existierte.
In einer solchen Welt muss ein Foto allein kaum noch etwas beweisen.
Seine Geschichte kann sehr viel mehr beweisen.
Quellen zur Vertiefung
- Chesney, R. & Citron, D. K. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review 107, 1753. Die Arbeit führte den Begriff „liar’s dividend“ für Situationen ein, in denen die Existenz überzeugender Fälschungen das Bestreiten authentischen Materials erleichtert. California Law Review.
Kommentare
Haben Sie eine Meinung oder eine weitere Quelle? Schreiben Sie einen Kommentar.
Die Diskussion ist noch nicht aktiv.