Der Nachweis, der anderen gehört

Deepfakes · Teil 2 von 5

Mit dem Inkrafttreten des EU-AI-Act am 2. August können Kommunikationsabteilungen bei der Nutzung KI-gestützter Systeme als Betreiber im Sinne der Verordnung handeln. Nicht, weil sich an ihrer Arbeit etwas geändert hätte, sondern weil die EU den Begriff weit gefasst hat: Betreiber ist, wer ein KI-System einsetzt. Auch dann, wenn er es weder entwickelt noch trainiert, sondern lediglich als fertiges Werkzeug benutzt. Wer eine Grafik generieren lässt, eine Stimme klont oder ein Video bearbeitet, fällt in diese Kategorie.

Was Artikel 50 verlangt — und was nicht

Die Verordnung unterscheidet vier Transparenztatbestände und zwei Adressaten. Für Kommunikationsabteilungen ist Absatz 4 maßgeblich: Wer Bild-, Audio- oder Video-Deepfakes veröffentlicht, muss deren künstliche Herkunft sichtbar machen. Dasselbe gilt für KI-erzeugte oder KI-bearbeitete Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieDie Verordnung unterscheidet vier Transparenztatbestände und zwei Adressaten. Für Kommunikationsabteilungen ist Absatz 4 maßgeblich: Wer Bild-, Audio- oder Video-Deepfakes veröffentlicht, muss deren künstliche Herkunft sichtbar machen. Dasselbe gilt für KI-erzeugte oder KI-bearbeitete Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Der Leitlinienentwurf der Kommission fasst diesen Begriff bewusst weit: Er reicht von der öffentlichen Verwaltung über Grundrechte, Gesundheit, Umwelt und Verbraucherschutz bis zu wirtschaftlichen, politischen, wissenschaftlichen und kulturellen Entwicklungen mit gesellschaftlicher Relevanz. Pressearbeit erfüllt das regelmäßig.

Der Bußgeldrahmen liegt bei bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Praktisch relevanter dürfte aber das wettbewerbsrechtliche Abmahnrisiko sein.

Zwei Missverständnisse halten sich hartnäckig und lohnen die Korrektur.

• Es gibt keine pauschale Kennzeichnungspflicht für alles, was mit KI entstanden ist. Erfasst sind Deepfakes und Texte im öffentlichen Interesse, aber nicht die mit einem Sprachmodell geglättete Einladung zum Sommerfest.
• Die maschinenlesbare Markierung ist dagegen keine Betreiberpflicht. Absatz 2 der Verordnung verpflichtet die Anbieter generativer Systeme, ihre Ausgaben technisch als künstlich erzeugt erkennbar zu machen. Für Systeme, die vor dem 2. August in Verkehr gebracht wurden, sieht der Digitalomnibus dafür eine Übergangsfrist bis Dezember 2026 vor.

Die Unterscheidung ist mehr als juristische Feinarbeit. Sie klärt, welcher Teil des Nachweises im eigenen Haus liegt und welcher eben nicht.

Zwei Ebenen, zwei Verfahren

Auf der Ebene des „Was” werden zwei Dinge getrennt. Zum einen die Kennzeichnung erzeugter Inhalte und zum anderen die Offenlegung, dass ein Gegenüber mit einem KI-System interagiert, etwa mit einem Chatbot. Auf der Ebene des „Wie” stehen sich die sichtbare und die maschinenlesbare Markierung gegenüber. Sichtbar heißt: schriftlicher Hinweis, Signet, Wasserzeichen im Bild. Maschinenlesbar heißt: Information in den Metadaten, kryptografisch signiert oder in die Datei selbst eingebettet. Aktuell werden als Industriestandard das Format C2PA, getragen von der Content Authenticity Initiative, und SynthID von Google überwiegend genutzt. Beim C2PA wird an eine Datei ein signiertes Herkunftsprotokoll gehängt, das dokumentiert, womit sie erzeugt und was seither an ihr verändert wurde. Googles SynthID arbeitet anders und bettet ein Wasserzeichen in die Pixel- beziehungsweise Frequenzstruktur ein, das auch moderate Bearbeitung übersteht.

Beide Systeme sind keine Fälschungssicherung im strengen Sinn. Sie verbessern Nachverfolgbarkeit und Ursprungshinweis, leisten aber keine inhaltliche Wahrheitsprüfung. Beide lassen sich mit Aufwand entfernen. Und beide nützen nichts, wenn niemand sie ausliest. Die Kommission bestätigt das inzwischen selbst: Der im Juni 2026 finalisierte Verhaltenskodex zur Transparenz KI-generierter Inhalte verfolgt einen mehrschichtigen Ansatz und hält kein einzelnes Verfahren für ausreichend. Anbieter sollen mindestens zwei maschinenlesbare Verfahren kombinieren, wie etwa digital signierte Metadaten und nicht wahrnehmbare Wasserzeichen.

Das Kontrollproblem

Hier kommt der unbequeme Teil. Die sichtbare Offenlegung schuldet der Betreiber. Die technische Markierung schuldet der Anbieter. Beides greift nur ineinander, wenn der Herkunftsnachweis den Weg durch Export, Bearbeitung und Redaktionssystem übersteht. Darüber entscheidet aber keine Dienstanweisung.

Die bereits zitierte KPMG-Befragung zeigt, wie eng der Markt ist. Unter den 480 überwiegend großen Unternehmen teilen sich Microsoft (Copilot) mit 43 Prozent, OpenAI (ChatGPT) mit 37 Prozent und Azure (OpenAI Service) mit 35 Prozent den Markt. Unternehmen mit eigenen oder selbst gehosteten Sprachmodellen kommen gerade mal auf ein Prozent, intern entwickelte KI-Anwendungen auf zwei. Fazit: Ob ein Werkzeug C2PA-Daten schreibt, ob es sie beim Export erhält, ob ein Wasserzeichen die Weiterverarbeitung überlebt, entscheidet der Anbieter. Der Herkunftsnachweis ist damit keine interne Prozessfrage, sondern eine Frage der Anbietersteuerung. Die praktische Konsequenz ist unspektakulär, muss aber in den Unternehmen auch umgesetzt werden: Provenance gehört in die Leistungsbeschreibung, spätestens wenn die nächste Vertragsverlängerung verhandelt wird.

Die Ausnahme, die alles verschiebt

Eine wichtige Ausnahme ist die redaktionell geprüfte Veröffentlichung. Artikel 50 Absatz 4 enthält sie im zweiten Unterabsatz, und sie ist für Kommunikationsabteilungen von erheblicher praktischer Bedeutung. Denn die Kennzeichnungspflicht für KI-erzeugte Texte im öffentlichen Interesse entfällt, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wird und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt. Beide Voraussetzungen gelten kumulativ. Der Leitlinienentwurf der Kommission vom Mai 2026 legt sie eng aus: Verlangt wird eine bewusste inhaltliche Prüfung auf Richtigkeit, Plausibilität und Quellen, mit der echten Möglichkeit, den Text zu ändern oder abzulehnen. Eine Rechtschreib- oder Formalprüfung genügt ausdrücklich nicht. Damit sagt der Gesetzgeber deutlich, worin die Leistung besteht:

Nicht im Etikett, sondern im Nachweis.

Wer prüft und die Verantwortung dafür benennt, ist von der Kennzeichnung befreit. Das ist kein Schlupfloch, sondern möglich, weil das Risiko unbeaufsichtigter Verbreitung wesentlich geringer ist. Praktisch verlangt das nur solide Organisation. Zum einen dokumentierte Prüfschritte und zum anderen eine verantwortliche Funktion bzw. Person. Für eine künstlerische, satirische oder fiktionale Verwendung sieht die Verordnung eine eigene, mildere Regel vor; dort beschränkt sich die Pflicht auf eine Offenlegung, die den Genuss des Werks nicht beeinträchtigt.

Was Artikel 50 nicht regelt

Ebenso aufschlussreich ist, was außerhalb bleibt. Wichtig ist, die Pflicht nicht mit allgemeiner Manipulationsbekämpfung zu verwechseln. Nicht erfasst sind:

• echtes Material im falschen Kontext — der zweite Fehler des Februar-Beitrags;
• Cheapfakes, also verlangsamte, beschleunigte oder neu geschnittene echte Aufnahmen;
• erfundene Zitate und manipulierte Screenshots;
• geklonte Newsrooms, gefälschte Pressemitteilungen, missbrauchte Absenderidentitäten.

Also praktisch alles, was den Fall Vinci ausmacht. Das ist kein Vorwurf an den Gesetzgeber: Artikel 50 reguliert KI-Systeme, nicht das Lügen. Aber es ist der Grund, warum die Pflicht das Fundament ist und nicht die Leistung.

Was die Kennzeichnungsplicht ausrichten kann

Bleibt die Frage, was die Kennzeichnung überhaupt bewirkt. Der Digital News Report hat im Januar 2026 rund 2.000 erwachsene Onliner in Deutschland gefragt, welchen Zugangswegen sie bei Nachrichten vertrauen. Suchmaschinen kommen auf 24 Prozent, soziale Medien auf 13, Antworten von KI-Chatbots ebenfalls auf 13. Die Kennzeichnung erreicht also überwiegend Umgebungen, denen ohnehin nur jeder Achte traut. Daraus folgt kein Argument gegen die Pflicht, wohl aber eines gegen ihre Überschätzung: Die Kennzeichnung entfaltet ihre Wirkung nur, wenn sie mit Kontext und Prüfung verbunden ist.

Allerdings gibt es da auch noch einen Gegenbefund, der Fatalismus verhindert. Dieselbe Erhebung hat nämlich gefragt, warum Menschen auf die verlinkten Originalquellen klicken, die ihnen in Suchergebnissen, sozialen Medien und Chatbot-Antworten angeboten werden. Bei den Chatbot-Nutzenden liegen zwei Motive deutlich über den Werten der anderen Zugangswege: 42 Prozent klicken, um zu prüfen, ob die Nachricht korrekt ist, 46 Prozent, um mehr über die Quelle zu erfahren. Diese Teilfrage beruht auf einer kleinen Stichprobe von 99 Befragten und ist entsprechend vorsichtig zu lesen. Sie deutet aber in eine Richtung, die für die Kommunikationspraxis zählt: Herkunftsnachweise werden abgerufen, wenn sie erreichbar sind. Und vermutlich hilft es auch, wenn neben transparenter Information auch sinnvoller Kontext mitgeliefert wird.

Was Prüfung leistet

Als 2023 das Bild von Papst Franziskus in der weißen Daunenjacke durch die Netzwerke lief, brauchten die Faktencheck-Teams der dpa keine Detektionssoftware. Sie brauchten Fragen. Warum existiert nur dieses eine Foto? Warum hat niemand sonst den Papst in diesem Outfit fotografiert? Wo war er zum behaupteten Aufnahmezeitpunkt überhaupt? Die dpa nennt das die Prüfung der äußeren Logik und ergänzt sie um die innere: Passt die Vegetation zum angeblichen Datum, stimmt der Sonnenstand, existiert der gezeigte Ort? Arne Beckmann, der zuständige Redakteur, hat den Satz formuliert, der für die Verifikationsarbeit der nächsten Jahre trägt — dass eine KI niemals in der Lage sein werde, äußere Umstände nachträglich zu beeinflussen.

Genau dieses Verfahren hätte auch den zweiten Fehler im Februar-Beitrag erkannt. Eine Bilderrückwärtssuche führt zum Ursprung der Aufnahme aus Florida in wenigen Sekunden.

Zwischenstand: Die Kennzeichnung bestätigt, womit etwas erzeugt wurde. Der Nachweis sagt, was daran geprüft wurde und wer dafür geradesteht. Die neue Rechtslage regelt vollständig nur das Erste — und behandelt das Zweite als Befreiungsgrund. Damit ist die Rangfolge geklärt, aber die Arbeit noch nicht getan.