Muss ich KI-erzeugte Bilder, Videos und Texte kennzeichnen?
Bei Deepfakes ja, und diese Pflicht trifft ausdrücklich Sie als Betreiber. Bei Texten gilt sie nur, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und niemand sie redaktionell verantwortet. Normale Produkttexte fallen typischerweise nicht darunter.
Die Norm im Wortlaut
Absatz 4 ist die Vorschrift des Artikels 50, die den Betreiber unmittelbar trifft. Sie hat zwei Teile: einen für Bild, Ton und Video, einen für Text.
Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
Bild, Ton und Video
Wer Inhalte einsetzt, die ein Deepfake sind, muss offenlegen, dass sie künstlich erzeugt oder verändert wurden. Ein Deepfake ist dabei nach der Verordnung ein Inhalt, der echten Personen, Gegenständen oder Ereignissen ähnelt und fälschlicherweise als echt erscheinen würde.
Praktisch betrifft das vor allem Videos mit synthetischen Moderatoren und interaktive Avatare, wie sie Werkzeuge wie Synthesia, HeyGen oder D-ID erzeugen.
- Ein Erklärvideo mit einem KI-Moderator, der wie ein echter Mensch aussieht: kennzeichnungspflichtig.
- Eine offensichtlich gezeichnete Comicfigur: kein Deepfake.
- Ein KI-generiertes Landschaftsbild ohne Personen: kein Deepfake im Sinne der Norm, aber möglicherweise über andere Wege kennzeichnungswürdig.
Texte
Für Texte ist die Pflicht deutlich enger. Sie greift, wenn der Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Sie entfällt, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.
Wichtig. Wo Marketing endet und Information der Öffentlichkeit beginnt, ist nicht scharf gezogen. Ein Blogbeitrag über Gesetzesänderungen liegt näher an der Pflicht als eine Produktbeschreibung.
Die Ausnahme für Kunst und Satire
Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks, beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen, ohne die Darstellung des Werks zu beeinträchtigen.
Wie eine Kennzeichnung aussehen kann
Die Verordnung schreibt keine Formulierung vor. Bewährt hat sich ein kurzer Satz direkt am Inhalt, nicht versteckt im Impressum:
- Unter einem Video: "Dieses Video wurde mit KI erzeugt."
- Unter einem Beitrag: "Dieser Text wurde mit Unterstützung von KI erstellt und redaktionell geprüft."
- Bei einem Avatar: "Sie sprechen mit einem KI-generierten Avatar."
Passt dazu
- Bin ich Anbieter oder Betreiber, und warum ist das so wichtig?Die KI-Verordnung verteilt ihre Pflichten auf zwei Rollen.
- Was ist die maschinenlesbare Kennzeichnung, und muss ich die liefern?Gemeint sind technische Marker in der Datei selbst, nicht ein Hinweis auf der Webseite.
- Muss mein Chatbot sagen, dass er eine KI ist?Die Pflicht besteht, aber sie trifft den Anbieter des Chat-Systems, nicht automatisch Sie als Website-Betreiber.
Stand dieses Artikels: 2026-08-01. Er erklärt die Rechtslage allgemein und bewertet keinen Einzelfall. Warum das kein Rechtsrat ist.