Deepfake-Kennzeichnung: Was Art. 50 Abs. 4 EU AI Act verlangt

Wer ist betroffen?

Anders als die maschinenlesbare Output-Kennzeichnung (die den Anbieter des KI-Systems trifft) richtet sich Abs. 4 an den Betreiber — also an denjenigen, der den Deepfake verwendet bzw. verbreitet. Das kann ein Unternehmen sein, das in einem Werbespot das Gesicht einer realen Person KI-generiert einsetzt, genauso wie eine Agentur, die ein täuschend echtes KI-Video eines realen Ortes veröffentlicht.

Was gilt als Deepfake?

Erfasst sind Bild-, Audio- und Videoinhalte, die durch KI erzeugt oder manipuliert wurden und echten Personen, Orten oder Ereignissen täuschend ähneln — also den falschen Eindruck erwecken können, echt zu sein. Eine erkennbar stilisierte Illustration ist kein Deepfake; ein fotorealistisches KI-Porträt einer real existierenden Person schon.

Was genau ist Pflicht?

Der Betreiber muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Der Hinweis muss klar und erkennbar sein und spätestens bei der ersten Exposition wahrnehmbar — der Betrachter soll den Hinweis sehen, wenn er den Inhalt sieht, nicht erst nach einem Klick. Er muss außerdem barrierefrei zugänglich sein.

Ausnahme Kunst und Satire: Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen oder satirischen Werks, darf die Offenlegung die Darbietung oder den Genuss des Werks nicht beeinträchtigen — sie muss aber trotzdem in angemessener Weise erfolgen, etwa im Abspann oder in der Beschreibung. Die Pflicht entfällt also nicht, sie wird nur milder.

Was reicht NICHT?

• Nur unsichtbare Metadaten oder Wasserzeichen. Abs. 4 verlangt eine für Menschen wahrnehmbare Offenlegung — die maschinenlesbare Markierung des Anbieters ersetzt sie nicht.
• Ein Hinweis in den AGB, im Impressum oder im Kleingedruckten, den niemand mit dem konkreten Video verbindet.
• Ein Einblendung für Sekundenbruchteile oder in kaum lesbarer Schriftgröße.
• „Ist doch offensichtlich ein Fake" als Selbsteinschätzung — gerade bei täuschend echten Inhalten trägt dieses Argument nicht.

Konkretes Umsetzungsbeispiel

Ein Unternehmen produziert ein Schulungsvideo, in dem ein KI-generierter Avatar des Geschäftsführers spricht. Umsetzung: eine dauerhafte, gut lesbare Einblendung im Video sowie ein Hinweis in der Videobeschreibung.

Checkliste zur Umsetzung

• Der Hinweis ist im Inhalt selbst verankert (Einblendung im Video, Bildunterschrift am Bild, Ansage im Audio) — nicht nur daneben.
• Er ist ab der ersten Exposition wahrnehmbar und ausreichend lang bzw. dauerhaft sichtbar.
• Schriftgröße und Kontrast machen ihn ohne Anstrengung lesbar; bei Audio ist er deutlich hörbar.
• Er bleibt erhalten, wenn der Inhalt heruntergeladen oder weitergeteilt wird.
• Bei künstlerischen oder satirischen Werken: Offenlegung in angemessener, das Werk nicht beeinträchtigender Form (z. B. Abspann oder Beschreibung) — aber vorhanden.

Beachten Sie außerdem die Rollenverteilung: Die sichtbare Offenlegung nach Abs. 4 ersetzt nicht die maschinenlesbare Kennzeichnung, die der Anbieter des Generierungstools nach Abs. 2 in die Outputs einbauen muss — beide Ebenen bestehen nebeneinander.

Häufige Fehler

• Die Offenlegung steht nur im Begleit-Post — wird das Video heruntergeladen oder weitergeteilt, fehlt jeder Hinweis.
• KI-Avatare realer Mitarbeiter werden als „internes Material" nicht gekennzeichnet, tauchen dann aber öffentlich auf.
• Bei Audio-Deepfakes (geklonte Stimmen) wird die Kennzeichnung vergessen, weil „man ja nichts sieht" — auch hier ist eine wahrnehmbare Offenlegung nötig, etwa als Ansage.
• Die Kunst-/Satire-Ausnahme wird als Freifahrtschein missverstanden — sie reduziert die Form der Offenlegung, hebt sie aber nicht auf.

Sanktionen

Verstöße gegen die Transparenzpflichten können nach Art. 99 Abs. 4 EU AI Act mit Bußgeldern von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes belegt werden — Details im Ratgeber Bußgelder nach Art. 50. Zu den Pflichten rund um KI-Bilder allgemein siehe KI-Bilder kennzeichnen.