Wer muss KI-Inhalte kennzeichnen? Ihre Pflichten nach Art. 50 AI Act

Was regelt Art. 50 des EU AI Act genau?

Art. 50 der KI-Verordnung (EU) 2024/1689 bündelt die Transparenzpflichten für bestimmte KI-Systeme: Menschen sollen erkennen können, wann sie mit KI interagieren und wann Inhalte künstlich erzeugt oder manipuliert wurden. Die Vorschrift verteilt vier Pflichtenkreise auf zwei Rollen — Anbieter und Betreiber — und nennt jeweils eigene Ausnahmen.

Wichtig für die Einordnung: Art. 50 verbietet den KI-Einsatz nicht. Er verlangt lediglich, dass Transparenz hergestellt wird — durch einen Hinweis bei der Interaktion, eine maschinenlesbare Markierung im Inhalt oder eine sichtbare Offenlegung. Die vier Fälle im Überblick:

• Interaktion mit Menschen (Abs. 1): Chatbots, Voicebots und KI-Assistenten müssen sich als KI zu erkennen geben.
• Synthetische Inhalte (Abs. 2): Systeme, die KI-Bilder, -Audio, -Video oder -Text erzeugen, müssen ihre Outputs maschinenlesbar als künstlich erzeugt kennzeichnen.
• Emotionserkennung und biometrische Kategorisierung (Abs. 3): Betroffene Personen sind über den Einsatz zu informieren.
• Deepfakes und KI-Texte von öffentlichem Interesse (Abs. 4): Betreiber müssen offenlegen, dass Inhalte künstlich erzeugt oder manipuliert wurden.

Wer ist Anbieter, wer Betreiber — und warum ist das entscheidend?

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen auf den Markt bringt. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet. Entscheidend ist die Rolle, weil Art. 50 die Pflichten danach verteilt: Anbieter kennzeichnen das System und seine Outputs, Betreiber die konkrete Verwendung.

Für die meisten kleinen und mittleren Unternehmen heißt das: Wer ChatGPT, Midjourney oder ein fertiges Chat-Widget nur nutzt, ist Betreiber. Wer dagegen ein eigenes KI-Produkt unter eigener Marke vertreibt — etwa einen selbst entwickelten Support-Bot als SaaS —, rückt in die Anbieterrolle mit den entsprechenden technischen Kennzeichnungspflichten. Beide Rollen können im selben Unternehmen zusammenfallen.

Ein Beispiel macht den Unterschied greifbar: Eine Agentur, die mit Midjourney Kampagnenbilder für Kunden erstellt, ist Betreiberin des Bildgenerators — die maschinenlesbare Kennzeichnung des Outputs ist Sache des Tool-Anbieters. Stellt dieselbe Agentur ihren Kunden aber einen selbst entwickelten Chatbot unter eigener Marke bereit, trägt sie als Anbieterin die Pflicht, dass sich der Bot als KI zu erkennen gibt.

Welche Inhalte müssen gekennzeichnet werden?

Kennzeichnungspflichtig sind synthetische Bild-, Audio-, Video- und Textinhalte auf Systemebene, Deepfakes bei der Veröffentlichung sowie veröffentlichte KI-Texte, die die Öffentlichkeit über Angelegenheiten öffentlichen Interesses informieren. Interaktive Systeme wie Chatbots müssen sich zusätzlich selbst als KI zu erkennen geben. Nicht jeder KI-Einsatz löst also eine Pflicht aus.

Praktisch relevant sind vor allem drei Konstellationen: der Chatbot auf der Website, KI-generierte Bilder in Marketing und Produktdarstellung sowie KI-Texte, die redaktionell veröffentlicht werden. Reine Hilfsfunktionen — etwa KI-gestützte Rechtschreibkorrektur oder unwesentliche Bildbearbeitung — bleiben außen vor.

Diese Ausnahmen entlasten Sie wirklich

Art. 50 kennt mehrere Ausnahmen, die gerade kleinere Unternehmen entlasten: Der Chatbot-Hinweis entfällt, wenn der KI-Einsatz für eine informierte, aufmerksame Person offensichtlich ist. Bei KI-Texten entfällt die Offenlegung, wenn ein Mensch redaktionell kontrolliert und eine Person die redaktionelle Verantwortung trägt. Auf Ausnahmen sollten Sie sich aber nur stützen, wenn sie klar erfüllt sind.

• Offensichtlichkeit (Chatbots): Maßstab ist eine informierte, aufmerksame Person unter Berücksichtigung der Umstände. Im Zweifel gilt: Ein kurzer Hinweis kostet nichts.
• Redaktionelle Kontrolle (KI-Texte): Wenn Ihr Team jeden Text prüft und eine verantwortliche Person benannt ist, entfällt die Offenlegungspflicht für den Text.
• Kunst und Satire (Deepfakes): Bei offensichtlich künstlerischen, kreativen oder satirischen Werken genügt eine Offenlegung, die die Darbietung des Werks nicht beeinträchtigt.
• Unterstützende Standardbearbeitung: Systeme, die nur eine unterstützende Funktion erfüllen oder Eingaben nicht wesentlich verändern, sind von der Output-Kennzeichnung ausgenommen.

Ab wann gilt die Kennzeichnungspflicht?

Die Transparenzpflichten aus Art. 50 sind seit dem 2. August 2026 anwendbar. Der AI Act selbst ist bereits am 1. August 2024 in Kraft getreten, seine Pflichten greifen aber gestaffelt. Für die Kennzeichnung gibt es keine weitere Schonfrist: Wer heute einen Chatbot betreibt oder KI-Inhalte veröffentlicht, muss die Pflichten jetzt erfüllen.

Den vollständigen Zeitplan mit allen Stufen und einem 5-Schritte-Fahrplan finden Sie im Ratgeber Art.-50-Fristen 2026/2027.

So setzen Sie die Kennzeichnung in 10 Minuten um

1. Bestandsaufnahme: Wo setzen Sie KI ein? Chatbot, Bildgenerator, Textassistent, Emotionserkennung?
2. Rolle klären: Sind Sie für den jeweiligen Einsatz Anbieter oder Betreiber?
3. Ausnahmen prüfen: Greift Offensichtlichkeit oder redaktionelle Kontrolle? Dokumentieren Sie die Begründung.
4. Hinweistexte erstellen: Für jeden verbleibenden Fall einen passenden Hinweis formulieren — der kostenlose Generator erstellt die Texte in wenigen Minuten.
5. Platzieren und testen: Hinweis dort einbauen, wo die Interaktion bzw. der Inhalt stattfindet, und auf Desktop und mobil prüfen.

Häufige Irrtümer rund um die KI-Kennzeichnung

• „Wir sind zu klein, uns betrifft das nicht." Art. 50 unterscheidet nicht nach Unternehmensgröße, sondern nach Rolle und System.
• „Ein Satz im Impressum reicht für alles." Der Hinweis muss dort erfolgen, wo interagiert oder veröffentlicht wird — Details im Ratgeber KI-Hinweis im Impressum.
• „Jede KI-Nutzung muss offengelegt werden." Nein — interne Nutzung und redaktionell verantwortete Texte sind regelmäßig nicht kennzeichnungspflichtig.
• „Das erledigt mein Tool-Anbieter." Teilweise. Die maschinenlesbare Output-Kennzeichnung trifft den Anbieter — die Offenlegung bei Deepfakes und relevanten Texten bleibt aber Sache des Betreibers.

Häufige Fragen