Kurz gesagt
Seit 2. August 2026 verlangt Artikel 50 KI-Verordnung: Chatbots und KI-Agenten müssen sich als KI zu erkennen geben, generative Systeme markieren ihre Ausgaben maschinenlesbar, und Betreiber legen Deepfakes sowie KI-Texte zu Themen von öffentlichem Interesse offen. Die Information muss spätestens beim ersten Kontakt klar erkennbar sein. Verstöße können bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes kosten.
Was ist die KI-Kennzeichnungspflicht?
Die KI-Kennzeichnungspflicht steht in Artikel 50 der KI-Verordnung (EU) 2024/1689. Die Vorschrift heißt dort „Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme“. Sie soll verhindern, dass Menschen getäuscht werden, weil sie eine Maschine für einen Menschen oder einen generierten Inhalt für echt halten.
Artikel 50 enthält vier Pflichten. Zwei treffen Anbieter, also diejenigen, die ein KI-System entwickeln und unter eigenem Namen bereitstellen. Zwei treffen Betreiber, also Unternehmen, die ein KI-System in eigener Verantwortung verwenden. Absatz 5 regelt für alle vier, wann und wie informiert werden muss.
Die Kommission hat Leitlinien zu Artikel 50 veröffentlicht (C(2026) 7702, Fassung vom 5. November 2026). Sie sind rechtlich nicht bindend, zeigen aber, wie Kommission und Behörden die Vorschrift auslegen. Die Beispiele auf dieser Seite stammen überwiegend daraus.
Artikel 50 KI-Verordnung im Überblick
Die Tabelle fasst den Wortlaut der vier Pflichten zusammen. Für Unternehmen mit KI-Agenten sind die Absätze 1, 2 und 4 am wichtigsten.
| Absatz | Verpflichtet | Pflicht | Wichtigste Ausnahme |
|---|---|---|---|
| Abs. 1: Interaktion | Anbieter | Systeme für die direkte Interaktion mit Menschen so gestalten, dass diese erfahren, dass sie mit einer KI interagieren | Es ist für eine informierte, aufmerksame Person offensichtlich |
| Abs. 2: Synthetische Inhalte | Anbieter | Erzeugte Audio-, Bild-, Video- und Textinhalte maschinenlesbar als KI-erzeugt oder manipuliert markieren | Unterstützende Standardbearbeitung ohne wesentliche Veränderung der Eingaben |
| Abs. 3: Emotionserkennung, Biometrie | Betreiber | Betroffene über den Betrieb des Systems informieren | Gesetzlich zugelassene Strafverfolgung |
| Abs. 4 Satz 1: Deepfakes | Betreiber | Offenlegen, dass Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert sind | Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein dezenter Hinweis |
| Abs. 4 Satz 2: Texte | Betreiber | Offenlegen, dass veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse KI-erzeugt sind | Menschliche Prüfung oder redaktionelle Kontrolle und redaktionelle Verantwortung |
Nach Absatz 5 muss die Information klar und eindeutig sein, spätestens bei der ersten Interaktion oder Aussetzung erfolgen und die geltenden Anforderungen an Barrierefreiheit erfüllen. Ein Hinweis nur in den AGB reicht nach den Leitlinien nicht.
Ab wann gilt die Kennzeichnungspflicht?
Artikel 50 gilt seit dem 2. August 2026. Das ergibt sich aus Artikel 113 der KI-Verordnung, wonach die Verordnung ab diesem Tag gilt, soweit keine andere Frist bestimmt ist. Für Artikel 50 hat auch die Änderungsverordnung (EU) 2026/1744 keinen späteren Beginn festgelegt.
Sie hat aber eine Übergangsfrist eingeführt: Nach dem neuen Artikel 111 Absatz 4 müssen Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, die maschinenlesbare Markierung nach Absatz 2 erst bis zum 2. Dezember 2026 umsetzen. Die Leitlinien betonen, dass diese Frist nur für die Markierung gilt. Die Offenlegung gegenüber Menschen nach Absatz 1 war bereits ab 2. August 2026 Pflicht.
Rückwirkend muss nichts gekennzeichnet werden. Inhalte und Deepfakes, die vor dem 2. August 2026 erzeugt wurden, brauchen laut Leitlinien kein nachträgliches Label. Ein Text, der vorher erzeugt, aber erst danach veröffentlicht wird, muss dagegen gekennzeichnet werden.
Wer ist verpflichtet: Anbieter oder Betreiber?
Anbieter ist auch, wer ein fremdes Modell nutzt und daraus ein eigenes System unter eigenem Namen macht. Die Leitlinien nennen als Beispiel eine Organisation, die einen Chatbot selbst entwickelt und für den Eigengebrauch in Betrieb nimmt. Wer also einen Kundenservice-Agenten auf Basis eines großen Sprachmodells baut und auf der eigenen Website einsetzt, trägt die Anbieterpflichten aus Absatz 1 und 2.
Betreiber ist das Unternehmen, das über Zweck und Art der Nutzung entscheidet. Technische Kontrolle über das System ist dafür nach den Leitlinien nicht nötig. Einzelne Beschäftigte, die im Auftrag des Unternehmens Inhalte erstellen, sind keine eigenen Betreiber. Das Unternehmen bleibt Betreiber, auch wenn Agenturen oder Freiberufler das System für es bedienen.
Unternehmen außerhalb der EU sind ebenfalls erfasst, wenn ihr System in der EU bereitgestellt wird oder die Ausgaben bestimmungsgemäß in der EU genutzt werden.
Was gilt für Chatbots und KI-Agenten?
Die Leitlinien behandeln KI-Agenten ausdrücklich. Sie fallen unter Absatz 1, wenn sie mit den Personen interagieren können, die sie beauftragen, oder bei der Erledigung ihrer Aufgaben mit anderen Menschen, etwa beim Buchen, bei der Korrespondenz, beim Verhandeln oder bei Käufen. Ein Agent soll dabei offenlegen, dass er eine KI ist und in wessen Auftrag er handelt.
Kann der Anbieter nicht vorhersehen, ob ein Agent später mit Menschen spricht, soll der Agent auf Architekturebene so gebaut sein, dass er sich in jeder Situation zu erkennen gibt, in der ein Kontakt mit einem Menschen vernünftigerweise wahrscheinlich ist. Gegenüber der beauftragenden Person soll er sich an wichtigen Punkten melden, etwa bei Freigaben und Berichten. Das passt zu den Freigabeschritten, die die Seite zu Human in the Loop beschreibt.
Erzeugt ein Agent Texte, Bilder oder Audio, die Menschen wahrnehmen, gilt für diese Ausgaben zusätzlich die Markierungspflicht aus Absatz 2. Zwischenschritte wie interne Denkschritte oder Webanfragen des Agenten fallen nicht darunter.
- Reicht nicht: Hinweis nur in AGB, Dokumentation oder über einen Link
- Reicht nicht: Metadaten oder Wasserzeichen, die Nutzer im Gespräch nicht sehen
- Reicht nicht: vage Bezeichnungen wie „Assistent“ oder ein menschliches Profilbild
- Reicht nicht: Sammelhinweise wie „Services auf dieser Website nutzen KI“
- Geeignet: Begrüßung „Sie schreiben mit einem KI-System“ plus dauerhaftes Label im Chatfenster
- Geeignet: KI-Label oben in einer Mail, die ein Agent an einen Kunden sendet
Beispiele aus der Praxis
Die folgenden Fälle stützen sich auf die Beispiele der Kommission in ihren Leitlinien. Ob die Ausnahme der Offensichtlichkeit greift, muss der Anbieter selbst prüfen und belegen. Die Leitlinien verlangen, sie eng auszulegen.
| Fall | Kennzeichnung nötig? | Grund |
|---|---|---|
| Kundenservice-Chatbot auf der Website | Ja | Direkte Interaktion mit der Öffentlichkeit (Abs. 1) |
| Agent beantwortet Kundenmails oder vereinbart Termine | Ja | Agent interagiert bei der Aufgabe mit Menschen (Abs. 1) |
| Telefonassistent mit menschlich klingender Stimme | Ja, zu Beginn ansagen | Abs. 1, gesprochener Hinweis empfohlen |
| Interner Assistent für geschulte Beschäftigte in HR, Recht oder IT | In der Regel nein | Leitlinien nennen das als Beispiel für Offensichtlichkeit |
| Coding-Assistent nur für Fachleute in der Entwicklung | In der Regel nein | Leitlinien nennen das als Beispiel für Offensichtlichkeit |
| Realistisches KI-Video mit einer existierenden Person in der Werbung | Ja | Deepfake (Abs. 4 Satz 1) |
| KI-bearbeiteter Bericht mit Anlegerinformationen auf der Website eines börsennotierten Unternehmens | Ja, ohne menschliche Prüfung mit redaktioneller Verantwortung | Text zu Angelegenheiten von öffentlichem Interesse (Abs. 4 Satz 2) |
| KI-formulierte Produktbeschreibung oder Werbetext | Nach Abs. 4 nein | Kein Text zu öffentlichem Interesse, außer bei Aussagen etwa zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit |
| Interne Mitteilung im Firmenintranet | Nach Abs. 4 nein | Nicht veröffentlicht im Sinne der Leitlinien |
Umsetzung in Schritten
Für die Kennzeichnung von Deepfakes und Texten gibt es einen Praxisleitfaden der Kommission vom 10. Juni 2026, den Code of Practice on Transparency of AI-Generated Content. Kommission und KI-Gremium haben ihn als geeignet bestätigt. Wer ihn unterzeichnet, kann die Einhaltung von Absatz 2 und 4 einfacher nachweisen. Wer ihn nicht unterzeichnet, muss nach den Leitlinien auf anderem Weg zeigen, wie er die Pflichten erfüllt.
Inventar anlegen
Alle Chatbots, Agenten und generativen Werkzeuge erfassen, die Kontakt zu Kunden, Bewerbern oder der Öffentlichkeit haben oder Inhalte für die Veröffentlichung erzeugen.
Rolle je System klären
Festhalten, ob Ihr Unternehmen Anbieter (eigenes System unter eigenem Namen) oder Betreiber (fremdes System im eigenen Einsatz) ist. Davon hängt ab, welche Absätze gelten.
Offenlegung im Gespräch einbauen
Chatbots und Agenten so konfigurieren, dass sie sich beim ersten Kontakt und auf Nachfrage als KI zu erkennen geben und nennen, für wen sie handeln. Bei Telefon und Sprache den Hinweis ansagen.
Markierung beim Anbieter prüfen
Bei zugekauften Bild-, Video- und Textgeneratoren klären, wie der Anbieter seine Ausgaben maschinenlesbar markiert. Der Praxisleitfaden sieht dafür mindestens zwei Ebenen vor, signierte Metadaten und ein unsichtbares Wasserzeichen. Markierungen nicht entfernen.
Label für Deepfakes und Texte festlegen
Ein sichtbares Label bestimmen, etwa das EU-Icon mit dem Kürzel „AI“ aus Anhang 1 des Praxisleitfadens, und festlegen, wo es bei Video, Bild, Audio und Text erscheint.
Redaktionelle Prüfung regeln
Wer KI-Texte zu öffentlichen Themen ohne Label veröffentlichen will, braucht eine echte inhaltliche Prüfung mit Faktencheck und eine benannte Person oder Stelle mit redaktioneller Verantwortung. Rechtschreibprüfung allein genügt laut Leitlinien nicht.
Schulen und protokollieren
Beschäftigte, die Inhalte erstellen, zu Kennzeichnung und Ausnahmen schulen, passend zur Pflicht aus Artikel 4, die die Seite zur KI-Sicherheit erklärt. Festhalten, welche Inhalte wie gekennzeichnet wurden. Die Regeln dazu gehören in Ihre KI-Governance.
Häufige Fragen
Muss ich KI-generierte Texte kennzeichnen?
Nur in bestimmten Fällen. Artikel 50 Absatz 4 verlangt die Offenlegung für Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, etwa zu Politik, Gesundheit, Verbrauchersicherheit oder Wirtschaft.
Die Pflicht entfällt, wenn ein Mensch den Text inhaltlich geprüft hat und eine Person oder Stelle die redaktionelle Verantwortung trägt. Werbetexte und Produktbeschreibungen ohne solche Aussagen fallen nach den Leitlinien nicht darunter.
Muss ein KI-Agent sagen, dass er eine KI ist?
Ja, wenn er bei seiner Aufgabe mit Menschen interagiert. Nach den Leitlinien der Kommission soll er zusätzlich offenlegen, in wessen Auftrag er handelt.
Die Pflicht liegt beim Anbieter des Agenten. Wer einen Agenten selbst baut und unter eigenem Namen einsetzt, ist selbst Anbieter.
Was ist ein Deepfake im Sinne der KI-Verordnung?
Nach Artikel 3 Nummer 60 ist ein Deepfake ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als echt erscheinen würde.
Laut Leitlinien genügt es, wenn das Dargestellte real existieren könnte. Erkennbar unrealistische Inhalte wie fliegende Menschen ohne Hilfsmittel fallen nicht darunter.
Welche Strafe droht bei fehlender KI-Kennzeichnung?
Verstöße gegen Artikel 50 können nach Artikel 99 Absatz 4 mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für KMU gilt der niedrigere Betrag.
In Deutschland ist grundsätzlich die Bundesnetzagentur zuständig, für Mediendienste und öffentliche Stellen der Länder die Landesbehörden.
Reicht ein Hinweis im Impressum oder in den AGB?
Nein. Die Leitlinien bezeichnen Hinweise, die nur in Nutzungsbedingungen, Handbüchern oder Menüs stehen, ausdrücklich als nicht ausreichend.
Die Information muss dort erscheinen, wo die Interaktion oder der Inhalt stattfindet, und spätestens beim ersten Kontakt.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Artikel 3, 50, 99, 111, 113, EUR-Lex
- Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), EUR-Lex
- Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 AI Act, C(2026) 7702, Europäische Kommission
- Code of Practice on Transparency of AI-Generated Content, Europäische Kommission
- Signing the Code of Practice on Transparency of AI-generated Content (FAQ), Europäische Kommission
- Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG), Bundesministerium der Justiz, gesetze-im-internet.de