KI-Verordnung Artikel 50: So kennzeichnen Sie Chatbots und KI-Inhalte
Artikel 50 der EU-KI-Verordnung schreibt vor, dass Menschen informiert werden müssen, wenn sie mit einer KI kommunizieren, und dass Deepfakes sowie bestimmte KI-generierte Texte gekennzeichnet werden müssen. Die Pflichten zu Chatbots und Deepfakes sind seit dem 2. August 2026 durchsetzbar, ohne Übergangsfrist. Der Digital Omnibus verschob die Regeln für Hochrisiko-Systeme auf den 2. Dezember 2027 und ließ den Rest von Artikel 50 unberührt. Eine einzige Übergangsfrist gewährte er: Die maschinenlesbare Markierung für generative Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, muss bis zum 2. Dezember 2026 implementiert sein.
Viele Produktteams haben die Schlagzeilen zum Omnibus-Paket gelesen und sich zurückgelehnt. Der Aufschub betrifft den teuren Teil der Verordnung, nicht den billigen. Wenn Ihr Chatbot vor der ersten Nachricht nicht angibt, dass er eine KI ist, verstoßen Sie vermutlich schon heute gegen die Verordnung. Die Behebung dauert oft nur einen Nachmittag.
Was Artikel 50 konkret verlangt
- Art. 50(1) (Anbieter): Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass Nutzer erkennen, dass sie mit einer KI kommunizieren, es sei denn, dies ergibt sich offensichtlich aus dem Kontext. Den vollständigen Text finden Sie in Artikel 50. Dies ist ein Kernpunkt der KI-Verordnung-Compliance für Entwickler.
- Art. 50(2) (Anbieter): Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren, müssen die Ausgaben in einem maschinenlesbaren, erkennbaren Format kennzeichnen, das so robust und zuverlässig ist, wie technisch machbar.
- Art. 50(3) (Betreiber): Nutzer von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen die betroffenen Personen informieren und die Daten gemäß DSGVO verarbeiten.
- Art. 50(4) (Betreiber): Deepfakes müssen als KI-generiert offengelegt werden. KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offengelegt werden, es sei denn, ein Mensch hat sie geprüft und jemand trägt die redaktionelle Verantwortung.
- Art. 50(5) (Anbieter & Betreiber): Alle Transparenzinformationen müssen klar, unterscheidbar und spätestens bei der ersten Interaktion oder beim ersten Kontakt mit dem Inhalt bereitgestellt werden und die Anforderungen an die Barrierefreiheit erfüllen.
Sind Sie der Anbieter oder der Betreiber?
Das Gesetz unterscheidet zwischen dem Anbieter (der die KI entwickelt) und dem Betreiber (der sie einsetzt). In der Praxis sind Sie wahrscheinlich der Anbieter des Systems, wenn Sie einen Chatbot auf Basis einer Modell-API bauen und diesen unter Ihrer eigenen Marke auf Ihrer Website bereitstellen. Sie können die Offenlegungspflicht aus Artikel 50(1) nicht an den Modellanbieter abgeben.
Wenn Sie einen fertigen SaaS-Chatbot kaufen und diesen unverändert nutzen, sind Sie der Betreiber. Wenn Sie ein LLM in Ihren eigenen Code und Ihr eigenes UI einbetten, sind Sie höchstwahrscheinlich der Anbieter. Ihre Rolle bestimmt, welche spezifische Pflicht Sie tragen.
So kennzeichnen Sie einen Chatbot
Die Offenlegung muss vor oder während der ersten Interaktion erfolgen. Ein Hinweis im Footer oder versteckt in den AGB ist nicht ausreichend. Der Hinweis sollte über dem Eingabefeld erscheinen oder als erste vom Bot gesendete Nachricht erfolgen. Planen Sie das gleich im ersten Sprint ein, beim Bauen von LLM-Funktionen für die Produktion.
Wenn der Bot das Gespräch an einen Mitarbeiter übergibt und später wieder an die KI, muss der Status klar bleiben. Voice-Bots müssen zu Beginn des Anrufs hörbar angeben, dass sie eine KI sind. Nutzen Sie für die Barrierefreiheit Texte, die von Screenreadern gelesen werden können, anstatt sich nur auf ein Icon zu verlassen.
Verlassen Sie sich nicht auf die Ausnahme „offensichtlich aus dem Kontext“, wenn Ihr Bot einen menschlichen Namen und einen realistischen Avatar verwendet. Die Ausnahme ist eng gefasst und greift bei professionellen, kundenorientierten Schnittstellen selten.
Bilder, Video und Audio kennzeichnen
Deepfakes, also Bilder, Audio oder Video, die fälschlicherweise authentisch wirken würden, müssen klar als KI-generiert oder manipuliert gekennzeichnet werden. Bei Inhalten, die offensichtlich künstlerisch, satirisch oder fiktional sind, genügt die Kennzeichnung, dass sie generiert oder manipuliert wurden, in einer Weise, die das Werk nicht beeinträchtigt.
Die Kommission hat am 10. Juni 2026 ihren finalen, freiwilligen Verhaltenskodex veröffentlicht (siehe diese Zusammenfassung). Für Betreiber wird das EU-Icon oder ein gleichwertiges Label für Deepfakes und Texte von öffentlichem Interesse empfohlen. Bei Audio-Inhalten ist ein akustischer Disclaimer eine gültige Alternative zu einem visuellen Label.
KI-generierte Texte: Wann eine Kennzeichnung nötig ist
Die Pflicht zur Kennzeichnung KI-generierter Texte gilt spezifisch für Inhalte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Eine Produktbeschreibung oder eine Support-Antwort fällt nicht darunter; ein Artikel im Nachrichtenstil oder eine öffentliche Erklärung hingegen schon.
Es gibt eine Ausnahme für Texte, die eine menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen haben. Wenn ein namentlich genannter menschlicher Redakteur den Inhalt prüft und das Unternehmen die redaktionelle Verantwortung übernimmt, entfällt die Offenlegungspflicht. Ein automatisch veröffentlichter News-Feed, der LLM-Ausgaben direkt ohne menschliche Kontrolle ins Netz stellt, qualifiziert sich nicht für diese Ausnahme.
Maschinenlesbare Markierung: Frist 2. Dezember 2026
Diese Anforderung gilt nur für Anbieter, die synthetische Inhalte generieren. Systeme, die nach dem 2. August 2026 eingeführt wurden, hatten keine Übergangsfrist. Systeme, die bereits vor diesem Datum auf dem Markt waren, müssen die maschinenlesbare Markierung bis zum 2. Dezember 2026 implementieren.
Der Verhaltenskodex fordert von Anbietern mindestens zwei Ebenen der maschinenlesbaren Markierung, beispielsweise Metadaten plus ein Wasserzeichen. Das Europäische KI-Gremium legte in seiner Plenarsitzung am 17. September 2026 keine neue Frist fest und gewährte keinen Aufschub, so die CSA-Research-Note.
Testen Sie Ihre Markierungen: Sie müssen Ihre eigene Pipeline überstehen, einschließlich Bildgrößenänderungen, Re-Encoding oder dem Entfernen von Metadaten bei Copy-Paste-Operationen.
Verstöße fallen unter den allgemeinen Bußgeldrahmen der Verordnung in Artikel 99: bis zu 15 Millionen EUR oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Dieser Artikel ist ein Leitfaden für Entwickler, keine Rechtsberatung. Grenzfälle, wie Emotionserkennung am Arbeitsplatz oder Ausnahmen für Strafverfolgungsbehörden, sollten rechtlich geprüft werden.
Artikel-50-Check in 30 Minuten
- Gibt der Chatbot seine Natur als KI preis, bevor der Nutzer die erste Nachricht sendet?
- Ist die Offenlegung sichtbar und zugänglich (nicht versteckt im Footer oder in den AGB)?
- Wenn Sie Texte von öffentlichem Interesse veröffentlichen, gibt es einen namentlich genannten menschlichen Redakteur, der für den Inhalt verantwortlich ist?
- Sind synthetische Bilder oder Videos mit dem EU-Icon oder einem gleichwertigen Label versehen?
- Wenn Sie Anbieter generativer Inhalte sind, ist die maschinenlesbare Markierung implementiert?
- Überstehen die maschinenlesbaren Markierungen Ihre Content-Delivery-Pipeline?