Artikel 50 enthält vier verschiedene Transparenzpflichten
Muss jeder Text, jedes Bild und jeder Chatbot mit einem KI-Hinweis versehen werden? Artikel 50 der EU-KI-Verordnung gibt darauf keine pauschale Antwort. Die Vorschrift unterscheidet direkte KI-Interaktionen, technisch markierte Inhalte sowie sichtbare Angaben bei Deepfakes und bestimmten Informationstexten.
Diese Pflichten gelten seit 2. August 2026. Ein Website-Chatbot, ein KI-generiertes Anzeigenmotiv und ein automatisch veröffentlichter Ratgebertext können verschiedenen Regeln folgen. Die Leitlinien der Europäischen Kommission helfen bei der Einordnung, sind aber nicht rechtsverbindlich. Im Zweifelsfall braucht der einzelne Anwendungsfall eine rechtliche Prüfung.
Anbieter und Betreiber haben unterschiedliche Aufgaben
Die Verordnung unterscheidet Anbieter und Betreiber. Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr oder nimmt es in Betrieb. Auch ein Unternehmen mit einem selbst entwickelten Chatbot unter eigener Marke kann Anbieter sein. Wer ein bestehendes System unter eigener Verantwortung nutzt und über Zweck und Einsatz entscheidet, ist in der Regel Betreiber.
Die Rolle hängt am jeweiligen System. Ein Unternehmen kann bei einem zugekauften Werkzeug Betreiber und bei einer eigenen KI-Anwendung zugleich Anbieter sein. Mitarbeitende oder beauftragte Dienstleister werden nach den Leitlinien nicht automatisch zu eigenen Betreibern, wenn die Organisation den Einsatz kontrolliert. Halte die Zuordnung pro Anwendung schriftlich fest.
Bei Chatbots muss die KI-Interaktion erkennbar sein
Anbieter von Systemen, die direkt mit Menschen interagieren, müssen diese Systeme so gestalten, dass Betroffene über die KI-Interaktion informiert werden. Eine Ausnahme besteht, wenn die künstliche Natur aus Sicht einer angemessen informierten und aufmerksamen Person offensichtlich ist. Die Kommission legt diese Ausnahme eng aus, besonders bei öffentlich zugänglichen Chatbots, die wie menschliche Mitarbeitende antworten können.
Ein klarer Hinweis kann bereits in der ersten Begrüßung stehen, etwa: „Du chattest mit einem KI-Assistenten.“ Er muss spätestens bei der ersten Interaktion erscheinen, deutlich wahrnehmbar und barrierefrei sein. Nutzt dein Unternehmen einen externen Chatbot, prüfe Oberfläche, Vertrag und Konfiguration.
Maschinenlesbare Markierung und sichtbarer Hinweis sind getrennte Aufgaben
Anbieter generativer Systeme müssen erzeugte oder bearbeitete Texte, Bilder, Audios und Videos maschinenlesbar markieren und als künstlich erzeugt oder verändert erkennbar machen. Die technische Lösung soll soweit möglich wirksam, interoperabel, robust und zuverlässig sein. Ausnahmen bestehen etwa für bloße Standardbearbeitung ohne wesentliche Veränderung.
Ein sichtbarer Hinweis für Menschen erfüllt einen anderen Zweck. Betreiber, Plattformen und nachgelagerte Dienstleister sollten vorhandene technische Markierungen deshalb nicht entfernen. Für die eigene Veröffentlichung muss zusätzlich geprüft werden, ob eine sichtbare Kennzeichnung nach Artikel 50 Absatz 4 erforderlich ist.
Deepfakes und bestimmte Informationstexte brauchen besondere Prüfung
Ein Deepfake ist ein KI-generierter oder veränderter Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich authentisch oder wahr erscheinen kann. Fotorealismus allein entscheidet die Frage nicht. Kontext, Ähnlichkeit und die mögliche Täuschung des vorhersehbaren Publikums gehören zur Bewertung. Betreiber müssen beruflich eingesetzte Deepfakes grundsätzlich sichtbar offenlegen.
Für KI-generierte oder veränderte Texte greift die sichtbare Offenlegung nach Artikel 50 Absatz 4 nur, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Die Leitlinien nennen gewöhnliche Werbung und Produktbeschreibungen ohne Aussagen zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit als Gegenbeispiele. Andere Gesetze können trotzdem gelten.
Bei Informationstexten von öffentlichem Interesse entfällt die Offenlegung, wenn zwei Bedingungen gemeinsam erfüllt sind: Ein fachkundiger Mensch prüft den Inhalt substanziell, und eine natürliche oder juristische Person übernimmt die redaktionelle Verantwortung. Eine reine Rechtschreibprüfung oder eine weitere automatische Kontrolle genügt nach den Leitlinien nicht.
So trennt ein Betrieb die Anwendungsfälle
Angenommen, ein regionaler Energieberater setzt einen eingekauften KI-Chatbot ein, erstellt ein Anzeigenbild mit einem Bildgenerator und veröffentlicht einen KI-gestützten Artikel über ein Förderprogramm. Beim Chatbot klärt er mit dem Anbieter, wie der Hinweis bei der ersten Interaktion erscheint. Beim Anzeigenbild prüft er, ob technische Markierungen erhalten bleiben und ob das Motiv reale Personen, Orte oder Ereignisse täuschend nachbildet.
Der Artikel betrifft möglicherweise ein Thema von öffentlichem Interesse. Eine fachkundige Person prüft deshalb Aussagen, Quellen und Förderbedingungen, darf den Text ändern oder ablehnen und dokumentiert die Freigabe. Das Unternehmen übernimmt die redaktionelle Verantwortung. Dieses Beispiel ist eine Annahme und ersetzt keine rechtliche Bewertung des konkreten Inhalts.
Prüfliste für den betrieblichen KI-Einsatz
Erfasse zuerst alle KI-Anwendungen mit Kontakt zu Kunden, Beschäftigten oder Öffentlichkeit. Prüfe anschließend für jeden Einsatz diese Punkte:
- Welches KI-System wird für welchen Zweck verwendet?
- Ist dein Unternehmen Anbieter, Betreiber oder in beiden Rollen tätig?
- Interagieren Menschen direkt mit dem System und erkennen sie eindeutig, dass es sich um KI handelt?
- Erscheint der Hinweis spätestens bei der ersten Interaktion?
- Ist der Hinweis klar, wahrnehmbar und barrierefrei gestaltet?
- Erzeugt oder verändert das System Text, Bild, Audio oder Video?
- Bleiben vorhandene maschinenlesbare Markierungen bei Bearbeitung und Veröffentlichung erhalten?
- Kann ein Inhalt als Deepfake gelten und braucht er eine sichtbare Kennzeichnung?
- Informiert ein Text die Öffentlichkeit über ein Thema von öffentlichem Interesse?
- Wer prüft den Inhalt substanziell und wer trägt die redaktionelle Verantwortung?
- Sind Entscheidung, Freigabe und veröffentlichte Fassung nachvollziehbar dokumentiert?
- Welche offenen Fälle müssen intern oder rechtlich geklärt werden?