Was ist die KI-Kennzeichnungspflicht?
Die KI-Kennzeichnungspflicht fasst die Transparenzpflichten aus Art. 50 Abs. 1 bis 4 der Verordnung (EU) 2024/1689 (KI-Verordnung, KI-VO) zusammen. Menschen sollen erkennen, dass sie mit einer KI sprechen oder dass ein Inhalt künstlich erzeugt oder manipuliert wurde. Das Gesetz verlangt dafür zwei verschiedene Handlungen:
- Kennzeichnung ist technisch: Der Anbieter eines generativen Systems markiert dessen Ausgaben in einem maschinenlesbaren Format (Abs. 2).
- Offenlegung richtet sich an Menschen: Sie erfahren, dass sie es mit einem KI-System oder einem KI-erzeugten Inhalt zu tun haben (Abs. 1, 3 und 4).
Wie sich Art. 50 in die übrigen Pflichten der Verordnung einfügt, zeigt der EU-AI-Act-Leitfaden. Den Anwendungsbereich im Einzelnen erläutern die Leitlinien der Kommission zu den Transparenzpflichten nach Art. 50.
Wer muss was kennzeichnen? Die Pflichten aus Art. 50 Abs. 1 bis 4
Art. 50 KI-VO ordnet jede Pflicht einer Rolle zu. Anbieter ist nach Art. 3 Nr. 3, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt. Betreiber ist nach Art. 3 Nr. 4, wer es in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen, nicht beruflichen Tätigkeit. Welche Rolle Ihr Unternehmen je System hat, erklärt der Beitrag zu Rollen und Pflichten nach der KI-Verordnung.
| Absatz | Wer | Pflicht | Wichtigste Ausnahme |
|---|---|---|---|
| Abs. 1 | Anbieter | Systeme für die direkte Interaktion mit Menschen, etwa Chatbots oder Sprachassistenten, so gestalten, dass Nutzer erfahren, dass sie mit einer KI interagieren | Die KI-Interaktion ist für eine angemessen informierte, aufmerksame und verständige Person offensichtlich. |
| Abs. 2 | Anbieter | synthetische Audio-, Bild-, Video- und Textausgaben maschinenlesbar kennzeichnen und als künstlich erzeugt oder manipuliert erkennbar machen | unterstützende Funktion für die Standardbearbeitung oder keine wesentliche Veränderung der Eingabedaten |
| Abs. 3 | Betreiber | betroffene Personen über den Betrieb eines Emotionserkennungssystems oder einer biometrischen Kategorisierung informieren | gesetzlich zugelassene Strafverfolgung mit Schutzvorkehrungen |
| Abs. 4 UAbs. 1 | Betreiber | offenlegen, dass Bild-, Ton- oder Videoinhalte, die ein Deepfake sind, künstlich erzeugt oder manipuliert wurden | Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der den Genuss des Werks nicht beeinträchtigt. |
| Abs. 4 UAbs. 2 | Betreiber | offenlegen, dass ein Text künstlich erzeugt wurde, wenn er veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren | menschliche Überprüfung oder redaktionelle Kontrolle, und eine Person trägt die redaktionelle Verantwortung |
Ein Deepfake ist nach Art. 3 Nr. 60 KI-VO ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt. Er würde einer Person fälschlich als echt erscheinen. Ein generiertes Produktfoto ohne realen Bezug erfüllt diese Definition nicht; die gefälschte Stimme der Geschäftsführerin erfüllt sie.
Ab wann gilt die KI-Kennzeichnungspflicht?
Die Transparenzpflichten gelten seit dem 2. August 2026, dem allgemeinen Geltungsbeginn nach Art. 113 KI-VO. Die Digital-Omnibus-Verordnung (EU) 2026/1744 hat die Hochrisiko-Fristen auf den 2. Dezember 2027 und den 2. August 2028 verschoben. Art. 50 hat sie nicht verschoben (Stand: Oktober 2026).
| Datum | Was gilt |
|---|---|
| 2. August 2026 | Art. 50 Abs. 1 bis 5 für alle Systeme, auch bestehende, soweit keine Übergangsregel greift |
| 2. Dezember 2026 | Ende der Übergangsfrist nach Art. 111 Abs. 4: Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, setzen die maschinenlesbare Kennzeichnung nach Abs. 2 bis dahin um |
Die Übergangsfrist betrifft nur die Kennzeichnung nach Abs. 2 und nur Bestandssysteme der Anbieter. Die Offenlegungspflichten der Betreiber nach Abs. 4 gelten ohne Übergangsfrist. Die verschobenen Hochrisiko-Termine erläutert der Beitrag zu den verschobenen KI-Fristen.
Form: klar, eindeutig, spätestens bei der ersten Interaktion
Art. 50 Abs. 5 KI-VO verlangt, die Information klar und eindeutig spätestens bei der ersten Interaktion oder Aussetzung bereitzustellen. Sie muss zudem den geltenden Barrierefreiheitsanforderungen entsprechen. Eine bestimmte Form schreibt die Verordnung nicht vor. Beispiele für Formen, die diese Vorgaben erfüllen:
- Chatbot: ein sichtbarer Hinweis vor oder mit der ersten Antwort, etwa „Sie schreiben mit einem KI-Assistenten“.
- Generierte Bilder und Videos: die maschinenlesbare Markierung durch den Anbieter, bei einem Deepfake zusätzlich ein sichtbarer Hinweis des Betreibers.
- Sprach- und Telefonsysteme: eine Ansage zu Beginn des Gesprächs.
- Veröffentlichte Texte zu öffentlichen Themen: ein Hinweis am Text; entfällt die Pflicht wegen redaktioneller Kontrolle, belegt ein dokumentierter Prüfschritt mit verantwortlicher Person die Ausnahme.
Die Kommission fördert einen Praxisleitfaden zur Transparenz KI-generierter Inhalte und hat Symbole geschaffen, die Betreiber generativer KI-Systeme verwenden können. Die Befolgung des Leitfadens ist nach Angaben der Kommission freiwillig.
Am 8. Juli 2026 hat die Kommission festgestellt, dass der Leitfaden die Pflichten aus Abs. 2, 4 und 5 angemessen abdeckt (Bewertung des Leitfadens durch die Kommission). Wer ihn unterzeichnet, kann sich zum Nachweis auf seine Maßnahmen stützen; ein abschließender Beleg der Einhaltung ist die Befolgung nicht.
Verstöße fallen unter Art. 99 Abs. 4 KI-VO
Art. 99 Abs. 4 Buchst. g KI-VO führt Verstöße gegen die Transparenzpflichten nach Art. 50 ausdrücklich auf. Sie liegen damit im mittleren der drei Bußgeldrahmen, unterhalb der verbotenen Praktiken nach Art. 5. Für KMU gilt nach Art. 99 Abs. 6 der jeweils niedrigere der beiden Höchstwerte. Die konkreten Sanktionsvorschriften legen nach Art. 99 Abs. 1 die Mitgliedstaaten fest.
KI-Kennzeichnung und DSGVO gelten nebeneinander
Art. 50 Abs. 6 KI-VO lässt andere Transparenzpflichten aus Unionsrecht und nationalem Recht unberührt. Verarbeitet ein KI-System personenbezogene Daten, gelten zusätzlich die Informationspflichten nach Art. 13 und 14 DSGVO. Beispiele sind Emotionserkennung oder ein Chatbot mit Kundenkonto.
Ob dafür eine Datenschutz-Folgenabschätzung nötig ist, richtet sich allein nach der DSGVO. Welche DSGVO-Fragen beim Einsatz von KI-Assistenten zu klären sind, behandelt der Beitrag ChatGPT und Datenschutz.
Rizzqo führt Rolle und Ausgabearten je KI-System
Rizzqo führt an jedem KI-System die Rolle des Unternehmens, etwa Anbieter oder Betreiber, sowie die Eingabe- und Ausgabearten des Systems. Rolle und Ausgabeart sind die beiden Merkmale, an die Art. 50 Abs. 2 und Abs. 4 anknüpfen.
Die KI-Verordnung ist dafür als Taxonomie auf dem Asset-Modell abgebildet. Jeder Chatbot, Bildgenerator und jedes Sprachsystem erscheint als Asset mit benanntem Verantwortlichen und einer KI-Einstufung.