EU AI Act: Pflichten, Risikoklassen und der neue Zeitplan

Was regelt die KI-Verordnung?

Der EU AI Act ist die Verordnung (EU) 2024/1689, amtlich die Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, im deutschen Sprachgebrauch KI-Verordnung. Sie trat am 1. August 2024 in Kraft und ist der erste umfassende Rechtsrahmen für künstliche Intelligenz. Ihre Systematik ist die des Produktrechts: Pflichten knüpfen nicht an eine Branche an, sondern an das einzelne KI-System, an seinen Verwendungszweck und an die Rolle, die eine Organisation dabei einnimmt.

Der Anwendungsbereich ist weit gefasst. Ein KI-System im Sinne der Verordnung ist ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie betrieben wird, nach seiner Einführung Anpassungsfähigkeit zeigen kann und aus den erhaltenen Eingaben ableitet, wie Ausgaben erzeugt werden, seien es Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die physische oder virtuelle Umgebungen beeinflussen können. Klassische regelbasierte Software fällt daher regelmäßig nicht darunter; ein zugekaufter Assistent auf Basis eines Sprachmodells, ein Bewerbungs-Screening oder eine Prognosekomponente in einer Fachanwendung sehr wohl.

Die Verordnung wirkt außerdem über die Unionsgrenzen hinaus: Sie erfasst auch Anbieter mit Sitz außerhalb der EU, wenn ihr System in der Union in Verkehr gebracht oder betrieben wird oder wenn die vom System erzeugte Ausgabe in der Union verwendet wird. Für Unternehmen, die überwiegend Werkzeuge außereuropäischer Anbieter einsetzen, ändert die Herkunft des Anbieters daher nichts an der eigenen Betreiberrolle.

Ausgenommen sind unter anderem Systeme, die ausschließlich für militärische Zwecke, für Zwecke der Verteidigung oder der nationalen Sicherheit entwickelt und verwendet werden, sowie die reine Forschung und Entwicklung vor dem Inverkehrbringen. Auch die private, nicht berufliche Nutzung durch natürliche Personen bleibt außen vor. Für den betrieblichen Alltag sind diese Ausnahmen selten einschlägig. Die Prüfung endet in der Regel bei der Frage nach dem Verwendungszweck, nicht bei der Frage nach dem Anwendungsbereich.

Die Rollen

Maßgeblich ist die Unterscheidung zwischen dem Anbieter, der ein KI-System entwickelt und unter eigenem Namen oder eigener Marke in Verkehr bringt, und dem Betreiber, der ein System in eigener Verantwortung einsetzt. Dazu treten Einführer, Händler und Produkthersteller. Für die meisten Unternehmen ist die Betreiberrolle einschlägig, mit einer Einschränkung, die der Systematik des Produktrechts entspricht: Wer ein zugekauftes System unter eigenem Namen anbietet, seine Zweckbestimmung wesentlich ändert oder ein Hochrisiko-System wesentlich verändert, kann selbst zum Anbieter werden und trägt dann das volle Pflichtenprogramm.

Welche Risikoklassen kennt die KI-Verordnung?

Die Verordnung teilt KI-Systeme nach dem von ihnen ausgehenden Risiko ein. Die Einstufung ist die zentrale Weichenstellung: Von ihr hängt ab, ob ein System verboten ist, umfangreichen Anforderungen unterliegt, lediglich gekennzeichnet werden muss oder außerhalb besonderer Pflichten bleibt.

Was verboten ist — und was seit Juli 2026 hinzugekommen ist

Der Katalog des Artikels 5 ist der einzige Teil der Verordnung, der ein Verhalten schlicht untersagt, statt es an Auflagen zu binden. Er gilt seit dem 2. Februar 2025 und erfasst unter anderem manipulative oder täuschende Techniken, die das Verhalten wesentlich beeinflussen, das Ausnutzen von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer beziehungsweise wirtschaftlicher Lage, Social Scoring, die Vorhersage von Straftaten allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen, das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachung zum Aufbau von Datenbanken, die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen – hier mit einer Ausnahme für medizinische Gründe und Sicherheitsgründe –, die biometrische Kategorisierung zur Ableitung geschützter Merkmale sowie, ebenfalls mit eng gefassten Ausnahmen, die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken.

Die Änderungsverordnung vom Juli 2026 hat diesen Katalog erweitert, und zwar um zwei Tatbestände, die in Artikel 5 Absatz 1 Unterabsatz 1 als Buchstaben ba und bb eingefügt wurden: KI-Systeme, die ohne ausdrückliche Zustimmung der dargestellten Person realistische intime oder eindeutig sexuelle Darstellungen einer bestimmbaren Person erzeugen oder manipulieren, sowie Systeme, die Material im Sinne der Richtlinie 2011/93/EU erzeugen oder manipulieren. Für diese beiden Tatbestände und die zugehörigen Auslegungsregeln in Artikel 5 Absätze 1a und 1b gilt ein eigener Geltungsbeginn: Nach Artikel 113 Absatz 3 Buchstabe a in der geänderten Fassung sind sie ab dem 2. Dezember 2026 anwendbar.

Für Anbieter ist die Reichweite dieser neuen Verbote enger, als der Wortlaut zunächst nahelegt. Nach Artikel 5 Absatz 1a ist das Inverkehrbringen eines Systems nur dann verboten, wenn die Erzeugung solcher Inhalte entweder seiner Zweckbestimmung entspricht oder aufgrund von Gestaltung, Training, Architektur oder Funktionen ein nach vernünftigem Ermessen absehbares und reproduzierbares Ergebnis ohne erhebliche technische Änderungen ist und das System keine zumutbaren technischen Schutzvorkehrungen dagegen besitzt. Für Betreiber gilt das Verbot nur, wenn sie das System zu genau diesem Zweck verwenden. Wer ein generatives System anbietet, sollte die vorhandenen Schutzvorkehrungen und ihre Wirksamkeit deshalb vor dem 2. Dezember 2026 dokumentieren.

Für KI-Modelle mit allgemeinem Verwendungszweck enthält die Verordnung ein eigenes Kapitel mit Pflichten zu technischer Dokumentation, zu Informationen für nachgelagerte Anbieter und zum Urheberrecht; für Modelle mit systemischem Risiko treten weitere Anforderungen hinzu. Für Unternehmen, die solche Modelle lediglich einsetzen, sind diese Pflichten mittelbar relevant: Sie bestimmen, welche Angaben Sie von Ihrem Modellanbieter erwarten können.

Welche Fristen gelten nach dem Digital-Omnibus?

Dies ist der Punkt, an dem sich die derzeit verbreitete Fehleinschätzung entscheidet. Die Verordnung (EU) 2026/1744 – amtlich die Digital-Omnibus-Verordnung zur KI – wurde am 8. Juli 2026 angenommen, am 24. Juli 2026 im Amtsblatt veröffentlicht und trat, da sie am dritten Tag nach ihrer Veröffentlichung wirksam wird, am 27. Juli 2026 in Kraft. Sie ändert neben der KI-Verordnung auch die Verordnungen (EU) 2018/1139 und (EU) 2023/1230. Sie hat die Anwendbarkeit der Hochrisiko-Anforderungen verschoben und die Hochrisiko-Einstufung präzisiert.

Verschoben wurden ausschließlich die Hochrisiko-Termine. Die allgemeine Anwendbarkeit zum 2. August 2026 ist unverändert geblieben.

Wer aus der Berichterstattung des Sommers 2026 mitgenommen hat, der AI Act sei verschoben worden, liegt für den überwiegenden Teil der betrieblichen Praxis falsch. Verboten bleibt verboten, seit Februar 2025. Die KI-Kompetenz nach Artikel 4 wird seither verlangt. Und die Transparenzpflichten nach Artikel 50 sind seit dem 2. August 2026 anwendbar; sie betreffen genau die Anwendungen, die in Unternehmen heute in der Breite im Einsatz sind: Chatbots im Kundenkontakt, generierte Bilder in der Kommunikation, synthetische Sprachausgaben. Für Bestandssysteme gibt es dabei eine eigene, klar datierte Übergangsfrist, die häufig übersehen wird: Der neu angefügte Artikel 111 Absatz 4 räumt Anbietern von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und vor dem 2. August 2026 in Verkehr gebracht wurden, Zeit bis zum 2. Dezember 2026 ein, um Artikel 50 Absatz 2 nachzukommen. Das sind vier Monate, und sie laufen bereits.

Was die Verschiebung tatsächlich bedeutet, ist eine andere Planungsgröße für Hochrisiko-Vorhaben. Zwei Jahre klingen komfortabel, sind es aber nicht, wenn Datenqualität und Daten-Governance, ein Risikomanagementsystem über den Lebenszyklus, Protokollierung, menschliche Aufsicht, ein Qualitätsmanagementsystem und eine Konformitätsbewertung erst aufgebaut werden müssen. Hinzu kommt, dass die technischen Normen, die diese Anforderungen konkretisieren sollen, noch nicht vollständig vorliegen. Das ist ein Grund, die eigene Auslegung früh zu dokumentieren, statt auf sie zu warten.

Die Änderungsverordnung hat außerdem die Hochrisiko-Einstufung enger gefasst, und die Präzisierung ist konkret genug, um eine bestehende Einstufung zu kippen. In Artikel 6 sind drei Absätze eingefügt worden:

• Absatz 1a: KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, der Leistungsoptimierung, der Effizienz, der Automatisierung, der Benutzerfreundlichkeit oder der Qualitätskontrolle verwendet werden, gelten nicht als Sicherheitsbauteil.
• Absatz 1b: Umgekehrt gelten Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, sehr wohl als Sicherheitsbauteil. Absatz 1a ist damit keine Generalausnahme, sondern eine Abgrenzung entlang der Sicherheitsrelevanz.
• Absatz 1c: Ein Produkt, das nur wegen anderer Risiken als solcher für Gesundheit und Sicherheit einer Drittkonformitätsbewertung unterliegt – etwa wegen Funkfrequenzen oder elektromagnetischer Störungen –, erfüllt die Bedingung des Artikels 6 Absatz 1 Buchstabe b nicht.

Hinzu kommen Erleichterungen bei der Nachweisführung. Artikel 11 Absatz 1 Unterabsatz 2 erlaubt KMU einschließlich Start-ups sowie kleinen Midcap-Unternehmen, die technische Dokumentation in vereinfachter Form über ein von der Kommission bereitzustellendes Formular zu erbringen; die notifizierten Stellen müssen dieses Formular für die Konformitätsbewertung akzeptieren. Artikel 17 Absatz 2 stellt das Qualitätsmanagementsystem ausdrücklich unter einen Verhältnismäßigkeitsvorbehalt nach Organisationsgröße.

Eine vor Juli 2026 vorgenommene Einstufung sollte deshalb nachgeprüft werden; sie kann heute anders ausfallen – insbesondere bei eingebetteten Systemen, die bislang pauschal als Sicherheitsbauteil geführt wurden.

Welche Pflichten haben Anbieter und Betreiber von KI-Systemen?

Die Anforderungen an Hochrisiko-Systeme verteilen sich asymmetrisch. Die Hauptlast liegt beim Anbieter, der Betreiber trägt ein deutlich schlankeres, aber eigenständiges Pflichtenprogramm.

Unabhängig von der Risikostufe gelten seit dem 2. August 2026 die Transparenzpflichten des Artikels 50. Sie sind vergleichsweise einfach umzusetzen und werden dennoch häufig übersehen: Personen müssen darüber informiert werden, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Synthetisch erzeugte Bild-, Ton-, Video- oder Textinhalte sind maschinenlesbar zu kennzeichnen. Betreiber, die Deepfakes veröffentlichen, müssen deren künstliche Erzeugung offenlegen; für KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse gilt Vergleichbares. Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die betroffenen Personen darüber unterrichten.

Wann Artikel 50 gerade nicht greift

Die praktisch wichtigste Frage zu Artikel 50 ist nicht, was zu kennzeichnen ist, sondern was nicht. Die Verordnung beantwortet sie im Vorschriftentext selbst, und die Ausnahmen sind breiter, als der Alltagseindruck vermuten lässt:

Die erste Zeile ist diejenige, die den betrieblichen Alltag entlastet. Ein Werkzeug, das eine Rechtschreibprüfung vornimmt, Rauschen aus einer Aufnahme entfernt oder einen Text formatiert, verändert die Semantik der Eingabe nicht wesentlich und löst damit keine Kennzeichnungspflicht aus. Die vierte Zeile ist die, auf die sich redaktionell arbeitende Organisationen stützen können – sie verlangt allerdings beides: die Überprüfung und eine benannte redaktionelle Verantwortung. Wer die Abgrenzung nutzt, sollte je Anwendungsfall festhalten, auf welche dieser Ausnahmen er sich stützt; die Begründung ist der Nachweis.

Für bestimmte Betreiber, insbesondere öffentliche Stellen und Einrichtungen, die öffentliche Dienste erbringen, sieht die Verordnung beim Einsatz von Hochrisiko-Systemen zusätzlich eine Folgenabschätzung im Hinblick auf die Grundrechte vor.

Zu den Sanktionen: Die Verordnung sieht gestaffelte Bußgeldrahmen vor, die je nach Verstoß an feste Höchstbeträge oder an einen Anteil des weltweiten Jahresumsatzes anknüpfen. Der schärfste Rahmen gilt für verbotene Praktiken. Durchgesetzt wird die Verordnung durch die nationalen Marktüberwachungsbehörden; auf Unionsebene koordiniert das Büro für Künstliche Intelligenz, insbesondere für Modelle mit allgemeinem Verwendungszweck.

Welche KI-Kompetenz und Governance muss ein Unternehmen organisieren?

Artikel 4 Absatz 1 verlangt seit dem 27. Juli 2026, in der Fassung der Verordnung (EU) 2026/1744, dass Anbieter und Betreiber Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind; ein bestimmtes Kompetenzniveau müssen sie ausdrücklich nicht garantieren. Die Vorschrift gilt unabhängig von der Risikostufe und ist seit Februar 2025 anwendbar.

Ein formales Zertifikat verlangt sie nicht. Maßstab sind die technischen Kenntnisse, die Erfahrung und die Ausbildung der betreffenden Personen, der Einsatzkontext und die Personengruppen, bei denen die Systeme eingesetzt werden. In der Praxis bewährt sich eine rollenbezogene, dokumentierte Schulung: Wer Systeme auswählt und freigibt, braucht andere Inhalte als wer sie täglich bedient. Ohne Nachweis ist die Pflicht im Aufsichtsverfahren nicht darstellbar; Teilnehmerlisten, Inhalte und Termine gehören daher abgelegt.

Governance über die Schulung hinaus heißt vor allem, Entscheidungen an einer definierten Stelle zu treffen. Bewährt haben sich eine schriftliche Richtlinie zum KI-Einsatz mit klaren Verboten und erlaubten Anwendungsfällen, ein Freigabeprozess für neue Systeme, benannte fachliche Verantwortliche je System und die Anbindung an bestehende Gremien für Informationssicherheit, Datenschutz und Compliance. Wer diese Struktur normbasiert aufbauen möchte, findet in ISO/IEC 42001 eine Managementsystemnorm für künstliche Intelligenz, die sich an dieselbe Struktur anlehnt wie andere Managementsystemnormen. Sie ist kein Konformitätsnachweis nach der KI-Verordnung, kann aber als Ordnungsrahmen dienen.

Wie baut man ein KI-Inventar auf?

Jede Pflicht der Verordnung setzt voraus, dass Sie wissen, welche KI-Systeme Sie einsetzen und in welcher Rolle. Das Inventar ist deshalb der erste Schritt und zugleich der einzige, der sich nicht delegieren lässt.

Der schwierige Teil ist nicht die Tabelle, sondern die Vollständigkeit. Drei Quellen führen erfahrungsgemäß zum Ziel:

1. Bestehende Software prüfen. Der größte Teil der KI im Unternehmen ist nicht eingekauft worden, sondern als Funktionsaktualisierung in bereits genutzte Anwendungen gelangt: in Office-Pakete, CRM-Systeme, Ticketwerkzeuge, Personalsoftware. Gehen Sie den Anwendungsbestand systematisch durch.
2. Fachbereiche befragen. Eine kurze, konkret formulierte Abfrage bringt mehr als ein allgemeiner Aufruf. Fragen Sie nach Werkzeugen, nicht nach dem Begriff künstliche Intelligenz.
3. Beschaffung auswerten. Abrechnungen, Kreditkartenpositionen und Abonnements zeigen die Systeme, die ohne Beteiligung der IT eingeführt wurden.

Je System sollte das Inventar mindestens festhalten:

Für die Einstufung genügt in den meisten Fällen eine kurze, aber schriftlich festgehaltene Begründung. Es zählt weniger die juristische Feinarbeit als die Nachvollziehbarkeit: Wer entschieden hat, auf welcher Tatsachengrundlage und wann. Systeme, deren Einstufung nach der Änderung im Juli 2026 unklar bleibt, gehören auf eine gesonderte Liste zur rechtlichen Prüfung, statt vorsorglich als Hochrisiko-System behandelt zu werden. Eine zu hohe Einstufung bindet Aufwand, den andere Systeme dringender brauchen.

Ein Inventar, das nur einmal erhoben wird, ist innerhalb eines Quartals veraltet. Verbinden Sie es deshalb mit dem Freigabeprozess für neue Systeme und mit einem festen Überprüfungsturnus. Der Aufwand rechnet sich doppelt: Dasselbe Verzeichnis beantwortet die Fragen der Aufsicht, die Fragen des Datenschutzes und die Fragen, die Kunden in Lieferantenaudits inzwischen regelmäßig zum KI-Einsatz stellen.

Wie verhält sich die KI-Verordnung zur DSGVO?

Die KI-Verordnung verdrängt die Datenschutz-Grundverordnung nicht. Beide gelten nebeneinander, mit unterschiedlichen Schutzrichtungen: Die KI-Verordnung regelt das System, seine Sicherheit und seine Auswirkungen; die DSGVO regelt die Verarbeitung personenbezogener Daten. Ein KI-System kann nach der KI-Verordnung zulässig und zugleich datenschutzrechtlich unzulässig sein, wenn Rechtsgrundlage, Zweckbindung oder Transparenz fehlen.

Die praktischen Berührungspunkte sind gut abgrenzbar:

• Rechtsgrundlage und Zweckbindung für das Training wie für den Betrieb sind eine rein datenschutzrechtliche Frage; die KI-Verordnung beantwortet sie nicht.
• Artikel 30 DSGVO: Der Einsatz eines KI-Systems, das personenbezogene Daten verarbeitet, ist als Verarbeitungstätigkeit im Verzeichnis zu führen. Das KI-Inventar und das Verzeichnis sollten aufeinander verweisen statt nebeneinander zu bestehen.
• Artikel 35 DSGVO: Bei Systemen, die in die Rechte betroffener Personen eingreifen, ist eine Datenschutz-Folgenabschätzung häufig einschlägig. Sie ersetzt die Grundrechte-Folgenabschätzung der KI-Verordnung nicht, überschneidet sich mit ihr aber inhaltlich erheblich.
• Artikel 22 DSGVO: Automatisierte Entscheidungen mit rechtlicher Wirkung unterliegen einem eigenen Regime mit Anspruch auf menschliches Eingreifen, und zwar unabhängig davon, wie das System nach der KI-Verordnung eingestuft ist.
• Artikel 28 DSGVO: Cloudbasierte KI-Dienste sind regelmäßig Auftragsverarbeitung. Prüfen Sie insbesondere, ob Eingaben zur Modellverbesserung verwendet werden dürfen.
• Artikel 32 DSGVO: Die technischen und organisatorischen Maßnahmen gelten unverändert; die Anforderungen der KI-Verordnung an Robustheit und Cybersicherheit treten daneben.

Für die Umsetzung folgt daraus eine erfreuliche Vereinfachung: Der erste Schritt ist in beiden Regimen derselbe. Ein vollständiges Inventar der eingesetzten Systeme mit Zweckbestimmung, Datenarten und Rollenzuordnung trägt die Pflichten der KI-Verordnung und die Nachweispflichten der DSGVO zugleich.

Dieser Beitrag ist eine allgemeine Einordnung und ersetzt keine Rechtsberatung. Maßgeblich sind die Verordnung (EU) 2024/1689 und die Änderungsverordnung (EU) 2026/1744 in ihrer jeweils geltenden Fassung.

KI-Systeme in Rizzqo

Die KI-Verordnung ist in Rizzqo als Taxonomie auf dem Assetmodell vorhanden, also als Struktur zur Einordnung von KI-Systemen. ISO/IEC 42001 wird ebenfalls unterstützt: Der Anforderungskatalog wird importiert, sobald ein Kunde ihn benötigt, und seine Anforderungen hängen dann an den betroffenen KI-Systemen.

Grundlage ist der Bestand, und bei KI-Systemen ist er ungewöhnlich schwer zu überblicken, weil solche Systeme oft in Fachbereichen entstehen. In Rizzqo ist ein KI-System ein Wert wie ein Geschäftsprozess, und die Modelle, Datenquellen, Trainings- und Betriebsumgebungen sowie die eingebundenen Anbieter hängen als unterstützende Objekte darunter, jeweils mit Kategorie und benanntem Verantwortlichen. Welche Kategorien personenbezogener Daten in ein solches System hineinreichen, ergibt sich aus den primären Werten darüber und wird entlang der Kette weitergegeben, und die technischen und organisatorischen Maßnahmen werden an denselben Objekten beantwortet und belegt.

Für die Einordnung nach Risikoklasse liefert diese Bestandsaufnahme die Sachgrundlage: Welche Systeme existieren, wofür sie eingesetzt werden und wer für sie einsteht, steht fest, bevor die rechtliche Bewertung beginnt.