Was die KI-Verordnung jetzt verlangt

Ab wann welche Pflicht der KI-Verordnung greift

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz, kurz KI-Verordnung, ist am 12. Juli 2024 im Amtsblatt erschienen und tritt stufenweise in Kraft. Der Stufenplan steht in Art. 113. Er wurde am 8. Juli 2026 durch die Verordnung (EU) 2026/1744 geändert, veröffentlicht am 24. Juli 2026 und im Sprachgebrauch der Kommission der Digital-Omnibus zur KI genannt. Wer einen Zeitplan aus dem Jahr 2025 verwendet, arbeitet mit überholten Terminen.

Die wichtigste Änderung betrifft die Hochrisiko-Systeme. Nach der ursprünglichen Fassung hätten die Anforderungen des Kapitels III für die Systeme aus Anhang III am 2. August 2026 gegriffen und für die Produkt-Systeme aus Anhang I am 2. August 2027. Art. 113 Buchstabe c in der neuen Fassung verschiebt beide Termine: auf den 2. Dezember 2027 und auf den 2. August 2028. Alles andere ist geblieben, wo es war.

Geltungsbeginn der KI-Verordnung im Grundsatz

2. August 2026

Art. 113 Verordnung (EU) 2024/1689, konsolidierte Fassung, Stand 27. Juli 2026

Neuer Geltungsbeginn der Hochrisiko-Pflichten nach Anhang III

2. Dezember 2027

Art. 113 Buchstabe c Ziffer i in der Fassung der Verordnung (EU) 2026/1744, Stand 27. Juli 2026

Höchste Geldbuße bei verbotenen KI-Praktiken

35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes

Art. 99 Abs. 3 Verordnung (EU) 2024/1689, Stand 27. Juli 2026

Was die Pflicht zur KI-Kompetenz von Ihnen verlangt

Art. 4 der KI-Verordnung gilt seit dem 2. Februar 2025 und trifft jeden, der KI-Systeme anbietet oder betreibt. Betreiber ist dabei jedes Unternehmen, das ein KI-System im eigenen Namen einsetzt, also auch eine Werbeagentur mit einem Sprachmodell-Abonnement. Die Vorschrift verlangt Maßnahmen, die die Entwicklung der KI-Kompetenz des eigenen Personals und anderer Personen unterstützen, die im Auftrag mit dem Betrieb und der Nutzung der Systeme befasst sind.

Der Wortlaut hat sich mit dem Digital-Omnibus entschärft. Bis zum 27. Juli 2026 hieß es, Anbieter und Betreiber müssten nach besten Kräften sicherstellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Jetzt heißt es, sie ergreifen Maßnahmen, um die Entwicklung dieser Kompetenz zu unterstützen. Art. 4 Abs. 1 Satz 2 stellt außerdem klar, dass niemand für irgendeine Person ein bestimmtes Niveau garantieren muss. Aus einer Erfolgspflicht ist damit eine Bemühenspflicht geworden.

Welche Maßnahmen genügen, sagt die Verordnung nicht. Sie nennt nur die Kriterien, an denen sich der Umfang bemisst: die technischen Kenntnisse, die Erfahrung, die Aus- und Fortbildung der Beteiligten, der Kontext des Einsatzes und die Personengruppen, bei denen das System eingesetzt wird. Ein Unternehmen, das ein Sprachmodell nur für interne Entwürfe nutzt, schuldet weniger als eines, das mit KI Bewerbungen vorsortiert.

• Halten Sie schriftlich fest, welche KI-Systeme im Unternehmen im Einsatz sind und wer sie bedient. Ohne diese Liste lässt sich kein Umfang bestimmen und keine Maßnahme belegen.
• Ordnen Sie jedem System einen Einsatzkontext zu: interne Entwürfe, Kundenkommunikation, Personalauswahl, Produktion. Der Kontext entscheidet nach Art. 4 über die nötige Tiefe.
• Dokumentieren Sie Schulungen mit Datum, Inhalt und Teilnehmerkreis. Die Verordnung verlangt keinen Nachweis in einer bestimmten Form, aber eine Behörde fragt nach dem, was vorliegt.
• Nehmen Sie die Grenzen des Systems in die Schulung auf, nicht nur die Bedienung. Wer nicht weiß, dass ein Sprachmodell Fundstellen erfindet, prüft sie auch nicht nach.
• Nach Art. 4 Abs. 2 veröffentlicht die Kommission praktische Beispiele auf ihrer zentralen Informationsplattform. Diese Beispiele sind der nächstliegende Maßstab, solange es keine Norm gibt.

Wann Sie kennzeichnen müssen, dass KI im Spiel war

Art. 50 ist die Vorschrift, die im Alltag der meisten Unternehmen zuerst greift. Sie gilt seit dem 2. August 2026 und verlangt vier verschiedene Offenlegungen, je nachdem, ob Sie das System anbieten oder betreiben. Anbieter ist, wer ein System entwickelt und unter eigenem Namen bereitstellt. Betreiber ist, wer es unter eigener Verantwortung verwendet. Ein Onlineshop, der einen eingekauften Chatbot einbindet, ist Betreiber.

Erstens: Ein KI-System, das für die direkte Interaktion mit Menschen bestimmt ist, muss so gestaltet sein, dass die Person erfährt, dass sie mit einem KI-System spricht. Das gilt nicht, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person ohnehin offensichtlich ist. Zweitens: Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen.

Drittens: Wer ein Emotionserkennungssystem oder ein System zur biometrischen Kategorisierung betreibt, informiert die betroffenen Personen über den Betrieb. Viertens: Wer Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, legt offen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Für erkennbar künstlerische, kreative, satirische oder fiktionale Werke reicht ein Hinweis, der den Genuss des Werks nicht beeinträchtigt.

Für Bestandssysteme gibt es eine eigene Frist. Art. 111 Abs. 4 in der Fassung des Digital-Omnibus gibt Anbietern von Systemen, die synthetische Inhalte erzeugen und vor dem 2. August 2026 in Verkehr gebracht wurden, bis zum 2. Dezember 2026 Zeit, Art. 50 Abs. 2 nachzukommen. Diese Frist läuft, während Sie das hier lesen.

Welche KI-Praktiken die Verordnung vollständig verbietet

Art. 5 zählt Praktiken auf, die unabhängig von Risikoklasse, Branche und Unternehmensgröße verboten sind. Diese Liste gilt seit dem 2. Februar 2025. Für Unternehmen außerhalb der Sicherheitsbehörden sind vier Punkte praktisch bedeutsam, weil sie in gewöhnlichen betrieblichen Anwendungen auftauchen können.

• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (Art. 5 Abs. 1 Buchstabe f). Ausgenommen sind nur medizinische oder Sicherheitsgründe. Software, die aus Stimme oder Gesicht die Stimmung von Beschäftigten ableitet, fällt darunter.
• Biometrische Kategorisierung, mit der auf Rasse, politische Einstellungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Ausrichtung geschlossen wird (Art. 5 Abs. 1 Buchstabe g).
• Der Aufbau oder die Erweiterung von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen (Art. 5 Abs. 1 Buchstabe e).
• Soziale Bewertung von Menschen über einen Zeitraum hinweg, die zu Benachteiligung in unzusammenhängenden Lebensbereichen führt (Art. 5 Abs. 1 Buchstabe c).
• Unterschwellige, manipulative oder täuschende Techniken, die das Verhalten wesentlich verändern und erheblichen Schaden verursachen können (Art. 5 Abs. 1 Buchstabe a).

Zwei weitere Verbote kommen später hinzu. Die Verordnung (EU) 2026/1744 hat in Art. 5 Abs. 1 die Buchstaben ba und bb eingefügt. Verboten wird damit die Erzeugung oder Manipulation realistischer Darstellungen, die intime Körperteile einer bestimmbaren Person zeigen oder eine bestimmbare Person bei eindeutig sexuellen Handlungen, ohne deren freie, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung. Nach Art. 113 Buchstabe a gelten diese beiden Verbote ab dem 2. Dezember 2026.

Die Geldbuße für einen Verstoß gegen Art. 5 ist die höchste der Verordnung. Art. 99 Abs. 3 nennt bis zu 35 Millionen Euro oder, bei Unternehmen, bis zu 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahrs, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt nach Art. 99 Abs. 6 der jeweils niedrigere der beiden Beträge, für kleine Midcap-Unternehmen nach dem neuen Abs. 6a dasselbe bei den Bußgeldern der Absätze 4 und 5.

Wann ein KI-System als hochriskant gilt

Die Verordnung kennt zwei Wege in die Hochrisiko-Klasse. Der erste führt über Art. 6 Abs. 1: Ein System ist hochriskant, wenn es Sicherheitsbauteil eines Produkts aus Anhang I ist oder selbst ein solches Produkt, und wenn dieses Produkt einer Konformitätsbewertung durch Dritte unterliegt. Anhang I listet dafür Vorschriften wie die Maschinenverordnung, die Medizinprodukteverordnung und die Spielzeugrichtlinie auf.

Der Digital-Omnibus hat diesen Weg enger gefasst. Nach dem neuen Art. 6 Abs. 1a gelten Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, der Leistungsoptimierung, der Automatisierung, der Benutzerfreundlichkeit oder der Qualitätskontrolle verwendet werden, nicht als Sicherheitsbauteile. Abs. 1b zieht die Gegenlinie: Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, bleiben Sicherheitsbauteile.

Der zweite Weg führt über Art. 6 Abs. 2 und Anhang III. Dort stehen acht Bereiche, und Nummer 4 betrifft praktisch jedes größere Unternehmen: Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit. Erfasst sind Systeme für die Einstellung oder Auswahl von Menschen, insbesondere zum Schalten gezielter Stellenanzeigen, zum Sichten oder Filtern von Bewerbungen und zum Bewerten von Bewerbern, außerdem Systeme für Entscheidungen über Arbeitsbedingungen, Beförderungen und Kündigungen sowie für die Beobachtung und Bewertung von Leistung und Verhalten.

Art. 6 Abs. 3 lässt eine Ausnahme zu: Ein in Anhang III genanntes System gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, unter anderem weil es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Diese Ausnahme trägt sich nicht von selbst. Wer sie in Anspruch nimmt, dokumentiert die Bewertung, bevor das System in Betrieb geht.

1. Listen Sie jedes eingesetzte KI-System mit Zweck, Anbieter und betroffenen Personengruppen auf. Ohne diese Liste ist keine Einstufung möglich.
2. Prüfen Sie je System Art. 5: Fällt es unter eine verbotene Praktik, endet die Prüfung hier, und das System darf nicht eingesetzt werden.
3. Prüfen Sie Art. 6 Abs. 1 mit Anhang I: Ist das System Sicherheitsbauteil eines Produkts mit Konformitätsbewertung durch Dritte? Beachten Sie dabei die Einschränkung in Art. 6 Abs. 1a.
4. Prüfen Sie Art. 6 Abs. 2 mit Anhang III: Fällt das System in einen der acht Bereiche, insbesondere Nummer 4 zu Beschäftigung und Personalmanagement?
5. Prüfen Sie Art. 50: Interagiert das System direkt mit Menschen, erzeugt es synthetische Inhalte, erkennt es Emotionen oder kategorisiert es biometrisch? Dann greift die Transparenzpflicht sofort, unabhängig von der Risikoklasse.
6. Halten Sie das Ergebnis je System schriftlich fest, mit Datum und der geprüften Fassung der Verordnung. Die Fassung ändert sich, wie der Digital-Omnibus gezeigt hat.

Für Systeme, die schon laufen, gibt Art. 111 Abs. 2 in der neuen Fassung Entwarnung mit einer Bedingung. Die Verordnung gilt für Akteure von Hochrisiko-Systemen, die vor dem Beginn der Anwendung des Kapitels III in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden. Für Systeme, die bestimmungsgemäß von Behörden verwendet werden, läuft die Frist unabhängig davon bis zum 2. August 2030.

Wer in Deutschland die KI-Verordnung durchsetzt

Die Verordnung schreibt in Art. 70 vor, dass jeder Mitgliedstaat mindestens eine Marktüberwachungsbehörde benennt. Deutschland hat das mit dem Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22. Juli 2026 getan, verkündet im Bundesgesetzblatt 2026 Teil I Nr. 223 am 28. Juli 2026. Artikel 1 dieses Gesetzes trägt den Namen KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz, abgekürzt KI-MIG, und ist am Tag nach der Verkündung in Kraft getreten.

§ 2 Abs. 1 KI-MIG bestimmt die Bundesnetzagentur zur zuständigen Marktüberwachungsbehörde, soweit das Gesetz nichts anderes regelt. Für KI-Systeme, die mit Produkten aus Anhang I Abschnitt A zusammenhängen, bleiben nach § 2 Abs. 2 die Behörden zuständig, die dafür ohnehin die Marktüberwachung führen. Für Finanzdienstleistungen ist nach § 2 Abs. 3 die Bundesanstalt für Finanzdienstleistungsaufsicht zuständig.

Bußgelder stammen aus zwei Quellen. Der europäische Rahmen steht in Art. 99 der Verordnung und reicht von 7,5 Millionen Euro oder 1 Prozent des Jahresumsatzes für falsche Auskünfte über 15 Millionen Euro oder 3 Prozent für Verstöße gegen die Anbieter-, Betreiber- und Transparenzpflichten bis zu 35 Millionen Euro oder 7 Prozent für verbotene Praktiken. Daneben schafft § 15 KI-MIG eigene nationale Tatbestände, etwa für eine unterlassene Grundrechte-Folgenabschätzung nach Art. 27 der Verordnung, und stellt sie nach § 15 Abs. 3 unter eine Geldbuße bis zu 50.000 Euro.

Gegen Behörden und sonstige öffentliche Stellen im Sinne des § 2 Abs. 1 oder 2 BDSG werden nach § 17 Abs. 2 KI-MIG keine Geldbußen verhängt. Für Unternehmen gilt diese Ausnahme nicht.