Die KI-Verordnung (AI Act) ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Sie gilt gestaffelt – und wurde 2026 durch den „Digital Omnibus on AI“ angepasst, der vor allem die Hochrisiko-Pflichten verschiebt.
Zeitplan
| Seit / ab | Was gilt |
|---|---|
| 1. August 2024 | Inkrafttreten |
| 2. Februar 2025 | Verbotene Praktiken (Art. 5), KI-Kompetenz (Art. 4) |
| 2. August 2025 | Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI), Governance, Sanktionen |
| 2. August 2026 | Transparenzpflichten nach Art. 50 (u. a. Kennzeichnung von Deepfakes, Chatbot-Hinweis) |
| 2. Dezember 2027 | Hochrisiko-KI nach Anhang III (z. B. Personal, Kreditwürdigkeit, Bildung, kritische Infrastruktur) |
| 2. August 2028 | Hochrisiko-KI als Sicherheitsbauteil regulierter Produkte (Anhang I) |
Der risikobasierte Ansatz
- Verbotene Praktiken (Art. 5): u. a. manipulative Techniken, Social Scoring, ungezielte Gesichtsbild-Datenbanken, Emotionserkennung am Arbeitsplatz und in der Bildung; durch den Omnibus ergänzt um weitere Verbote, insbesondere für Anwendungen zur Erzeugung nicht einvernehmlicher sexualisierter Darstellungen.
- Hochrisiko-KI (Art. 6 ff.): Risikomanagement, Daten-Governance, Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit; Betreiberpflichten nach Art. 26.
- Transparenzpflichten (Art. 50): Hinweis auf KI-Interaktion, Kennzeichnung synthetischer Inhalte und Deepfakes.
- GPAI-Modelle (Art. 51 ff.): Dokumentation, Urheberrechts-Policy, Zusammenfassung der Trainingsdaten; bei systemischem Risiko zusätzlich Evaluierung und Cybersicherheit.
- Minimales Risiko: keine spezifischen Pflichten, Verhaltenskodizes freiwillig.
Anbieter oder Betreiber?
Die meisten Unternehmen sind Betreiber (Deployer): Sie setzen KI-Systeme unter eigener Verantwortung ein. Wer ein KI-System unter eigenem Namen in Verkehr bringt, wesentlich verändert oder den Zweck so ändert, dass es hochriskant wird, wird selbst zum Anbieter mit deutlich weitergehenden Pflichten Art. 25 KI-VO.
Bußgelder und Aufsicht
Bei verbotenen Praktiken bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes, bei sonstigen Verstößen bis 15 Mio. € oder 3 %. In Deutschland ist die Bundesnetzagentur als zentrale Marktüberwachungsbehörde vorgesehen; für GPAI-Modelle ist das KI-Büro der Kommission zuständig.
Praxisfälle
KI im Bewerbungsprozess
Sachverhalt: Ein Konzern nutzt ein Tool, das Lebensläufe vorsortiert.
Rechtliche Würdigung: Hochrisiko nach Anhang III (Beschäftigung); Betreiberpflichten ab 2.12.2027, schon heute DSGVO (Art. 22), AGG und Mitbestimmung.
Unser Vorgehen: Einordnung, Anbieterprüfung, Betreiberpflichten vorbereiten, Betriebsvereinbarung.
Emotionserkennung im Callcenter
Sachverhalt: Ein Dienstleister analysiert die Stimmung seiner Mitarbeiter in Gesprächen.
Rechtliche Würdigung: Emotionserkennung am Arbeitsplatz ist seit 2.2.2025 grundsätzlich verboten (Ausnahmen für medizinische und Sicherheitszwecke).
Unser Vorgehen: Sofortige Prüfung und Einstellung, Abgrenzung zur Kundenstimmungsanalyse.
Eigener Chatbot auf der Website
Sachverhalt: Ein Versicherer setzt einen KI-Chatbot für Kundenanfragen ein.
Rechtliche Würdigung: Seit 2.8.2026 Hinweispflicht auf die KI-Interaktion (Art. 50 Abs. 1), soweit nicht offensichtlich.
Unser Vorgehen: Kennzeichnung, Nutzungsbedingungen, Haftungsprüfung.
Feinabstimmung eines Modells
Sachverhalt: Ein Softwarehaus trainiert ein offenes Basismodell nach und vertreibt es als Branchenlösung.
Rechtliche Würdigung: Je nach Umfang der Änderung kann das Softwarehaus Anbieter eines GPAI-Modells oder eines KI-Systems werden.
Unser Vorgehen: Rollenanalyse, Dokumentation, Urheberrechts-Policy.
Kreditwürdigkeitsprüfung
Sachverhalt: Ein Fintech bewertet die Bonität mit einem KI-Modell.
Rechtliche Würdigung: Hochrisiko nach Anhang III; daneben Art. 22 DSGVO und die SCHUFA-Rechtsprechung des EuGH zum Scoring.
Unser Vorgehen: Gap-Analyse, Transparenz gegenüber Kunden, menschliche Überprüfung.
Unsere Leistungen
- KI-Inventar und Risikoklassifizierung
- Rollenanalyse Anbieter / Betreiber
- Umsetzungsprogramme für Hochrisiko-KI
- KI-Kompetenz-Schulungen
- Transparenz- und Kennzeichnungskonzepte
- Vertretung gegenüber Behörden
Verwandte Themen: KI-Governance · Sicherheit von KI-Systemen · Checkliste KI-Inventar
Häufige Fragen
Gilt der AI Act für mein Unternehmen?
Für fast jedes Unternehmen, das KI einsetzt – mindestens mit KI-Kompetenz- und ggf. Transparenzpflichten. Umfangreiche Pflichten treffen Anbieter und Betreiber von Hochrisiko-KI.
Wurden die Fristen verschoben?
Ja. Durch den KI-Omnibus gelten die Hochrisiko-Pflichten erst ab 2. Dezember 2027 bzw. 2. August 2028. Verbote, GPAI- und Transparenzpflichten gelten bereits.
Ist ChatGPT ein Hochrisiko-System?
Nein, ein allgemeiner Chatbot ist nicht per se Hochrisiko. Es kommt auf den konkreten Einsatzzweck an.
Wie hoch sind die Bußgelder?
Bis 35 Mio. € oder 7 % des Umsatzes bei verbotenen Praktiken, sonst bis 15 Mio. € oder 3 %.
Anfrage: KI-Verordnung (AI Act)
Schildern Sie uns kurz Ihr Anliegen – wir melden uns mit einer ersten Einschätzung und einem Kostenrahmen.