KI lebt von Daten – oft von personenbezogenen. Die DSGVO gilt für Training, Feinabstimmung und Betrieb gleichermaßen. Wer die Anforderungen früh berücksichtigt, vermeidet teure Nachbesserungen und Aufsichtsverfahren.
Rechtsgrundlagen für KI
- Berechtigtes Interesse (Art. 6 Abs. 1 lit. f DSGVO) kann Training und Betrieb tragen; der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 den Prüfmaßstab beschrieben.
- Zweckbindung: Die Nutzung von Kunden- oder Beschäftigtendaten für das Training ist eine Zweckänderung, die geprüft werden muss (Art. 6 Abs. 4 DSGVO).
- Besondere Kategorien (Art. 9 DSGVO) wie Gesundheitsdaten erfordern eine eigene Ausnahme.
- Anonymität von Modellen: Ein Modell ist nur anonym, wenn personenbezogene Daten weder extrahiert noch abgefragt werden können.
Pflichten im Betrieb
- Datenschutz-Folgenabschätzung bei hohem Risiko (Art. 35 DSGVO) – bei KI häufig erforderlich
- Transparenz über KI-Einsatz und Logik bei automatisierten Entscheidungen (Art. 13 Abs. 2 lit. f DSGVO)
- Verbot ausschließlich automatisierter Entscheidungen mit rechtlicher Wirkung (Art. 22 DSGVO) mit Ausnahmen; der EuGH hat den Begriff im SCHUFA-Urteil weit verstanden
- Betroffenenrechte: Auskunft, Berichtigung und Löschung – technisch bei Modellen anspruchsvoll
- Auftragsverarbeitung mit KI-Anbietern und Drittlandtransfer
Praxisfälle
Kundenservice-Daten für Training
Sachverhalt: Ein Telekommunikationsanbieter will Chatprotokolle zum Training eines eigenen Modells nutzen.
Rechtliche Würdigung: Zweckänderung mit Kompatibilitätsprüfung; berechtigtes Interesse möglich, wenn Pseudonymisierung, Transparenz und Widerspruchsmöglichkeit bestehen.
Unser Vorgehen: Interessenabwägung, DSFA, Datenschutzhinweise, Widerspruchsprozess.
Mitarbeiter nutzen öffentliche KI-Tools
Sachverhalt: Beschäftigte kopieren Kundendaten in einen frei verfügbaren Chatbot.
Rechtliche Würdigung: Unzulässige Übermittlung ohne Rechtsgrundlage und AV-Vertrag; möglicherweise meldepflichtige Datenpanne.
Unser Vorgehen: KI-Richtlinie, Enterprise-Lösung, Schulung, Bewertung der Meldepflicht.
Automatisierte Kreditentscheidung
Sachverhalt: Eine Bank lehnt Anträge auf Basis eines KI-Scores ohne menschliche Prüfung ab.
Rechtliche Würdigung: Art. 22 DSGVO; nach der SCHUFA-Rechtsprechung kann bereits der maßgebliche Score eine Entscheidung sein.
Unser Vorgehen: Menschliche Überprüfung, Transparenz, Anfechtungsmöglichkeit.
Auskunft über Trainingsdaten
Sachverhalt: Eine Person verlangt Auskunft, ob ihre Daten in einem Modell enthalten sind.
Rechtliche Würdigung: Auskunftsanspruch nach Art. 15 DSGVO; Umfang abhängig davon, ob personenbezogene Daten im Modell oder in Trainingsdatensätzen verarbeitet werden.
Unser Vorgehen: Auskunftsprozess, Dokumentation der Datensätze.
KI in der Arztpraxis
Sachverhalt: Eine Praxis nutzt eine KI zur Dokumentation von Patientengesprächen.
Rechtliche Würdigung: Gesundheitsdaten, Schweigepflicht (§ 203 StGB), DSFA, Anbieterwahl und Speicherort.
Unser Vorgehen: DSFA, Vertragsprüfung, Einwilligungs- und Informationskonzept.
Unsere Leistungen
- Datenschutz-Folgenabschätzungen für KI
- Rechtsgrundlagen für Training und Betrieb
- AV-Verträge mit KI-Anbietern
- KI-Richtlinien für Beschäftigte
- Vertretung gegenüber Aufsichtsbehörden
Verwandte Themen: Datenschutzrecht · KI im Arbeitsverhältnis
Häufige Fragen
Brauche ich für KI eine Datenschutz-Folgenabschätzung?
Häufig ja, insbesondere bei neuen Technologien mit voraussichtlich hohem Risiko für Betroffene.
Darf ich Kundendaten zum Training nutzen?
Nur mit Rechtsgrundlage und nach Prüfung der Zweckvereinbarkeit; Transparenz und Widerspruchsmöglichkeit sind wichtig.
Gilt der AI Act statt der DSGVO?
Nein, beide gelten nebeneinander.
Anfrage: KI & Datenschutz
Schildern Sie uns kurz Ihr Anliegen – wir melden uns mit einer ersten Einschätzung und einem Kostenrahmen.