KI & Datenschutz

KI lebt von Daten – oft von personenbezogenen. Die DSGVO gilt für Training, Feinabstimmung und Betrieb gleichermaßen. Wer die Anforderungen früh berücksichtigt, vermeidet teure Nachbesserungen und Aufsichtsverfahren.

Rechtsgrundlagen für KI

  • Berechtigtes Interesse (Art. 6 Abs. 1 lit. f DSGVO) kann Training und Betrieb tragen; der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 den Prüfmaßstab beschrieben.
  • Zweckbindung: Die Nutzung von Kunden- oder Beschäftigtendaten für das Training ist eine Zweckänderung, die geprüft werden muss (Art. 6 Abs. 4 DSGVO).
  • Besondere Kategorien (Art. 9 DSGVO) wie Gesundheitsdaten erfordern eine eigene Ausnahme.
  • Anonymität von Modellen: Ein Modell ist nur anonym, wenn personenbezogene Daten weder extrahiert noch abgefragt werden können.

Pflichten im Betrieb

  • Datenschutz-Folgenabschätzung bei hohem Risiko (Art. 35 DSGVO) – bei KI häufig erforderlich
  • Transparenz über KI-Einsatz und Logik bei automatisierten Entscheidungen (Art. 13 Abs. 2 lit. f DSGVO)
  • Verbot ausschließlich automatisierter Entscheidungen mit rechtlicher Wirkung (Art. 22 DSGVO) mit Ausnahmen; der EuGH hat den Begriff im SCHUFA-Urteil weit verstanden
  • Betroffenenrechte: Auskunft, Berichtigung und Löschung – technisch bei Modellen anspruchsvoll
  • Auftragsverarbeitung mit KI-Anbietern und Drittlandtransfer

Praxisfälle

Kundenservice-Daten für Training

Sachverhalt: Ein Telekommunikationsanbieter will Chatprotokolle zum Training eines eigenen Modells nutzen.

Rechtliche Würdigung: Zweckänderung mit Kompatibilitätsprüfung; berechtigtes Interesse möglich, wenn Pseudonymisierung, Transparenz und Widerspruchsmöglichkeit bestehen.

Unser Vorgehen: Interessenabwägung, DSFA, Datenschutzhinweise, Widerspruchsprozess.

Mitarbeiter nutzen öffentliche KI-Tools

Sachverhalt: Beschäftigte kopieren Kundendaten in einen frei verfügbaren Chatbot.

Rechtliche Würdigung: Unzulässige Übermittlung ohne Rechtsgrundlage und AV-Vertrag; möglicherweise meldepflichtige Datenpanne.

Unser Vorgehen: KI-Richtlinie, Enterprise-Lösung, Schulung, Bewertung der Meldepflicht.

Automatisierte Kreditentscheidung

Sachverhalt: Eine Bank lehnt Anträge auf Basis eines KI-Scores ohne menschliche Prüfung ab.

Rechtliche Würdigung: Art. 22 DSGVO; nach der SCHUFA-Rechtsprechung kann bereits der maßgebliche Score eine Entscheidung sein.

Unser Vorgehen: Menschliche Überprüfung, Transparenz, Anfechtungsmöglichkeit.

Auskunft über Trainingsdaten

Sachverhalt: Eine Person verlangt Auskunft, ob ihre Daten in einem Modell enthalten sind.

Rechtliche Würdigung: Auskunftsanspruch nach Art. 15 DSGVO; Umfang abhängig davon, ob personenbezogene Daten im Modell oder in Trainingsdatensätzen verarbeitet werden.

Unser Vorgehen: Auskunftsprozess, Dokumentation der Datensätze.

KI in der Arztpraxis

Sachverhalt: Eine Praxis nutzt eine KI zur Dokumentation von Patientengesprächen.

Rechtliche Würdigung: Gesundheitsdaten, Schweigepflicht (§ 203 StGB), DSFA, Anbieterwahl und Speicherort.

Unser Vorgehen: DSFA, Vertragsprüfung, Einwilligungs- und Informationskonzept.

Unsere Leistungen

  • Datenschutz-Folgenabschätzungen für KI
  • Rechtsgrundlagen für Training und Betrieb
  • AV-Verträge mit KI-Anbietern
  • KI-Richtlinien für Beschäftigte
  • Vertretung gegenüber Aufsichtsbehörden

Verwandte Themen: Datenschutzrecht · KI im Arbeitsverhältnis

Häufige Fragen

Brauche ich für KI eine Datenschutz-Folgenabschätzung?

Häufig ja, insbesondere bei neuen Technologien mit voraussichtlich hohem Risiko für Betroffene.

Darf ich Kundendaten zum Training nutzen?

Nur mit Rechtsgrundlage und nach Prüfung der Zweckvereinbarkeit; Transparenz und Widerspruchsmöglichkeit sind wichtig.

Gilt der AI Act statt der DSGVO?

Nein, beide gelten nebeneinander.

Anfrage: KI & Datenschutz

Schildern Sie uns kurz Ihr Anliegen – wir melden uns mit einer ersten Einschätzung und einem Kostenrahmen.

← Zurück

Vielen Dank für Ihre Anfrage

Wir melden uns in der Regel innerhalb eines Werktags. In dringenden Fällen rufen Sie uns bitte zusätzlich an.
Dringlichkeit