Startseite › Magazin › Datenschutz-Folgenabschätzung für KI-Anwendungen: Wann sie Pflicht ist und wie sie abläuft
Datenschutz-Folgenabschätzung für KI-Anwendungen: Wann sie Pflicht ist und wie sie abläuft
Wann die Pflicht besteht
Die Datenschutz-Folgenabschätzung (DSFA) ist vorab durchzuführen, wenn eine Form der Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Das Gesetz hebt dabei die Verwendung neuer Technologien hervor.[1] Drei Fälle nennt es ausdrücklich, darunter die systematische und umfassende Bewertung persönlicher Aspekte auf der Grundlage automatisierter Verarbeitung, die als Grundlage für Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung dient, und die umfangreiche Verarbeitung besonderer Kategorien personenbezogener Daten.[2]
Die Aufzählung ist nicht abschließend. Die europäischen Aufsichtsbehörden haben neun Kriterien aufgestellt, an denen sich ein voraussichtlich hohes Risiko erkennen lässt:[3]
- Bewerten oder Einstufen von Personen, einschließlich Profilen und Prognosen
- automatisierte Entscheidungsfindung mit rechtlicher oder ähnlich bedeutsamer Wirkung
- systematische Überwachung
- vertrauliche oder höchst persönliche Daten
- Verarbeitung in großem Umfang
- Abgleichen oder Zusammenführen von Datensätzen
- Daten schutzbedürftiger Betroffener, zu denen die Leitlinien auch Arbeitnehmer zählen
- innovative Nutzung oder Anwendung neuer technologischer Lösungen
- Verarbeitungen, die Betroffene an der Ausübung eines Rechts oder der Nutzung einer Dienstleistung hindern
Als Faustregel gilt: Erfüllt ein Vorgang zwei dieser Kriterien, ist eine DSFA in den meisten Fällen obligatorisch; im Einzelfall kann schon ein Kriterium genügen.[4] KI-Anwendungen erfüllen das achte Kriterium häufig schon wegen der Technik. Kommen Beschäftigtendaten, Kundendaten in großer Zahl oder Bewertungen von Personen hinzu, ist die Schwelle schnell erreicht.
Für Deutschland kommt die Liste der Datenschutzkonferenz (DSK) hinzu, die jede Aufsichtsbehörde nach dem Gesetz zu veröffentlichen hat.[5] Sie nennt den Einsatz künstlicher Intelligenz zur Verarbeitung personenbezogener Daten, um die Interaktion mit den Betroffenen zu steuern oder persönliche Aspekte zu bewerten. Als Beispiele führt sie einen Kundensupport mittels künstlicher Intelligenz und ein System an, das mit Kunden im Gespräch interagiert.[6] In ihrer Orientierungshilfe zu KI hält die DSK fest, dass eine DSFA beim Einsatz von KI-Anwendungen vielfach erforderlich sein wird.[7]
Drei typische Fälle
| Einsatz | Was dafür spricht | Einschätzung |
|---|---|---|
| Chat-Assistent beantwortet Kundenanfragen | steht als Beispiel in der Liste der DSK; neue Technologie; oft großer Umfang | DSFA durchführen |
| Sprachmodell wertet Bewerbungen aus oder bereitet Personalentscheidungen vor | Bewertung von Personen; Betroffene in einem Abhängigkeitsverhältnis; neue Technologie | DSFA durchführen; zusätzlich die Grenzen für automatisierte Entscheidungen beachten |
| Sprachmodell hilft bei Programmcode oder Texten ohne Bezug zu Personen | keine personenbezogenen Daten in Eingabe, Ausgabe und Anmeldung | kein Fall des Datenschutzrechts; die Prüfung, dass kein Personenbezug vorliegt, sollte gründlich sein[8] |
Die Tabelle ersetzt nicht die Prüfung des eigenen Vorhabens. Sie zeigt, an welchen Merkmalen sich die Antwort entscheidet.
Die Vorprüfung festhalten
Ob eine DSFA nötig ist, ergibt sich aus einer Abschätzung der Risiken, die die DSK Schwellwertanalyse nennt. Ihr Ergebnis ist in jedem Fall schriftlich zu dokumentieren, mit den maßgeblichen Gründen, auch wenn es gegen eine DSFA ausfällt.[9] Die DSFA selbst ist vor der Aufnahme der Verarbeitung durchzuführen. Weil sie sich meist nicht in wenigen Tagen erstellen lässt, muss sie rechtzeitig begonnen werden.[10]
Was hineingehört
Das Gesetz verlangt mindestens vier Bestandteile.[11] Für eine KI-Anwendung lassen sie sich so füllen:
- Beschreibung der Verarbeitung und ihrer Zwecke. Welcher Dienst wird wofür eingesetzt? Welche Daten gehen in die Eingabe, was kommt zurück, wer erhält Zugriff? Werden Eingaben gespeichert oder für das Training verwendet? Wo wird verarbeitet?
- Notwendigkeit und Verhältnismäßigkeit. Lässt sich der Zweck mit weniger Daten erreichen, etwa indem nur die nötigen Angaben übergeben oder Kennungen vorher ersetzt werden?
- Risiken für die Betroffenen. Die DSK nennt für KI-Anwendungen unter anderem unrichtige Ergebnisse[12], diskriminierende Ergebnisse[13], die Weiterverwendung von Eingaben zu anderen Zwecken und den Zugriff Unbefugter bei offenen Systemen[14] sowie den Personenbezug, der sich aus dem Zusammenhang ergibt, obwohl Namen entfernt wurden.[15]
- Abhilfemaßnahmen. Dazu zählen technische und organisatorische Maßnahmen wie Pseudonymisierung und Verschlüsselung[16], datenschutzfreundliche Voreinstellungen der Konten[17], eine echte Prüfung der Ergebnisse durch Menschen[18] sowie interne Regeln und Schulungen.[19]
Wer mitwirkt
- Datenschutzbeauftragter: Ist einer benannt, holt der Verantwortliche seinen Rat ein.[20]
- Anbieter: Wer das System nicht selbst entwickelt hat, ist auf Informationen des Anbieters zur Funktionsweise angewiesen. Die DSK empfiehlt, schon bei Auswahl und Erwerb darauf zu achten, dass sie bereitgestellt werden.[7] Ein Auftragsverarbeiter muss den Verantwortlichen bei der Folgenabschätzung unterstützen; das gehört in den Vertrag.[21]
- Betroffene: Gegebenenfalls holt der Verantwortliche den Standpunkt der betroffenen Personen oder ihrer Vertreter ein.[22] Bei Beschäftigtendaten liegt es nahe, die Beschäftigtenvertretung einzubeziehen.[23]
Wenn das Risiko hoch bleibt
Zeigt die DSFA, dass die Verarbeitung ein hohes Risiko zur Folge hätte, sofern keine Maßnahmen zur Eindämmung getroffen werden, konsultiert der Verantwortliche vor der Verarbeitung die Aufsichtsbehörde.[24] Die Behörde hat bis zu acht Wochen Zeit für schriftliche Empfehlungen; die Frist kann um sechs Wochen verlängert werden.[25]
Keine einmalige Aufgabe
Ändert sich das Risiko, ist zu überprüfen, ob die Verarbeitung noch der DSFA entspricht.[26] Die europäischen Aufsichtsbehörden beschreiben die DSFA als kontinuierlichen Prozess, der regelmäßig zu erneuern ist.[27] Bei KI-Anwendungen gibt es dafür häufige Anlässe: ein neues Modell, geänderte Vertragsbedingungen des Anbieters, neue Datenarten in den Eingaben, ein erweiterter Kreis von Nutzern.
Was Pseudonymisierung an der Bewertung ändert
Werden Kennungen vor der Übergabe an das Modell durch Ersatzwerte ersetzt, sinkt das Risiko für die Betroffenen.[28] Das gehört als Maßnahme in die DSFA und kann das Ergebnis verbessern. Entbehrlich wird die Abschätzung dadurch nicht: Für das Unternehmen, das die Zuordnung hält, bleiben die Daten personenbezogen[29], und was aus dem Zusammenhang erkennbar bleibt, ist als Restrisiko zu bewerten. Wird dafür ein vorgeschalteter Dienst eingesetzt, steht er als Auftragsverarbeiter in der Beschreibung der Verarbeitung. Näheres im Artikel Pseudonymisiert ist nicht anonym: Was der Unterschied für KI-Projekte bedeutet.
Was die KI-Verordnung hinzufügt
Die KI-Verordnung lässt die DSGVO und damit die DSFA unberührt[30] und knüpft an sie an. Betreiber von Hochrisiko-KI-Systemen verwenden die Informationen, die der Anbieter ihnen bereitstellen muss, um ihrer Pflicht zur DSFA nachzukommen.[31]
Für einen Teil der Betreiber kommt eine eigene Grundrechte-Folgenabschätzung hinzu: für Einrichtungen des öffentlichen Rechts, für private Einrichtungen, die öffentliche Dienste erbringen, und für Betreiber bestimmter Systeme zur Bewertung der Kreditwürdigkeit und zur Risikobewertung bei Lebens- und Krankenversicherungen.[32] Soweit die DSFA deren Anforderungen schon abdeckt, darf auf sie verwiesen werden.[33] Diese Pflichten gelten für Systeme nach Anhang III der Verordnung seit der Änderung vom Juli 2026 erst ab dem 2. Dezember 2027.[34] Die DSFA nach der DSGVO gilt unabhängig davon schon heute.
Geplante Änderungen
Die Europäische Kommission hat im November 2025 vorgeschlagen, die nationalen Listen durch unionsweite Listen zu ersetzen und eine gemeinsame Vorlage und Methodik für die DSFA einzuführen. Die bestehenden Listen der Aufsichtsbehörden sollen bis dahin gültig bleiben.[35] Der Vorschlag ist nicht verabschiedet (Stand Oktober 2026).[36]
Merkliste
- Für jede KI-Anwendung mit personenbezogenen Daten die Vorprüfung schriftlich festhalten.
- Die neun Kriterien und die Liste der DSK durchgehen; bei zwei erfüllten Kriterien von einer DSFA ausgehen.
- Die vier Pflichtbestandteile abarbeiten und die Informationen des Anbieters einfordern.
- Den Datenschutzbeauftragten früh beteiligen.
- Die DSFA bei jeder wesentlichen Änderung überprüfen.
Begriffe in diesem Artikel
- Datenschutz-Folgenabschätzung (DSFA)
- Technische und organisatorische Maßnahmen (TOM)
- Hochrisiko-KI-System
- Datenschutzbeauftragter
- Besondere Kategorien personenbezogener Daten
- Automatisierte Entscheidung im Einzelfall
- Pseudonymisierung
- Verschlüsselung
- KI-Verordnung
Quellen
- Art. 35 Abs. 1 DSGVO eur-lex.europa.eu
- Art. 35 Abs. 3 DSGVO eur-lex.europa.eu
- Artikel-29-Datenschutzgruppe, Leitlinien zur Datenschutz-Folgenabschätzung (WP 248 rev.01), zuletzt überarbeitet am 4. Oktober 2017, S. 10–12 datenschutzkonferenz-online.de
- Artikel-29-Datenschutzgruppe, Leitlinien zur Datenschutz-Folgenabschätzung (WP 248 rev.01), zuletzt überarbeitet am 4. Oktober 2017, S. 12–13 datenschutzkonferenz-online.de
- Art. 35 Abs. 4 DSGVO eur-lex.europa.eu
- DSK, Liste der Verarbeitungstätigkeiten, für die eine Datenschutz-Folgenabschätzung durchzuführen ist, Version 1.1 vom 17. Oktober 2018, Nr. 11 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.3 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.3 datenschutzkonferenz-online.de
- DSK, Kurzpapier Nr. 5: Datenschutz-Folgenabschätzung nach Art. 35 DS-GVO, Stand 17. Dezember 2018, S. 1 datenschutzkonferenz-online.de
- DSK, Kurzpapier Nr. 5: Datenschutz-Folgenabschätzung nach Art. 35 DS-GVO, Stand 17. Dezember 2018, S. 2 datenschutzkonferenz-online.de
- Art. 35 Abs. 7 DSGVO eur-lex.europa.eu
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 3.3 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 3.4 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.7 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 3.1 datenschutzkonferenz-online.de
- Art. 32 Abs. 1 Buchst. a DSGVO eur-lex.europa.eu
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.5 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.6 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitte 2.2 und 2.7 datenschutzkonferenz-online.de
- Art. 35 Abs. 2 DSGVO eur-lex.europa.eu
- Art. 28 Abs. 3 Buchst. f DSGVO eur-lex.europa.eu
- Art. 35 Abs. 9 DSGVO eur-lex.europa.eu
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.12 datenschutzkonferenz-online.de
- Art. 36 Abs. 1 DSGVO eur-lex.europa.eu
- Art. 36 Abs. 2 DSGVO eur-lex.europa.eu
- Art. 35 Abs. 11 DSGVO eur-lex.europa.eu
- Artikel-29-Datenschutzgruppe, Leitlinien zur Datenschutz-Folgenabschätzung (WP 248 rev.01), zuletzt überarbeitet am 4. Oktober 2017, S. 17 datenschutzkonferenz-online.de
- Erwägungsgrund 28 DSGVO eur-lex.europa.eu
- EuGH, Urteil vom 4. September 2025, C-413/23 P (EDSB/SRB), ECLI:EU:C:2025:645, Rn. 76 eur-lex.europa.eu
- Art. 2 Abs. 7 KI-Verordnung eur-lex.europa.eu
- Art. 26 Abs. 9 KI-Verordnung eur-lex.europa.eu
- Art. 27 Abs. 1 KI-Verordnung eur-lex.europa.eu
- Art. 27 Abs. 4 KI-Verordnung eur-lex.europa.eu
- Art. 113 Abs. 3 Buchst. c KI-Verordnung eur-lex.europa.eu
- Europäische Kommission, Vorschlag für eine Digital-Omnibus-Verordnung, COM(2025) 837 final vom 19. November 2025, Art. 3 Nr. 9 eur-lex.europa.eu
- Europäisches Parlament, Legislative Observatory, Verfahren 2025/0360(COD), abgerufen am 8. Oktober 2026 (englisch) oeil.europarl.europa.eu