Startseite › Glossar › Automatisierte Entscheidung im Einzelfall
Automatisierte Entscheidung im Einzelfall
KI-Systeme können Bewerbungen sortieren, Kreditanträge bewerten und Versicherungsfälle prüfen. Die Datenschutz-Grundverordnung (DSGVO) zieht dafür eine Grenze: Über wichtige Angelegenheiten eines Menschen soll nicht allein eine Maschine entscheiden.
Was das Gesetz sagt
Jede Person hat das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.[1] Als Beispiele nennt die Verordnung die automatische Ablehnung eines Online-Kreditantrags und Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen.[2] Der Gerichtshof der Europäischen Union (EuGH) versteht die Vorschrift als grundsätzliches Verbot. Die betroffene Person muss sich nicht eigens darauf berufen.[3]
Erlaubt ist eine solche Entscheidung in drei Fällen:[4]
- Sie ist für den Abschluss oder die Erfüllung eines Vertrags zwischen der Person und dem Verantwortlichen erforderlich.
- Eine Rechtsvorschrift der Union oder eines Mitgliedstaats lässt sie zu und enthält angemessene Schutzmaßnahmen.
- Die Person hat ausdrücklich eingewilligt.
Im ersten und im dritten Fall muss der Verantwortliche mindestens dreierlei ermöglichen: das Eingreifen einer Person auf seiner Seite, die Darlegung des eigenen Standpunkts und die Anfechtung der Entscheidung.[5] Auf besondere Kategorien personenbezogener Daten wie Gesundheitsdaten dürfen sich solche Entscheidungen nur stützen, wenn eine ausdrückliche Einwilligung oder ein erhebliches öffentliches Interesse vorliegt und Schutzmaßnahmen getroffen sind.[6]
Der Verantwortliche informiert darüber, dass eine automatisierte Entscheidungsfindung stattfindet, und gibt aussagekräftige Informationen über die involvierte Logik sowie über Tragweite und angestrebte Auswirkungen.[7] Dasselbe kann die Person als Auskunft verlangen.[8]
Profiling ist jede automatisierte Verarbeitung, die persönliche Aspekte eines Menschen bewertet, etwa Arbeitsleistung, wirtschaftliche Lage, Gesundheit, Zuverlässigkeit oder Verhalten.[9]
Wann ein Mensch wirklich mitentscheidet
Es genügt nicht, einen Menschen der Form halber einzubinden. Die europäischen Aufsichtsbehörden halten in ihren Leitlinien fest: Wer automatisch erstellte Profile routinemäßig anwendet, ohne tatsächlichen Einfluss auf das Ergebnis zu haben, trifft weiterhin eine ausschließlich automatisierte Entscheidung. Entscheiden soll eine Person, die befugt und befähigt ist, das Ergebnis zu ändern, und die alle maßgeblichen Daten berücksichtigt.[10]
Scoring: EuGH und deutsches Recht
Im Dezember 2023 hat der EuGH über eine Wirtschaftsauskunftei entschieden. Schon die automatisierte Erstellung eines Wahrscheinlichkeitswerts zur Zahlungsfähigkeit ist eine „automatisierte Entscheidung im Einzelfall“, sofern von ihm maßgeblich abhängt, ob ein Dritter, etwa eine Bank, einen Vertrag mit der Person schließt, durchführt oder beendet.[11] Andernfalls ließe sich die Vorschrift umgehen.[12]
In Deutschland regelt bis zum 19. November 2026 § 31 BDSG die Verwendung solcher Werte.[13] Ein Gesetz vom 12. Mai 2026 streicht ihn und fügt § 37a BDSG zum Scoring ein[14]; es tritt am 20. November 2026 in Kraft.[15] § 37a lässt Wahrscheinlichkeitswerte als weitere Ausnahme zu, wenn unter anderem besondere Kategorien personenbezogener Daten, Name, Alter, Geschlecht, Anschriftendaten und Daten aus sozialen Netzwerken nicht in die Berechnung einfließen. Betroffene können die Entscheidung anfechten, ihren Standpunkt darlegen und die Entscheidung einer natürlichen Person verlangen.[16]
Bedeutung für KI-Anwendungen
Die Datenschutzkonferenz der deutschen Aufsichtsbehörden (DSK) geht davon aus, dass der Begriff viele KI-Anwendungen erfasst: solche, die selbst entscheiden, und solche, deren Ergebnis eine Entscheidung wesentlich beeinflusst.[17] Sie leitet daraus ab:
- Der Mensch braucht echten Spielraum. Erarbeitet eine KI-Anwendung Vorschläge mit Rechtswirkung für eine Person, muss der entscheidende Mensch einen tatsächlichen Entscheidungsspielraum haben. Personalmangel, Zeitdruck und fehlende Transparenz dürfen nicht dazu führen, dass Ergebnisse ungeprüft übernommen werden.[18]
- Ein Verstoß nach Ansicht der DSK: Eine KI-Anwendung wertet alle Bewerbungen aus und verschickt selbstständig die Einladungen zu den Vorstellungsgesprächen.[19]
- Die Logik muss erklärbar sein. Zu erläutern ist mindestens die Methode der Datenverarbeitung in der konkreten Anwendung.[20]
Wer ein Sprachmodell Bewerbungen, Anträge oder Beschwerden vorsortieren lässt, legt deshalb vorab fest, wer die Ergebnisse prüft und mit welcher Befugnis. Die Aufsichtsbehörden empfehlen, Umfang und Zeitpunkt der menschlichen Beteiligung in der Datenschutz-Folgenabschätzung (DSFA) festzuhalten.[10]
Verwandte Begriffe
- Betroffenenrechte
- Besondere Kategorien personenbezogener Daten
- Einwilligung
- Datenschutz-Folgenabschätzung (DSFA)
- KI-System
- Verantwortlicher
- Hochrisiko-KI-System
- KI-Verordnung
Dazu im Magazin
- Cloud-KI im Unternehmen: Was die DSGVO verlangt
- Datenschutz-Folgenabschätzung für KI-Anwendungen: Wann sie Pflicht ist und wie sie abläuft
- KI-Verordnung und DSGVO: Was seit der Änderung vom Juli 2026 gilt
Quellen
- Art. 22 Abs. 1 DSGVO eur-lex.europa.eu
- Erwägungsgrund 71 DSGVO eur-lex.europa.eu
- EuGH, Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA Holding – Scoring), ECLI:EU:C:2023:957, Rn. 52 eur-lex.europa.eu
- Art. 22 Abs. 2 DSGVO eur-lex.europa.eu
- Art. 22 Abs. 3 DSGVO eur-lex.europa.eu
- Art. 22 Abs. 4 DSGVO eur-lex.europa.eu
- Art. 13 Abs. 2 Buchst. f DSGVO eur-lex.europa.eu
- Art. 15 Abs. 1 Buchst. h DSGVO eur-lex.europa.eu
- Art. 4 Nr. 4 DSGVO eur-lex.europa.eu
- Artikel-29-Datenschutzgruppe, Leitlinien zu automatisierten Entscheidungen im Einzelfall einschließlich Profiling (WP 251 rev.01), zuletzt überarbeitet am 6. Februar 2018, S. 22 edpb.europa.eu
- EuGH, Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA Holding – Scoring), ECLI:EU:C:2023:957, Rn. 73 eur-lex.europa.eu
- EuGH, Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA Holding – Scoring), ECLI:EU:C:2023:957, Rn. 61 eur-lex.europa.eu
- § 31 Abs. 1 BDSG gesetze-im-internet.de
- Gesetz zur Umsetzung der Richtlinie (EU) 2023/2225 über Verbraucherkreditverträge vom 12. Mai 2026, BGBl. 2026 I Nr. 139 (Art. 3: Änderung des Bundesdatenschutzgesetzes), Art. 3 Nr. 3 und 4 recht.bund.de
- Gesetz zur Umsetzung der Richtlinie (EU) 2023/2225 über Verbraucherkreditverträge vom 12. Mai 2026, BGBl. 2026 I Nr. 139 (Art. 3: Änderung des Bundesdatenschutzgesetzes), Art. 16 Abs. 1 recht.bund.de
- Gesetz zur Umsetzung der Richtlinie (EU) 2023/2225 über Verbraucherkreditverträge vom 12. Mai 2026, BGBl. 2026 I Nr. 139 (Art. 3: Änderung des Bundesdatenschutzgesetzes), Art. 3 Nr. 4 recht.bund.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Rn. 22 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Rn. 12 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Rn. 13 datenschutzkonferenz-online.de
- DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Rn. 23 datenschutzkonferenz-online.de