Kostenlos testen

Startseite › Magazin › Cloud-KI im Unternehmen: Was die DSGVO verlangt

Cloud-KI im Unternehmen: Was die DSGVO verlangt

· 7 Minuten Lesezeit · Stand: 8. Oktober 2026

Kurz gesagt: Ein Unternehmen darf Cloud-KI mit personenbezogenen Daten einsetzen, wenn es dafür eine Rechtsgrundlage hat, den Anbieter vertraglich als Auftragsverarbeiter bindet, die Betroffenen informiert und die Risiken vorab bewertet. Die deutschen Aufsichtsbehörden empfehlen außerdem, Eingaben nicht für das Training freizugeben, betriebliche Konten zu verwenden und die Beschäftigten zu schulen. Namen zu entfernen macht eine Eingabe in der Regel noch nicht frei von Personenbezug.

1. Klären, ob personenbezogene Daten im Spiel sind

Die DSGVO gilt nur, wenn personenbezogene Daten verarbeitet werden.⁠[1] Es gibt Einsätze ohne solchen Bezug, etwa wenn ein Entwicklungsteam einen Fehler in einem Stück Programmcode suchen lässt. Diese Einsatzfelder unterliegen nicht dem Datenschutzrecht.⁠[2]

Im Büroalltag ist das die Ausnahme. Eine Kundenanfrage, ein Gesprächsprotokoll oder eine Bewerbung enthalten Angaben über Menschen. Die Datenschutzkonferenz der deutschen Aufsichtsbehörden (DSK) weist darauf hin, dass sich der Personenbezug aus vielen Merkmalen ergeben kann, nicht nur aus Namen und Adressen, und dass die Prüfung gründlich und über den gesamten Weg der Daten zu führen ist.⁠[2] Um die Eingabe personenbezogener Daten zu vermeiden, reicht es nach ihrer Auffassung regelmäßig nicht, Namen und Anschriften zu entfernen.⁠[3]

2. Zweck festlegen

Vor dem Einsatz sollte feststehen, wofür die KI-Anwendung genutzt wird. Nur an einem vorab festgelegten Zweck lässt sich prüfen, ob die Verarbeitung erforderlich ist.⁠[4] Die DSGVO verlangt festgelegte, eindeutige und legitime Zwecke und verbietet eine Weiterverarbeitung, die mit ihnen nicht vereinbar ist (Zweckbindung).⁠[5]

3. Rollen klären

Wer über Zwecke und Mittel der Verarbeitung entscheidet, ist Verantwortlicher.⁠[6] Das ist das Unternehmen, das die KI-Anwendung für seine Aufgaben einsetzt. Der externe Anbieter einer Cloud-Lösung handelt dabei nach der Beschreibung der DSK als verlängerter Arm im Auftrag; zwischen beiden besteht häufig eine Auftragsverarbeitung.⁠[7]

Das ändert sich, wenn der Anbieter die Daten für eigene Zwecke verwendet. Ein Auftragsverarbeiter, der selbst Zwecke und Mittel bestimmt, gilt insoweit als Verantwortlicher.⁠[8] Der wichtigste Fall ist das Training: Verwendet der Anbieter Ein- und Ausgaben, um seine Modelle weiterzuentwickeln, und lässt sich das nicht ausschließen, braucht es für diesen Zweck eine eigene Rechtsgrundlage.⁠[9] Entscheiden zwei Stellen gemeinsam über Zwecke und Mittel, etwa wenn sie ein Modell mit ihren Datenbeständen gemeinsam trainieren, kommt eine gemeinsame Verantwortlichkeit in Betracht.⁠[7]

4. Rechtsgrundlage bestimmen

Jeder Verarbeitungsschritt mit personenbezogenen Daten braucht eine Rechtsgrundlage.⁠[10] In Unternehmen kommen vor allem die Erfüllung eines Vertrags mit der betroffenen Person und das berechtigte Interesse in Betracht.⁠[11] Wer sich auf das berechtigte Interesse stützt, muss abwägen und kann die Verarbeitung nicht damit rechtfertigen, wenn die Interessen der Betroffenen überwiegen.⁠[12]

Für die Weitergabe an einen Auftragsverarbeiter braucht es nach Auffassung der DSK regelmäßig keine weitere Rechtsgrundlage als die, auf die das Unternehmen die Verarbeitung selbst stützt.⁠[13] Anders liegt es, wenn der Anbieter die Daten als eigener Verantwortlicher erhält: Dann ist die Übermittlung an ihn eine Verarbeitung, die ihrerseits gerechtfertigt sein muss.⁠[3]

Strenger sind die Regeln für besondere Kategorien wie Gesundheitsdaten, Angaben zur Religion oder zur Gewerkschaftszugehörigkeit. Ihre Verarbeitung ist grundsätzlich verboten und nur unter den Ausnahmen des Art. 9 Abs. 2 DSGVO erlaubt; das gilt für die Eingabe ebenso wie für die Ausgabe.⁠[14]

5. Vertrag mit dem Anbieter schließen und lesen

Die Auftragsverarbeitung braucht einen Vertrag, der Gegenstand, Dauer, Art und Zweck der Verarbeitung, die Art der Daten und die Kategorien der betroffenen Personen festlegt (Auftragsverarbeitungsvertrag (AVV)).⁠[15] Bei KI-Diensten lohnt der Blick auf vier Stellen:

  • Weisungen: Der Anbieter verarbeitet nur auf dokumentierte Weisung. Eine Nutzung der Eingaben für eigenes Training passt dazu nicht, solange sie nicht vereinbart und eigens gerechtfertigt ist.⁠[16]
  • Weitere Auftragsverarbeiter: Unterauftragnehmer, etwa Betreiber von Rechenzentren, dürfen nur mit Genehmigung eingesetzt werden; über Änderungen ist zu informieren.⁠[17]
  • Löschung: Nach Ende der Leistung werden die Daten gelöscht oder zurückgegeben.⁠[18]
  • Unterstützung: Der Anbieter muss helfen, Anfragen von Betroffenen zu beantworten.⁠[19] Dazu gehört, dass er die Unterlagen liefert, die das Unternehmen für seine eigenen Informationspflichten braucht.⁠[20]

6. Dienst auswählen und einstellen

Die DSK unterscheidet geschlossene und offene Systeme. In einem geschlossenen System bleibt die Verarbeitung in einer abgegrenzten Umgebung, nur ein enger Kreis hat Zugriff, und der Anbieter verwendet die Daten nicht zum Training. Offene Systeme werden als Cloud-Lösung für einen unbestimmten Kreis betrieben; die Eingaben verlassen den geschützten Bereich. Die Aufsichtsbehörden halten technisch geschlossene Systeme für vorzugswürdig.⁠[21]

Für die Einrichtung nennen sie konkrete Punkte:

  • Training: Vorzuziehen sind Anwendungen, die Ein- und Ausgaben nicht zu Trainingszwecken verwenden.⁠[9]
  • Verlauf: Ob Eingaben gespeichert werden, muss für die Nutzer erkennbar und wählbar sein.⁠[22]
  • Voreinstellungen: Konten für Beschäftigte lassen sich von Beginn an so einrichten, dass keine Eingaben zum Training verwendet werden und kein Verlauf über die Sitzung hinaus gespeichert wird.⁠[23] Das entspricht dem Datenschutz durch Technikgestaltung.⁠[24]
  • Konten: Der Arbeitgeber stellt Geräte und Konten bereit. Die Konten sollten nicht den Namen einzelner Beschäftigter tragen; für die Anmeldung ist eine Funktionsadresse geboten.⁠[25]

7. Betroffene informieren

Die Datenschutzinformation nennt die Zwecke und die Rechtsgrundlage, die Empfänger oder Kategorien von Empfängern und eine beabsichtigte Übermittlung in ein Drittland.⁠[26] Der Anbieter der KI-Anwendung ist Empfänger. Das gilt nach der Rechtsprechung des Gerichtshofs der Europäischen Union (EuGH) auch dann, wenn er nur pseudonymisierte Daten erhält: Für die Informationspflicht kommt es auf die Sicht des Verantwortlichen im Zeitpunkt der Erhebung an.⁠[27] Mehr dazu im Artikel Pseudonymisiert ist nicht anonym: Was der Unterschied für KI-Projekte bedeutet.

8. Risiken bewerten und Schutzmaßnahmen treffen

Vor der Verarbeitung ist das Risiko zu bewerten. Ergibt sich voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen, ist eine Datenschutz-Folgenabschätzung erforderlich; beim Einsatz von KI-Anwendungen wird das nach Einschätzung der DSK vielfach der Fall sein.⁠[28] Ihre Liste der Verarbeitungen, für die eine Folgenabschätzung durchzuführen ist, nennt ausdrücklich den Einsatz künstlicher Intelligenz zur Steuerung der Interaktion mit Betroffenen oder zur Bewertung persönlicher Aspekte, etwa einen Kundensupport, der mit Kunden im Gespräch interagiert.⁠[29] Einzelheiten stehen im Artikel Datenschutz-Folgenabschätzung für KI-Anwendungen: Wann sie Pflicht ist und wie sie abläuft.

Unabhängig davon sind technische und organisatorische Maßnahmen zu treffen, die dem Risiko angemessen sind. Die Verordnung nennt als Beispiele die Pseudonymisierung und die Verschlüsselung.⁠[30]

9. Menschen entscheiden lassen und Ergebnisse prüfen

Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung dürfen grundsätzlich nicht ausschließlich automatisiert fallen (Automatisierte Entscheidung im Einzelfall).⁠[31] Macht eine KI-Anwendung Vorschläge, muss der Mensch, der entscheidet, einen tatsächlichen Spielraum haben. Eine nur formale Beteiligung genügt nach Auffassung der DSK nicht; als Verstoß nennt sie eine Anwendung, die Bewerbungen auswertet und die Einladungen selbstständig verschickt.⁠[32]

Ergebnisse mit Personenbezug sind vor der weiteren Verwendung zu prüfen, denn unrichtige Ergebnisse können zu unzulässigen Verarbeitungen führen.⁠[33] Betroffene müssen ihre Rechte auf Berichtigung und Löschung ausüben können. Ein nachgeschalteter Filter, der unerwünschte Ausgaben unterdrückt, ist nach Auffassung der DSK nicht generell eine Löschung.⁠[34]

10. Regeln aufstellen und Beschäftigte schulen

Ohne klare Regeln besteht das Risiko, dass Beschäftigte KI-Anwendungen eigenmächtig nutzen. Die DSK empfiehlt dokumentierte Weisungen dazu, welche Anwendungen zu welchen Zwecken eingesetzt werden dürfen, mit Beispielen für erlaubte und untersagte Fälle.⁠[35] Beschäftigte sollten durch Schulungen, Leitfäden und Gespräche sensibilisiert werden.⁠[36] Datenschutzbeauftragte sollten eingebunden sein, wenn Entscheidungen über KI-Anwendungen vorbereitet werden.⁠[37]

Daneben steht eine Pflicht aus der KI-Verordnung: Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals zu unterstützen. In der seit Juli 2026 geltenden Fassung stellt die Vorschrift klar, dass damit kein bestimmtes Kompetenzniveau garantiert werden muss.⁠[38]

Sonderfall: Anbieter außerhalb der EU

Offene Systeme gehen nach der Beobachtung der DSK häufig mit Übermittlungen in Drittstaaten einher.⁠[21] Dann gelten zusätzlich die Regeln für den Drittlandtransfer: Eine Übermittlung ist nur zulässig, wenn ein Angemessenheitsbeschluss vorliegt oder geeignete Garantien bestehen.⁠[39] Auch eine Auftragsverarbeitung außerhalb der EU ist möglich, wenn diese Anforderungen eingehalten sind.⁠[13] Für die USA erklärt der Artikel KI-Dienste aus den USA: Was beim Datentransfer gilt den Stand.

Für Entwickler: weniger zeigen, als möglich wäre

Viele der genannten Pflichten lassen sich in der Architektur vorbereiten:

  • Nur das Nötige in den Prompt. Personenbezogene Daten müssen auf das für den Zweck notwendige Maß beschränkt sein (Datenminimierung).⁠[40] Eine Anfrage an das Modell braucht selten den ganzen Datensatz.
  • Kennungen vor dem Versand ersetzen. Pseudonymisierung ist eine der Maßnahmen, die die Verordnung für die Technikgestaltung ausdrücklich nennt.⁠[41] Der Pseudonymisierer setzt das als vorgeschaltete Stufe um: Er ersetzt erkannte Angaben durch Ersatzwerte und setzt die Originale in der Antwort wieder ein. Die übrigen Punkte dieser Liste bleiben davon unberührt.
  • Speicherdauer begrenzen. Verläufe, Protokolle und Zuordnungen werden nur so lange aufbewahrt, wie der Zweck es erfordert.⁠[42]
  • Ausgaben prüfbar halten. Wer das Ergebnis weiterverarbeitet, braucht eine Stelle im Ablauf, an der ein Mensch es prüfen kann.⁠[33]

Was bei Verstößen droht

Verstöße gegen die Grundsätze der Verarbeitung, gegen die Regeln zur Rechtsgrundlage, gegen die Rechte der Betroffenen und gegen die Vorschriften zum Drittlandtransfer können mit Geldbußen bis zu 20 Millionen Euro oder bis zu 4 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.⁠[43] Für Pflichten wie den Vertrag zur Auftragsverarbeitung, die Sicherheit der Verarbeitung und die Folgenabschätzung liegt der Rahmen bei 10 Millionen Euro oder 2 Prozent.⁠[44]

Begriffe in diesem Artikel

Quellen

  1. Art. 2 Abs. 1 DSGVO eur-lex.europa.eu
  2. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.3 datenschutzkonferenz-online.de
  3. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 3.1 datenschutzkonferenz-online.de
  4. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.1 datenschutzkonferenz-online.de
  5. Art. 5 Abs. 1 Buchst. b DSGVO eur-lex.europa.eu
  6. Art. 4 Nr. 7 DSGVO eur-lex.europa.eu
  7. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.1 datenschutzkonferenz-online.de
  8. Art. 28 Abs. 10 DSGVO eur-lex.europa.eu
  9. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.9 datenschutzkonferenz-online.de
  10. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.5 datenschutzkonferenz-online.de
  11. Art. 6 Abs. 1 Buchst. b und f DSGVO eur-lex.europa.eu
  12. Art. 6 Abs. 1 Buchst. f DSGVO eur-lex.europa.eu
  13. DSK, Kurzpapier Nr. 13: Auftragsverarbeitung, Art. 28 DS-GVO, Stand 17. Dezember 2018, S. 2 datenschutzkonferenz-online.de
  14. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 3.2 datenschutzkonferenz-online.de
  15. Art. 28 Abs. 3 DSGVO eur-lex.europa.eu
  16. Art. 28 Abs. 3 Buchst. a DSGVO eur-lex.europa.eu
  17. Art. 28 Abs. 2 DSGVO eur-lex.europa.eu
  18. Art. 28 Abs. 3 Buchst. g DSGVO eur-lex.europa.eu
  19. Art. 28 Abs. 3 Buchst. e DSGVO eur-lex.europa.eu
  20. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.8 datenschutzkonferenz-online.de
  21. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.7 datenschutzkonferenz-online.de
  22. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.10 datenschutzkonferenz-online.de
  23. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.5 datenschutzkonferenz-online.de
  24. Art. 25 Abs. 2 DSGVO eur-lex.europa.eu
  25. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.4 datenschutzkonferenz-online.de
  26. Art. 13 Abs. 1 Buchst. c, e und f DSGVO eur-lex.europa.eu
  27. EuGH, Urteil vom 4. September 2025, C-413/23 P (EDSB/SRB), ECLI:EU:C:2025:645, Rn. 111–112 eur-lex.europa.eu
  28. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.3 datenschutzkonferenz-online.de
  29. DSK, Liste der Verarbeitungstätigkeiten, für die eine Datenschutz-Folgenabschätzung durchzuführen ist, Version 1.1 vom 17. Oktober 2018, Nr. 11 datenschutzkonferenz-online.de
  30. Art. 32 Abs. 1 Buchst. a DSGVO eur-lex.europa.eu
  31. Art. 22 Abs. 1 DSGVO eur-lex.europa.eu
  32. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.6 datenschutzkonferenz-online.de
  33. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 3.3 datenschutzkonferenz-online.de
  34. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.11 datenschutzkonferenz-online.de
  35. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.2 datenschutzkonferenz-online.de
  36. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.7 datenschutzkonferenz-online.de
  37. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.12 datenschutzkonferenz-online.de
  38. Art. 4 Abs. 1 KI-Verordnung eur-lex.europa.eu
  39. Art. 44 DSGVO eur-lex.europa.eu
  40. Art. 5 Abs. 1 Buchst. c DSGVO eur-lex.europa.eu
  41. Art. 25 Abs. 1 DSGVO eur-lex.europa.eu
  42. Art. 5 Abs. 1 Buchst. e DSGVO eur-lex.europa.eu
  43. Art. 83 Abs. 5 DSGVO eur-lex.europa.eu
  44. Art. 83 Abs. 4 DSGVO eur-lex.europa.eu

Weitere Artikel