Nach der Orientierungshilfe ‚Künstliche Intelligenz und Datenschutz‘ aus dem Mai 2024[1] hat die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) eine neue Orientierungshilfe zu Künstlicher Intelligenz (KI) veröffentlicht.[2]
Datenschutzkonferenz
Die Datenschutzkonferenz ist das Gremium der deutschen Datenschutzaufsichtsbehörden. Die Konferenz fasst ihre offiziellen Ergebnisse vor allem in Beschlüssen und Entschließungen zusammen und erstellt Orientierungshilfen, Kurzpapiere und Anwendungshinweise zu Datenschutzthemen. Die auf der Konferenz erzielten gemeinsamen Positionen und erarbeiteten Materialien sind rechtlich nicht bindend. Aufgrund ihrer fachlichen Kompetenz und der Autorität der Konferenzteilnehmenden haben sie jedoch faktische Auswirkungen auf die Entwicklung des Datenschutzes.
Technische und organisatorische Maßnahmen für die vier Phasen des KI-Lebenszyklus
Die erwähnte Orientierungshilfe stellt empfohlene technische und organisatorische Maßnahmen (TOMs) bei der Entwicklung und dem Betrieb von KI-Systemen dar. Der Lebenszyklus von KI-Systemen wird in vier Phasen eingeteilt. Der Lebenszyklus beginnt mit der Design-Phase, in der vor allem Daten für das Trainieren, Testen und Validieren der KI-Modelle erhoben oder bestehende Datensets zu diesen Zwecken beschafft werden.
Im Anschluss findet die Entwicklungs-Phase statt, in der die Daten aufbereitet und das Training sowie die Tests und die Validierung durchgeführt werden.
In der Einführungsphase werden die entwickelten KI-Modelle und Systeme sowie notwendige Updates verteilt.
Der datenschutzrelevante Lebenszyklus schließt mit dem Betrieb und Monitoring des Systems. In dieser Phase wird die Nutzung datenschutzkonform durchgeführt. Vor allem bei KI-Systemen spielt in dieser Phase eine Rückkopplung durch die Weiterentwicklung des Systems (selbstlernend oder über Updates) durch ein Training mittels Ein- und Ausgabedaten eine entscheidende Rolle. Liegen Entwicklung und Anwendung in einer Hand, kann dieselbe natürliche oder juristische Person für alle vier dargestellten Phasen datenschutzrechtlich verantwortlich sein. Dies ist jedoch nicht zwingend.
Wird ein System durch Verantwortlichen A entwickelt und dann an B übergeben, ist dieser zumindest in der Phase des Betriebs und Monitorings datenschutzrechtlich Verantwortlicher für die Datenverarbeitung, da er die Zwecke und Mittel der Datenverarbeitung allein festlegt (vgl. Art. 4 Nr. 7 DSGVO). Die Verantwortlichkeit für verschiedene Phasen des KI-Lebenszyklus kann also bei verschiedenen natürlichen oder juristischen Personen liegen. Selbstredend ist in jeder Phase auch eine gemeinsame Verantwortlichkeit mehrerer Akteure zugleich denkbar (vgl. Art. 26 DSGVO).[3]
Für jede Phase werden in der Orientierungshilfe Herausforderungen dargestellt, die sich insbesondere mit Bezug auf KI-Relevanz entfalten. Anschließend werden passende TOMs zusammengestellt, um den Herausforderungen zu begegnen und die Datenschutzkonformität der Systeme und ihrer Nutzung sicherzustellen.
Die Gewährleistungsziele des Standard-Datenschutzmodells als Grundlage
Dabei werden die Maßnahmen innerhalb der vier Stufen anhand der Gewährleistungsziele des Standard-Datenschutzmodells (nachfolgend: SDM)[4] eingeteilt.[5] Das Standard-Datenschutzmodell stellt eine Methode zur Datenschutzberatung und -prüfung auf der Basis einheitlicher Gewährleistungsziele dar.
Die Anforderungen der Datenschutzgrundverordnung (DSGVO) werden durch geeignete Mechanismen in technische und organisatorische Maßnahmen überführt. Dies betrifft insbesondere:
- Maßnahmen zur Gewährleistung der Rechte Betroffener (Art. 12 ff. DSGVO)
- Maßnahmen zur Umsetzung der Datenschutzgrundsätze (Art. 25 DSGVO i. V. m. Art. 5 DSGVO)
- Maßnahmen zur Gewährleistung der Sicherheit der Verarbeitung (Art 32 Abs. 1 DSGVO)
- Verfahren zur regelmäßigen Überprüfung, Bewertung und Evaluierung der Wirksamkeit der technischen und organisatorischen Maßnahmen (Art. 24 Abs. 1 S. 2, Art. 32 Abs. 1 S. 1 lit. d DSGVO
Die Gewährleistungsziele
Das SDM ordnet die datenschutzrechtlichen Anforderungen der DSGVO den sieben Gewährleistungszielen zu:
Transparenz
(≈ Datenschutzgrundsätze der Transparenz sowie der Rechenschaftspflicht Art. 5 Abs. 1 lit. a, Abs. 2 DSGVO[6])
Das Gewährleistungsziel der Transparenz ist sehr weit gefasst. Sowohl die Datenerhebung als auch die Datenverarbeitung müssen für alle Betroffenen sowie weitere beteiligte Akteure (Betreiber von Systemen, zuständige Kontrollinstanzen) klar und überschaubar sein.
Datenminimierung
(≈ Datenschutzgrundsätze der Datenminimierung sowie der Speicherbegrenzung Art. 5 Abs. 1 lit. c, e DSGVO)
Das Gewährleistungsziel der Datenminimierung schreibt fest, die Datenverarbeitung in Abhängigkeit vom angegebenen Zweck auf ein angemessenes, erhebliches und notwendiges Maß zu beschränken. (Datenschutzgrundsatz der Datenminimierung Art. 5 Abs. 1 lit. c DSGVO)
Nichtverkettung
(≈ Datenschutzgrundsatz der Zweckbindung Art. 5 Abs. 1 lit. b DSGVO)
Das Gewährleistungsziel der Nichtverkettung verbietet es, personenbezogene Daten zusammenzuführen. Dies gilt umso mehr, wenn die Daten zu unterschiedlichen Zwecken erhoben wurden.
Intervenierbarkeit
Das Gewährleistungsziel der Intervenierbarkeit gewährleistet, dass betroffenen Personen die Ausübung ihrer Rechte nach der DSGVO (Auskunft, Berichtigung, Löschung etc.) bei Bestehen der gesetzlichen Voraussetzungen unverzüglich und wirksam ermöglicht wird.
Verfügbarkeit
Das Gewährleistungsziel der Verfügbarkeit erfordert, dass der Zugriff auf personenbezogene Daten und ihre Verarbeitung im vorgesehenen Prozess unverzüglich erfolgen kann.
Integrität
(≈ Datenschutzgrundsätze der Richtigkeit sowie Integrität und Vertraulichkeit Art. 5 Abs. 1 lit. d, f DSGVO)
Das Gewährleistungsziel der Integrität umfasst mehrere Dimensionen. Unter anderem müssen personenbezogene Daten unversehrt, vollständig, richtig und aktuell sein.
Vertraulichkeit
(≈ Datenschutzgrundsatz der Integrität und Vertraulichkeit Art. 5 Abs. 1 lit. f DSGVO)
Das Gewährleistungsziel der Vertraulichkeit schreibt vor, dass Unbefugte keinen Zugriff auf personenbezogene Daten haben und diese auch nicht nutzen dürfen.
Für jedes Gewährleistungsziel enthält das SDM einen Katalog mit technischen und organisatorischen Maßnahmen. Die sieben Gewährleistungsziele müssen im Rahmen einer Gesamtbetrachtung miteinander in Ausgleich gebracht werden.
Die KI-spezifischen Besonderheiten bezogen auf die datenschutzrechtlichen Gewährleistungsziele
Die folgenden Aufzählungen stellen exemplarisch Anforderungen der Gewährleistungsziele dar, die von der DSK im Rahmen der vier Phasen des KI-Lebenszyklus identifiziert wurden.
- Transparenz: Bzgl. der Daten: Fest- und Offenlegen des Verarbeitungszwecks (Rechtsgrundlage i. S. d. Art. 6 DSGVO); Erforderlichkeit der Datenverarbeitung für die Zweckerreichung; Dokumentation der Datensätze z. B. mittels Datasheets for datasets;
Bzgl. des KI-Systems: fest- und offenlegen der System-Architektur, Auswahl der Gruppe von infrage kommenden Algorithmen etc. - Datenminimierung: Analyse der Notwendigkeit der Erhebung von Daten (u. U. Nutzung bereits vorhandener Datensets aus verlässlichen Quellen)
- Nichtverkettung: keine Herleitung von Daten aus scheinbar unkritischen personenbezogenen Daten
- Intervenierbarkeit Sicherstellung bzgl. der Rohdaten: Setzen einer ausreichenden Frist zur Ausübung der Betroffenenrechte zwischen Erhebung und Training, Sicherstellung bzgl. der KI-Modelle: Möglichkeiten des ‚machine-unlearning‘
- Verfügbarkeit: Datenmanagement-Systeme
- Integrität: Vertrauenswürdigkeit der Quelle; vortrainierte Modelle: Backdoor-Poisoning
- Vertraulichkeit: ausreichende Generalisierung des Modells
- Transparenz: Auswahl & Dokumentation von KI-Algorithmen für die KI-Modelle; Erklärbarkeit des KI-Systems (sicherzustellen z. B. durch geeignete Validierungsmethoden)
- Datenminimierung: Prüfung der Notwendigkeit der Datenverarbeitung zur Zweckerreichung für den konkreten Verarbeitungsschritt
- Nichtverkettung: Prüfung auf ungewollte Zwischenergebnisse
- Intervenierbarkeit: Insb. im Falle von automatisierter Entscheidung (Art. 22 DSGVO) stellt Nachvollziehbarkeit eine Voraussetzung für Intervenierbarkeit dar
- Verfügbarkeit: Sicherstellung eines zuverlässigen Dauerbetriebs → Resilienz gegen Störungen
- Integrität: des Modells (Robustheit) & der Daten (data poisoning)
- Vertraulichkeit: Wo wird das Modell trainiert (eigene Infrastruktur/Auftragsverarbeitung/ lokale Verarbeitung auf Endgeräten); need-to-know-Prinzip (insbesondere auch bzgl. personenbezogener Zwischenergebnisse)
- Transparenz: verständliche Dokumentation → Warum KI? → Informationen über die Funktionsweise insb. über automatisierte Entscheidungsfindung, menschliche Eingriffsmöglichkeiten und Betroffenenrechte → besondere Rolle spielt ‚Data protection by default‘ (Art. 25 Abs. 2 DSGVO)
- Datenminimierung: muss mit den Anforderungen der Rechenschafts- und Nachweispflicht in Ausgleich gebracht werden
- Nichtverkettung: keine KI-spezifischen Anforderungen durch die DSK
- Intervenierbarkeit: keine KI-spezifischen Anforderungen durch die DSK
- Verfügbarkeit: keine KI-spezifischen Anforderungen durch die DSK
- Integrität: keine KI-spezifischen Anforderungen durch die DSK
- Vertraulichkeit: Müssen Trainingsdaten mit ausgebracht werden? Besitzen die Modelle und Systeme Personenbezug? → Verwendung kryptographischer Verfahren zur Risikominderung
- Transparenz: Entscheidungsunterstützende Systeme: Entscheidungsrelevante Inhalte müssen deterministisch & reproduzierbar sein → ,aßgebliche Modellparameter & Verarbeitungsschritte für die Ausgabe müssen revisionssicher dokumentiert sein
- Datenminimierung: Regelmäßige Prüfung der Erforderlichkeit der Daten für das KI-System; Neuprüfung vor und nach Updates
- Nichtverkettung: keine KI-spezifischen Anforderungen durch die DSK
- Intervenierbarkeit: Notwendigkeit in Abhängigkeit von den Risiken des Systems umzusetzen durch z. B.: Möglichkeit des menschlichen Eingriffs in KI-Entscheidungen; ‚machine unlearning‘ etc.
- Verfügbarkeit: keine KI-spezifischen Anforderungen durch die DSK
- Integrität: Weiterentwicklungen von Technik, Recht etc. sind zu beachten; Cyber-Security
- Vertraulichkeit: kein unnötiger Datenzugriff
Revisionssichere Dokumentation
Dokumente sollten so gespeichert und verwaltet werden, dass ihre Unveränderbarkeit, Vollständigkeit, Nachvollziehbarkeit und Fälschungssicherheit jederzeit gewährleistet sind. Dies bedeutet, dass alle relevanten Änderungen dokumentiert und so protokolliert werden, sodass die Integrität der Daten auch bei einer externen Prüfung nachgewiesen werden kann. Moderne TOMs wie Zugriffsprotokolle, Versionsverwaltung und digitale Signaturen unterstützen dabei, die Dokumente vor unbefugter Manipulation zu schützen.
Zusammenfassung und Fazit
Bei Künstlicher Intelligenz handelt es sich um eine stark datengetriebene Technologie. Werden große Mengen an personenbezogenen Daten verarbeitet, birgt dies häufig eine hohe Brisanz für Betroffene. Insbesondere besteht immer die Möglichkeit, dass durch Kombination von Daten neue und unvorhergesehene Zusammenhänge entstehen können, die u. U. eine höhere datenschutzrechtliche Brisanz besitzen als die isolierten Ausgangsdaten.
Aus diesem Grund ist bei der Entwicklung von KI-Systemen und Modellen immer ein besonderes Augenmerk auf den Datenschutz zu legen. Die Orientierungshilfe erläutert, wie diese Anforderungen der DSGVO im Rahmen des Standard-Datenschutzmodells (SDM) und entlang des Lebenszyklus von KI-Systemen konkret umgesetzt werden sollten. Dabei werden gerade die KI-spezifischen Herausforderungen beleuchtet.
Durch die Kombination technischer und organisatorischer Maßnahmen und die sorgfältige Abwägung aller Gewährleistungsziele kann Datenschutz in allen Phasen des KI-Lebenszyklus effektiv gewährleistet werden. So stellt die Orientierungshilfe zum einen sicher, dass die Rechte betroffener Personen gewahrt werden. Sie schafft daneben aber auch eine gewisse Sicherheit für entwickelnde Unternehmen, indem die Anforderungen, welche das Gesetz stellt, von Vertretern der zuständigen Aufsichtsbehörden interpretiert und konkretisiert werden. Auch wenn die spezifischen Anforderungen immer vom KI-System sowie der voraussichtlichen Anwendung abhängen, stellt die Orientierungshilfe einen Baustein zur Orientierung im KI-Dschungel dar.
Quellen und weiterführende Links
- Wissensbox Recht: Datenschutzkonforme Auswahl und Implementierung von KI, abrufbar unter: https://digitalzentrum-chemnitz.de/wissen/datenschutzkonforme-auswahl-und-implementierung-von-ki/ (28.10.2025).
- DSK, Orientierungshilfe, abrufbar unter: https://www.datenschutzkonferenz-online.de/media/oh/DSK-OH_KI-Systeme.pdf (28.10.2025).
- Zur gemeinsamen Verantwortlichkeit vgl. DSK, Kurzpapier Nr. 16 Gemeinsam für die Verarbeitung Verantwortliche, Art. 26 DS-GVO, abrufbar unter: https://www.datenschutzkonferenz-online.de/media/kp/dsk_kpnr_16.pdf (10.11.2025).
- DSK, Das Standard-Datenschutzmodell, abrufbar unter: https://www.datenschutzkonferenz-online.de/media/ah/SDM-Methode-V31.pdf (06.11.2025).
- Neben dem SDM weist die DSK zusätzlich auch auf die Empfehlungen zum IT-Grundschutz des BSI hin.
- Eine vollständige Übersicht aller relevanten Anforderung der DSGVO auch neben den Datenschutzgrundsätzen ist dem SDM zu entnehmen: DSK, Das Standard-Datenschutzmodell, S. 28 f., abrufbar unter: https://www.datenschutzkonferenz-online.de/media/ah/SDM-Methode-V31.pdf
