Die Rechtslage in vier Sätzen
Art. 35 DSGVO verlangt eine Folgenabschätzung vor einer Verarbeitung, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen birgt, mit dem Rat des Datenschutzbeauftragten, soweit einer benannt ist. Sie beschreibt Vorgänge und Zwecke, bewertet Notwendigkeit und Verhältnismäßigkeit sowie die Risiken und legt die Abhilfemaßnahmen fest (Art. 35 Abs. 7). Bleibt danach ein hohes Risiko, ist nach Art. 36 vorab die Aufsichtsbehörde zu konsultieren. Der Auftragsverarbeiter unterstützt nach Art. 28 Abs. 3 Buchst. f, die Abschätzung selbst schuldet er nicht.
Was die Muss-Liste der Datenschutzkonferenz sagt
Die Datenschutzkonferenz führt eine ausdrücklich nicht abschließende Liste von Verarbeitungen, für die eine DSFA durchzuführen ist. Zwei Einträge betreffen KI-Werkzeuge im Büro unmittelbar:
Nr. 11: „Einsatz von künstlicher Intelligenz zur Verarbeitung personenbezogener Daten zur Steuerung der Interaktion mit den Betroffenen oder zur Bewertung persönlicher Aspekte der betroffenen Person“
Nr. 8 erfasst die umfangreiche Verarbeitung von Daten über das Verhalten von Beschäftigten, die zur Bewertung ihrer Arbeitstätigkeit so eingesetzt werden kann, dass sich Rechtsfolgen ergeben oder die Betroffenen erheblich beeinträchtigt werden; als Beispiele nennt die Liste Systeme zur Verhinderung von Datenabfluss, die systematische Profile erzeugen, und die zentrale Aufzeichnung von Aktivitäten am Arbeitsplatz.
Daneben gelten die Leitlinien zur Datenschutz-Folgenabschätzung (WP 248 Rev. 01), die der Europäische Datenschutzausschuss übernommen hat. Sie nennen neun Kriterien: Bewertung oder Scoring, automatisierte Entscheidungen mit erheblicher Wirkung, systematische Überwachung, sensible oder höchstpersönliche Daten, Umfang, Verknüpfung von Datenbeständen, schutzbedürftige Betroffene (ausdrücklich auch Beschäftigte), innovative Technologie und Hindernisse bei der Ausübung eines Rechts oder beim Zugang zu einer Leistung. Treffen zwei zusammen, ist nach den Leitlinien in den meisten Fällen eine DSFA nötig; manchmal genügt eines.
Wann es bei einem KI-Werkzeug kippt
- Das Werkzeug zeichnet Tätigkeit auf Nutzerebene auf: Kennung, Zeit, Vorgang, Verbrauch.
- Personenbezogene Daten laufen durch ein Modell: Personalakten, Bewerbungen, Krankmeldungen, Kundendaten.
- Ergebnisse bewerten Personen oder steuern, wie mit ihnen umgegangen wird; dann ist Nr. 11 der Muss-Liste nah.
- Auswertungen sind für Vorgesetzte einsehbar oder lassen sich auf Einzelne zurückrechnen.
- Datenbestände werden verknüpft: Projekt, Nutzer, Qualität, Zeit.
- Ein Agent kann über mehrere Systeme hinweg handeln; das spricht für das Kriterium „innovative Technologie“.
Ein Betrieb ohne Inhaltsprotokollierung und mit ausschließlich zusammengefassten Kennzahlen senkt das Risiko deutlich, er macht die schriftliche Schwellenprüfung aber nicht entbehrlich. Fragt eine Aufsichtsbehörde nach, ist sie das erste Dokument, das Sie vorlegen können, und sie passt oft auf eine Seite. Nach der Orientierungshilfe KI der Datenschutzkonferenz ist diese Vorabprüfung vor der Verarbeitung personenbezogener Daten vorzunehmen (Rn. 38).
Was der Anbieter zuliefern muss
- Systembeschreibung und Datenflüsse: was fließt, wohin, wie oft
- Modell- und Wegangaben je Anbieter: Region, Aufbewahrung, menschliche Durchsicht, Trainingsausschluss
- technische und organisatorische Maßnahmen, prüfbar und nicht als Absichtserklärung
- die Grenzen des Systems und absehbarer Missbrauch, der Abschnitt, den Anbieter am liebsten weglassen
- Restrisiko aus Anbietersicht, ausdrücklich als dessen Sicht gekennzeichnet
- Löschwege einschließlich Warteschlangen, Zwischenspeichern und Sicherungen
Bei Biwak finden Sie die Zulieferung heute an drei Stellen: Datenweg, Empfänger und die Zusagen zu Speicherung und Training in den Abschnitten 9 und 14 der Datenschutzerklärung; Speicherorte, Sicherungspunkt und Netzwerkverbindungen in den Nachweisen; dazu die Verbrauchsdaten je Konto. Offen sind der AV-Vertrag und die TOM-Dokumentation, beide in Vorbereitung, und die Namen der Rechenpartner hinter der PREM SA, die Prem nur auf Anfrage nennt.
Ein Gerüst, mit dem man anfangen kann
- Vorgang benennen
Nicht „KI-Einführung“, sondern der konkrete Vorgang, etwa: „Zusammenfassung eingehender Kundenschreiben durch ein Sprachmodell beim Anbieter“.
- Rechtsgrundlage je Datenart
Nicht je Werkzeug: Die Datenarten unterscheiden sich, und eine pauschale Begründung fällt bei jeder Prüfung auf.
- Notwendigkeit und Verhältnismäßigkeit
Mit der Alternative, die Sie verworfen haben. Ohne sie liest sich der Abschnitt wie eine Begründung im Nachhinein.
- Risiken für die betroffenen Personen
Nicht für das Unternehmen. Das ist der häufigste Fehler in vorgelegten Abschätzungen.
- Maßnahmen und Restrisiko
Mit Datum und verantwortlicher Person.
- Überprüfungszeitpunkt
Ein Modellwechsel oder ein neuer Unterauftragsverarbeiter ist eine wesentliche Änderung und ein Anlass zur Wiedervorlage.
Eine knappe Einführung in Ablauf und Inhalte gibt das Kurzpapier Nr. 5 der Datenschutzkonferenz.
Häufige Fragen
Reicht es, wenn der Anbieter eine DSFA mitliefert?
Nein, geschuldet wird sie vom Verantwortlichen, und das sind Sie. Ein Anbieter kann zuliefern: Systembeschreibung, Datenflüsse, Wege, Aufbewahrung, Maßnahmen, Grenzen und sein Restrisiko. Wer eine fertige „DSFA“ als PDF verteilt, liefert eine Vorlage; die Bewertung Ihres Einsatzes kann er nicht vornehmen.
Brauchen wir eine DSFA für einen Pilot mit fünf Personen?
Die Schwellenprüfung ja. Ob eine vollständige DSFA nötig wird, hängt am Inhalt, nicht an der Kopfzahl: Bewertet die KI Personen, steuert sie den Umgang mit ihnen oder werden Verhaltensdaten Beschäftigter umfangreich ausgewertet, wird sie auch bei fünf Personen wahrscheinlich. Ein kleiner Pilot ist kein Ausnahmetatbestand.
Was, wenn wir gar keine personenbezogenen Daten eingeben?
Dann ist die Schwellenprüfung kurz, und der Ausschluss muss sichergestellt sein, nicht bloß beabsichtigt: Wer Dateien öffnen kann, öffnet irgendwann eine mit Namen darin. Halten Sie fest, welche Bestände ausgeschlossen sind und wie das durchgesetzt wird; nur dann trägt die Feststellung.
Macht ein lokal betriebenes Modell die Prüfung kleiner?
Ja, weil die Übermittlung an einen Modellanbieter, dessen Unterauftragsverarbeiter und die Frage nach Aufbewahrung und menschlicher Durchsicht dort entfallen; die Datenschutzkonferenz hält technisch geschlossene Systeme für vorzugswürdig. Übrig bleibt die eigene Verarbeitung: Zugriffsrechte, Protokolle, Löschung. Biwak bietet keinen solchen Betrieb an; bei Biwak gehört der Modellweg über die PREM SA in die Prüfung.
Brauchen wir zusätzlich eine Grundrechte-Folgenabschätzung nach der KI-Verordnung?
Nur in bestimmten Fällen. Art. 27 der KI-Verordnung verlangt sie ab dem 2. Dezember 2027 von Betreibern bestimmter Hochrisiko-Systeme, etwa öffentlichen Stellen, privaten Anbietern öffentlicher Dienste und bei Bewertungen der Kreditwürdigkeit oder für Lebens- und Krankenversicherungen. Wo sie nötig ist, darf sie seit dem 27. Juli 2026 auf die passenden Abschnitte der DSFA verweisen.
Quellen
- Verordnung (EU) 2016/679 (DSGVO), Art. 35 und 36
- DSK: Muss-Liste zur Datenschutz-Folgenabschätzung, Version 1.1 (PDF)
- Artikel-29-Gruppe / EDSA: Leitlinien zur Datenschutz-Folgenabschätzung, WP 248 Rev. 01
- DSK: Kurzpapier Nr. 5, Datenschutz-Folgenabschätzung (PDF)
- DSK: Orientierungshilfe Künstliche Intelligenz und Datenschutz, 6. Mai 2024 (PDF)
- Biwak: Datenschutzerklärung, Abschnitte 9 und 14
Dieser Text ist keine Rechtsberatung. Er ist die Vorarbeit, die wir für uns selbst machen mussten, mit den Fundstellen, damit Ihre Anwältin nicht bei Null anfängt. Wo eine Frage von Ihren Umständen abhängt, steht es dabei.