Mit dem konkreten Arbeitsablauf beginnen
Ein KI-Vertrag lässt sich nicht sinnvoll allein anhand eines Marketingversprechens prüfen. Beschreiben Sie zuerst den vorgesehenen Prozess: Wer gibt welche Daten ein, welche Quellen werden verbunden, welche Ausgabe entsteht und wer sieht sie? Dazu gehören auch Dateien, Prompts, Suchindizes, Protokolle und Daten aus angeschlossenen Werkzeugen.
Ein Beispiel: Ein Kundenservice-Team soll Antworten aus einem internen Handbuch vorbereiten. Für einen ersten Test reichen möglicherweise freigegebene, nicht personenbezogene Beispieldaten. Sollen später Kundenvorgänge eingebunden werden, entstehen zusätzliche Fragen zu Zugriff, Aufbewahrung und Berechtigung. Die Prüfung folgt also dem tatsächlichen Einsatz und wird bei einer Erweiterung wiederholt.
Rollen und Vereinbarungen klären
Prüfen Sie, ob das Unternehmen für den jeweiligen Vorgang Verantwortlicher ist und ob der Anbieter als Auftragsverarbeiter handelt. Die Rollen können für unterschiedliche Verarbeitungsvorgänge verschieden ausfallen. Werden personenbezogene Daten im Auftrag verarbeitet, verlangt Artikel 28 DSGVO einen Vertrag oder ein anderes Rechtsinstrument mit den dort genannten Inhalten.
Der Vertrag sollte unter anderem Gegenstand und Dauer, Art und Zweck der Verarbeitung, Datenarten, betroffene Personen sowie Rechte und Pflichten festhalten. Auch Weisungen, Vertraulichkeit, Sicherheitsmaßnahmen, Unterauftragnehmer und Unterstützung bei Betroffenenrechten gehören in die Prüfung. Ob und wie eine Vereinbarung erforderlich ist, hängt vom konkreten Datenfluss und der Rolle des Anbieters ab.
Training, Aufbewahrung und Löschung unterscheiden
Fragen Sie getrennt nach der Nutzung für Modelltraining, der Speicherung für den Betrieb und möglichen Protokollen zur Sicherheit oder Missbrauchserkennung. „Nicht für Training verwendet“ beantwortet nicht automatisch, wie lange Daten gespeichert werden oder ob Dienstleister Zugriff erhalten. Prüfen Sie, welche Vertragsfassung und welche Einstellungen für die gebuchte Edition gelten.
Lassen Sie sich den Weg einer Löschung erläutern: Was geschieht mit Originaldateien, Suchindizes, Ausgaben, Sicherungen und Protokollen? Welche Fristen und Ausnahmen gelten? Wenn eine Funktion einen externen Dienst aufruft, kann dessen Verarbeitung zusätzlich relevant sein. Dokumentieren Sie Aussagen und die jeweils geltenden Vertragsdokumente mit Datum.
Standorte, Transfers und Unterauftragnehmer
Ermitteln Sie, wo Verarbeitung und Support stattfinden und welche Unterauftragnehmer eingebunden sind. Ein Speicherort in der EU beantwortet nicht allein jede Frage zu Zugriffen oder internationalen Transfers. Klären Sie, ob und auf welcher Grundlage personenbezogene Daten in Drittländer übermittelt oder von dort zugänglich gemacht werden.
Prüfen Sie Änderungen an Unterauftragnehmern und Zuständigkeiten für Benachrichtigung und Widerspruch. Bei einem konkreten Transfer sind die anwendbaren Mechanismen und erforderlichen zusätzlichen Maßnahmen rechtlich und technisch zu beurteilen; ein pauschales Urteil allein anhand des Firmensitzes hilft nicht weiter.
Zugriff, besondere Daten und Prüfpflichten
Vergeben Sie Rechte nach Aufgabe und testen Sie, ob Änderungen an Gruppen und Dokumentberechtigungen auch in verbundenen KI-Funktionen wirksam werden. Klären Sie Protokollzugriff, Administrationsrechte, Multifaktor-Anmeldung und den Umgang mit Sicherheitsvorfällen. Für sensible Informationen wie Gesundheitsdaten oder vertrauliche Mandate kann eine engere Prüfung erforderlich sein.
Ein Modell ist nicht automatisch anonym, weil es viele Daten verarbeitet. Der Europäische Datenschutzausschuss weist darauf hin, dass Anonymität und Rechtsgrundlage im Kontext des konkreten Modells und der Verarbeitung zu beurteilen sind. Prüfen Sie außerdem, ob eine Datenschutz-Folgenabschätzung erforderlich ist; dies hängt vom Risiko und den jeweiligen Umständen ab.
Entscheidung dokumentieren und später erneut prüfen
Eine kurze Beschaffungsakte enthält Datenfluss, Rollen, Vertragsversion, offene Fragen, technische Einstellungen und die verantwortlichen Personen. Halten Sie fest, welche Punkte der Anbieter belegt hat und welche vor einem Rollout noch geklärt werden müssen. Eine interne Freigabe kann auf einen begrenzten Pilot und eine konkrete Datenklasse beschränkt sein.
Wiederholen Sie die Prüfung bei neuen Konnektoren, Funktionen, Unterauftragnehmern oder geänderten Verträgen. Diese Checkliste unterstützt die Vorbereitung; die rechtliche Bewertung und die passenden Schutzmaßnahmen sind für den konkreten Fall zu treffen.
FAQ
Häufige Fragen
Ist für jedes KI-Tool immer ein AVV nötig?
Nicht pauschal. Entscheidend ist, ob der Anbieter für den konkreten Verarbeitungsvorgang personenbezogene Daten als Auftragsverarbeiter verarbeitet. Die Rollen müssen anhand des tatsächlichen Datenflusses beurteilt werden.
Reicht die Zusage „kein Training“ für Datenschutz aus?
Nein. Speicherung, Unterauftragnehmer, Zugriffe, Löschung und mögliche Transfers sind eigenständig zu prüfen.
Quellen und Herstellerseiten