Welche Ereignisse gehören in den Plan?
Ein KI-Vorfall kann viele Formen haben: Ein Assistent zeigt Informationen aus einem unberechtigten Dokument, ein Agent bearbeitet den falschen Datensatz oder eine generierte Antwort gelangt ungeprüft an Kunden. Auch eine verdächtige Anweisung in einer verbundenen Datenquelle kann ein Anlass für die Sicherheitsprüfung sein.
Nicht jedes fehlerhafte Ergebnis ist ein Sicherheitsvorfall oder eine Datenschutzverletzung. Trotzdem braucht jedes Team einen klaren Weg, Beobachtungen zu melden und Auswirkungen zu begrenzen. Ein erster Hinweis sollte keine abschließende rechtliche Bewertung voraussetzen.
Sofort reagieren: stoppen und begrenzen
Wenn ein Agent unerwartet handelt, stoppen Sie die betroffene Ausführung oder entziehen Sie den betroffenen Zugriff nach den internen Notfallverfahren. Verhindern Sie weitere Aktionen oder Datenübertragungen, soweit dies sicher möglich ist. Prüfen Sie, ob ein manueller Ersatzprozess erforderlich ist.
Informieren Sie die zuständigen Personen aus Betrieb, Informationssicherheit, Fachbereich und bei möglichem Personenbezug Datenschutz. Vermeiden Sie es, vertrauliche Inhalte für die Meldung unnötig in weitere KI-Dienste, Chats oder öffentliche Tickets zu kopieren.
Sachverhalt und Nachweise sichern
Halten Sie fest, wann der Vorfall bemerkt wurde, welches System und welche Version betroffen sind, welche Aktion beobachtet wurde und welche Sofortmaßnahmen erfolgten. Sichern Sie relevante Protokolle, Berechtigungsstände und Konfigurationen nach dem internen Verfahren. Zugriffe auf diese Nachweise sollten begrenzt und Änderungen nachvollziehbar sein.
Klären Sie anschließend, welche Daten oder Personen betroffen sein könnten und ob externe Systeme einbezogen waren. Fehlende Angaben werden als offen markiert statt geschätzt. Das verlinkte Vorfallprotokoll unterstützt die strukturierte Aufnahme und sollte nur in einem freigegebenen Bereich gespeichert werden.
Datenschutz und mögliche Meldepflichten prüfen
Bei einem Verdacht auf eine Verletzung des Schutzes personenbezogener Daten muss die zuständige Stelle zeitnah prüfen, ob eine solche Verletzung vorliegt und welches Risiko für betroffene Personen entsteht. Nach Artikel 33 DSGVO meldet der Verantwortliche eine meldepflichtige Verletzung grundsätzlich unverzüglich und möglichst binnen 72 Stunden nach Bekanntwerden an die zuständige Aufsichtsbehörde. Eine Ausnahme gilt, wenn die Verletzung voraussichtlich kein Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt.
Eine verspätete Meldung ist zu begründen. Bei voraussichtlich hohem Risiko kann zusätzlich eine Benachrichtigung betroffener Personen nach Artikel 34 erforderlich sein; Ausnahmen und Einzelheiten sind gesondert zu prüfen. Andere vertragliche oder gesetzliche Meldepflichten können unabhängig davon bestehen. Ein bloßer KI-Fehler löst nicht automatisch jede dieser Pflichten aus.
Ursache untersuchen und Wiederanlauf freigeben
Untersuchen Sie, ob der Fehler durch Eingaben, Datenquellen, Berechtigungen, Modellantworten, Werkzeuge, Konfiguration oder eine Kombination entstand. Testen Sie eine Korrektur zunächst mit freigegebenen Beispieldaten und dokumentieren Sie, ob sie den ursprünglichen Fehler und verwandte Fälle verhindert.
Ein Wiederanlauf braucht eine benannte Entscheidung: Wer hat die Korrektur geprüft, welche Restrisiken bleiben und welche Kontrollen gelten? In kritischen Prozessen kann ein schrittweiser Start mit zusätzlichen Freigaben sinnvoll sein.
Aus dem Vorfall lernen
Besprechen Sie mit den beteiligten Teams, wie der Fehler entdeckt wurde, ob die Meldewege funktionierten und welche technische oder organisatorische Maßnahme erforderlich ist. Ergänzen Sie entsprechende Testfälle für neue Modellversionen, Konnektoren und Berechtigungsänderungen.
Der Plan sollte regelmäßig geübt und an neue Anwendungen angepasst werden. Legen Sie Zuständigkeiten und Erreichbarkeit vor einem Vorfall fest, damit keine wertvolle Zeit mit der Suche nach der richtigen Stelle verloren geht.
FAQ
Häufige Fragen
Ist jeder KI-Fehler binnen 72 Stunden meldepflichtig?
Nein. Die Frist aus Artikel 33 betrifft meldepflichtige Verletzungen des Schutzes personenbezogener Daten und beginnt mit dem Bekanntwerden beim Verantwortlichen. Ob ein Risiko und eine Meldepflicht vorliegen, muss im Einzelfall geprüft werden.
Was gehört in die erste interne Meldung?
System, Zeitpunkt der Entdeckung, beobachtetes Verhalten, mögliche Auswirkungen, bereits ergriffene Maßnahmen und Kontakt zur verantwortlichen Stelle. Unbekanntes sollte als offen gekennzeichnet werden.
Quellen und Herstellerseiten