Governance ist kein Bremsklotz
Viele Unternehmen behandeln KI-Governance als juristische Nacharbeit. Das ist gefährlich. Die wichtigsten Entscheidungen fallen vor dem ersten Pilot: Welche Daten dürfen genutzt werden? Welche Tools sind freigegeben? Wer prüft Ergebnisse? Welche Nutzung ist verboten?
Gute Governance macht KI nicht langsamer, sondern skalierbar. Teams wissen, was erlaubt ist, IT und Datenschutz behalten Kontrolle, und Management bekommt eine belastbare Übersicht über Kosten und Risiken.
Die fünf Mindestregeln vor dem Start
Erstens braucht es eine Tool-Liste: Welche KI-Dienste sind erlaubt, welche nicht? Zweitens braucht es Datenklassen: öffentlich, intern, vertraulich, personenbezogen, besonders sensibel. Drittens braucht es Rollen: Wer darf testen, wer entscheidet, wer kontrolliert?
Viertens braucht es Review-Regeln. KI-Ausgaben sind Entwürfe, solange sie nicht fachlich geprüft wurden. Fünftens braucht es ein Inventar. Wenn niemand weiß, welche KI-Systeme im Unternehmen laufen, kann auch niemand Risiken steuern.
EU AI Act praktisch übersetzen
Der EU AI Act ist für viele Unternehmen noch abstrakt. Praktisch relevant ist zuerst die Frage, ob ein KI-System nur assistiert oder Entscheidungen beeinflusst. Je stärker ein System Menschen bewertet, Rechte beeinflusst oder sensible Prozesse steuert, desto höher sind Dokumentations- und Kontrollanforderungen.
Für normale Wissensarbeit reicht oft ein schlankes Regelwerk. Für HR, Kredit, Recht, Steuern, Compliance oder automatisierte Kundenaussagen braucht es deutlich strengere Prüfungen.
Beschaffung: Was in jeden Anbietercheck gehört
Vor Vertragsabschluss sollten Unternehmen DPA, Datenverarbeitung, Training, Subprozessoren, Datenresidenz, SSO, SCIM, Rollenrechte, Audit-Logs, Löschung, Export und Support prüfen. Außerdem muss klar sein, ob Anbieter mit eingegebenen Daten Modelle trainieren oder nicht.
Für Fachtools kommen weitere Fragen hinzu: Welche Quellen nutzt das System? Wie werden Antworten belegt? Gibt es Versionierung? Wie kann eine falsche Antwort nachvollzogen werden?
Die beste Einführung beginnt klein
Ein sicherer KI-Rollout startet nicht mit 500 Nutzern, sondern mit einem engen Pilot. Ein Fachbereich, ein Prozess, messbare Kriterien. Nach 30 Tagen wird entschieden, ob der Nutzen real ist. Nach 60 Tagen werden Regeln geschärft. Nach 90 Tagen entsteht eine Rollout-Entscheidung.
Dieser Rhythmus verhindert Tool-Wildwuchs und schafft Lernkurven. KI verändert sich schnell; Governance muss deshalb regelmäßig aktualisiert werden.
Risikoklassen nach EU AI Act in Unternehmenssprache
Der EU AI Act arbeitet risikobasiert. Für Unternehmen ist die praktische Übersetzung entscheidend: Minimaler oder kein Risikobereich umfasst viele interne Assistenzfälle wie Textentwurf, Zusammenfassung oder Spamfilter. Transparenzpflichten werden relevant, wenn Menschen mit einem Chatbot interagieren oder KI-generierte Inhalte als solche erkennbar sein müssen.
Hochrisiko wird relevant, wenn KI Zugang, Bewertung oder Rechte von Menschen beeinflusst: Recruiting, Beschäftigtenmanagement, Kredit, Bildung, bestimmte Versicherungs-, Justiz- oder Behördenprozesse. Verbotene Praktiken wie Social Scoring, manipulative Systeme oder bestimmte biometrische Anwendungen gehören nicht in einen Unternehmenspilot. Diese Einordnung ersetzt keine Rechtsprüfung, macht aber die erste Risikosortierung handhabbar.
Datenklassen und Tool-Zulässigkeit
Eine funktionierende KI-Policy beginnt mit Datenklassen. Öffentlich sind Inhalte, die ohne Risiko nach außen dürfen. Intern sind Prozesswissen, Präsentationen oder allgemeine Projektdaten. Vertraulich sind Strategie, Preislisten, Roadmaps, Verträge, Kundendaten und interne Finanzzahlen. Personenbezogene Daten brauchen zusätzliche Prüfung. Besonders sensible Daten wie Gesundheitsdaten, Gehaltslisten oder Mandantenakten gehören nur in explizit freigegebene Systeme.
Daraus folgt eine einfache Matrix: Öffentliche Daten dürfen in mehr Tools, vertrauliche Daten nur in Enterprise-Umgebungen mit DPA, SSO und Rollenrechten. Personenbezogene oder besonders sensible Daten brauchen Zweckbindung, Freigabe und oft Datenschutz-Folgenabschätzung. Für die Auswahl passender Tools hilft der KI-Radar-Index, aber die Datenklasse entscheidet über die tatsächliche Zulässigkeit.
25 Fragen vor der Beschaffung
Vor Vertragsabschluss sollte der Einkauf mindestens diese Punkte prüfen: Gibt es AVV/DPA? Werden Eingaben zum Training genutzt? Gibt es einen Training-Opt-out? Wo werden Daten verarbeitet? Welche Subprozessoren sind beteiligt? Gibt es SSO, SCIM, Rollenrechte, Admin-Konsole, Audit-Logs, Löschfristen, Export, Verschlüsselung und Incident-Prozess?
Weitere Fragen betreffen den Betrieb: Welche Modelle werden genutzt? Können Modelle wechseln? Wie werden Quellen angezeigt? Gibt es Human-in-the-loop-Funktionen? Wie werden Berechtigungen geerbt? Können Admins Nutzung auswerten? Welche Support-SLAs gelten? Gibt es SOC-2, ISO-27001 oder vergleichbare Nachweise? Wie schnell werden Sicherheitsvorfälle gemeldet? Was passiert bei Vertragsende?
Policy-Minimum für KMU und Konzerne
Für KMU reicht zum Start oft ein klarer Einseiter: erlaubte Tools, verbotene Daten, Freigabeprozess, Ansprechpartner, Quellenpflicht und Beispiele. Diese Einfachheit ist wichtig, weil Regeln nur wirken, wenn Mitarbeitende sie verstehen. Ein kompliziertes Dokument ohne Schulung verhindert Schatten-KI nicht.
Konzerne brauchen mehr: KI-Inventar, Risikoklassifizierung, Anbieterprüfung, Betriebsratsprozess, Datenschutzprüfung, Informationssicherheit, Audit-Logik, Schulungsnachweise und regelmäßige Reviews. Beide Varianten beginnen aber gleich: keine privaten Accounts für vertrauliche Daten, keine ungeprüften KI-Ausgaben in kritischen Entscheidungen und klare Verantwortliche je Tool.
Der erste 90-Tage-Rollout
Tag 1 bis 15: bestehende KI-Nutzung erfassen, Datenklassen definieren, drei erlaubte Tools bestimmen und verbotene Nutzung klar kommunizieren. Tag 16 bis 45: ein Pilotteam mit 10 bis 30 Nutzern startet mit messbaren Aufgaben. Jede Aufgabe bekommt Vorher-Nachher-Kriterien: Zeit, Qualität, Fehler, Akzeptanz und Risiko.
Tag 46 bis 90: DPA/AVV, Admin-Einstellungen, Schulung, Freigabeprozess und KI-Inventar werden finalisiert. Danach entscheidet das Unternehmen nicht nach Demo-Eindruck, sondern nach Messdaten. Die Vorlage dazu: KI-Governance-Policy herunterladen.
Typische Stolperfallen
Schatten-KI entsteht, wenn offizielle Prozesse zu langsam sind. Dann nutzen Teams private Accounts, kopieren Kundendaten in nicht freigegebene Tools oder bauen unkontrollierte Automationen. Die Lösung ist nicht nur Verbot, sondern ein schneller, verständlicher Freigabeprozess mit guten Alternativen.
Weitere Stolperfallen: kein Betriebsratsdialog bei Beschäftigtendaten, keine DSFA bei HR-KI, Prompt-Injection-Risiken bei Agenten, fehlende Logging-Regeln, veraltete Rechte in SharePoint oder Drive, zu breite Piloten und fehlende menschliche Prüfung. Gute Governance ist deshalb operativ: sie beschreibt konkrete Handlungen, nicht nur Prinzipien.
DSFA, Betriebsrat und Informationssicherheit früh einbinden
Viele KI-Projekte scheitern nicht am Modell, sondern an zu später Abstimmung. Wenn Beschäftigtendaten, Leistungsdaten, Kommunikationsdaten oder HR-Prozesse betroffen sind, müssen Datenschutz, Informationssicherheit und oft auch der Betriebsrat früh eingebunden werden. Nachträgliche Freigaben verzögern Rollouts deutlich stärker als ein sauberer Start.
Eine Datenschutz-Folgenabschätzung ist nicht für jeden Chatbot-Pilot automatisch nötig, aber bei hohem Risiko, systematischer Bewertung von Personen oder sensiblen Daten muss sie geprüft werden. Unternehmen sollten deshalb nicht erst nach dem Toolkauf fragen, ob eine DSFA erforderlich ist.
KI-Inventar: welche Felder wirklich gebraucht werden
Ein KI-Inventar muss nicht kompliziert sein. Mindestfelder sind Toolname, Anbieter, Owner, Fachbereich, Zweck, Datenklassen, Nutzergruppe, Vertragsstatus, DPA/AVV-Status, Subprozessoren, SSO, Speicherort, Review-Datum und Risikoklasse. Schon diese Tabelle verhindert, dass niemand mehr weiß, welche KI wo läuft.
Für größere Organisationen kommen technische Felder hinzu: Modelltyp, API-Nutzung, Integrationen, Audit-Log-Verfügbarkeit, Löschfristen, Rollenmodell, Incident-Kontakt und Exit-Prozess. Wichtig ist ein Owner pro Tool. Ohne Owner wird jedes KI-System früher oder später zur ungepflegten Altlast.
Agenten und Automationen brauchen strengere Freigaben
Ein Chatbot, der einen Entwurf schreibt, ist ein anderes Risiko als ein Agent, der Daten liest, Systeme bedient oder Aktionen auslöst. Je autonomer ein KI-System handelt, desto wichtiger werden Berechtigungen, Limits, Logging, Freigabeschritte und Not-Aus-Regeln. Agenten dürfen nicht mehr können als der Prozess erlaubt.
Besonders kritisch sind Prompt-Injection, falsche Tool-Aufrufe, unklare Datenquellen und Aktionen ohne menschliche Prüfung. Wer Agenten einführt, sollte sie nicht nur als Produktivitätswerkzeug behandeln, sondern als kontrollierte Prozessautomation. Mehr dazu in der Kategorie KI-Agenten und Automatisierung.
AI Literacy: Schulung als Pflichtprogramm
Governance funktioniert nur, wenn Mitarbeitende sie anwenden können. Eine gute KI-Schulung erklärt nicht nur Regeln, sondern typische Fehler: Halluzinationen, Scheingenauigkeit, veraltete Informationen, vertrauliche Eingaben, Urheberrechtsfragen, Bias und fehlende Quellen. Wer diese Muster kennt, nutzt KI produktiver und sicherer.
Für Führungskräfte braucht es eine andere Schulung als für Fachanwender. Führungskräfte müssen entscheiden können, welche Use Cases sinnvoll sind, welche Risiken akzeptabel sind und welche Kennzahlen zählen. Fachanwender brauchen konkrete Beispiele, erlaubte Tools und klare Eskalationswege.
Messgrößen: Governance muss Nutzen und Risiko zeigen
KI-Governance sollte nicht nur Verbote zählen. Gute Messgrößen sind Anzahl freigegebener Tools, Anteil geschulter Nutzer, dokumentierte Datenklassen, abgeschlossene Anbieterprüfungen, offene Risiken, vermiedene Schatten-Tools, gemessene Zeitersparnis und Qualitätsfehler im Review.
Diese Kennzahlen helfen dem Management, KI nicht als Bauchgefühl zu steuern. Ein monatliches Dashboard reicht am Anfang: Welche Tools laufen, welche Teams nutzen sie, welche Risiken sind offen, welche Use Cases liefern messbaren Nutzen und welche werden beendet?
Was in der Policy konkret stehen sollte
Eine gute Policy enthält Beispiele, keine abstrakten Floskeln. Sie sagt: Kundendaten dürfen nur in freigegebene Enterprise-Tools. Private Accounts sind für interne Daten verboten. KI-Ausgaben für externe Kommunikation werden geprüft. HR- und Legal-Anwendungen brauchen gesonderte Freigabe. Agenten dürfen keine produktiven Aktionen ohne definierte Freigabe ausführen.
Außerdem braucht die Policy einen Aktualisierungsmechanismus. KI-Produkte ändern sich monatlich. Neue Funktionen, neue Modelle, neue Datenverarbeitungen oder neue Integrationen können die Risikolage verändern. Deshalb sollte die Policy mindestens quartalsweise geprüft und bei wesentlichen Anbieteränderungen sofort aktualisiert werden.
Tool-Zulässigkeitsmatrix mit Beispielen
Eine Zulässigkeitsmatrix macht Regeln anwendbar. Öffentliche Daten dürfen in freigegebene Recherche- und Texttools. Interne Daten dürfen nur in Enterprise-Tools mit Unternehmensaccount. Vertrauliche Daten brauchen zusätzlich Zweckbindung, Rollenrechte und dokumentierte Freigabe. Personenbezogene Daten werden nur verarbeitet, wenn Rechtsgrundlage, Anbieterprüfung und Löschkonzept geklärt sind.
Beispiel CRM: eine anonyme Vertriebsmail darf als Stilvorlage dienen, echte Kundendaten gehören nur in freigegebene Systeme. Beispiel HR: allgemeine Stellenanzeige ist unkritischer als Bewerberbewertung. Beispiel Legal: öffentliches Urteil kann recherchiert werden, Mandatsunterlagen brauchen strengere Kontrolle. Für HR-nahe Themen ist die Kategorie KI im Personalwesen besonders vorsichtig zu behandeln.
Rollenmodell: wer entscheidet was?
Governance braucht ein einfaches Rollenmodell. Der Fachbereich definiert den Use Case und bewertet Qualität. IT prüft Integration, SSO, Rechte und Betrieb. Datenschutz prüft Datenverarbeitung und Rechtsgrundlage. Informationssicherheit prüft Risiken, Logs und Incident-Prozess. Einkauf prüft Vertrag, Kosten und Kündigung. Management entscheidet über Risikoakzeptanz und Priorität.
Ohne diese Rollen werden KI-Projekte entweder blockiert oder unkontrolliert gestartet. Ein schlankes RACI reicht: Responsible für den Tool-Owner, Accountable für die Fachbereichsleitung, Consulted für Datenschutz/IT/Security, Informed für betroffene Teams. Wichtig ist, dass niemand “die KI” anonym verantwortet.
Incident- und Rollback-Plan
Jedes produktive KI-Tool braucht einen Plan für Fehler. Was passiert, wenn vertrauliche Daten falsch eingegeben wurden? Wer wird informiert, wenn ein Agent eine falsche Aktion ausführt? Wie wird ein Tool deaktiviert? Wo liegen Logs? Wie werden betroffene Nutzer benachrichtigt? Diese Fragen gehören vor den Rollout.
Ein Rollback-Plan muss praktisch sein: Admin-Zugriff, Sperrung einzelner Nutzer, Abschalten von Integrationen, Export der Logs, Kontakt zum Anbieter und interne Kommunikationsvorlage. Ohne diesen Plan ist Governance nur präventiv, aber nicht reaktionsfähig.
Freigabeprozess ohne Bürokratiefalle
Der Freigabeprozess muss schnell genug sein, damit Fachbereiche ihn nutzen. Ein praktisches Modell hat drei Stufen: grün für freigegebene Standardnutzung, gelb für Use Cases mit vertraulichen oder personenbezogenen Daten, rot für Hochrisiko-, HR-, Legal-, Finanz- oder Agentenprozesse mit produktiven Aktionen. Grün kann in Tagen entschieden werden, gelb braucht Fachprüfung, rot braucht formale Risikoentscheidung.
Diese Ampel verhindert zwei Extreme: unkontrollierte Schatten-KI und monatelange Blockade. Teams bekommen eine klare Antwort, warum ein Use Case erlaubt, eingeschränkt oder abgelehnt ist. Gleichzeitig entsteht eine Dokumentation, die später für Audit, Einkauf, Datenschutz und Management nutzbar bleibt.
Vergleich
EU-AI-Act-Risikoklassen als erste Orientierung
Praxisfälle
Drei Governance-Sprints
Tool-Inventar
Alle genutzten KI-Dienste erfassen, Owner bestimmen und private Schattennutzung durch freigegebene Alternativen ersetzen.
Datenklassen
Beispiele aus CRM, HR, Finance, Legal und Support einsortieren. Mitarbeitende brauchen konkrete Positiv- und Negativbeispiele.
Beschaffung
DPA, SSO, Audit-Logs, Löschung, Subprozessoren und Training-Opt-out vor Einkauf prüfen, nicht erst im Rollout.
FAQ
Häufige Fragen
Was ist die wichtigste KI-Governance-Regel?
Die wichtigste Regel ist eine klare Datenklassifizierung. Ohne sie wissen Mitarbeitende nicht, welche Informationen sie in welchem Tool nutzen dürfen.
Muss jedes Unternehmen wegen EU AI Act sofort ein großes Projekt starten?
Nein. Für viele Assistenz-Use-Cases reicht zunächst ein schlankes Regelwerk. Hochriskante oder menschenbezogene Anwendungen brauchen deutlich mehr Dokumentation und Prüfung.
Wie verhindert man Schatten-KI?
Durch freigegebene Tools, einfache Regeln, kurze Schulung, schnelle Freigabeprozesse und klare Verbote für private Accounts mit vertraulichen Daten.
Quellen und Herstellerseiten