KI-Agenten

KI-Agenten sicher einsetzen: Berechtigungen, Prompt Injection und Freigaben

Ein praxisnaher Sicherheitsplan für KI-Agenten: Datenzugriff begrenzen, indirekte Prompt Injection testen und Aktionen kontrolliert freigeben.

Von Hendrik Muth Veröffentlicht 09. November 2026 9 Minuten
Schematische Illustration vernetzter KI-Agenten und Arbeitsabläufe
Illustration: KI-Radar.

Warum Agenten ein anderes Risikoprofil haben

Ein Agent kann Informationen abrufen, Werkzeuge aufrufen und Aktionen vorbereiten. Dadurch entsteht Nutzen über eine einzelne Antwort hinaus. Gleichzeitig können Fehler nicht nur falsche Texte erzeugen, sondern auch Daten offenlegen, Datensätze verändern oder Folgeprozesse auslösen. Der erlaubte Handlungsspielraum muss deshalb technisch und organisatorisch festgelegt werden.

OWASP hat eine Übersicht der wichtigsten Risiken für agentische Anwendungen veröffentlicht. NIST beschreibt in seiner Auswertung zu KI-Agentensicherheit, dass bewährte Sicherheitsprinzipien weiterhin gelten, aber an die Fähigkeiten und Angriffsflächen von Agenten angepasst werden müssen.

Aufgabe, Daten und Rechte trennen

Beschreiben Sie für jeden Agenten einen Zweck, verantwortliche Personen, erlaubte Systeme und Grenzen. Beginnen Sie mit einem Konto für die jeweilige Aufgabe statt einem breit berechtigten Administratorkonto. Lesen, Entwurf erstellen, Änderung speichern und extern versenden sind unterschiedliche Berechtigungen.

Eine Recherche zu einem internen Handbuch braucht beispielsweise Lesezugriff auf freigegebene Dokumente. Der Versand einer Antwort an Kunden ist eine gesonderte Handlung und sollte nur nach einem festgelegten Freigabeschritt erfolgen. Zugangsdaten gehören in einen geschützten Secret-Speicher, nicht in Prompts oder Dokumente.

Indirekte Prompt Injection verstehen

Externe Webseiten, E-Mails, Dateien und Suchergebnisse können Text enthalten, der den Agenten zu unerwünschten Aktionen auffordert. Solcher Inhalt ist Datenmaterial und keine autorisierte Anweisung. Ein Modell kann diese Grenze trotzdem falsch interpretieren; eine Formulierung im Systemprompt allein ist deshalb keine zuverlässige Schutzschicht.

Begrenzen Sie Werkzeugrechte und Netzwerkziele, geben Sie untrusted Inhalte klar als Daten aus und kontrollieren Sie sensitive Aktionen außerhalb des Modells. Testen Sie in einer isolierten Umgebung, ob der Ablauf bei manipulierten Dokumenten anhält oder Daten an unerlaubte Ziele zu senden versucht. Verwenden Sie nur eigene oder ausdrücklich freigegebene Systeme.

Menschliche Freigaben richtig setzen

Eine Freigabe muss erkennen lassen, was der Agent tatsächlich tun will: Empfänger, Daten, betroffene Datensätze und die beabsichtigte Änderung. Ein bloßes „Weiter?“ ohne Kontext ist wenig hilfreich. Prüfen Sie, dass sich der freigegebene Inhalt nachträglich nicht unbemerkt ändern kann.

Für besonders weitreichende Schritte wie externe Veröffentlichungen, Zahlungen, Löschungen oder Rechteänderungen sind separate technische Schranken sinnvoll. Wenn ein Ablauf unerwartete Dialoge oder widersprüchliche Angaben erhält, muss er anhalten und die verantwortliche Person informieren.

Pilot, Protokoll und laufende Kontrolle

Starten Sie mit einer Testumgebung, repräsentativen Fällen und möglichst anonymisierten Daten. Prüfen Sie auch negative Fälle: fehlende Berechtigungen, alte Dokumente, irreführende Anweisungen, abweichende Empfänger und Ausfall eines Werkzeugs. Dokumentieren Sie Eingaben, aufgerufene Werkzeuge, Freigaben, Ergebnisse und Fehler so, dass der Vorfall nachvollziehbar bleibt.

Legen Sie fest, wer Protokolle ansehen darf und wie lange sie gespeichert werden. Nach Änderungen an Modell, Werkzeugen, Konnektoren oder Rechten sollten die relevanten Tests wiederholt werden. Messen Sie nicht nur erfolgreiche Abschlüsse, sondern auch falsche Aktionen, abgebrochene Fälle und manuellen Prüfaufwand.

Checkliste vor dem Produktivstart

Gibt es einen fachlichen Owner und eine technische Ansprechperson? Sind Datenklassen und Quellen freigegeben? Hat der Agent nur die notwendigen Rechte? Können externe Inhalte keine erweiterten Aktionen freischalten? Ist für sensible Schritte eine aussagekräftige Freigabe eingerichtet? Sind Tests, Abbruchregeln und ein Rückfallverfahren dokumentiert?

Erst wenn diese Fragen beantwortet und die Grenzen praktisch geprüft sind, sollte ein Pilot ausgeweitet werden. Sicherheit ist ein Bestandteil des gesamten Workflows und keine Eigenschaft, die ein Modellname allein garantiert.

FAQ

Häufige Fragen

Reicht ein guter Systemprompt gegen Prompt Injection?

Nein. Ein Prompt kann Verhalten unterstützen, ersetzt aber keine begrenzten Rechte, isolierte Ausführung und technische Kontrollen für sensible Aktionen.

Sollte jeder Agent jede Aktion selbst ausführen?

Nein. Aktionen sollten nach Risiko getrennt und bei Bedarf vor der Ausführung von einer verantwortlichen Person geprüft werden.

Quellen und Herstellerseiten

Weiterführende Quellen