Technisch möglich bedeutet nicht automatisch erlaubt
Ein KI-Agent kann zunehmend mehr als Fragen beantworten. Er kann Informationen sammeln, Aufgaben vorbereiten und – wenn er entsprechende Zugriffe erhält – Änderungen in anderen Programmen ausführen. Für Unternehmen ist das nützlich, solange die technischen Befugnisse zum vereinbarten Auftrag passen.
Stellen Sie sich einen digitalen Assistenten vor, der neue Aufträge im Postfach erkennt und fehlende Informationen für den Vertrieb zusammenstellt. Für diesen Prozess benötigt er womöglich Leserechte auf bestimmte E-Mails und Dokumente. Daraus folgt aber kein Grund, ihm zusätzlich das Löschen von Aufträgen, das Freigeben von Zahlungen oder die Änderung sämtlicher Kundendaten zu erlauben.
Die eigene Identität des KI-Agenten
Das National Cybersecurity Center of Excellence (NCCoE) des US-amerikanischen NIST beschäftigt sich seit Februar 2026 in einem Konzeptpapier mit der Identität und Autorisierung von Software- und KI-Agenten. Auch die gemeinsame internationale Leitlinie zur vorsichtigen Einführung agentischer KI vom Mai 2026 empfiehlt begrenzte Zugriffsrechte, Überwachung und menschliche Kontrolle.
Praktisch bedeutet das: Ein Agent sollte nach Möglichkeit eine eigene technische Identität besitzen, statt unter einem gemeinsam genutzten Mitarbeiterkonto zu arbeiten. So können Berechtigungen, Protokolle und Verantwortlichkeiten klarer zugeordnet werden.
Eine einfache Rechte-Matrix schafft Klarheit
Für jeden automatisierten Ablauf sollten fünf Fragen beantwortet sein:
- Wer ist verantwortlich? Eine benannte Person oder Rolle entscheidet über den zulässigen Einsatz.
- Welche Daten darf der Agent lesen? Nur die Informationen, die er zur Aufgabe wirklich benötigt.
- Welche Daten darf er verändern? Schreibrechte müssen gesondert geprüft werden.
- Welche Werkzeuge darf er verwenden? Beispielsweise eine Angebotsvorlage, aber nicht automatisch jede verfügbare Schnittstelle.
- Wann ist eine menschliche Freigabe nötig? Besonders vor Zahlungen, Datenweitergabe, Löschvorgängen und anderen folgenreichen Aktionen.
Was bedeutet das konkret für Ihr Unternehmen?
Beginnen Sie mit einem klar abgegrenzten Vorgang. Lassen Sie einen KI-Agenten zunächst Ergebnisse vorschlagen, nicht selbst verbindlich umsetzen. Prüfen Sie danach, welche einzelnen Aktionen zuverlässig automatisiert werden können. Rechte, Protokollierung und Freigabe sollten dabei zum Prozess gehören, nicht erst nachträglich ergänzt werden.
Sie möchten eine KI-Automatisierung einführen und die Grenzen ihres Handelns von Anfang an sauber definieren? Ich unterstütze Sie bei Prozessanalyse und technischer Umsetzung.
Projekt besprechen ↗