Was ist ein individueller KI-Agent?
Ein KI-Agent kombiniert ein KI-Modell mit Kontext, Werkzeugen und Ablaufsteuerung. Er kann Informationen interpretieren, einen nächsten Schritt auswählen und innerhalb festgelegter Grenzen eine Aktion vorbereiten oder ausführen. Individuell ist der Agent, weil Datenquellen, Regeln, Berechtigungen und Ausgabeformat an einen konkreten Unternehmensprozess angepasst werden.
Chatbot, Workflow oder Agent?
| Systemtyp | Typische Stärke | Grenze |
|---|---|---|
| Chatbot | Fragen beantworten und Inhalte formulieren. | Hat häufig keinen verlässlichen Zugriff auf Werkzeuge oder Prozesszustände. |
| Fester Workflow | Deterministische Schritte zuverlässig wiederholen. | Kann unstrukturierte oder uneindeutige Eingaben nur begrenzt interpretieren. |
| KI-Agent | Unstrukturierte Informationen verstehen und innerhalb eines Rahmens Werkzeuge auswählen. | Benötigt Grenzen, Validierung, Monitoring und Fehlerbehandlung. |
Bausteine einer belastbaren Agentenarchitektur
Modell
Versteht Text, Bilder oder Dokumente. Das Modell allein darf nicht über Berechtigungen oder Geschäftsregeln entscheiden.
Datenquellen
Postfach, Dokumente, Datenbank, API oder Wissensbestand werden gezielt und mit passenden Zugriffsrechten angebunden.
Werkzeuge
Erlaubte Aktionen wie Suchen, Speichern, Termin anlegen oder Entwurf erzeugen werden technisch begrenzt.
Regeln
Pflichtfelder, Grenzwerte, Freigaben und Ausschlusskriterien werden außerhalb des Modells validiert.
Zustand
Der Workflow dokumentiert, welcher Vorgang bearbeitet wird, welche Daten bestätigt sind und was noch offen ist.
Kontrolle
Unsichere oder risikoreiche Ergebnisse werden zur menschlichen Prüfung oder Rückfrage eskaliert.
Autonomiegrade statt „vollautonom“
Ein Agent kann nur Vorschläge liefern, einzelne risikoarme Schritte automatisch ausführen oder mehrere Werkzeuge koordinieren. Die passende Stufe hängt vom Fehlerpotenzial ab. Ein Entwurf für eine interne Zusammenfassung benötigt weniger Kontrolle als eine verbindliche Bestellung, eine Zahlung oder eine externe Zusage.
- Assistierend.Der Agent strukturiert und schlägt vor; der Mensch führt jede Aktion aus.
- Teilautomatisiert.Regelkonforme Standardfälle laufen automatisch, Ausnahmen werden vorgelegt.
- Überwacht agentisch.Der Agent wählt innerhalb enger Grenzen Werkzeuge und dokumentiert seine Schritte.
- Hohe Autonomie.Nur sinnvoll, wenn Risiken gering, Ergebnisse messbar und Rücknahmen möglich sind.
Wie werden KI-Agenten getestet?
Ein Testset muss reale Normalfälle, unvollständige Eingaben, widersprüchliche Dokumente, Prompt-Injection-Versuche, technische Ausfälle und unerlaubte Aktionen abdecken. Neben der inhaltlichen Qualität werden Schema, Berechtigungen, Zeitüberschreitungen, Kosten und Wiederholbarkeit geprüft. Ein erfolgreicher Demonstrationsfall ist kein Nachweis für Produktionsreife.
Wartung und Betrieb
Modelle, Schnittstellen und Geschäftsregeln verändern sich. Ein produktiver Agent benötigt Protokollierung, Fehlerkennzahlen, Versionierung, eine sichere Konfigurationsverwaltung und einen klaren Verantwortlichen. Bei einem Modellwechsel müssen Ergebnisqualität, Datenschutzangaben und Kosten erneut bewertet werden.
Kann ein Agent auf interne Dokumente zugreifen?
Ja, wenn die Berechtigungen technisch begrenzt und die Quellen zuverlässig aktualisiert werden. Der Agent sollte nur die Daten erhalten, die für den konkreten Vorgang erforderlich sind.
Kann ein Agent E-Mails oder Termine selbst versenden?
Technisch ist das möglich. Ob eine direkte Ausführung sinnvoll ist, hängt von Risiko und Rücknehmbarkeit ab. Häufig ist ein Entwurf mit Freigabe der bessere Einstieg.
Wie verhindert man erfundene Angaben?
Durch Quellenbezug, strukturierte Ausgaben, regelbasierte Prüfungen, Unsicherheitsbehandlung und menschliche Kontrolle. Vollständig ausschließen lassen sich Modellfehler nicht.