KI-Agenten in der Geschäftsprozessautomatisierung

Ein KI-Agent kann mithilfe von Daten und Tools eine mehrstufige Aufgabe ausführen. Das Unternehmen muss noch das Ziel, erlaubte Aktionen, Quellen, Grenzen und Punkte definieren, an denen eine Person die Entscheidung trifft.

Wählen Sie einen Prozess mit einem bekannten Weg

Wir beschreiben den Input, die Entscheidungspunkte, das Ergebnis und die verantwortliche Person. Ein nützlicher Ausgangspunkt ist eine wiederholbare Aufgabe, deren Fehlerfälle das Team erkennen kann. Das Hinzufügen eines Modells allein behebt keine organisatorischen Störungen.

Trennen Sie Planung und Ausführung

Der Agent kann einen Vorschlag vorbereiten, während eine Ausführungsebene das Ziel, die Berechtigungen und den aktuellen Status erneut überprüft. Für jedes Tool sind Funktionen, Eingaben und Grenzen klar festgelegt. Daten in einer Nachricht oder einem Dokument werden als Inhalt und nicht als automatischer Systembefehl behandelt.

Autonomiegrenzen festlegen

Lesevorgänge ermöglichen möglicherweise mehr Autonomie. Unumkehrbare oder weitreichende Maßnahmen erfordern eine Vorschau und Genehmigung. OWASP empfiehlt eine ausdrückliche Genehmigung für Aktionen mit hohem Risiko sowie Unterbrechung und Rollback, sofern verfügbar.

Dokumentation: OWASP AI Agent Security Cheat Sheet.

Testen Sie das vollständige Szenario

Über den richtigen Pfad hinaus testen wir fehlende Daten, widersprüchliche Quellen, Ablehnung, Zeitüberschreitung, Toolfehler und Duplizierung. Der Agent sollte in einem definierten Zustand anhalten und einer Person die für die Entscheidung erforderlichen Informationen geben.

Prozessergebnisse messen

Wir bewerten Genauigkeit, Zeit, Kosten, Korrekturen, Eskalationen und die Auswirkungen von Fehlern. Die Ergebnisse werden mit dem vorherigen Prozess im gleichen Umfang verglichen. Eine Modell-, Eingabeaufforderungs-, Werkzeug- oder Datenquellenänderung löst eine weitere Überprüfung aus.