KI-Agenten für Unternehmen: verlässlich statt vollautonom

Einzelne KI-Werkzeuge erledigen je einen Schritt: einen Text zusammenfassen, ein Feld aus einem Dokument lesen, eine Frage beantworten. Ein KI-Agent verkettet solche Schritte zu einem System, das eine Aufgabe von Anfang bis Ende übernimmt. Er plant die nötigen Schritte, greift auf Ihre Systeme zu, trifft Entscheidungen in einem vorgegebenen Rahmen und meldet sich beim Menschen, wenn ein Urteil gefragt ist. Das ist der Schritt vom Werkzeug zum System.

Entscheidend ist das Wort Rahmen. Ein guter KI-Agent ist nicht möglichst autonom, sondern bewusst begrenzt. Seine Aufgabe ist klar abgegrenzt, seine Handlungen sind definiert, und an festgelegten Punkten übergibt er an einen Menschen. Autonomie ist kein Ziel, sondern ein Mass, das man so klein hält, wie es die Aufgabe erlaubt. Denn alles, was der Agent selbst tut, tut er unbeobachtet.

Der wichtigste Entwurfsentscheid bei einem KI-Agenten ist die Aufteilung der Arbeit. Ein Sprachmodell ist stark darin, Unklares zu deuten: eine frei formulierte Anfrage verstehen, aus einem unstrukturierten Dokument die richtigen Angaben lesen, einen Fall einordnen. Es ist schwach darin, verlässlich zu rechnen, Regeln exakt anzuwenden und immer dasselbe Ergebnis zu liefern. Deshalb übernimmt der Agent nur die unklaren, urteilsabhängigen Teile. Alles, was sich fest beschreiben lässt, überlässt er deterministischen Skripten und Werkzeugen: eine Preisberechnung, eine Prüfung gegen Ihren Stammdatensatz, einen Aufruf Ihrer Schnittstelle. Genau diese Aufteilung macht das System überprüfbar.

Ein Beispiel aus unserer eigenen Arbeit ist ein Agent rund um inbox.factoriq, das Extraktionsprodukt von factorIQ für die Fertigung. Der Agent überwacht einen Posteingang, erkennt unter den eingehenden E-Mails die Bestellungen und leitet sie zur Extraktion an inbox.factoriq weiter. Dort liest das Sprachmodell die strukturierten Angaben aus dem PDF oder Scan: Besteller und Lieferant, die Adressen mit ihrer jeweiligen Rolle und jede Position mit Artikel, Menge, Preis und Liefertermin. Danach läuft das Ergebnis durch eine feste Reihe von Prüfungen, die reiner Code sind und kein Modellurteil: Sind alle nötigen Felder vorhanden, stimmt die ausgelesene Summe mit der im Dokument gedruckten überein, ergibt Menge mal Einzelpreis den jeweiligen Positionsbetrag, stehen die Termine so im Dokument. Nur wenn jede Prüfung besteht, läuft die Bestellung automatisch weiter. Fällt eine durch, geht die Bestellung an einen Menschen zur Prüfung und Freigabe. Erst danach wird das strukturierte Ergebnis an das ERP-System übergeben. Das Deuten übernimmt das Modell, das Weiterleiten und die Integration übernehmen feste Werkzeuge, und der Mensch entscheidet an der einen Stelle, an der es zählt.

Ein KI-Agent ist nicht für jede Aufgabe die richtige Wahl. Wo ein Prozess nicht sauber definiert ist, wo ein einzelner Fehler nicht toleriert werden kann oder wo ein einzelnes Werkzeug schon genügt, ist ein Agent zu viel. Wir sagen das offen, denn ein Agent an der falschen Stelle kostet das Vertrauen, das ein Agent an der richtigen Stelle erst aufbauen muss.

Automatisierung, der man nicht trauen kann, wird nicht genutzt. Deshalb bauen wir KI-Agenten so, dass jederzeit nachvollziehbar bleibt, was sie getan haben. Drei Dinge gehören dazu: eine klar abgegrenzte Aufgabe, definierte Kontrollpunkte, an denen ein Mensch übernimmt, und eine vollständige Aufzeichnung jeder Entscheidung.

Der grösste Hebel für Vertrauen ist die Aufteilung aus dem vorigen Abschnitt. Je mehr Arbeit auf feste Werkzeuge entfällt, desto grösser ist der Teil des Systems, der sich testen und wiederholt auf dasselbe Ergebnis prüfen lässt. Das Urteil des Modells bleibt auf die Stellen beschränkt, an denen es wirklich gebraucht wird, und dort ist ein Mensch nah genug, um einzugreifen. So wird aus einer Demo eine Automatisierung, auf die sich Ihr Team verlässt.