Bei klassischer Software sind die Betriebskosten weitgehend planbar. Ein Server kostet im Monat ungefähr gleich viel, egal ob ein Ablauf an einem Tag zehnmal oder zehntausendmal läuft. Bei KI-Agenten ist das anders. Jeder Aufruf eines Sprachmodells wird einzeln abgerechnet, nach der Menge des gelesenen und geschriebenen Textes. Ein Agent, der ein Werkzeug aufruft, eine Antwort liest und daraufhin den nächsten Schritt plant, verursacht bei jedem dieser Schritte Kosten.
Solange der Agent tut, was er soll, ist das unproblematisch. Kritisch wird es, wenn er in eine Schleife gerät: Ein Werkzeug liefert immer wieder dieselbe Fehlermeldung, der Agent versucht es erneut, formuliert die Anfrage leicht um, versucht es wieder. Jede Runde liest er dabei den gesamten bisherigen Verlauf mit, der mit jedem Versuch länger wird. Die Kosten pro Runde steigen also, während der Agent keinen Schritt vorankommt.
Passiert das am Abend, läuft die Schleife bis zum nächsten Morgen. Niemand bemerkt etwas, denn der Agent meldet keinen Fehler. Er arbeitet ja, aus seiner Sicht zumindest.
Warum Agenten in Schleifen geraten
Schleifen sind kein seltener Sonderfall, sondern eine naheliegende Folge davon, wie Agenten gebaut sind. Ein Agent bekommt ein Ziel und die Freiheit, selbst zu entscheiden, wie er es erreicht. Diese Freiheit ist der Grund, warum man einen Agenten einsetzt. Sie bedeutet aber auch, dass er nicht von selbst weiß, wann ein Weg aussichtslos ist.
Typische Auslöser sind:
- Ein Werkzeug antwortet uneindeutig. Eine Schnittstelle meldet einen vorübergehenden Fehler, der in Wahrheit dauerhaft ist, etwa weil ein Zugang abgelaufen ist. Der Agent hält einen neuen Versuch für sinnvoll.
- Das Ziel ist nicht erreichbar. Ein gesuchter Datensatz existiert nicht. Statt das zu melden, sucht der Agent mit immer neuen Begriffen weiter.
- Zwei Agenten reichen sich eine Aufgabe hin und her. Jeder hält den anderen für zuständig, und keiner beendet den Vorgang.
- Ein Ergebnis besteht eine Prüfung nie. Der Agent wird angewiesen, so lange nachzubessern, bis eine Bedingung erfüllt ist, die er gar nicht erfüllen kann.
In allen vier Fällen ist das Modell nicht das eigentliche Problem. Es fehlt eine Regel außerhalb des Modells, die sagt: bis hierhin und nicht weiter.
Grenzen gehören in den Ablauf, nicht in die Anweisung
Der naheliegende Gedanke ist, dem Agenten in seiner Anweisung mitzuteilen, dass er nach drei erfolglosen Versuchen aufhören soll. Das ist sinnvoll, reicht aber nicht. Ein Sprachmodell hält sich meistens an solche Anweisungen, aber nicht verlässlich, und gerade in einer Schleife mit langem Verlauf rückt die ursprüngliche Anweisung in den Hintergrund.
Verlässliche Grenzen liegen deshalb in der Software, die den Agenten ausführt. Sie zählt mit, greift ein und beendet den Vorgang, unabhängig davon, was das Modell gerade für richtig hält. Dieser Gedanke steht auch hinter unserem Beitrag KI-Agenten als Bausteine: Der Ablauf gehört nicht dem Modell: Was über den Betrieb entscheidet, gehört in feste Logik.
Bewährt haben sich Grenzen auf mehreren Ebenen:
| Ebene | Was begrenzt wird | Was beim Erreichen passiert |
|---|---|---|
| Einzelner Schritt | Wiederholungen desselben Werkzeugaufrufs mit gleichem Fehler | Abbruch des Schritts, Meldung an den Ablauf |
| Einzelner Vorgang | Anzahl Schritte, Laufzeit und Kosten pro Aufgabe | Vorgang wird beendet und zur Prüfung vorgelegt |
| Agent oder Kunde | Kosten pro Stunde und pro Tag | Agent pausiert, eine benannte Person wird benachrichtigt |
| Gesamtes Konto | Monatliches Limit beim Modellanbieter | Harte Sperre als letzte Absicherung |
Die unterste Ebene, das Limit beim Anbieter, ist wichtig, aber zu grob. Sie schützt vor dem schlimmsten Fall, stoppt dann aber alle Agenten gleichzeitig, auch die, die einwandfrei arbeiten. Die eigentliche Arbeit leisten die oberen Ebenen, weil sie den einzelnen fehlerhaften Vorgang erwischen, bevor er ins Gewicht fällt.
Ein Beispiel aus der Kundenkommunikation
Ein Versandhändler setzt einen Agenten ein, der Anfragen zum Lieferstatus beantwortet. Er liest die Anfrage, schlägt die Bestellung in der Warenwirtschaft nach, fragt beim Paketdienst den Sendungsstatus ab und schreibt einen Antwortentwurf.
An einem Freitagabend ändert der Paketdienst seine Schnittstelle. Die Abfrage liefert nun eine Fehlermeldung, die nach einem kurzen Aussetzer klingt. Der Agent versucht es erneut, bei jeder eingehenden Anfrage, und zwar jedes Mal mehrfach. Ohne Grenzen würde er das bis Montag tun, mit jeder neuen Kundenanfrage aufs Neue.
Mit Grenzen sieht der Abend so aus: Nach drei identischen Fehlern bricht der Schritt ab. Der Vorgang wird nicht weiter bearbeitet, sondern landet mit dem Vermerk „Sendungsstatus nicht abrufbar“ in der Liste für das Serviceteam. Weil das innerhalb einer Stunde bei vielen Vorgängen hintereinander passiert, pausiert der Ablauf die Abfrage beim Paketdienst ganz und benachrichtigt die zuständige Person. Am Montag liegen die betroffenen Anfragen geordnet vor, und die Kosten des Wochenendes sind kaum höher als an einem normalen Tag.
Der Unterschied liegt nicht in einem klügeren Modell, sondern in drei Zahlen, die jemand vor dem Start festgelegt hat.
Was Sie vor dem Start festlegen sollten
Diese Fragen lassen sich ohne technische Detailkenntnis beantworten und gehören in jedes Gespräch über einen neuen Agenten:
- Was darf ein einzelner Vorgang höchstens kosten? Ein Richtwert ergibt sich aus der Messung an echten Fällen. Ein Vielfaches davon ist die Obergrenze.
- Wie viele Schritte braucht eine Aufgabe normalerweise? Wenn ein Vorgang ein Mehrfaches davon benötigt, stimmt etwas nicht.
- Ab welchem Tagesbetrag soll ein Mensch informiert werden, und ab welchem stoppt der Agent? Beides sind getrennte Schwellen.
- Wer erfährt es, auch am Wochenende? Eine Benachrichtigung, die niemand liest, ist keine Absicherung.
- Was geschieht mit den abgebrochenen Vorgängen? Sie dürfen nicht verloren gehen, sondern müssen bei einem Menschen ankommen.
Wer Agenten für eigene Kunden betreibt und die Modellkosten selbst trägt, sollte zusätzlich für jeden Kunden eigene Grenzen setzen. Sonst kann ein einzelner fehlerhafter Ablauf die Kalkulation für alle verschieben.
Kosten sichtbar machen
Grenzen helfen nur, wenn die Kosten überhaupt gemessen werden, und zwar nicht als Monatsrechnung, sondern je Vorgang. Jeder Aufruf eines Modells sollte mit dem Vorgang, dem Agenten und gegebenenfalls dem Kunden verknüpft protokolliert werden. Dann lässt sich nicht nur feststellen, dass es teuer wurde, sondern auch, welcher Vorgang es war und an welchem Schritt er hängen blieb.
Diese Protokolle sind ohnehin nötig, um Fehler nachzuvollziehen. Wie das zum übrigen Betrieb eines Agenten gehört, beschreiben wir in Automatisierung im Betrieb: Was passiert, wenn sie ausfällt?. Gateways, Protokolle und Kostenkontrolle sind auch Teil dessen, was wir beim Bau von KI-Agenten von Anfang an mit einplanen.
Fazit
Ein KI-Agent verursacht Kosten mit jedem Schritt, auch mit jedem sinnlosen. Ob eine Schleife harmlos bleibt oder teuer wird, entscheidet sich nicht im Modell, sondern in den Grenzen, die der umgebende Ablauf setzt: pro Schritt, pro Vorgang, pro Tag und als letzte Absicherung beim Anbieter. Wer diese Grenzen vor dem Start festlegt, Kosten je Vorgang misst und klärt, wer bei einer Überschreitung informiert wird, kann Agenten auch über Nacht und am Wochenende laufen lassen, ohne am Montag von der Rechnung überrascht zu werden.