Wer eine Automatisierung oder einen KI-Agenten einführt, spricht meist über das, was er leisten soll: welche Aufgabe er übernimmt, wie viel Zeit er spart, welche Systeme er verbindet. Eine Frage kommt dabei oft zu kurz, obwohl sie über den Nutzen im Alltag entscheidet: Was passiert, wenn er nicht mehr funktioniert?
Diese Frage ist keine Schwarzmalerei. Jede Automatisierung hängt von Dingen ab, die sich ändern: von Schnittstellen anderer Anbieter, von Dateiformaten, von Zugangsdaten, die ablaufen, von Sprachmodellen, die in neuen Versionen anders antworten. Dass eine Automatisierung irgendwann ausfällt, ist sicher. Offen ist nur, ob es jemand bemerkt, was in der Zwischenzeit geschieht und wer es behebt.
Für die Geschäftsleitung ist das der eigentliche Gegenstand des Kaufs. Ein Unternehmen kauft keine Automatisierung, um eine Automatisierung zu besitzen. Es kauft sie, damit sich niemand mehr um eine bestimmte Aufgabe kümmern muss. Eine Lösung, die bei jedem Ausfall Aufmerksamkeit verlangt, erfüllt diesen Zweck nur zur Hälfte.
Der stille Ausfall ist der teure
Ein Ausfall, der sofort auffällt, ist meist harmlos. Wenn ein Agent mit einer Fehlermeldung abbricht, sieht das jemand, und die Aufgabe wird für einen Tag wieder von Hand erledigt.
Teuer wird es, wenn die Automatisierung weiterläuft und dabei falsche oder gar keine Ergebnisse liefert, ohne dass es jemand merkt. Das kommt häufiger vor, als man denkt, weil viele Abläufe so gebaut sind, dass sie Fehler stillschweigend überspringen. Ein leeres Feld wird übernommen, ein unlesbares Dokument ignoriert, eine Anfrage ohne Antwort gilt als erledigt.
Bei KI-Agenten kommt eine Besonderheit hinzu. Ein Sprachmodell liefert auch dann ein Ergebnis, wenn die Eingabe unvollständig oder unpassend ist. Das Ergebnis sieht plausibel aus und ist trotzdem falsch. Wie man festlegt, wer solche Ergebnisse prüft, beschreiben wir in KI-Entwürfe im Team: Wer prüft, was die Maschine schreibt?.
Ein Beispiel aus dem Einkauf
Ein Handelsunternehmen erhält von seinen Lieferanten täglich Lieferavise als PDF. Ein Agent liest sie, erkennt Artikel, Mengen und Liefertermine und trägt sie in die Warenwirtschaft ein. Das Einkaufsteam spart damit jeden Morgen eine Stunde Abtipparbeit.
Dann stellt ein großer Lieferant sein Formular um. Die Spalten sind anders angeordnet, das Datum steht an einer neuen Stelle. Der Agent liest weiterhin Dokumente, findet aber den Liefertermin nicht mehr zuverlässig und trägt bei einem Teil der Positionen das Bestelldatum ein. Niemand bemerkt es, denn die Einträge sind vollständig und sehen ordentlich aus. Erst nach zwei Wochen fällt im Lager auf, dass Ware früher erwartet wird, als sie kommt, und Kundenzusagen wackeln.
Das Problem in diesem Beispiel ist nicht der Formatwechsel. Den hätte niemand verhindern können. Das Problem ist, dass niemand vorher festgelegt hat, woran ein Ausfall erkennbar ist, was dann passiert und wer zuständig ist.
Fünf Fragen vor dem Start
Bevor eine Automatisierung in den Betrieb geht, sollten sich fünf Fragen beantworten lassen. Sie gelten für klassische Abläufe ebenso wie für KI-Agenten.
| Frage | Woran man eine gute Antwort erkennt |
|---|---|
| Woran merken wir einen Ausfall? | Es gibt eine Prüfung, die auch stille Fehler erkennt, nicht nur Abbrüche. |
| Wer erfährt davon? | Eine benannte Person, nicht ein Verteiler, den niemand liest. |
| Was passiert in der Zwischenzeit? | Die Aufgabe fällt geordnet an Menschen zurück; nichts geht verloren. |
| Wer behebt es, und wie schnell? | Zuständigkeit und Reaktionszeit sind vereinbart, intern oder mit dem Dienstleister. |
| Wie stellen wir fest, was schiefging? | Jeder Schritt ist protokolliert und lässt sich nachvollziehen. |
Wenn eine dieser Fragen nur mit „Das sehen wir dann“ beantwortet wird, ist die Automatisierung noch nicht betriebsbereit, auch wenn sie in der Vorführung einwandfrei läuft.
Woran man stille Fehler erkennt
Die erste Frage ist die schwierigste. Abbrüche zu überwachen, ist einfach. Stille Fehler zu erkennen, erfordert Prüfungen, die zur Aufgabe passen. Einige haben sich in der Praxis bewährt:
- Plausibilitätsregeln: Ein Liefertermin vor dem Bestelldatum, eine Menge von null, ein Preis weit außerhalb des Üblichen. Solche Fälle werden nicht übernommen, sondern zur Prüfung vorgelegt.
- Mengen im Blick behalten: Wenn an einem normalen Werktag plötzlich deutlich weniger Dokumente verarbeitet werden als sonst oder ein Feld auffällig oft leer bleibt, ist das ein Hinweis, auch ohne Fehlermeldung.
- Stichproben: Ein kleiner Teil der Ergebnisse wird regelmäßig von Hand geprüft. Das kostet wenig Zeit und zeigt Verschiebungen, die keine Regel erfasst.
- Unsicherheit zulassen: Ein Agent sollte melden dürfen, dass er sich nicht sicher ist, statt in jedem Fall ein Ergebnis zu liefern. Das muss in der Aufgabenbeschreibung angelegt und an echten Fällen geprüft werden.
Welche dieser Prüfungen sinnvoll sind, hängt davon ab, wie teuer ein unbemerkter Fehler wäre. Eine falsch einsortierte interne Notiz verdient weniger Aufwand als ein falscher Liefertermin, der in Kundenzusagen einfließt.
Der Rückfall auf Menschen
Eine gute Automatisierung ersetzt die bisherige Arbeit nicht spurlos. Sie hält einen Weg offen, auf dem Menschen die Aufgabe für eine Weile wieder übernehmen können. Das heißt praktisch: Die Arbeitsanweisung von früher wird nicht weggeworfen, mindestens zwei Personen wissen, wie die Aufgabe von Hand erledigt wird, und Fälle, die der Agent nicht bearbeiten kann, landen in einer Liste, die jemand abarbeitet.
Dieser Rückfall ist auch der Grund, warum wir neue Agenten zunächst mit einem Menschen betreiben, der die Ergebnisse freigibt. Die Freigabe wird erst zurückgenommen, wenn die Messung an echten Fällen über mehrere Wochen stabil ist. Wie das im Einzelnen aussieht, beschreiben wir auf der Seite zu KI-Agenten und im Beitrag KI-Agenten: echte Arbeit oder nur eine Demo?.
Betrieb gehört ins Angebot
Viele Projekte enden mit der Übergabe. Für eine Automatisierung ist die Übergabe aber erst der Anfang, weil sich ihre Umgebung weiter verändert. Wer einen Agenten bauen lässt, sollte deshalb vorab klären, wer ihn danach betreut: Wer überwacht ihn, wer passt ihn an, wenn eine Quelle ihr Format ändert oder ein neues Modell anders antwortet, und wer prüft nach jeder Änderung an einer Sammlung echter Fälle, ob er noch richtig arbeitet?
Diese Arbeit ist unspektakulär und wird in Angeboten gern ausgelassen. Sie entscheidet aber darüber, ob ein Agent nach einem Jahr noch dieselbe Arbeit verlässlich erledigt wie am ersten Tag.
Fazit
Die wichtigste Frage zu einer Automatisierung lautet nicht, was sie kann, sondern was geschieht, wenn sie es nicht mehr kann. Wer vor dem Start klärt, woran ein Ausfall erkennbar ist, wer davon erfährt, wie die Arbeit in der Zwischenzeit weiterläuft und wer den Fehler behebt, bekommt das, wofür er eigentlich bezahlt: eine Aufgabe, um die sich niemand mehr kümmern muss. Agenten, die im Alltag verlässlich arbeiten, sind eine der Fragen, denen wir in unserem Research Lab nachgehen.