Der wahre Grund, warum KI-Agenten zum Stillstand kommen
Es ist selten das Modell. Es ist die langweilige Rohrleitung: Berechtigungen, Staat und ein Mensch, der dem Ergebnis vertraut.
Wenn eine Agenten-Demo in der Produktion zum Stillstand kommt, sagt die Obduktion selten: "Das Modell war zu dumm." Es heißt, der Agent konnte nicht die richtige Erlaubnis erhalten, verlor den Faden zwischen den Schritten oder erledigte die Aufgabe und niemand glaubte der Ausgabe genug, um darauf zu reagieren. Das Modell ist jetzt der einfache Teil.
Berechtigungen sind der stille Killer. Ein Agent, der lesen, aber nicht schreiben kann oder an die falsche Stelle schreibt, ist eine sehr kluge Sache mit gebundenen Händen. Die meisten Agentenausfälle, die ich gesehen habe, waren Zugangsprobleme beim Tragen eines Denkkostüms, das durch einen Admin-Zuschuss gelöst wurde, kein größeres Modell.
Der Staat ist der zweite. Agenten, die vergessen, was sie in der Mitte der Aufgabe gemacht haben, produzieren halbfertige Arbeit, die wie erledigt aussieht. Die langweilige Infrastruktur aus Speicher und Checkpoints entscheidet, ob ein Agent zuverlässig ist, und diese Infrastruktur ist der Ort, an dem Teams zu wenig investieren, weil es nicht die Demo ist.
Das menschliche Vertrauen ist der Faktor, den niemand plant. Ein Agent, der erst spät handelt und Bericht erstattet, wird deaktiviert; einer, der sich im richtigen Moment meldet, wird eingesetzt. Der eigentliche Grund für das Versäumnis der Agenten liegt nicht in ihren Fähigkeiten, sondern darin, dass wir zwar die Intelligenz implementiert, aber die Leitplanken, den Speicher und die Bremse außer Acht gelassen haben.