Mein Agent hat zuversichtlich den falschen Flug gebucht. Der Empfang ist eine Lektion in Sachen Delegation
Ich habe einem AI-Agenten meine Reisepräferenzen und ein Budget mitgeteilt und ihn buchen lassen. Es befolgte jede Regel perfekt und machte trotzdem einen Fehler, der in keiner Regel abgedeckt war.
Der Aufbau fühlte sich sorgfältig an. Ich habe meine Präferenzen wie ein Richtliniendokument aufgeschrieben: Fensterplatz, keine roten Augen, lieber Nonstop unter drei Stunden, Budgetobergrenze pro Fahrt, vor allem Treueprogramm. Ich habe dem Agenten Zugang zu einer speziellen Reisekarte mit einem niedrigen Limit gewährt. Dann ließ ich es meine Reise im Oktober buchen, während ich mir etwas anderes ansah. Jede Regel wurde befolgt. Die Reise war immer noch falsch.
Was es gebucht hat: ein Nonstop-Sitzplatz am Fenster, unter dem Budget, bei meiner bevorzugten Fluggesellschaft. Außerdem: ein Abreisetag einen Tag vor der Veranstaltung, von der ich in einem separaten Gespräch erzählt hatte – weil ich in einem Thread „den 14.“ und in einem anderen „die Konferenz“ erwähnt hatte und der Agent den Konflikt so gelöst hatte, wie es ein wörtlich denkender Zeitarbeiter tun würde. Der Flug war perfekt für eine Reise, die ich nicht mehr unternehmen wollte.
Folgendes hat mich gestört, und es ist nicht der Fehler. Wenn ich diesen Fehler selbst gemacht habe, habe ich einen Moment des Zweifels – irgendetwas fühlt sich komisch an, wenn ich auf „Kaufen“ klicke. Der Agent spürte keine solche Reibung. Es führte die Lösung einer mehrdeutigen Anweisung mit der gleichen Sicherheit aus wie die eindeutigen. Vertrauen ist kein Signal für Korrektheit; Es ist eine Rendering-Wahl.
Die Lösung waren keine intelligenteren Regeln. Ich habe versucht, mehr Regeln zu schreiben und habe ein Dokument erhalten, dem der Agent sogar noch wörtlicher in neue Ecken gefolgt ist. Was funktionierte, war ein Kontrollpunkt: Der Agent erstellt jetzt Entwürfe, ich genehmige sie und bucht dann. Ein Klick menschlichen Urteilsvermögens an dem Punkt, an dem es kein Zurück mehr gibt. Der Traum von der vollständigen Automatisierung stirbt an derselben Stelle, an der die meisten Prozessdesigns sterben – bei der Übergabe.
Ich benutze das Mittel immer noch. Es spart Echtzeit bei den 90 % der Reisebuchungen, die wirklich mechanisch erfolgen. Aber ich habe aufgehört zu fragen, ob Agenten gut genug sind, um ihnen zu vertrauen, und habe angefangen zu fragen, welche Entscheidungen eine Überprüfung verdienen. Die Antwort für Flüge ist offenbar eine. Die Antwort für Ihren Anwendungsfall ist wahrscheinlich auch eine.