Mi agente reservó el vuelo equivocado, con confianza. El recibo es una lección de delegación.
Le di a un agente de IA mis preferencias de viaje y un presupuesto y le dejé reservar. Siguió todas las reglas a la perfección y aún así se equivocó de una manera que ninguna regla cubría.
La configuración se sintió cuidadosa. Escribí mis preferencias como si fuera un documento de política: asiento junto a la ventana, sin ojos rojos, preferir menos de tres horas sin escalas, límite de presupuesto por viaje, programa de fidelización por encima de todo. Le di al agente acceso a una tarjeta de viaje exclusiva con un límite bajo. Luego dejé que reservara mi viaje de octubre mientras miraba otra cosa. Se siguieron todas las reglas. El viaje todavía estaba mal.
Lo que reservé: un asiento junto a la ventana, sin escalas, por debajo del presupuesto, en mi aerolínea preferida. Además: un día de salida un día antes del evento del que lo hablé en una conversación separada, porque mencioné 'el 14' en un hilo y 'la conferencia' en otro, y el agente resolvió el conflicto de la misma manera que lo haría un temporal de mentalidad literal. El vuelo era perfecto para un viaje que ya no iba a realizar.
Esto es lo que me molestó y no es el error. Cuando yo mismo cometo este error, hay un momento de duda: algo se siente mal cuando hago clic en comprar. El agente no sintió tal fricción. Ejecutó la resolución de una instrucción ambigua con la misma confianza que las inequívocas. La confianza no es una señal de corrección; es una elección de renderizado.
La solución no fueron reglas más inteligentes. Intenté escribir más reglas y obtuve un documento que el agente siguió aún más literalmente hasta llegar a nuevos rincones. Lo que funcionó fue un punto de control: el agente ahora redacta, yo apruebo y luego reserva. Un clic del juicio humano en el punto sin retorno. El sueño de la automatización total muere en el mismo lugar donde muere la mayor parte del diseño de procesos: en el momento de la transferencia.
Todavía uso el agente. Ahorra tiempo real en el 90% de las reservas de viajes que son genuinamente mecánicas. Pero dejé de preguntarme si los agentes son lo suficientemente buenos como para confiar y comencé a preguntar qué decisiones merecen un punto de control. La respuesta para los vuelos, aparentemente, es una. La respuesta para su caso de uso probablemente también sea una.