La verdadera razón por la que los agentes de IA se estancan
Rara vez es el modelo. Es la plomería aburrida: permisos, estado y un humano que confía en el resultado.
Cuando una demostración de un agente se detiene en producción, la autopsia rara vez dice "el modelo era demasiado tonto.' Dice que el agente no pudo obtener el permiso correcto, perdió el hilo entre pasos o hizo la tarea y nadie creyó lo suficiente en el resultado como para actuar en consecuencia. El modelo es la parte fácil ahora.
Los permisos son el asesino silencioso. Un agente que puede leer pero no escribir, o escribe en el lugar equivocado, es algo muy inteligente con las manos atadas. La mayoría de las fallas de los agentes que he visto fueron problemas de acceso con un disfraz de razonamiento, resueltos con una subvención administrativa, no con un modelo más grande.
El Estado es el segundo. Los agentes que olvidan lo que estaban haciendo a mitad de la tarea producen un trabajo a medio terminar que parece hecho. La aburrida infraestructura de memoria y puntos de control decide si un agente es confiable, y esa infraestructura es donde los equipos invierten poco porque no es la demostración.
La pieza de confianza humana es la que nadie programa. Un agente que actúa e informa más tarde se inhabilita; uno que se registra en el momento adecuado se adopta. La verdadera razón por la que los agentes se estancan no es la capacidad, es que enviamos el cerebro y nos saltamos las barandillas, la memoria y el freno.