La vraie raison pour laquelle les agents d'IA stagnent
C'est rarement le modèle. C'est la plomberie ennuyeuse : autorisations, état et un humain qui fait confiance au résultat.
Lorsqu'un agent de démonstration décroche en production, le post-mortem dit rarement « le modèle était trop stupide.« Cela indique que l'agent n'a pas pu obtenir la bonne autorisation, qu'il a perdu le fil entre les étapes ou qu'il a fait la tâche et que personne n'a suffisamment cru au résultat pour agir. Le modèle est la partie facile maintenant.
Les autorisations sont le tueur silencieux. Un agent qui peut lire mais pas écrire, ou qui écrit au mauvais endroit, est une chose très intelligente avec les mains liées. La plupart des échecs d'agent que j'ai vus étaient des problèmes d'accès portant un costume de raisonnement, résolus par une subvention d'administration, pas un modèle plus grand.
L'état est le second facteur. Les agents qui oublient ce qu'ils faisaient en cours de tâche produisent un travail inachevé qui paraît terminé. L'infrastructure, souvent fastidieuse, de la mémoire et des points de contrôle détermine la fiabilité d'un agent, et c'est précisément là que les équipes sous-investissent, car elle n'est pas mise en avant.
La pièce de confiance humaine est celle que personne ne planifie. Un agent qui agit et signale plus tard est désactivé ; celui qui s'enregistre au bon moment est adopté. La vraie raison pour laquelle les agents calent n'est pas la capacité, c'est que nous avons expédié le cerveau et sauté les garde-corps, la mémoire et le frein.