Ce que les agents d'IA ne peuvent toujours pas faire (notes d'une année passée à essayer de déléguer)
Les démos montrent des agents réservant des vols et corrigeant des bugs. Une année de véritable délégation m'a appris la limite, et elle est cohérente.
J'ai passé un an à essayer de déléguer du travail aux agents IA : de vraies tâches, de vrais délais, de vraies conséquences. Les démos ne sont pas fausses ; les tâches qu'ils contiennent sont accomplies. Ce que cachent les démos, c'est la forme de la frontière, qui s'est avérée remarquablement cohérente pour tous les agents que j'ai essayés.
Le premier côté de la frontière : les agents échouent sur des objectifs dont la réalisation est ambiguë. « Nettoyer cette base de code » produit en toute confiance une mauvaise réorganisation, car il n'y avait aucune spécification et l'agent ne peut pas poser au bureau des questions qui en feraient surface. La délégation fonctionne exactement dans la mesure où elle est définissable à l'avance. La plupart des travaux de connaissance ne le sont pas.
Le deuxième côté : les agents échouent dans des contextes qui résistent à l’énumération. La réservation d'un vol est énumérable (sites, formulaires, confirmation). Renégocier un contrat avec une personne qui passe une mauvaise journée ne l’est pas. L’échec n’est pas la capacité ; c'est que les contextes réels contiennent des informations qui ne figurent jamais dans une invite, et l'agent ne sait pas ce qu'il ne sait pas.
Le troisième côté est le plus discret : les agents échouent face aux conséquences. Ils agiront sur la base d’une fausse prémisse avec la même confiance qu’une bonne, car rien dans leur boucle ne présente d’enjeu. Chaque véritable système de délégation que j'ai construit a fini par devenir un point de contrôle humain exactement au moment d'une action irréversible, non pas parce que l'agent se trompait souvent, mais parce qu'en cas d'erreur, il n'y avait aucun signal jusqu'au dommage.
Rien de tout cela n’est un licenciement ; L’année a également produit de véritables victoires dans la zone dénombrable et définissable, qui est plus grande que ne le pensent les sceptiques. Mais la carte honnête de la frontière compte plus que les manifestations, car les délégations qui ont échoué ne sont pas dues à des problèmes de capacité. Il s'agissait de problèmes de spécification, et aucune amélioration du modèle n'écrit votre spécification à votre place.