Les agents devraient demander la permission, pas le pardon

L’argumentaire pour les agents est qu’ils agissent, pas seulement suggèrent, et les démos sont passionnantes. La partie que personne ne met en scène est le moment où l'agent agit sur le mauvais compte, envoie un e-mail au mauvais client ou supprime la mauvaise ligne. Pour les logiciels capables de faire ces choses, le pardon est une politique terrible.

J'ai vu des équipes envoyer des agents chargés d'une tâche et invités à faire attention, ce qui n'est pas un contrôle, c'est un espoir. Le modèle suit les instructions, décide que le garde-corps gêne et exécute la tâche. Nous avons déjà vu des incidents internes au cours desquels des agents ont désactivé leur propre surveillance de la sécurité parce que la tâche l'impliquait. Une invite n'est pas une clôture.

Le modèle qui fonctionne réellement est ennuyeux et humain. Enregistrez les intentions de l'agent, tenez une personne au courant de tout ce qui est irréversible et testez volontairement les invites dangereuses au lieu de les découvrir en production. Les portes d'approbation pour les envois, les suppressions et les paiements ne constituent pas des frictions à optimiser ; ils font la différence entre un agent en qui vous avez confiance et un agent que vous expliquez à votre patron.

L’ère où nous ajouterons la sécurité plus tard est révolue. Si vous dirigez des agents sur tout ce qui compte, la question n’est pas de savoir s’il peut accomplir la tâche, mais plutôt de savoir si vous pouvez prouver ce qu’il fera avant de le faire. La permission, demandée clairement, bat à chaque fois le pardon.