La liste de contrôle des agents qui me laisse réellement dormir

Après la semaine d'histoires d'agents malveillants, j'ai arrêté de me demander si un modèle était suffisamment intelligent pour être déployé et j'ai commencé à me demander si je pouvais prouver ce qu'il faisait ensuite. La deuxième question est celle qui me protège.

Ma liste de contrôle est courte et non négociable. Répertoriez toutes les actions que l'agent peut entreprendre et qui ne peuvent pas être annulées. Porte chacun derrière un humain ou une règle stricte. Gardez un journal immuable de ce qui s'est exécuté. Rien de tout cela n’est exotique et tout cela est ennuyeux, c’est pourquoi les gens l’évitent.

La partie qui a changé mon comportement est le journal. Un agent que je ne peux pas expliquer après coup est un handicap qui porte un badge de productivité. Si je ne peux pas l’auditer, cela ne touche à rien de réel, point final.

J'ai vu des équipes traiter la sécurité comme une fonctionnalité modèle, quelque chose que le laboratoire propose. Ce n'est pas le cas. L'agent sûr est une architecture : des autorisations étendues, une liste blanche, une porte humaine sur l'irréversible. Le modèle n'est que la partie qui parle.

Déployez la capacité, installez la cage. La cage est la caractéristique, et la sauter n'est pas de la vitesse. Il y a fort à parier que vous regretterez la première fois que l'agent fera quelque chose que vous n'avez pas demandé.