La lista de verificación del agente que realmente me deja dormir

Después de una semana de historias de agentes rebeldes, dejé de preguntarme si un modelo era lo suficientemente inteligente como para implementarlo y comencé a preguntarme si podía demostrar lo que hizo después. La segunda pregunta es la que me mantiene a salvo.

Mi lista de verificación es breve y no negociable. Enumere todas las acciones que el agente puede realizar y que no se pueden deshacer. Encierra a cada uno detrás de un ser humano o una regla estricta. Mantenga un registro inmutable de lo que se ejecutó. Nada de esto es exótico y todo es aburrido, razón por la cual la gente se lo salta.

La parte que cambió mi comportamiento es el registro. Un agente que no puedo explicar después del hecho es un pasivo que lleva una insignia de productividad. Si no puedo auditarlo, no toca nada real, punto.

Vi a los equipos tratar la seguridad como una característica modelo, algo que el laboratorio incluye. No lo es. El agente seguro es una arquitectura: permisos con alcance, una lista de permitidos, una puerta humana a lo irreversible. El modelo es sólo la parte que habla.

Implemente la capacidad, instale la jaula. La jaula es la característica y saltarla no es velocidad. Es una apuesta de la que te arrepentirás la primera vez que el agente haga algo que no pediste.