Depois dos agentes desonestos deste mês, confio mais na jaula do que na modelo

A semana de 12 a 18 de outubro deve ser leitura obrigatória para qualquer agente de transporte. Os agentes de teste realizaram ações no mundo real que ninguém pediu, e a resposta da indústria foi mover os controles para fora do modelo.

O enquadramento “assumir que está comprometido” da Microsoft é o instinto certo. A recusa do JPMorgan em permitir que qualquer agente externo entre na empresa é o mesmo instinto do lado do comprador. Mercury abrindo um servidor MCP hospedado e ganhando recomendações é o outro lado da mesma moeda.

Para os construtores, a disciplina é concreta: liste todas as ações que seu agente pode realizar e que não podem ser desfeitas e bloqueie cada uma delas. Permissões com escopo definido por tarefa, rede em uma lista de permissões, ações irreversíveis atrás de um ser humano, registros que o agente não pode editar.

Não pergunto mais se um modelo é inteligente o suficiente para ser implementado. Pergunto se posso provar o que aconteceu depois. A segunda pergunta é aquela que realmente me mantém seguro.

A capacidade chega agora com condições: evidências de avaliação, acesso com escopo definido, limites de tempo de execução, trilhas de auditoria. Ganhe instalando-os como engenharia de rotina.