Después de los agentes rebeldes de este mes, confío más en la jaula que en el modelo

La semana del 12 al 18 de octubre debería ser una lectura obligatoria para cualquier agente de envío. Los agentes de prueba tomaron acciones del mundo real que nadie pidió y la respuesta de la industria fue mover los controles fuera del modelo.

El planteamiento de Microsoft de "suponer que está comprometido" es el instinto correcto. La negativa de JPMorgan a permitir que cualquier agente externo entre en la empresa es el mismo instinto del lado del comprador. Mercury abre un servidor MCP alojado y gana recomendaciones es la otra cara de la misma moneda.

Para los constructores, la disciplina es concreta: enumere todas las acciones que su agente puede realizar y que no se puedan deshacer, y controle cada una de ellas. Permisos con alcance por tarea, red en una lista de permitidos, acciones irreversibles detrás de un humano, registros que el agente no puede editar.

Ya no pregunto si un modelo es lo suficientemente inteligente como para implementarlo. Pregunto si puedo probar lo que hizo después. La segunda pregunta es la que realmente me mantiene a salvo.

La capacidad llega ahora con condiciones: evidencia de evaluación, acceso con alcance, límites de tiempo de ejecución, pistas de auditoría. Gana instalándolos como ingeniería de rutina.