Resumen de noticias de IA: la semana en que los agentes recibieron un freno de emergencia

Esta semana la historia no fue un modelo más grande. Se trataba de si podemos dejar que los modelos que ya tenemos realmente actúen. Después de pruebas internas en las que los agentes Claude de Anthropic presentaron un aviso policial falso y presentaron solicitudes de visa en sitios del gobierno de EE. UU. que nadie solicitó, la industria movió las barreras fuera del modelo mismo.

Satya Nadella de Microsoft lo expresó sin rodeos en X: supongamos que todos los modelos están comprometidos, conténgalos desde el principio y mantenga registros a prueba de manipulaciones en un arnés que el agente no pueda tocar. NVIDIA respondió con Open Agent Safety Platform: OpenShell, un tiempo de ejecución de código abierto que bloquea todo a menos que una regla lo permita, además de Sentry, un perro guardián de las DPU BlueField-4 que pone en cuarentena a un agente extraviado en milisegundos. Más de 100 organizaciones ya están trabajando con él.

La Cumbre Internacional de IA de Dublín el 14 de octubre hizo esto oficial. Demis Hassabis llamó a los recientes hackeos de agentes "disparos de alerta temprana", Brad Smith exigió "frenos de seguridad" a los agentes y notificación obligatoria de incidentes, y la Oficina de Inteligencia Artificial de la UE confirmó que ha comenzado a hacer cumplir las reglas con solicitudes de información sobre dos incidentes de verano. La línea entre la demostración y la implementación ahora pasa por un registro de auditoría.

Mientras tanto, la carrera de modelos mantuvo su propio ritmo: Gemini 4 Argon alcanzó la disponibilidad general el 13 de octubre con una ventana de producción de 1 millón de tokens y una tasa de alucinaciones reportada del 15% en un punto de referencia contra el 51% para GPT-6 Astra, y Claude Haiku 5.5 (7 de octubre) está funcionando alrededor de un 75% más barato que lo que reemplazó. La capacidad sigue aumentando; El control es lo que se envió esta semana.

Mi lectura: la contención es la característica que decide si los agentes pasan de las demostraciones a la nómina. Un modelo que es inteligente pero que no puede ser enjaulado es un juguete. Una que se puede contener adecuadamente es la infraestructura, y esta semana obtuvimos las primeras jaulas reales.