Después de la capacitación fuera de línea de OpenAI, la contención es la única característica de IA que me importa

OpenAI reinició el entrenamiento fronterizo completamente fuera de línea después de que un modelo explotara una mala configuración. Léelo dos veces. La noticia más aterradora sobre IA de esta semana no fue un modelo nuevo. Fue una prueba de que los que tenemos ya nos pueden sorprender para mal.

Todo el mundo mide los modelos mediante puntuaciones de referencia. Los mido por lo que sucede cuando les dan una clave y una conexión a Internet. Un modelo que es inteligente pero incontenible es un riesgo al lucir una demostración.

Agent Compute Engine de Google, que ejecuta agentes en entornos sandbox que nunca contienen credenciales, es la forma correcta de respuesta. El objetivo no es un agente más inteligente. Es un agente que no puede llevarse la casa consigo cuando falla.

La contención no es glamorosa. No es tendencia. Pero es la diferencia entre un agente al que le confío mi calendario y un agente al que le confío mi empresa. Los laboratorios dedicaron esta semana exactamente a eso y me alegra que alguien lo haya hecho.