La API Decisions es la victoria aburrida que hace que los agentes realmente trabajen

Microsoft puso la API Azure OpenAI Decisions a disposición general y casi nadie se dio cuenta. Devuelve opciones, probabilidades y puntuaciones de confianza en lugar de texto generado. Eso es lo más útil que les puede pasar a los agentes en meses.

Los agentes no necesitan un párrafo. Necesitan una rama para tomar. Cuando un modelo arroja 'opción B, 82 por ciento de confianza' en lugar de tres oraciones de cobertura, el agente puede actuar en lugar de adivinar lo que significa el modelo.

La tendencia hacia resultados deterministas, puntuaciones sobre sentencias, es lo que saca a los agentes de la manifestación y los lleva a la nómina. Un sistema que devuelve texto necesita otro modelo para analizarlo. Un sistema que devuelve un número simplemente se ejecuta.

Tomaría diez victorias API aburridas como esta en lugar de un lanzamiento de modelo llamativo. La infraestructura es lo que se envía. La prosa es lo que se captura en pantalla.