Die Entscheidungs-API ist der langweilige Gewinn, der Agenten tatsächlich zum Arbeiten bringt

Microsoft hat die Azure OpenAI Decisions API allgemein verfügbar gemacht, und fast niemand hat es bemerkt. Es gibt Auswahlmöglichkeiten, Wahrscheinlichkeiten und Konfidenzwerte anstelle von generiertem Text zurück. Das ist das Nützlichste, was Agenten seit Monaten passieren kann.

Agenten benötigen keinen Absatz. Sie brauchen einen Zweig, den sie nehmen können. Wenn ein Modell „Option B, 82 Prozent Konfidenz“ anstelle von drei Absicherungssätzen zurückgibt, kann der Agent handeln, anstatt zu erraten, was das Modell bedeutete.

Der Trend zu deterministischen Ausgaben, also Bewertungen statt Sätzen, ist es, der Agenten aus der Demo in die Gehaltsliste führt. Ein System, das Text zurückgibt, benötigt ein anderes Modell, um ihn zu analysieren. Ein System, das eine Zahl zurückgibt, läuft einfach.

Ich würde zehn langweilige API-Erfolge wie diesen einem auffälligen Modell-Release vorziehen. Infrastruktur ist das, was Schiffe transportieren. Die Prosa wird als Screenshot erstellt.