Decisions API はエージェントを実際に機能させる退屈な利点です
Microsoft は Azure OpenAI Decisions API を一般提供しましたが、ほとんど誰も気づきませんでした。生成されたテキストの代わりに、選択肢、確率、信頼スコアを返します。これは、数か月間でエージェントにとって最も有益な出来事です。
エージェントに段落は必要ありません。彼らには分岐が必要だ。モデルが 3 文のヘッジの代わりに「オプション B、信頼度 82 パーセント」を返した場合、エージェントはモデルの意味を推測する代わりに行動できます。
確定的な出力、つまり文章よりもスコアを求める傾向が、エージェントをデモから離れて給与計算に取り込むことになります。テキストを返すシステムには、それを解析するための別のモデルが必要です。数値を返すシステムが実行されるだけです。
1 回の派手なモデル リリースで、このような退屈な API を 10 回獲得することになります。インフラは船そのものです。散文はスクリーンショットされるものです。
