Decisions API는 에이전트를 실제로 작동하게 만드는 지루한 승리입니다.

Microsoft는 Azure OpenAI Decisions API를 일반 공급으로 전환했지만 거의 아무도 눈치 채지 못했습니다. 생성된 텍스트 대신 선택 사항, 확률 및 신뢰도 점수를 반환합니다. 이는 몇 달 안에 상담원에게 일어날 수 있는 가장 유용한 일입니다.

상담원에게는 단락이 필요하지 않습니다. 그들에게는 가지가 필요합니다. 모델이 세 문장의 헤징 대신 '옵션 B, 82% 신뢰도'를 반환하면 에이전트는 모델이 의미하는 바를 추측하는 대신 행동할 수 있습니다.

결정론적 출력, 문장 대비 점수를 향한 추세는 에이전트를 데모에서 벗어나 급여를 지급하는 요소입니다. 텍스트를 반환하는 시스템에는 이를 구문 분석하기 위한 다른 모델이 필요합니다. 숫자를 반환하는 시스템이 실행됩니다.

나는 화려한 모델 출시 한 번보다 지루한 API 승리 10번을 택할 것입니다. 인프라는 배송되는 것입니다. 산문은 스크린샷으로 찍히는 것입니다.