AWS Infinity es la infraestructura silenciosa que faltaban los agentes

Infinity de código abierto de AWS, un tiempo de ejecución para agentes que pasan la mayor parte de su tiempo esperando compilaciones, aprobaciones o solicitudes de extracción largas. Suena estrecho. En realidad, es lo que hace que la escala de agentes sea asequible.

La mayoría de los diseños de agentes mantienen cada bucle residente en la memoria, lo que se vuelve ruinoso en el momento en que se ejecutan miles de ellos. Infinity les permite estar inactivos a bajo costo, por lo que la concurrencia deja de ser un impuesto.

Esta es la capa poco glamorosa que decide si los agentes son una demostración o una plataforma. Las indicaciones inteligentes no escalan; la espera barata sí lo hace.

Preferiría que la industria de plomería de código abierto como esta enviara otro chatbot. Las partes aburridas son las que permiten que las partes emocionantes funcionen a gran volumen.