AWS Infinity là tác nhân cơ sở hạ tầng yên tĩnh đang bị thiếu

AWS mã nguồn mở Infinity, thời gian chạy dành cho các đại lý dành phần lớn thời gian chờ đợi các bản dựng, phê duyệt hoặc yêu cầu kéo dài. Nghe có vẻ hẹp. Nó thực sự là điều làm cho quy mô đại lý có giá cả phải chăng.

Hầu hết các thiết kế tác nhân đều lưu giữ mọi vòng lặp trong bộ nhớ, điều này sẽ bị hỏng ngay khi bạn chạy hàng nghìn vòng lặp. Infinity cho phép chúng chạy không tải với giá rẻ, vì vậy tính đồng thời không còn là thuế nữa.

Đây là lớp không đẹp mắt quyết định xem tác nhân là bản demo hay nền tảng. Lời nhắc thông minh không mở rộng quy mô; sự chờ đợi rẻ mạt.

Tôi thà hệ thống ống nước nguồn mở trong ngành như thế này còn hơn là vận chuyển một chatbot khác. Những phần nhàm chán chính là thứ để cho những phần thú vị được phát huy hết mức.