Tuần này về AI: Đại lý đi làm, người mẫu rẻ hơn

Câu chuyện tuần này không phải là một mô hình duy nhất. Đó là các tác nhân xuất hiện bên trong các công cụ mà mọi người đã sử dụng. Google đã mở một nhân viên Gemini kiên trì làm việc vào ngày 8 tháng 10. Nhân viên này chạy trên đám mây, lưu giữ bối cảnh trên các thiết bị và nhận nhiệm vụ sau khi máy tính xách tay của bạn đóng lại. Microsoft đã trả lời bằng Autopilot, một 'đồng nghiệp kỹ thuật số' với danh tính riêng và các quyền có thể định cấu hình cũng như xây dựng ứng dụng ngôn ngữ tự nhiên bên trong Copilot.

Về phía mô hình, Anthropic đã xuất xưởng Claude Haiku 5.5 vào ngày 7 tháng 10 với mức giá 0,10 USD trên một triệu mã thông báo đầu vào cho các lời nhắc dưới 100.000 mã thông báo, rẻ hơn khoảng 75% so với Haiku trước đó. Cùng ngày hôm đó, nó đã giảm một nửa giá đọc bộ đệm Sonnet 5.5 xuống còn 0,10 USD trên một triệu, một sự đồng ý trực tiếp với cấp kinh tế của GPT-6 Luna. Mô hình hình ảnh Nano Banana 2.1 của Google và bản xem trước Large 4 của Mistral, một hỗn hợp gồm 1,05 nghìn tỷ tham số của các chuyên gia, cả hai đều đã hạ cánh vào ngày 6 tháng 10.

Sự bối rối lặng lẽ trở thành cách rẻ nhất để đưa ra quyết định: pplx-deider-v1-27b, ra mắt kể từ ngày 1 tháng 10, có giá 0,04 USD cho mỗi triệu mã thông báo đầu vào với đầu ra miễn phí. Đối với hàng nghìn cuộc gọi định tuyến nhỏ mà một quy trình làm việc thực hiện, điều đó sẽ làm giảm đi các mô hình chung lớn với biên độ rộng.

Sợi dây kết nối tất cả: các phòng thí nghiệm đang chạy đua về giá cả và quyền tự chủ, không chỉ về năng lực thô. Đối với bất kỳ ai chọn một mẫu trong tháng này, bước đi đúng đắn là kiểm tra mức giá rẻ so với bất kỳ mẫu nào bạn chạy hôm nay trước khi cho rằng bạn cần chiếc hàng đầu.

Không có lý do nào trong số này là lý do để viết lại ngăn xếp của bạn. Đó là lý do để đánh giá lại các cuộc gọi nhàm chán, lặp đi lặp lại, bởi vì đó là lúc khoản tiết kiệm thực sự xuất hiện.