Câu chuyện thầm lặng tháng 10: Những mô hình tí hon vừa quyết định
Perplexity, Cloudflare, Microsoft và AWS đều đã đưa ra các mô hình quyết định. Giá rẻ, địa phương và nhàm chán theo cách tốt nhất.
Trong khi mọi người theo dõi các chatbot lớn, một danh mục khác đã xuất hiện: các mô hình quyết định trả về một lựa chọn chứ không phải một đoạn văn.
pplx-decider-v1-27b của Perplexity chạy ở mức khoảng 4 xu trên một triệu mã thông báo đầu vào với đầu ra miễn phí. Cloudflare's Clef và AWS's Strands Decisioner thực hiện các công việc tương tự mà bạn có thể tự lưu trữ.
Vấn đề không phải là sự thông minh. Đó là chi phí và độ trễ cho những cuộc gọi nhàm chán: định tuyến phiếu này, phân loại đầu vào này, chọn hành động này.
Đối với các nhà xây dựng, đây là bản phát hành hữu ích hơn một sản phẩm chủ lực khác. Một quyết định bốn xu sẽ đánh bại một bài luận trị giá hai đô la khi bạn kiếm được hàng triệu đô la.
Mong đợi nhiều hơn về điều này. Lớp hàng hóa của AI đang nhanh chóng trở nên rẻ hơn và đó là nơi sản phẩm được tạo ra.
Cập nhật ngày 28 tháng 10 năm 2026: danh mục dưới đây chỉ phát triển kể từ đó - mọi nền tảng chính hiện đều cung cấp một.
Các câu hỏi thường gặp:
Hỏi: Các mô hình quyết định có thể làm gì?
Đáp: Những cuộc gọi nhàm chán: định tuyến yêu cầu này, phân loại đầu vào này, chọn hành động này. Họ trả lại một sự lựa chọn, không phải một đoạn văn.
Hỏi: Chúng có giá bao nhiêu?
Trả lời: pplx-decider-v1-27b của Perplexity chạy khoảng 4 xu trên một triệu mã thông báo đầu vào với đầu ra miễn phí; Clef của Cloudflare và Strands Decisioner của AWS đều tương tự nhau và có thể tự lưu trữ.
Hỏi: Tại sao chúng lại có giá trị lớn hơn các sản phẩm chủ lực khác?
Đáp: Một quyết định bốn xu sẽ đánh bại một bài luận trị giá hai đô la khi bạn kiếm được hàng triệu đô la. Lớp hàng hóa là nơi sản phẩm được tạo ra.