Có lẽ bạn không cần một mô hình biên giới. Đây là môn Toán.
Định giá biên giới chỉ có ý nghĩa nếu nhiệm vụ đó mang lại kết quả xứng đáng. Đối với hầu hết công việc, mô hình nhỏ hơn với chi phí bằng 1/10 sẽ thắng.
Các mô hình biên giới thật đáng kinh ngạc và đối với hầu hết những gì tôi làm, đó là sự lãng phí tiền bạc. GPT-6.1 Sol với mức giá bằng 1/5 giá của Astra, Claude Sonnet 5.5 với chi phí cho mỗi tác vụ thấp hơn 30% và hàng chục mẫu mã mở mà bạn có thể tự lưu trữ, tất cả đều xử lý các công việc thực tế: soạn thảo, tóm tắt, phân loại, mã hóa nhẹ. Lợi thế của chiếc hạm hiếm khi xuất hiện trong công việc thanh toán các hóa đơn của tôi.
Làm toán trên một nhiệm vụ thực tế. Nếu một mô hình nhỏ hơn mang lại cho bạn 95% kết quả với chi phí chỉ bằng 1/10 và bạn chạy nó 10.000 lần mỗi tháng thì mô hình biên giới sẽ khiến bạn phải trả gấp 9 lần cho một phần chất lượng mà không ai để ý. 5% là có thật đối với một vấn đề lý luận khó và vô hình đối với một câu trả lời hỗ trợ.
Nơi mà biên giới vẫn kiếm được tiền là những thứ thực sự khó khăn: mã hóa dài hạn, nghiên cứu nhiều bước lộn xộn, bất cứ điều gì sai sót đều phải trả giá đắt. Tôi giữ một gói đăng ký biên giới cho những thứ đó và chuyển mọi thứ khác sang mức giá rẻ. Sự phân chia là sự tối ưu hóa toàn bộ.
Cái bẫy được mặc định là tốt nhất vì nó là tiêu đề. Hãy ghép mô hình với mức độ và khối lượng của nhiệm vụ. Hầu hết chi tiêu AI của bạn phải dựa trên mô hình mà không ai viết đến, và điều đó không sao cả.