Mô hình quyết định trị giá 0,04 đô la đang lặng lẽ thay thế rất nhiều kỹ thuật nhanh chóng của tôi
Một nửa những lời nhắc nhở 'thông minh' của tôi chỉ là cách phân loại áo khoác ngoài.
Tôi đã từng viết những lời nhắc phức tạp để khiến mô hình biên giới quyết định mọi thứ: spam hay không, cấp A hay B, chuyển cấp hay đóng.
Công cụ quyết định pplx của Perplexity ở mức 0,04 đô la trên một triệu mã thông báo và các đồng nghiệp của nó khiến tôi nhận ra những lời nhắc đó là rạp hát đắt tiền.
Mô hình quyết định gồm hai tỷ tham số thực hiện phân loại trong một lần và trả về một nhãn rõ ràng, không cần phân tích văn xuôi.
Tôi đã chuyển hàng tá cuộc gọi đó khỏi mô hình lớn và hóa đơn giảm xuống mà người dùng không nhận thấy sự khác biệt.
Kỹ thuật nhắc nhở không chết, nhưng một phần trong số đó chưa bao giờ thực sự được nhắc nhở. Đó là việc đưa ra quyết định mà chúng tôi đã phải trả giá quá cao.
