Haiku 5.5 tại Ten Cents đã khiến tôi chuyển 80% cuộc gọi đến mô hình giá rẻ

Claude Haiku 5.5 có giá khoảng 10 xu trên một triệu mã thông báo đầu ra và con số duy nhất đó đã thay đổi cách tôi xây dựng. Hầu hết các cuộc gọi tôi thực hiện đều có số lượng lớn và mức đặt cược thấp: phân loại, tóm tắt, định tuyến. Họ không cần chiếc hạm.

Tôi đã từng gửi mọi thứ đến mô hình lớn vì nó dễ dàng nhất. Sau đó, hóa đơn đến và tôi biết được rằng 'dễ nhất' lại là đắt nhất. Haiku thực hiện 80% nhàm chán cho một phần nhỏ và tôi hầu như không nhận thấy chất lượng giảm sút.

20% khó, nhiều sắc thái hoặc đặt cược cao vẫn thuộc về mẫu đắt tiền. Đó là toàn bộ cái nhìn sâu sắc: hãy kết hợp mô hình với số tiền đặt cược chứ không phải với thói quen của bạn.

Nếu bạn chưa định tuyến theo chi phí, bạn đang trả quá nhiều tiền cho đặc quyền không nghĩ đến điều đó. Mô hình giá rẻ thường xuyên đủ tốt hơn nhiều so với những gì trang định giá ngụ ý.