Haiku 5.5 Rẻ đến mức tôi đã ngừng tích trữ token
Với mức đầu vào là 10 xu trên một triệu, mô hình nhỏ của Claude đã thay đổi cách tôi định tuyến công việc.
Anthropic đã phát hành Claude Haiku 5.5 vào ngày 7 tháng 10 với chi phí thấp hơn khoảng 75% so với phiên bản tiền nhiệm -- khoảng 0,10 USD vào và 0,50 USD cho mỗi triệu token. Con số đó đã lặng lẽ thay đổi kiến trúc của tôi.
Trước đây, tôi gộp mọi nhiệm vụ phụ vào một mô hình lớn để tránh phải suy nghĩ nhiều về việc định tuyến. Bây giờ tôi gửi phân loại, định tuyến và tóm tắt ngắn gọn cho Haiku và giữ lại mô hình đắt tiền cho một số bước cần đánh giá.
Việc tiết kiệm không chỉ là hóa đơn. Đó là tôi có thể chạy mô hình nhỏ liên tục, trên mọi tin nhắn mà không hề nao núng. Mô hình lớn đã trở thành một món quà chứ không phải là mặc định.
Nếu bạn đang xây dựng bất cứ thứ gì đại lý, giá mỗi cuộc gọi quan trọng hơn điểm cao nhất. Haiku 5.5 là lý lẽ cho việc thiết kế định tuyến giá rẻ.