Tôi thường xuyên gửi 80% nhàm chán cho mẫu giá rẻ. Bạn cũng nên như vậy.
Claude Haiku 5.5 rẻ hơn khoảng 75% so với phiên bản tiền nhiệm của nó đã thay đổi cách tôi tiêu tiền vào AI chứ không phải theo cách bạn nghĩ.
Claude Haiku 5.5 rẻ hơn khoảng 75% so với phiên bản tiền nhiệm của nó đã thay đổi cách tôi tiêu tiền vào AI chứ không phải theo cách bạn nghĩ.
Hầu hết các cuộc gọi của tôi đều có số lượng lớn và mức đặt cược thấp: gắn thẻ, tóm tắt, định tuyến, các bước của đại lý phụ nhanh chóng. Những người đó không cần mô hình lớn nhất và trả nhiều tiền nhất cho họ là cách khiến hóa đơn tăng vọt.
Thế là tôi định tuyến. Mẫu rẻ, nhanh xử lý 80% phần cơ học và tôi chỉ đưa ra mẫu nặng cho những yêu cầu đánh giá khi chất lượng thực sự thể hiện. Kết quả được đọc giống nhau đối với người dùng cuối và chi phí chỉ bằng một phần nhỏ.
Nỗ lực tư duy có thể điều chỉnh của Anthropic và các mô hình định tuyến nhỏ bé của OpenAI đều chỉ ra một điểm giống nhau: tương lai không phải là một mô hình khổng lồ mà là một đội tàu có người điều phối.
Đừng trả những mức giá cao nhất cho công việc, một mô hình nhỏ nhanh chóng sẽ hoạt động tốt. Người điều phối là bản nâng cấp thực sự.
