Những người mẫu nhỏ lại chiến thắng vào năm 2026 và không ai muốn thừa nhận điều đó
Những vụ phóng hào nhoáng là những con thú có thông số nghìn tỷ. Công việc thực sự được thực hiện bởi các mô hình phù hợp với máy tính xách tay.
Mỗi sự kiện ra mắt đều hướng tới mẫu lớn nhất. Nhưng câu chuyện hữu ích thầm lặng của năm 2026 là mô hình nhỏ: nhanh, rẻ và đủ tốt cho 90% nhiệm vụ nhàm chán không cần đến bộ não biên giới.
Các mô hình quyết định là ví dụ rõ ràng nhất. Strands Decisioner 2B có nguồn mở của AWS, mô hình dưới 100 mili giây chỉ chọn bước tiếp theo trong quy trình làm việc của tổng đài viên. Bạn không cần một mô hình suy luận khổng lồ để định tuyến giữa năm lựa chọn. Bạn cần thứ gì đó tức thì và đáng tin cậy, và một mô hình nhỏ sẽ giành được công việc đó.
Trên máy của tôi, một mô hình cục bộ xử lý các câu trả lời nháp, phân loại và tóm tắt với độ trễ mà mô hình biên giới đám mây không thể sánh được. Mô hình lớn là nhà tư vấn mà tôi yêu cầu thuộc nhóm 10 phần trăm cứng rắn. Người nhỏ nhất là đồng nghiệp làm công việc hàng ngày.
Cái bẫy đang cho rằng càng lớn thì càng tốt cho mỗi bước. Các nhóm đốt tiền và độ trễ khi gửi mọi yêu cầu đến người đứng đầu trong khi một mô hình nhỏ có thể thực hiện được. Những người chiến thắng năm 2026 là những người định tuyến theo độ khó thay vì đặt mặc định ở mức tối đa.
Mong đợi nhiều hơn về điều này. Kỹ thuật thú vị không phải là 'làm cho mô hình lớn hơn'. Đó là 'quyết định mô hình nào sẽ trả lời.'