Người mẫu 27B vượt qua giới hạn trong nhiệm vụ duy nhất mà tôi quan tâm
Mô hình mở 27B của Holo4 đã thực hiện công việc phân loại của tôi tốt hơn so với mẫu hàng đầu vì công việc này không khó mà mang tính cụ thể.
Tôi đã so sánh điểm chuẩn của chiếc smartphone cao cấp với Holo4, một mô hình sử dụng máy tính mở với 27 tỷ tham số, về một nhiệm vụ quan trọng đối với tôi: định tuyến các tin nhắn hỗ trợ đến đúng thư mục. Biên giới thông thạo hơn và tệ hơn trong quy tắc này, bởi vì nó liên tục viết lại tin nhắn một cách 'hữu ích' thay vì chỉ dán nhãn cho nó. Mô hình nhỏ đã thực hiện chính xác hướng dẫn và không có gì khác.
Bài học không phải là mô hình nhỏ sẽ tốt hơn. Đó là nhiệm vụ của tôi khen thưởng sự phục tùng hơn là tài hùng biện. Xu hướng gia tăng giá trị của đường biên giới là một lỗi khi tôi muốn có một nhãn hiệu. Một người mẫu có kích thước phù hợp với công việc, có ít khả năng ứng biến hơn, đánh bại người có điểm cao hơn trên bảng xếp hạng mà tôi không quan tâm.
Bây giờ tôi chạy cục bộ 27B cho việc này và một số nhiệm vụ tương tự. Độ trễ thấp hơn vì nó nằm trên máy của tôi, chi phí bằng 0 sau khi tải xuống và hành vi có thể dự đoán được. Flagship vẫn xử lý các câu hỏi mở mà tính linh hoạt của nó sẽ giúp ích.
Nếu nhiệm vụ AI của bạn cụ thể và có thể lặp lại, hãy thử nghiệm một mô hình mở nhỏ trước khi bạn trả tiền cho mức giới hạn. Bạn có thể nhận thấy, giống như tôi, rằng mô hình mà mọi người bỏ qua sẽ hoạt động tốt hơn vì nó không cố gắng gây ấn tượng với bạn.