Những mô hình địa phương nào thực sự được mở khóa trong năm nay

Trong hầu hết thời kỳ bùng nổ AI, các mô hình thú vị tồn tại dựa trên API của người khác và việc sử dụng chúng có nghĩa là gửi dữ liệu của bạn đi và trả tiền cho mỗi cuộc gọi. Năm nay, một cánh cửa khác đã mở ra và những người bước qua đó không phải là những người mà đám đông phát biểu mong đợi.

Các bản phát hành trọng lượng mở đã phát huy tác dụng. Le Chonk của Mistral, Mistral Large 4, xuất hiện dưới dạng bản tải xuống mà ai cũng có thể chạy, đủ mạnh về mã và bảo mật để các nhóm nghiêm túc thực hiện nghiêm túc mà không cần hóa đơn đám mây. GoTo đã phát hành mô hình 27 tỷ tham số được điều chỉnh cho tiếng Indonesia và bốn ngôn ngữ trong khu vực, mang lại cho các nhà phát triển Đông Nam Á một nền tảng không định tuyến qua đám mây phương Tây. Vấn đề không phải là những điều này đánh bại được biên giới đã đóng; đó là họ đã loại bỏ sự phụ thuộc.

Điều thực sự được mở khóa là chủ quyền và chi phí, chứ không phải năng lực thô. Một chính quyền khu vực, một bệnh viện lo lắng về việc ghi chú của bệnh nhân sẽ đi đâu, một công ty khởi nghiệp không thể chấp nhận việc định giá mỗi mã thông báo trên quy mô lớn, tất cả họ giờ đây đã có một giải pháp thay thế đáng tin cậy nằm trên phần cứng của riêng họ. Đối với họ, một mô hình nhỏ hơn một chút mà họ kiểm soát sẽ đánh bại một mô hình lớn hơn mà họ thuê.

Tôi sẽ không yêu cầu người dùng bình thường thiết lập GPU và chạy tạ tối nay; các API đóng vẫn là con đường dễ dàng hơn đối với hầu hết mọi người. Nhưng sàn nhà đã dịch chuyển. Câu hỏi không còn là chúng ta có thể xây dựng đội ngũ của riêng mình nữa hay không mà là liệu chúng ta có nên làm như vậy hay không và đối với một nhóm đang phát triển, câu trả lời cuối cùng là có.