Trọng lượng mở và âm thanh nguồn mở giống nhau. Một trong số họ có thể khiến bạn bị sa thải.
Khi một mô hình ở dạng 'trọng lượng mở', bạn có thể chạy nó, nhưng bạn thường không thể xem nó được sản xuất như thế nào hoặc vận chuyển nó một cách tự do. Khoảng cách đó rất quan trọng nếu bạn làm việc ở bất kỳ đâu với nhóm pháp lý.
Tôi thường nói 'AI nguồn mở' và có ba nghĩa khác nhau. Chúng không giống nhau và việc trộn lẫn chúng trong cuộc họp là cách bạn hứa hẹn điều gì đó mà người tuân thủ của bạn sẽ chặn.
Nguồn mở có nghĩa là mã được xuất bản và bạn có thể kiểm tra cũng như sửa đổi nó theo giấy phép. Trọng lượng mở có nghĩa là tệp mô hình đã huấn luyện được xuất bản nhưng bạn có thể không nhìn thấy dữ liệu huấn luyện, mã hoặc không được phép sử dụng nó cho mục đích thương mại. Một là cuốn sách có công thức nấu ăn; chiếc còn lại là chiếc bánh đã hoàn thành với lò vẫn khóa.
Tại sao nó lại hấp dẫn: trọng lượng bạn đã tải xuống 'miễn phí' có thể mang theo giấy phép cấm sử dụng thương mại hoặc yêu cầu bạn xuất bản những thay đổi của riêng mình. Mô hình này chạy trên máy tính xách tay của bạn và vẫn khiến bạn gặp rắc rối nếu các điều khoản nói như vậy.
Quy tắc thực tế mà tôi sử dụng: nếu tôi đang xây dựng một sản phẩm, tôi sẽ đọc giấy phép trước khi tải xuống chứ không phải sau đó. 'Mở' là một cảm giác; giấy phép là hợp đồng.
Ollama (ollama.com)
Tốt nhất cho: các nhà phát triển muốn chạy các mô hình có trọng lượng mở trên máy của riêng họ
Các tính năng chính: kéo mô hình một lệnh, suy luận cục bộ, API tương thích với các công cụ phổ biến
Gói miễn phí: nguồn mở và miễn phí để sử dụng
Giá cả: miễn phí; bạn trả tiền cho phần cứng và điện
Ưu điểm: riêng tư theo mặc định, không có dữ liệu nào rời khỏi máy của bạn, tuyệt vời cho các thử nghiệm
Nhược điểm: bạn cần GPU tốt cho các model lớn và chất lượng model thay đổi tùy theo phiên bản
Quả tạ mở đã cho tôi một phòng thí nghiệm trên bàn làm việc của tôi. Nguồn mở đã cho tôi quyền hiểu nó. Biết được đâu là điểm khác biệt giữa một bản demo thú vị và một sản phẩm có thể bảo vệ được.
Các câu hỏi thường gặp:
Câu hỏi: Mẫu xe có trọng lượng mở có được sử dụng miễn phí cho mục đích thương mại không?
Đ: Không phải lúc nào cũng vậy. Kiểm tra giấy phép; nhiều cấm sử dụng thương mại hoặc yêu cầu tiết lộ.
Câu hỏi: Tại sao lại chạy một mô hình cục bộ?
Đáp: Quyền riêng tư, chi phí theo quy mô và không phụ thuộc vào API của người khác đang giảm dần.
Hỏi: Nguồn mở có nghĩa là tôi có thể xem nó được đào tạo như thế nào phải không?
Đáp: Thường thì không. Trọng lượng là kết quả; mã đào tạo và dữ liệu là những câu hỏi riêng biệt.