AI cục bộ trên máy tính xách tay 5 năm tuổi cuối cùng cũng có thật

Một mô hình có trọng lượng mở nhỏ xử lý việc tóm tắt và phân loại ghi chú của tôi cục bộ trên máy tính xách tay năm 2021. Chậm rãi, nhưng riêng tư và tự do, và nó không bao giờ gọi điện về nhà.

Đối với những nhiệm vụ không quá khó khăn, địa phương hiện đã đủ tốt. Mô hình đám mây vẫn tốt hơn nhưng khoảng cách giữa công việc hàng ngày của tôi nhỏ hơn chi phí đăng ký.

Điều này quan trọng đối với bất kỳ ai xử lý các tệp nhạy cảm. Dữ liệu không bao giờ rời khỏi máy và hóa đơn bằng 0.

Đừng vội vứt laptop cũ đi nhé. Nó có thể là một hộp AI hoàn hảo.