Mô hình 740M hiện làm được những gì mà 5 mô hình chuyên dụng đã làm
Một trình nhúng mở nhỏ xử lý văn bản, mã, hình ảnh, âm thanh và video. Điều đó thay đổi tìm kiếm trên thiết bị.
Google đã phát hành EmbeddingGemma 2 vào ngày 6 tháng 10 dưới dạng mô hình mở gồm 740 triệu tham số trong Apache 2.0, nhúng văn bản, mã, hình ảnh, âm thanh và video trong một bản trình bày. Cửa sổ ngữ cảnh đã đạt tới 8.000 mã thông báo, gấp bốn lần phiên bản trước.
Đối với hầu hết các đội, điều này giết chết toàn bộ danh mục hệ thống ống nước. Bạn đã từng chạy một trình nhúng riêng cho mỗi loại dữ liệu và ghép các kết quả lại với nhau. Bây giờ một mô hình bao gồm rất nhiều.
Nó đủ nhỏ để chạy ngoại tuyến trên điện thoại - Google trích dẫn khoảng 191MB RAM hoạt động để chỉ sử dụng cho văn bản. Điều đó có nghĩa là việc tìm kiếm và truy xuất có thể diễn ra trên thiết bị thay vì gọi đến máy chủ cho mọi truy vấn.
Tôi vẫn đánh giá nó trên kho dữ liệu của chính bạn trước khi tin tưởng nó để truy xuất về mặt pháp lý hoặc y tế. Mở và nhỏ là một mặc định tuyệt vời, không phải là sự đảm bảo rằng miền của bạn phù hợp.