Un modèle 740M fait désormais ce que cinq modèles spécialisés ont fait
Un petit intégrateur ouvert gère le texte, le code, l’image, l’audio et la vidéo. Cela change la recherche sur l'appareil.
Google a publié EmbeddingGemma 2 le 6 octobre en tant que modèle ouvert de 740 millions de paramètres sous Apache 2.0 qui intègre du texte, du code, des images, de l'audio et de la vidéo dans une seule représentation. La fenêtre contextuelle est passée à 8 000 jetons, soit quatre fois la version précédente.
Pour la plupart des équipes, cela tue toute une catégorie de plomberie. Vous aviez l'habitude d'exécuter un intégrateur distinct par type de données et d'assembler les résultats ensemble. Désormais, un seul modèle couvre tout.
Il est suffisamment petit pour fonctionner hors ligne sur un téléphone : Google a cité environ 191 Mo de RAM active pour une utilisation en texte uniquement. Cela signifie que la recherche et la récupération peuvent vivre sur l'appareil au lieu d'appeler un serveur pour chaque requête.
Je le comparerais toujours à votre propre corpus avant de lui faire confiance à des fins de récupération juridique ou médicale. Ouvert et petit est une excellente valeur par défaut, mais ne garantit pas que votre domaine s'adapte.