Ein 740M-Modell macht jetzt das, was fünf Spezialmodelle taten
Ein kleiner offener Embedder verarbeitet Text, Code, Bilder, Audio und Video. Das ändert die Suche auf dem Gerät.
Google hat am 6. Oktober EmbeddingGemma 2 als offenes 740-Millionen-Parameter-Modell unter Apache 2.0 veröffentlicht, das Text, Code, Bilder, Audio und Video in einer Darstellung einbettet. Das Kontextfenster wurde auf 8.000 Token erweitert, das Vierfache der vorherigen Version.
Für die meisten Teams macht dies eine ganze Kategorie von Klempnerarbeiten zunichte. Früher haben Sie pro Datentyp einen separaten Einbetter ausgeführt und die Ergebnisse zusammengefügt. Jetzt deckt ein Modell alles ab.
Es ist klein genug, um offline auf einem Telefon ausgeführt zu werden – Google gibt für die Nur-Text-Nutzung etwa 191 MB aktiven RAM an. Das bedeutet, dass die Suche und der Abruf auf dem Gerät stattfinden können, anstatt für jede Abfrage einen Server aufzurufen.
Ich würde es immer noch mit Ihrem eigenen Korpus vergleichen, bevor ich ihm für rechtliche oder medizinische Zwecke vertraue. „Offen und klein“ ist eine gute Standardeinstellung, keine Garantie dafür, dass Ihre Domain passt.