740M 型号现在可以实现五种专业型号的功能
一台小型开放式嵌入器可处理文本、代码、图像、音频和视频。这改变了设备上的搜索。
Google 于 10 月 6 日发布了 EmbeddingGemma 2,作为 Apache 2.0 下的开放式 7.4 亿参数模型,该模型将文本、代码、图像、音频和视频嵌入到一种表示中。上下文窗口达到 8,000 个令牌,是之前版本的四倍。
对于大多数团队来说,这会扼杀整个管道类别。您曾经为每种数据类型运行单独的嵌入器并将结果拼接在一起。现在,一个模型就能解决所有问题。
它足够小,可以在手机上离线运行——谷歌称其大约 191MB 的活动 RAM 仅供文本使用。这意味着搜索和检索可以在设备上进行,而不是为每个查询调用服务器。
在信任它进行法律或医学检索之前,我仍然会在您自己的语料库上对其进行基准测试。开放和小型是一个很好的默认设置,但不能保证您的域适合。
