谷歌推出 EmbeddingGemma:高效的移动端文本嵌入模型
来自谷歌深度学习团队的最新消息,他们正式推出了 EmbeddingGemma,这是一款专为移动设备设计的开源嵌入模型。Embed谷歌dingGemma 以其308百万个参数的高效设计,在 MTEB(大规模文本嵌入基准)中被评为500M 以下的最佳多语言文本嵌入模型,展现出强推出大的功能,如检索增强生成(RAG)和语义搜索,能够在没有互联网连接的情况下直接在手机等设备上运行。 EmbeddingGemma 的优越 E性在于,它的性能可与几乎是它两倍大小的热门模型相媲美。它不仅小巧而且灵活,适用于多种场景,支持768到128的可定制输出维度,并mb拥有2000个上下文令牌窗口,能够在手机、笔记本电脑和桌面等日常设备上运行。此外,它还与多种流行工具集成,用户可以方便地与 sentencede-transformers、MLX、Ollama 等工具合作。 EmbeddingGemma 在建立 RAG 管道时表现出色,能够生成文di本的嵌入,即将文本转换为数字表示,以高维空间表示其意义。在 RAG 管道中,首先根据用户输入生成嵌入,并计算其与系统中所有文档嵌入的相似度,ng从而检索到最相关的文段。这种高质量的嵌入能够确保最终生成的回答准确且上下文相关。 此外,EmbeddingGemma 在速度和资源消耗方面Ge也经过精心设计,具有小巧、快速和高效的特点。其嵌入推理时间低于15毫秒,允许实时交互。它的离线功能确保了用户数据的隐私安全,特mm别适合于开发基于移动设备的应用程序。 开发者们现在可以利用 EmbeddingGemma 实现个性化的聊天机器人,进行文件搜索,或为特定领a:域进行快速微调。无论是在线下应用,还是需要高效性能的服务器端应用,EmbeddingGemma 都提供了理想的选择。 官方博客:https高效://developers.googleblog.com/en/introducing-embeddinggemma/ 划重点: Em的移beddingGemma 是一款308M 参数的开源嵌入模型,专为移动设备设计,能够在无网络情况下运行。 它动端支持多种工具集成,灵活适应各种应用场景,满足开发者的需求。 强大的离线功能确保用户数据安全,提升隐私保护,为移文本动端应用提供了可靠支持。
- 最近发表
- 随机阅读
-
- 容器云架构 | 了解 Kubernetes 网络模型
- 标签: 海信视像 MiniLED 东芝 Vidda
- 环球音乐转向合作:与 Udio、Stability AI 携手重塑 AI 音乐格
- 标签: 曹操出行 耀出行 吉利商旅 商旅服务
- 20分钟,这个AI就能创造复杂艺术作品!1080显卡就能跑
- 你的AI模型可能有后门!图灵奖得主发53页长文:小心恶意预测
- 标签: 文石BOOX 港交所上市 招股书 AI读写终端
- 标签: 新氧 SY 美容治疗服务 SoYoung
- Epic诉苹果案即将开庭 双方派高管参加
- 稚晖君又放大招!灵创平台让机器人编程秒变"拖拽游戏"
- 标签: 字节跳动 Seedance-2.0 豆包大模型 火山引擎
- 标签: 保时捷 保时捷中心 芜湖保时捷 济宁保时捷
- 硅基流动上线线蚂蚁集团Ling-mini-2.0,速度与性能双丰收
- 人工智能(AI)在商业建筑应用中获得成功
- 手机1秒生成3D全息图,MIT团队新作
- 标签: 三星电子 SK海力士 HBM4 半导体罢工
- 巨大争议之下 纽约警方将其配备的机器狗退回波士顿动力
- Claude Pro 订阅方案调整:部分新用户或失去 Claude Code 使用权
- 蒸肉怎么做
- 微软推出全新 Microsoft 365 Premium,AI 功能与办公工具完美结合
- 搜索
-
- 友情链接