端侧多模态检索正在成熟：工厂知识库不一定全部上传云端
Google DeepMind 发布 EmbeddingGemma 2，面向文本、代码、图像、视频和音频的统一向量表示，并强调端侧运行、隐私和离线检索。它为工厂本地资料搜索提供了新的技术选项，但公开基准不等于工厂现场可直接使用。
事实摘要
- Google DeepMind 将 EmbeddingGemma 2 描述为开放、轻量的多模态嵌入模型，可把文本、代码、图像、视频和音频映射到统一向量空间。
- 官方文章给出的模型规模为 7.4 亿参数，并采用 Apache 2.0 许可；模型支持按工作负载选择文本、视觉和音频组件。
- 官方说明模型支持将 768 维向量缩减至 512、256 或 128 维，以降低本地向量数据库的存储和内存占用。
- 官方强调其适用于本地语义搜索、离线跨模态检索和端侧 RAG，并给出了移动设备内存占用和 8K 上下文窗口等测试数据。
向量纪元分析
- 向量纪元判断：端侧嵌入模型对制造企业的价值，主要在于减少图纸、视频、录音和内部文档离开本地环境的范围，同时降低检索延迟。
- 公开基准不能替代企业自己的资料测试。扫描版 PDF、中文料号、现场噪声音频和相似零件图片，可能与标准数据集差异很大。
- 建议先建立一个包含产品图、工艺文件、设备手册和历史问答的小型评测集，比较召回准确率、响应时间、内存占用和误召回，再决定是否扩大本地部署。
以上为文章中的企业影响判断与实施建议，应用到具体项目时仍需结合现场条件验证。