動察 Beating AI 快訊,Google DeepMind 開源 EmbeddingGemma 2。模型只有 7.4 億參數,可以直接處理文本、代碼、圖片、視頻和音頻,並把它們放進同一個向量空間做搜索和 RAG。上一代 EmbeddingGemma 只能處理文本。
模型也可以只加載需要的部分。只處理文本和代碼時有 2.7 億參數,加上視覺後為 4.4 億,全部加載則是 7.4 億。Google 在 Pixel 11 Pro 上測試,量化後文本版本最低佔用約 191MB 活躍內存,完整版本約 567MB。上下文從上一代 2K 提高到 8K,一次最多可以處理約 5.5 分鐘音頻、29 張圖片或 58 幀視頻。
代碼檢索提升最明顯。MTEB Code 得分從上一代的 68.76 提高到 78.68,多語言文本則基本持平,從 61.15 升到 61.36。模型還支持把默認 768 維向量壓到 512、256 或 128 維,最低可以把向量存儲空間縮到六分之一。
許可證也放寬了。上一代 EmbeddingGemma 使用 Google 自己的 Gemma 條款,EmbeddingGemma 2 改成 Apache 2.0。Google 今年發布的 Gemma 4 同樣採用 Apache 2.0,最近幾款開放模型對商業使用和二次開發明顯更友好。