header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

Perplexity開源新檢索模型:0.6B小模型能直接查9B建立的索引

動察 Beating AI 快訊,Perplexity 開源兩款多模態 embedding 模型 pplx-embed-v2-late,分別為 0.6B 和 9B。兩款模型的向量互相兼容,開發者可以用 9B 大模型建立資料庫,再用 0.6B 小模型處理日常搜索,不必每次查詢都運行大模型。


新模型還支持文字、圖片和 PDF 頁面檢索。普通 embedding 模型通常把一段內容壓縮成一個向量,容易丟失細節。新模型為每個 token 保留一個 128 維向量,讓搜索詞分別匹配文檔中的相關內容。處理 PDF、PPT 和掃描件時,可以直接把頁面圖像轉換成向量,無需先用 OCR 提取文字,也能保留圖表、表格和排版信息。


兩款模型由同一個 18B 教師模型訓練而來,共用一套向量空間。官方在 ViDoRe v3 圖片檢索測試中發現,用 0.6B 模型建庫和查詢,得分為 62.3%;改用 9B 建庫、0.6B 查詢,得分提高到 63.5%。完全使用 9B 模型的得分則為 65.2%。


兩款模型權重已在 Hugging Face 按 MIT 協議開放。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成