header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP
Partnered With:

Mistral發布3B多模態審核模型,更改一句Prompt即可更換規則

据 動察 Beating 監測,歐洲 AI 獨角獸 Mistral 推出內容審核模型 Shieldstral。模型只有 30 億參數,可以檢查文字、圖片和圖文內容,也能判斷 AI 是否應該拒絕回答。

不少傳統審核模型會預先設定色情、暴力、仇恨等類別。審核標準變化後,通常需要補充數據,再訓練或微調模型。

Shieldstral 可以直接讀取自然語言規則。開發者改一下審核要求,就能換一套標準,不必重新訓練模型。

模型支持中文等 12 種語言,採用 Apache 2.0 許可。官方稱,單張 16GB 顯存的英偉達顯卡即可運行,文本審核成績與參數量大約 7 倍的 GPT-OSS-Safeguard-20B 持平。

举报 糾錯/舉報
相關推薦
讓那些看似「不幹正事」的念頭出來晒晒太陽
機器人搶走120個ETH的$PROMPT,質押三年不如Yapper一句話,免費的最貴?
上週的融資總數為25筆,總金額約7.5億美元,平均融資金額為3,008.94萬美元。
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成