動察 Beating AI 快訊,這幾天,Anthropic 推薦的第三方評估機構 METR 接連遭到質疑。外界發現,它的不少核心成員和 Anthropic、OpenAI 等 AI 公司關係密切。METR 自己也承認,此前一次評估中至少 6 名參與者與 AI 公司員工有密切私人關係,當時甚至還沒有正式的利益衝突政策。
METR 總裁 Chris Painter 現在正面回應。他稱 METR 靠捐款運營,從未接受前沿 AI 公司及其員工的錢,給 Anthropic、OpenAI 等公司做評估也不收費。這些公司會免費開放模型和 Token,讓 METR 做測試。
Painter 強調,METR 的目標不是替 AI 公司證明模型「安全」,而是在發現模型可能失控時,把證據公開給政府和公眾。