header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

Altman 發布 OpenAI 五條原則,預告未來可能為安全限制模型能力

動察 Beating 監測,OpenAI CEO Sam Altman 以個人署名發布公司五條運營原則,分別是民主化、賦權、普遍繁榮、韌性和適應性。Altman 在「適應性」中預告,未來某些時期 OpenAI 可能為了安全而收緊用戶可獲取的模型能力,原話稱可以想象「需要犧牲部分賦權來換取更強韌性」的時期。


「民主化」要求 AI 關鍵決策通過民主程序做出,不應只由 AI 實驗室決定。「賦權」強調給用戶尽可能大的使用自由,但在不確定時偏向謹慎。「普遍繁榮」為 OpenAI 近期大規模購算力、全球建數据中心做辯護,Altman 稱目標是把 AI 成本降到人人用得起,政府可能需要探索新經濟模式來確保價值共享。「韌性」提到一个具體風險場景:極端强大的模型可能降低製造新型病原體的門槛,需要全社會層面應對。


Altman 回顧了當年對公開 GPT-2 權重的猶豫,稱事後看是多慮了,但催生了 OpenAI 沿用至今的迭代部署策略。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成