header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
掃碼下載APP

Altman、Dario都喊AI減速,特朗普科技顧問Sacks:真怕就自己停,別拉上全行業

動察 Beating AI 快訊,Anthropic CEO Dario Amodei 發長文呼籲放慢前沿 AI 的能力提升。他認為,AI 已越來越多參與下一代 AI 研發,加上近期多起 Agent 失控事件,安全研究正在追不上能力增長。


Dario 提出三步方案:先讓第三方評測員長期進入 AI 公司,獲得接近員工的權限;再讓民主國家的前沿實驗室協調安全標準,必要時一起放慢能力增長;最後推動國際協調。Anthropic 已承諾先執行第一步。


Sam Altman 隨後公開支持,稱 OpenAI 最近幾週也一直在討論「pace the frontier」,並宣布 OpenAI 也會引入類似的長期獨立評測員。


前白宮 AI 與加密貨幣主管、現任總統科技顧問委員會聯席主席 David Sacks 隨後回擊:「真覺得內部模型危險,就自己停。」他說 OpenAI 和 Anthropic 已經主導前沿 AI,完全可以自己放慢,不需要拉上其他公司。


Sacks 最反感的是幾家競爭對手一起商量「大家都慢一點」。Dario 自己也承認,這類協調可能需要反壟斷豁免。Sacks 認為,如果還得政府開綠燈,讓幾家最大的 AI 公司坐下來一起限速,就很像一個壟斷聯盟。


他還點名 METR,質疑它是否適合充當全行業的獨立裁判。METR 長期給 Anthropic、OpenAI 等公司做外部評測,最近又有 Anthropic 安全研究員 Joe Benton 離職加入。不過 METR 明確表示,自己不接受這些前沿 AI 公司的資金,只接受模型訪問和免費 token。


Sacks 還認為,減速本身也符合 OpenAI 和 Anthropic 的商業利益。模型越容易失控,法律責任越大;客戶也更願意買穩定、可控的 AI。至於全球統一減速,他判斷不可能所有國家都願意加入。

举报 糾錯/舉報
糾錯/舉報
提交
新增文庫
僅自己可見
公開
保存
選擇文庫
新增文庫
取消
完成