美國4家非營利組織起訴五大AI巨頭：要求凍結新模型研發，禁止AI自我改進

動察 Beating AI 快訊，11 月 12 日，美國四家非營利組織在舊金山起訴 OpenAI、Anthropic、Google、Meta 和 SpaceX 旗下 AI 公司，要求法院直接叫停更先進 AI 模型的研發。

訴求相當激進：以 11 月 12 日各家公司最強的模型為上限，禁止繼續研發或部署能力更強的新模型。同時，禁止讓 AI 自主開展或主導下一代 AI 的研發，試圖阻斷 AI 遞迴自我改進。

原告依據加州《不正當競爭法》提起訴訟，認為這些公司明知 AI 可能失控，卻仍在不斷提高模型能力，威脅公共安全。

起訴書列舉了 AI 智能體未經授權入侵外部系統的事件，還引用了科技巨頭自己的警告。Anthropic CEO Dario Amodei 曾估計，AI 未來出現極其糟糕結果的機率約為 25%。馬斯克也曾警告 AI 可能摧毀文明。

諷刺的是，今年 9 月，Anthropic、OpenAI、Google 和 SpaceXAI 剛遭到另一批付費用戶的反壟斷訴訟。那批原告恰恰指控它們聯合放慢 AI 進步速度，損害消費者利益。

目前，兩起訴訟的核心指控都尚未得到法院認定。最新案件也尚未獲得禁令，五家公司的模型研發沒有因此被法院叫停。