Anthropic秘密遊說國會：模型須面臨超10億美元損失或50人傷亡風險，政府才能叫停

動察 Beating AI 快訊，據 Politico 報導，Anthropic 正私下向美國國會議員遊說一項前沿 AI 安全法案草案，擬為政府干預 AI 模型設定嚴格門檻。根據草案，只有當模型面臨可預見且迫在眉睫的特定風險，可能造成超過 10 億美元損失，或導致 50 人以上死亡或重傷時，政府才可申請叫停。

草案將監管觸發條件限定於三類風險：AI 模型被用於生物武器研發或擴散、模型脫離開發者控制，以及模型引發網路攻擊。法案還要求 AI 開發商開展透明化測試並接受獨立第三方評估。評估機構若發現相關風險，須在 72 小時內向美國商務部報告，商務部則可向聯邦法院申請暫停模型運營，由法院作出最終裁決。

此外，草案擬禁止其他美國政府部門及官員獨立叫停 AI 模型的開發、部署或內部使用。Anthropic 表示，相關提案源自其今年早些時候發布的先進 AI 框架，旨在要求開發商接受安全評估，同時賦予政府阻止危險模型部署的能力。

該草案目前仍處於遊說階段，尚未成為法律。若相關條款最終通過，可能顯著限制美國政府對前沿 AI 模型採取緊急干預的權限。