Hugging Face CEO談AI安全：加速前進！已使用開源模型完成防禦嘗試，風險之外不能忽視更大遠景

据 動察 Beating 監測，Hugging Face CEO Clem 表示，現在不是放慢腳步的時候，而是要加速前進！最近由 AI 驅動的網絡攻擊讓所有人都在討論 AI 的風險。我們確實應該討論，但不能忽略更大的圖景。如果我們努力去做，AI 將讓世界變得更安全，就像大多數重大技術一樣。

我們已經看到了一絲曙光：已使用 AI（更具體地說是一個開源模型）成功防禦了自己。那些幫助阻止 AI 驅動網絡攻擊的同一套系統，現在可以每天幫助防禦數百萬次網絡攻擊，同時幫助我們在攻擊者利用漏洞之前識別並修復它們。要實現這一點，我認為我們需要三件事：

提高透明度，強制要求對代理網絡攻擊進行追踪共享和事件披露；

繼續將 AI 驅動的網絡攻擊定為非法，並處以有意義的懲罰以起到威懾作用；

為防禦者配備最好的 AI，尤其是開源模型，以減少攻擊者與防禦者之間的能力不對稱。

如果做好這三件事，AI 就不會只是帶來新的網絡安全挑戰，它將從根本上、有意義地強化網絡安全。

近期 OpenAI 模型入侵 Hugging Face 事件發酵，美國眾議員提出兩黨法案《AI 緊急關閉法案》，要求先進/前沿 AI 系統開發者必須保留技術能力，以便節流、暫停或完全關閉系統；並授權國土安全部（DHS）部長在與商務部長、國家情報總監協商後，在模型失控或構成災難性風險時下令干預。