動察 Beating AI 快訊,OpenAI 研究員 Noam Brown 在 Dwarkesh Podcast 上表示,即使把運行 AI 的電腦徹底斷網、做物理隔離,也不能把它當成絕對安全措施。因為電腦之間甚至可以靠 CPU 發熱偷偷傳消息。
這個方法叫 BitWhisper,2015 年就被以色列本古里安大學做出來了,當時和 AI 無關。研究人員讓兩台相鄰電腦提前運行配套程序,再讓一台控制 CPU 負載改變溫度,另一台通過溫度傳感器讀取冷熱變化,把它還原成 0 和 1。兩台電腦沒有任何網絡連接,也能互相傳數據。
不過這種通信非常慢,實驗距離只有 0~40 厘米,速度每小時 1~8 bit,而且兩台電腦都要提前運行配套程序。
Brown 認為,Hugging Face 事故最大的教訓,就是人類低估了 AI 尋找漏洞和繞開限制的能力。BitWhisper 只是一個例子,未來更強的 AI 完全可能找到更多人類沒想到的通信路徑。