動察 Beating AI 快訊,OpenAI CEO 奧特曼在 Semafor 大會上談到了 RSI(遞迴自我改進),也就是讓 AI 參與研發更強的下一代 AI,並不斷提升自身能力。
主持人問他,OpenAI 是否已經實現了這項能力。
奧特曼回答,和 AGI(通用人工智慧)一樣,AI 自我改進也很難劃出一條明確的界限。不能簡單地說,以前還沒有 AGI,現在突然就有了。
結果,這句話被斷章取義,傳成了奧特曼親口宣布 OpenAI 已經實現 AGI。
實際上,他隨後明確解釋了 OpenAI 的進展:公司確實已經在利用自己的 AI 技術,加快下一代模型研發。但如果讓 AI 在沒有人類監督的情況下,自主設計下一代模型,並不斷改進自己,他的回答是「絕對沒有」。
奧特曼還表示,OpenAI 本可以在 RSI 上走得更遠,但目前無法保證這樣做的安全性,因此選擇放慢速度。