動察 Beating AI 快訊,知名 AI 播客主持人 Dwarkesh Patel 大幅提前了對超級智能的預測。幾個月前,他還不相信 AI 能進步得這麼快,如今卻認為,到 2030 年就可能出現超級智能,最快甚至是明年。
AI 最有可能在 2028 年左右追平頂尖人類 AI 研究員,最快幾個月內就能做到。一旦 AI 能自主研發更強的 AI,原本需要數年的技術進步,就可能壓縮到一年。
METR 最近調查 Anthropic 發現,其模型在部分可量化任務上的能力進步速度約為過去的兩倍,其中大部分加速很可能來自 AI 參與研發。Anthropic 自己的數據也顯示,今年 2 月,Claude 主導的研發工作還不到 1%,到了 8 月已達到 26%,但仍需要人類監督。
AI 研發中的許多工作都能通過實驗驗證。比如調整訓練算法、優化數據後,可以直接測試模型有沒有變強。AI 可以不斷提出方案、做實驗、檢查結果,再繼續改進。數學和編程領域已經出現過類似的能力躍升,AI 研發可能也會如此。
一旦達到頂尖研究員水平,AI 還能全天候工作,同時部署大量研究智能體。按 Dwarkesh 的估算,單個 AI 研究員每週完成的工作量可能是人類的 50 倍。不過,實驗仍要消耗算力,整體研發速度不會直接提高 50 倍。
如果 AI 研發實現自動化,之後可能出現兩種情況:
一種是 AI 不斷改進自身,短短幾個月就逼近現有芯片所能支持的能力極限;
另一種是先把三到六年的技術進步壓縮到一年,再因為算力和實驗資源不足而慢下來。
Dwarkesh 給這兩種情景各分配了 50% 的主觀概率。
目前,AI 還無法完全獨立完成前沿研發。找到正確的研究方向,也遠比解決有標準答案的題目複雜。如果這部分能力遲遲無法突破,時間表就可能推遲。Dwarkesh 認為,AI 到 2032 年以後才能追平頂尖人類 AI 研究員的可能性仍有 25%。