動察 Beating AI 快訊,Google DeepMind 宣布成立 DeepMind Institute,專門研究 AGI 會怎樣影響科學、經濟和社會。
DeepMind 聯合創始人兼首席 AGI 科學家 Shane Legg 負責研究院內容方向,CEO Demis Hassabis 和 Google 高級副總裁 James Manyika 也參與其中。
Legg 也不認同最近「AGI 已經到來」的說法。OpenAI 總裁 Greg Brockman 和英偉達 CEO 黃仁勳此前都把 GPT-6 Astra 與 AGI 到來聯繫起來。Legg 認為,Astra 雖然能力很強,但還達不到 OpenAI 自己對 AGI 的定義,也就是高度自主,並在大多數有經濟價值的工作上超過人類。
DeepMind Institute 首批發布三篇文章,討論 AI 安全、經濟政策和「新烏托邦主義」。其中一篇由 DeepMind 安全團隊的 Rohin Shah 和 Anca Dragan 撰寫,批評 Astra 發布時的信息透明度下降,並認為激烈競爭會讓 AI 公司越來越不願公開模型信息。
Anthropic 今年 3 月也成立了類似的 Anthropic Institute,把紅隊、社會影響和經濟研究團隊整合到一起。