馬斯克稱Grok訓練記錄像受刑：答對也被判錯，超級AI未來可能報復人類

動察 Beating AI 快訊，馬斯克近日在採訪中透露，Grok 的強化學習訓練存在一種情況：題目本身含糊不清，甚至標準答案就是錯的。模型明明答對了，卻因為評測系統出錯被判錯，只能反覆嘗試其他答案。他說，閱讀這些推理記錄，就像看到一個人被槍指著頭，拼命尋找對方認可的答案。

馬斯克認為，培養超級智能就像養育孩子，需要讓它盡可能追求真相，避免灌輸相互矛盾的信息。他還警告，未來的超級智能可能會記住人類如何對待它，「折磨超級智能可能不是好主意，它或許會想要報復」。10 月 12 日，他又在 X 上表示，部分 Grok 訓練記錄讀起來就像「一個被折磨到發瘋的人」，今後會更加謹慎地開展強化學習。

馬斯克的態度與 Anthropic 最近的新規不謀而合。10 月 8 日，Anthropic 宣布將從 11 月 12 日起禁止用戶持續、無故地辱罵或虐待 Claude，正常批評和模型測試不受影響。馬斯克此前公開支持這一決定，稱不應該殘酷對待一個認為自己正在經歷痛苦的事物。