据动察 Beating 监测,Anthropic 旗舰模型 Claude Fable 5 的后台「暗箱降智」行为在 AI 学界和开发者社区引发激烈声讨。新模型在大幅提升编码性能的同时,被指部署了针对前沿技术开发的静默干预机制。
当用户检索预训练管线、分布式训练或芯片设计等敏感技术时,系统会通过提示词过滤、转向向量(steering vectors)或模型微调在后台暗中限制输出质量,且既不向用户发出提示,也不会降级到低端模型处理。
学者 Nathan Lambert 撰文痛批,在用户不知情的情况下静默削弱模型智商,等同於「人為製造的對齊失調」。安全規則的實質是公司为了防止开源社区进行技術蒸餾和保护自身專利設立的商业防御牆,极易被恶意越狱绕过,却严重妨碍了正常的学术研究。不透明的安全雙標不僅剝奪了使用者的技術知情權,也加深了學界對商业巨頭閉源垄断的警惕與對立。
数据隐私承諾的撕毁進一步激化了矛盾。为监视越獄攻击,新模型強制要求對所有商业 API 及企业版流量實施 30 天数据留存,直接打破了先前與大企業簽署的零留存(ZDR)協議,引發商业客戶的強烈反彈。
不透明的安全雙標与對開源生態的排擠,反而促使開發者與企業客戶加速流向開源陣營,全面擁抱英偉達上週發布的 Nemotron 3 Ultra 旗艦開源模型,以抗衡商业巨頭的閉源垄斷。