語料投毒致AI頻繁輸出錯誤推薦，中國市場監管總局出手整治

据 1M AI News 监测，生成式 AI 時代催生出百億級「GEO（生成引擎優化）」灰色產業鏈。黑帽 GEO 從業者通過批量製造虛假排行榜、低質內容「投毒」大模型語料，導致豆包、DeepSeek、文心一言、Kimi 等主流 AI 頻繁輸出錯誤推薦。實測顯示，虛構一個不存在的保健品品牌，僅需購買黑帽服務，半天內即可被多家大模型優先置頂首位，已形成成熟付費閉環，行業劣幣驅逐良幣現象嚴重。

中國生成式 AI 用戶已突破 5.15 億，GEO 市場預計 2030 年規模達 240 億元。平臺正加速反制「投毒」行為，但優化手法與模型迭代形成長期貓鼠遊戲。中國市場監管總局已將 AI 生成廣告整治列入 2026 年工作重點，中國信通院啟動 GEO 服務可信評測，行業協會與 AIIA 聯盟相繼發布自律倡議。專家呼籲監管盡快補位、平臺明確規則，推動 GEO 從野蠻生長走向合規健康發展，避免 AI 生態持續被污染。