網信辦：豆包、元寶、千問、文心一言等嚴格限制違規內容生成

動察 Beating AI 快訊，中國中央網信辦近期開展「清朗·整治 AI 應用亂象」專項行動第二階段，重點整治利用 AI 生成發布虛假信息、暴力低俗內容、假冒仿冒他人及侵害未成年人權益等問題。截至目前，專項行動已累計清理違法違規信息 561 萬餘條，查處帳號 4.9 萬餘個，處置違規網站、應用程式等 2400 餘個。

在 AI 內容治理方面，抖音、快手、微博、騰訊、百度、嗶哩嗶哩、小紅書、知乎、豆瓣、淘寶等平台進一步強化多模態識別能力，動態擴充人臉庫、聲紋庫及違規樣本庫，並加大違規帳號和信息處置力度，累計發布各類治理公告 46 期。

同時，豆包、元寶、千問、文心一言等 AI 平台嚴把原始語料審核關，嚴格限制違規內容輸出，並強化 AI 生成合成內容標識要求；華為、小米、OPPO、vivo 等應用商店則加強 App 開發者准入和上架審核，對在架應用開展抽檢複測。

專項行動期間，網信部門還通報多起典型案例，包括利用 AI「魔改」經典名著、生成虛假災害及社會熱點信息、AI 換臉換聲假冒公眾人物、批量製作暴力低俗內容、利用 AI 生成侵害未成年人權益的信息，以及使用 AI「托管」軟體從事網路水軍活動等。對於違規 AI 產品和應用，相關部門將依法採取警告、罰款、下架或關閉等措施。