動察 Beating AI 快訊,11 月 3 日,國家發改委表示,將加快推進 AI 綜合性立法,從數據、算力、算法到具體應用,建立覆蓋研發、應用等全生命週期的安全標準和倫理準則。AI 開發者和運營者也將被推動及時披露安全風險,主動上報事故和漏洞。
監管收緊的同時,也會給企業留出試錯空間。新規將設置合理過渡期,並支持不同行業建設「監管沙盒」,允許企業在受控環境下測試新技術。沙盒將配套申請、測試、使用和退出機制,監管規則也會定期評估,及時調整。
除了模型和技術安全,監管還將關注 AI 對人的影響,包括監測 AI 替代就業崗位的風險、完善社會保障,以及防範用戶沉迷 AI、產生情感依賴。深度偽造、算法歧視和隱私洩露也在治理範圍內。
中國早在 2023 年就出台了面向公眾的生成式 AI 服務管理辦法,今年 5 月又將綜合性立法列入國務院工作計劃。監管沙盒此前也已在部分 AI 服務領域探索。