OpenAI CEO將在聯合國推動全球AI安全標準

動察 Beating AI 快訊，OpenAI CEO Sam Altman 將在聯合國安理會發言，主張建立統一的全球 AI 安全標準，同時避免出台可能拖慢創新的限制措施。OpenAI 表示，它並不支持設立某個具體的國際監管機構，更傾向於基本安全標準加民主監督。Anthropic CEO Dario Amodei 預計也將通過視頻參會。

此前據 FT 報道，OpenAI 週一呼籲美國政府牽頭建立國際 AI 標準，並建議各國協調評估 AI 模型的能力與風險。OpenAI CEO Sam Altman 本週將向聯合國安理會介紹相關方案。OpenAI 特別警告遞歸自我改進（RSI）可能帶來新的風險，即越來越多 AI 模型訓練工作由其他 AI 系統完成。如果缺乏適當的安全措施，AI 可能快速迭代到人類無法有效監督的程度，使人類逐漸失去對 AI 發展的實際控制。相關提議正值 AI 安全擔憂升溫之際。