OpenAI將允許外部機構在更早期階段評估人工智能模型

BlockBeats 消息，9 月 23 日，OpenAI 計劃在開發週期的早期階段，讓第三方機構對其人工智能模型的安全風險進行審查，這是其持續應對公眾對技術潛在危害日益增長擔憂的一部分。

公司週二在一篇博客文章中宣佈，其將允許外部組織在訓練、評估和推出新 AI 模型的過程中，對這些模型進行技術安全評估。OpenAI 還明確了確保此類審查有效運行的重點，包括確保「強有力的獨立性機制、科學嚴謹性、健全的安全措施以及明確的責任劃分」。

負責該公司與外部專家合作開展安全審查工作的 Lama Ahmad 表示，此前，OpenAI 通常會在模型發佈前邀請此類團體進行安全評估，並評估其能力。「隨著風險日益增加，我們不僅要關注部署問題，還希望同時重視訓練和評估等高風險環節。」