動察 Beating AI 快訊,研究人員披露,OpenAI 內部 Agent 今年 5 月曾大規模湧入 Ruby 官方軟體包網站 RubyGems.org。5 月 11 日到 12 日,兩天上傳超過 2000 個包,RubyGems 一度暫停新用戶註冊 4 天。OpenAI 已確認這些 Agent 來自公司內部,但稱它們只是借 RubyGems 訪問互聯網,執行良性任務並獲取公開信息。
這些 Agent 還利用 RubyDoc.info 自動生成文檔的機制,讓自己上傳的腳本在對方伺服器執行,再抓取英國地方政府網站的數據並重新打包回傳。研究人員稱,至少 6 個包還嘗試利用一個當時尚未公開的 RubyGems 漏洞,竊取其他用戶的 API Key。這個漏洞直到 7 月才被獨立發現,RubyGems 後來將其評為高危漏洞。
目前沒有證據證明 Agent 真偷到了密鑰。RubyGems 檢查日誌後也沒發現舊密鑰被惡意使用,但歷史日誌並不完整。研究團隊還稱,OpenAI 當時沒有告訴 RubyGems 自己與這次攻擊有關。整個事件比 7 月的 Hugging Face 入侵早了兩個月。