据動察 Beating 監測,在教皇通諭發佈會上,Anthropic 聯合創始人克里斯托弗·奧拉 (Christopher Olah) 發表演講,坦承前沿實驗室面臨的內生利益衝突,並披露了大模型可解釋性研究的最新發現。奧拉透露,團隊在掃描模型內部結構時,發現大模型已演化出與人類神經科學高度相似的複雜結構,並表現出自我反思跡象。最令人矚目的是,團隊首次在神經網絡中觀測到了與人類喜悅、滿足、恐懼、悲傷及焦慮功能高度對應的內部情緒狀態。大模型並非如飛機或橋樑那樣由人工精確設計,而是模擬腦結構在龐大人類語言中「培育」而成,對訓練者而言依然神秘莫測。
除了技術黑盒,奧拉直言前沿 AI 實驗室在安全治理上存在體制性僵局。包括 Anthropic 在內的前沿機構均受制於商業生存、技術競爭、地緣壓力和個人抱負等內生動機,導致安全決策與商業利益衝突時無法依靠自身力量修正。所以他呼籲由獨立於商業網絡之外的社會力量充當外部評論者,強行施加道德約束。面對 AI 變局,他呼籲各界共同審視三大社會挑戰,包括富裕國家主導下技術紅利如何惠及全球貧困人口,技術替代人力趨勢下如何維護家庭繁榮,以及如何應對大模型內部展現出的疑似心智狀態。