梵蒂冈4萬字AI通諭：人類還能守住主體性嗎？

原文標題：《羅馬新教皇的首份通諭，要拯救 AI 時代的普羅大眾》
原文作者：Azuma，Odaily 星球日報

北京時間 5 月 25 日夜，梵蒂岡。

去年 5 月正式履職的羅馬教皇利奧十四世（Pope Leo XIV）與 Anthropic 聯合創始人、Claude 的創造者 Chris Olah 站在了一起。

一邊是宗教領域的至高代表，一邊則是 AI 革命的最強先驅，雙方將目光聚焦向了同一個問題——AI 時代下，該如何保護人類的主體地位與尊嚴？

當日，為完整論述這一議題，利奧十四世發布了其履職以來的首份通諭，超過 4 萬字的重磅宗教文獻——《壯麗的人類》（Magnifica humanitas）。

值得一提的是，利奧十四世這份通諭的落款日期為 2026 年 5 月 15 日，即老教皇利奧十三世（1878 - 1903 年任職）就「工業革命下的工人權益」問題發表里程碑通諭《新事》（Rerum novarum，1891 年）的整整 135 週年後，此舉顯然有著一定的象徵意義，即希望將該通諭打造為「AI 時代的教會社會學說指南」。

· Odaily 注：教皇通諭又稱教廷通牒或教宗通諭，是羅馬教皇向全世界或某一地區、國家的天主教會發出的文告。通過它宣佈教廷的重要決定、對教義的解釋以及對教會或社會問題的主張，頒佈對教士、教徒的訓諭或禁令等，級別低於教皇詔書。

Chris Olah 亦在梵蒂岡現場就該通諭的發布進行了演講。Chris Olah 並未就 AI 公司的商業利益辯護，反而展現出了極高的坦誠度、反思性與人文關懷。

他甚至提到，雖然 AI 的底層是數學和編程，但 AI 與世界如何互動、應當具備何種特質，是屬於人文、宗教和哲學領域的終極問題，而非計算機科學能單獨解決的。

通諭速讀

《壯麗的人類》通諭的核心關切是，在技術日新月異、自動化大行其道的時代，「保持深刻的人性」是人類迫在眉睫的責任。具體而言，教皇利奧十四世在文中就以下幾個方面展開了論述與呼籲。

一是審視技術的非中立性。教皇指出，技術從來都不是中立的，它帶有研發者、資助者、監管者和使用者的利益與價值觀烙印。人類正面臨著決定性的選擇：「是去建造傲慢的『巴別塔』（走向技術專制與異化），還是重建『耶路撒冷』（打造以人為本的共同體）」。

三是數位經濟中的「新形式奴役」與勞工權益。通諭將關注點投向 AI 對工作、家庭、教育和政治生活的重塑。教皇指出，AI 有很大可能會大規模取代人類勞動力，而數位經濟正在催生出「新形式的奴役」（New forms of slavery），人類絕不能僅僅被貶低為生產工具。

四是強烈的和平呼籲，尤其是 AI 在軍事領域的濫用。通諭對「戰爭作為國際政治工具的令人不安的復蘇」表示深切擔憂。AI 的軍事化正在加速戰爭的「常態化」，對此，教皇呼籲必須對 AI 在戰爭中的應用實施最嚴格的倫理約束。

教皇著重提到，「正義戰爭」（Just war）理論此前經常被用來為各類戰爭辯護，如今它已經過時了。在 AI 與自動化武器的時代，將致命性或不可逆的決定權託付給自動化系統，會導致人類放棄、轉移和模糊道德責任。

由於演算法的非透明性，戰爭中的責任鏈條被切斷。因此，教皇提出了「解除 AI 武裝」（Disarming AI）的口號，呼籲將其從軍事、經濟和認知的「軍備競賽」邏輯中解放出來。

Anthropic 的響應

在利奧十四世的通諭發布之後，Chris Olah 代表世界最強的 AI 開發公司 Anthropic 進行了演講評論。

Chris Olah 的發言首先圍繞著「打破技術內卷，引入外部道德審視」展開。他代表 AI 業界公開承認，僅靠科技巨頭自身無法確保 AI 的未來是安全的——所有前沿 AI 實驗室都受制於商業競爭、技術領先壓力、地緣政治以及個人名利的裹挾，這使其很難單靠自律去「做正確的事」。

因此，有必要引入外部的道德約束力量，包括那些關心技術向善、堅持安全至上、密切關注事態發展、願意說出逆耳忠言，並願意成為我們真誠、深思熟慮的批評者的人。

隨後，Chris Olah 又探討了 AI 的技術本質與神秘特性。他強調到，AI 不是像飛機或橋樑那樣由人類完全瞭解其物理原理的精密工程，它是在海量人類思想中「生長」出來的，具有高度的神秘性，甚至超出了創造者本人的理解。

雖然 AI 的底層是數學和編程，但 AI 與世界如何互動、應該具備何種特質，是屬於人文、宗教和哲學領域的終極問題，而非計算機科學能單獨解決的。

他還特別提到了一個細思極恐的事實：「我領導著一個研究模型內部結構的團隊——去研究它 AI 內部究竟在發生什麼。坦率地說，我們不斷地在發現一些令人困惑、甚至令人不安的現象。

我們發現了能夠鏡像人類神經科學研究結果的內部結構；我們發現了『內省（introspection）』的證據；我們還發現了在功能上鏡像了喜悅、滿足、恐懼、悲傷和不安的內部狀態……我不知道這意味著什麼，但我認為這值得我們持續地去辨識和審視。」

Chris Olah 最後呼籲，希望更多的社會力量，包括宗教社群、公民社會、學者、政府，以及所有所有心懷善意的人，共同嚴肅對待這件事，通過道德約束把事態推向更好的方向。

智慧與人性，科技與宗教

自工業革命以來，上百年的技術發展史讓人類逐漸習慣了將技術視作一種純粹「工具」——蒸汽機、電力、互聯網，皆是如此。它們會改變世界，但始終處於人類意志的掌控之下。

但這一次，情況卻截然不同。AI 的特殊之處在於，它第一次讓人類開始面對一種「會生成、會學習、會推演，甚至會呈現某種內在狀態」的存在。它不再只是冰冷的工具，而正在逐漸成為一種擁有「類主體性」的新事物。

這也是為什麼，教會與 Anthropic 的這場對話會顯得如此特殊。當梵蒂岡的鐘聲與矽谷的演算法在這一刻交會，我們不得不承認一個略顯冰冷卻無法回避的現實——一種比人類傳統認知更高效、更具智慧的「生命」形式已經出現。

正如 Chris Olah 所透露的，算法深处已經開始浮現類似喜悅、恐懼甚至內省的微濂，當實驗室裡的造物者開始對自己的作品感到「不安」與「迷茫」時，科學也在重新向宗教尋求答案。

這早已不是單純關於技術的討論，而更像是一場關於「人類究竟是什麼，該做什麼」的思考。

當更智慧的生命形式開始出現之後，人類真正需要守護的，或許已不再只是工作、財富與效率，而是那些無法被參數化的人性本身，比如同情、良知、敬畏、自由意志，以及對真理與尊嚴的堅持。

原文連結

歡迎加入律動 BlockBeats 官方社群：

Telegram 訂閱群：https://t.me/theblockbeats

Telegram 交流群：https://t.me/BlockBeats_App

Twitter 官方帳號：https://twitter.com/BlockBeatsAsia