馬斯克傳記作家爆料：10 年前，他就開始擔心AI毀滅人類

閱讀本文需 10 分鐘

他親自運營六家公司，保存人類意識的火種，對抗危險的 AI。

原文標題：《馬斯克傳記作家曝重磅內幕：10 年前，他就開始擔心AI 毀滅人類》

原文作者：常嘉帥

原文來源：華爾街見聞

如果能擁有超越常人的遠見、精力和幸運，以及隨之而來的巨額財富，你會做什麼？

馬斯克的答案是：親自運營六家公司，保存人類意識的火種，對抗危險的 AI。

週三，馬斯克傳記作者Walter Issacson 在《時代》雜誌上刊出即將出版的傳記部分章節，講述了馬斯克十幾年來一以貫之的對AI 的恐懼和擔憂，以及他對人類未來命運的思考，華爾街見聞進行了重點摘錄。

對AI 降臨的恐懼

馬斯克對AI 的恐懼，源於2012 年與AI 研究員Demis Hassabis 的一次會面。

當時，馬斯克邀請他參觀了SpaceX 工廠，並解釋說，自己之所以造能上火星的火箭，是為了在核戰爭、小行星撞擊這樣的末日降臨時刻，保存人類文明的火種。

Demis 提醒他，末日清單上應該再加一條——AI，機器的智能未來可能超越人類，甚至也許想消滅人類。

馬斯克思考了一分鐘，然後認為 Demis 是正確的，並立即向 DeepMind 投資 500 萬美元，以「監控它在做的事情」。

這次談話幾週後，馬斯克向認識十幾年的老朋友、谷歌聯合創始人拉里·佩奇介紹了DeepMind，而且經常深夜找佩奇聊AI 對人類的威脅，但後者對此嗤之以鼻。

2013 年，在馬斯克的生日派對上，他們展開了一場激烈的辯論。馬斯克認為，如果不立刻行動起來、建立保障措施，飛速發展的 AI 可能會讓人類滅絕。

但佩奇完全不在乎，他反問道：如果有一天機器在智力甚至意識上超越了人類，那又有什麼關係呢？這只不過是進化的下一個階段而已。他指責馬斯克是一個「物種主義者」，偏袒自己所屬的物種。

馬斯克也大方承認了：「是的，我他媽就是喜歡人類。(I f-cking like humanity, dude.)」

創辦OpenAI，是為了製衡谷歌

當年年底，佩奇領導下的谷歌計劃收購DeepMind的消息傳到了馬斯克耳朵裡，他很擔心，強大的AI 如果被佩奇這樣不關心人類的人掌握，會發生什麼。

所以，他拉來朋友、PayPal 聯合創始人Luke Nosek，想籌錢阻止這筆交易，但沒能成功，谷歌在14 年1 月完成收購。作為對馬斯克擔憂的回應，佩奇同意成立一個「安全委員會」，讓馬斯克和前面提到的AI 專家Demis 當了委員，其他成員還包括谷歌董事長Eric Schmidt、領英聯合創始人Reid Hoffman等人。

然而，在參加了「安全委員會」第一次也是唯一一次會議後，馬斯克變得更加不信任佩奇和谷歌，認為委員會裡的人都在胡說八道。他開始密集地組織聚會，討論如何對抗谷歌和促進 AI 安全。

2015 年5 月，他還和時任美國總統奧巴馬進行了一對一長談，解釋AI 的風險，並提議總統對AI 進行監管。但奧巴馬並沒有採納他的提議。

於是，OpenAI 創始人 Sam Altman 就在這個時候登場了。馬斯克和他都相信，相比由少數大公司掌控 AI，大量相互競爭、相互制衡的 AI 系統更加安全。在一場晚宴上，兩個人一拍即合，決定共同創辦一家非營利性人工智能研究實驗室，並將其命名為 OpenAI。

不過，在2018 年，由於當時特斯拉也要研發AI 以驅動其自動駕駛軟件，為了規避潛在利益衝突，馬斯克無法繼續留在OpenAI。他嘗試說服 Altman 把 OpenAI 併入特斯拉，但遭到了拒絕；此外，他也對 OpenAI 逐漸走向商業化的方向非常不滿，於是最終與 OpenAI 團隊決裂。

回看馬斯克如今的商業版圖，每家公司都代表著他對AI 危機的解決方案：SpaceX 可以建造保存文明火種的諾亞方舟；腦機接口公司Neuralink，可以讓人類的肉體之軀變得更加強大；特斯拉每天從汽車攝像頭上接收並處理1600 億幀視頻，這些真實世界數據可以用於「通用人工智能（AGI）」訓練，而人形機器人Optimus 將成為AGI 的物理載體。種種資源，都可以整合到它的新公司——xAI 裡。

今年上半年，OpenAI 引領的AI 浪潮不僅搶走了馬斯克的聚光燈，也讓他更加擔心，這些被大公司控制得AI 系統，可能會傳播「覺醒文化病毒」，毒害美國青少年的心靈；他還擔心，如今那些能夠自我學習的AI 系統可能會對人類產生敵意，以及，用推特數據訓練的機器人可能會生產虛假或詐騙信息。

他迫不及待地想要入局，對自己創立並資助了 OpenAI 但現在卻被置身事外感到憤恨。 AI 是正在醞釀的最大風暴。沒有人比馬斯克更喜歡風暴了。

於是，上半年，馬斯克對OpenAI 和Altman 個人發起了猛烈的攻擊，Altman 能理解馬斯克的攻擊性，在一場採訪中，他說馬斯克雖然表現得像個混蛋，但他相信他是真的很關心AI 領域，並且在擔憂人類的未來。

馬斯克認為，在 AGI 賽道上，自己處於領先的位置。

雖然沒能在 AI 浪潮最火的時候趕時髦、做出 AI 聊天機器人。但馬斯克相信自己在通往 AGI 的競賽中仍然領先。

他相信，只能生成文本的聊天機器人作用有限，重點是有智慧的實體機器人。一方面，特斯拉已經有了先進的自動駕駛技術和人形機器人Optimus；另一方面，推特上數億名用戶的推文和特斯拉車身的攝像頭，也為研發AGI 提供了足夠的數據。

所以，他有信心能比OpenAI 更快創造出AGI：「特斯拉在現實世界中的AI 能力被低估了，想像一下，如果特斯拉和OpenAI 必須交換任務。他們必須製造自動駕駛汽車，而我們必須製造大型語言模型聊天機器人。誰會贏呢？我們贏。」

< p>直到最近，馬斯克仍然在思考如何減少AI 風險，讓人類意識能夠代代流傳。

他認為，人類的智力水平正在趨於平穩，新生兒已經越來越少。與此同時，計算機的智能卻在呈指數級增長，就像「打了類固醇的摩爾定律」。生物腦力與數位腦力相形見絀。

馬斯克相信，AI 以不受控的速度獨自前行、將人類甩在身後的「奇點時刻」，會比我們預想的更快到來。

「我不能無所事事，隨著人工智能的到來，我有點懷疑該不該花那麼多時間去考慮推特。當然，我也許可以讓它成為世界上最大的金融機構。但我每天只有那麼多精力和時間，我又不需要賺更多錢什麼的。那我的時間應該花在什麼地方？啟動星際飛船。現在去火星要緊迫得多。另外，我需要集中精力確保人工智能的安全。這就是我要創辦一家AI 公司的原因。」