原文標題:Built to benefit everyone: our plan
原文作者:Sam Altman、Jakub Pachocki,OpenAI
原文編譯:小鹿,BlockBeats
每隔幾代人,就會出現一項新技術改變一切。
想像一下,20 世紀 20 年代,電力來到美國一座偏遠小鎮。
在輸電線路到來之前,日常生活受制於物理局限:挑水、手洗衣物、用冰塊保存食物,日落之後大多數活動便不能再繼續進行。電力並未在一夜之間改變每個家庭,許多人從中獲益的程度也參差不齊。
但隨著電力逐漸普及,平凡生活悄然改變。夜晚的燈光延長了一天的時間;電動水泵、家用電器和冰箱減輕了許多繁重的日常勞作;收音機把遠在數百英里外的新聞、音樂與情感聯結帶進了家庭和公共場所。
電力最初的目的是為了方便人們的生活,但它更深遠的影響,來自於隨著越來越多的人能夠使用它創造新的可能。隨著時間推移,新的可能性不斷湧現——機器與計算機極大地加速了醫學、工程及眾多領域的進步。
到 20 世紀末,人類平均壽命延長了 20 多年,通膨調整後的中位收入大約翻了三倍。
這些成就在很大程度上得益於醫療、衛生與生活水平的提升,而其中許多正是由電力的廣泛普及及相關技術進步所帶動或加速的。
AI 正在讓這一現象重現。AI 即將具備非凡的能力。但重點不在於技術本身,而在於人們能用它做什麼。
它可以幫助人們看懂一張醫療賬單、學會一項新技能、創辦一家小企業、照料年邁的父母、理解一項法律或財務決策、將一個想法變為現實,甚至推動一項科學發現。
夜晚燈光帶來的新奇感或許很快便會消退,但人們決定用光去做什麼,卻不會。而正因為技術始終是推動繁榮的可靠途徑,我們認為 AI 應當向所有人開放,讓每個人都能按照自己的需要,在任何地方、以任何方式加以使用。
但是這樣的未來不會自然而然地發生。
變革性技術可以集中權力,也可以分散權力;可以讓少數人的生活更加便利,也可以為更多人拓展機遇。我們的理念基於一個信念:AI 應當服務於人——幫助人們追求自己的目標,增強他們的能力,並將這項技術的紅利儘可能廣泛地惠及大眾。
我們的第一項承諾,是為人類服務而構建 AI。這意味著我們希望廣泛賦能於大眾,而不是讓權力集中於少數幾家公司、政府或個人。
我們相信,一個更安全的未來,是權力廣泛分佈的,讓世界上更多的人能夠參與構建一個具有韌性的生態系統。
我們對 AI 持樂觀態度,因為我們相信它能夠拓展人類的能力與福祉。
但我們同樣對風險保持清醒。強大的系統必須保證安全,必須與人類的意圖保持一致,並接受人類的監督與控制。OpenAI 的使命是確保 AGI 造福全人類。這意味著我們要構建的系統,是幫助人們做更多他們自己選擇的事,而不是替代人類。
將一切完全自動化,並非我們想要的未來。
那將是絕望的,也將是危險的。AI 應當幫助人們去完善自己,而不是代替人類。隨著 AI 系統能力日益增強,人類的角色將變得更加重要:把握方向、權衡取捨、運用判斷,並將價值觀、品味、關懷與責任帶入工作之中。
在未來,人類的一項核心使命,將是決定什麼值得去做。
我們相信,在未來幾年內,AI 開展 AI 研究將成為決定進步速度的關鍵因素。
這一點至關重要,因為「對齊」本身就是一個深奧的研究難題。為了取得快速而深入的進展,我們的研究人員將需要借助 AI 系統來測試想法、發現錯誤、探索替代方案,並與我們並肩迭代。
然而,更快的技術進步讓人類的判斷與公共協作變得更加重要,而非更次要。未來應當由人類、制度與社會來共同塑造,而不僅僅只由那些構建最強大系統的公司來決定。
隨著前沿 AI 開發的持續推進,我們預期國家層面與全球層面的協調將愈發重要。
我們長期以來堅信,最終應當建立一個國際組織,協調各主要 AI 力量,共同降低災難性風險。
將合作與共同的安全作為標準,同樣也作為前進道路的重要組成部分——尤其是因為商業競爭與國家競爭所帶來的問題難以回避。
此類組織的目標之一,應是讓世界能夠採取協調一致的行動,其中包括在必要時放緩前沿領域的開發,以使社會的韌性、安全性與對齊能力能夠跟上技術進步的步伐。
目前,OpenAI 有三大核心目標:
構建自動化 AI 研究員——一個能夠加速並日益自動化研究過程本身的 AI 系統,同時保持可操控性、可問責性,並與人類保持緊密聯繫。
我們內部的判斷是,到 2028 年 3 月,我們相當一部分研究或將由 AI 系統與我們自己的研究人員協同完成。
為了在對齊研究上取得足夠的進展,我們相信需要 AI 與我們一同迭代。這將幫助我們共同導航向「後 AGI 世界」的過渡,讓我們能夠集體決定通往未來的路徑。
加速經濟發展——通過加速科學進步、提升生產力與推動經濟增長,同時致力於確保成果得到廣泛共享。
每個人都應有機會在 AI 創造的繁榮中分享有意義的一份。
為地球上的每個人提供一位個人 AGI——賦予他們以自己選擇的方式,從人類最具變革性的技術之一中獲益。
為了實現這一切,我們正在進入 OpenAI 的第三階段。
OpenAI 的第一階段,是圍繞 AGI 開展研究。
第二階段始於我們的研究開始與現實世界產生關聯,我們成為一家產品公司:部署我們的系統,從人們的使用方式中學習,並在安全與「使命對齊」的前提下持續推進 AGI 進展。
如今,我們正踏入第三階段。
經濟正在圍繞 AI 重塑。核心問題已經變成:如何讓先進 AI 變得充裕、可負擔、安全、實用,且足夠易用,讓每個人和每個組織都能從中受益。
前沿能力只是工作的一部分,更大的任務是將這種能力轉化為人們真正能夠用來創造與發展的工具。
最重要的是,我們相信權力的廣泛分佈將有助於通向更美好的未來。人類歷史表明,權力的集中製造會讓社會變得脆弱,而權力的廣泛共享則使社會更具韌性、更能適應變化、更加自由。
這正是普及性之所以重要的原因,也是安全、隱私、可負擔性、開放生態系統與公眾監督之所以重要的原因。
一個美好的 AI 未來,不應是少數機構掌控大多數能力與紅利的未來。
它應當是一個由許多人、眾多企業、各地社區與各個國家都能構建、受益並持有權力的未來。我們相信,這場變革理應屬於所有人。
如果我們做得正確,AI 可以成為提升大眾生產力、創造力、科學進步與經濟機遇的基石,我們也將實現我們的使命:確保 AGI 造福全人類。
歡迎加入律動 BlockBeats 官方社群:
Telegram 訂閱群:https://t.me/theblockbeats
Telegram 交流群:https://t.me/BlockBeats_App
Twitter 官方帳號:https://twitter.com/BlockBeatsAsia