《人類簡史》出版10周年：人工智能是用來造天堂還是建地獄

【編者按】

《人類簡史：從動物到上帝》出版后，暢銷世界，這是以色列歷史學家尤瓦爾·赫拉利在寫作這本書的時候不曾想到的。同樣讓尤瓦爾·赫拉利不曾想到的是，在這本書出版十年后，人類的故事有了很大的轉變。2021年夏天，他寫作了此文，以備日后《人類簡史》出版限定版時使用。近日，中信出版集團推出了“人類簡史三部曲”（十周年暢銷紀念版），收錄了此文。

尤瓦爾·赫拉利

2011年夏，我寫完后，覺得肯定不會再講那個故事了。我對那本書有一份特別的喜愛，也為該書的成功而心存感激，但我覺得我已經(jīng)講完了人類這個物種如今的故事。人類2.0仍在展開，可我想以后的故事最好留給別人去講。

但是，2016年美國總統(tǒng)選舉后，我想我恐怕要回到開頭，重新審視我們這個物種通過想象建構秩序和統(tǒng)治結構的獨特能力。

過去幾年間，我們看到，假新聞比真新聞更強大；聯(lián)邦調查局可以選總統(tǒng)；臉書可以左右選舉；一個億萬富翁可以當選總統(tǒng)，而且比對手花的錢還少；一個國家可以分裂為兩個敵對陣營，彼此拒絕傾聽對方的意見。

換言之，人類以想象來建構大規(guī)模秩序這一獨特的能力現(xiàn)在開始轉向對我們不利。

過去，民族國家和資本主義市場這些想象建構的秩序賦予了人類更大的力量。它們創(chuàng)造了空前的繁榮，產生了空前的福祉?？墒墙裉欤褡鍑液唾Y本主義市場等想象建構的秩序開始將我們撕裂。

今天我們面臨的巨大挑戰(zhàn)是創(chuàng)立一個不以民族國家或資本主義市場為基礎的由想象建構的新全球秩序。

有沒有辦法創(chuàng)造一個并非基于民族國家，或自由市場，或個人主權，或駕馭自然的想象建構的新全球秩序呢？

這就是我想在本書中講的故事。

寫出上面這些文字的不是我尤瓦爾·諾亞·赫拉利，而是一個強大的人工智能系統(tǒng)按指令模仿我的寫作風格寫的。這個人工智能系統(tǒng)叫作GPT-3，是舊金山一家專門研究機器學習的實驗室“OpenAI”制造的。GPT-3接到指令，要它為《人類簡史》出版10周年寫一篇新序，于是它收集了我寫過的書和文章、對我做過的訪談，以及在網(wǎng)上找到的幾十億個句子，使用這些原材料生產出了上面的文字。這些文字沒有經(jīng)過任何編輯改動。

我讀著GPT-3模仿我的風格寫出的文字，心情復雜。一方面，我覺得這些文字不怎么樣。GPT-3抄了我自己寫過、說過的一些話，將其與從互聯(lián)網(wǎng)上搜羅到的各種主張糅在一起。這些主張中有很多是我不同意的，甚至有些我認為不能服人，或者簡直荒唐可笑。如此產生的文章是文字與思想的大雜燴。目前我并不擔心——GPT-3不會奪走我的工作，至少今后幾年不會。

另一方面，我真心訝異不已。讀著上面的文字，我被驚得瞠目結舌。這是人工智能寫的嗎？！不錯，這些文字是這里一點那里一點拼湊起來的雜燴?？商煜挛恼码y道不都是這樣嗎？我寫《人類簡史》時，也閱覽了許多書籍、文章和訪談錄，把不同的思想和事實合并起來寫成新的東西。GPT-3生產的這些文字最令人震驚的是它居然言之有理。它不是胡亂拼湊了一堆句子，而是有著連貫的邏輯。我不同意GPT-3的一些論點，但使我感到驚駭?shù)氖?，這些文字真的提出了論點。如果給“無限猴子定理”中的猴子一臺打字機讓它玩，我只需瞥一眼，半秒鐘內就能夠認定猴子打出的東西不是我寫的?？墒牵业冒袵PT-3的文字仔細讀上一兩分鐘，才能得出結論這并非出自我手。

還有一點令我驚愕，也令我警覺。那就是變化的步伐。GPT-3作為人工智能依然非常原始。厲害的還在后面。2010年我寫《人類簡史》時，我?guī)缀鯖]有想過人工智能。它聽起來不屬于嚴肅的歷史書，倒像是科幻電影的題材。可是，當我坐在圖書館里埋頭于故紙堆的時候，我那些在計算機科學實驗室的同事也沒閑著。2011年，《人類簡史》以希伯來文首次出版，一個名叫沃森的人工智能在美國一個很受歡迎的智力競賽節(jié)目《危險邊緣》（Jeopardy!）上打敗了人類參賽者，一輛自動駕駛汽車在柏林城里的大街小巷穿行了一圈，蘋果手機上安裝了語音助手Siri。

《人類簡史》希伯來文版封面

10年后，人工智能革命席卷世界。這場革命標志著我們所知的人類歷史的完結。數(shù)萬年來，人類發(fā)明了各種工具，使人類的力量更加強大。斧頭、輪子和原子彈給了人類新的力量。人工智能卻不同。有史以來第一次，力量可能會脫離人類之手。

以前的所有工具都使人類更強大，因為工具本身無法決定自己的用途。決定的權力從來都掌握在人的手中。一把斧頭決定不了砍哪棵樹，一顆原子彈無法決定是否要發(fā)起戰(zhàn)爭。但人工智能可以。今天，你去銀行申請貸款時，已經(jīng)是人工智能系統(tǒng)決定是否批準你的申請了。你求職投簡歷的時候，審查你的簡歷、決定你的命運的很可能是一個人工智能。

以前的所有工具都使人類更強大，因為人懂得工具，而工具不懂得人。一個農夫知道一把斧頭能做什么，但斧頭不明白農夫的需要和感覺。很快，人工智能就能比我們更加了解我們自己。它是會繼續(xù)做我們手中的工具，還是我們會成為它的工具呢？

至少還有幾年的時間，人仍然比人工智能更強。具體來說，我們仍有能力決定人工智能和其他革命性技術的發(fā)展和用途。我們一定要明智地使用這個能力。技術的目的從來不是先天確定的。同一個技術可以有許多不同的用途。在20世紀，一些社會通過電力、火車和無線電的力量建立了極權獨裁，其他社會使用一模一樣的技術創(chuàng)造了自由民主政體。21世紀的新技術是用來造天堂還是建地獄，全看我們如何選擇。

要做出明智的選擇，我們需要了解新技術的充分潛力，也需要更好地了解自己。如果我們能使用人工智能創(chuàng)造一個新世界，那個世界將是什么樣子？如果你能夠使用生物工程學來重塑人的身體與頭腦，你會做出何種改動？

童話故事里，一條神奇的金魚或一個無所不能的精靈答應滿足人的3個愿望時，通常都沒有好結果。人所求的都是錯的，因為他們不知道自己的苦難或幸福的真正來源。若想比童話故事里那些笨拙的人得到更好的結局，就需要知道作為人的意義。我們是誰？我們從哪里來？

所幸過去10年間，隨著數(shù)字設備的威力呈指數(shù)增加，我們對人體生物學和人類歷史的知識也加速增長。自從2011年《人類簡史》出版以來，科學家發(fā)現(xiàn)了人類族譜上的幾個新支。2013年，在南非初次發(fā)現(xiàn)了屬于納萊迪人（Homo naledi）的遺骨。2019年，發(fā)現(xiàn)了曾居住在菲律賓呂宋島上的呂宋人（Homo luzonensis）。2021年，在以色列和中國分別發(fā)現(xiàn)了兩個可能的新人類物種。

我們不僅知道了其他古人種的存在，還對他們的生活有了更多了解——他們吃的食物、他們的行為方式，甚至他們交配的對象。我寫作《人類簡史》時，我們只知道幾個小小的線索，暗示智人和尼安德特人發(fā)生過混種繁殖?，F(xiàn)在，我們已經(jīng)掌握了關于他們相遇相交的很多證據(jù)。我們還知道，智人和尼安德特人都和另一個神秘的人類物種雜交過，那個物種叫丹尼索瓦人，是2010年初次發(fā)現(xiàn)的。最近，科學家發(fā)現(xiàn)了一個混種人的骸骨，其母親是尼安德特人，父親是丹尼索瓦人。

自我寫成《人類簡史》以來，人類的故事增添了眾多細節(jié)和新的曲折。但是，我在書中表達的中心意思絲毫沒有改變：對智人最好的描述是，他是會講故事的動物。我們創(chuàng)作出了關于神、國家和公司的虛構故事，而這些故事構成了我們社會的基礎和我們生活意義的源泉。為了這些故事，我們經(jīng)常不惜殺人或者被殺。在黑猩猩、狼或任何其他有智能的社會性物種中，都看不到這種行為。我們比任何其他動物知道的真理都多，但我們相信的虛構故事更多。只有人類會為了故事而彼此殺戮，而我的論點是，如果真想搞懂人類歷史，就必須認真對待我們的虛構故事。只看經(jīng)濟或人口因素是不夠的。

僅以第一次世界大戰(zhàn)為例。德國和英國為什么打仗？不是因為領土不夠大或食物不夠多。1914年，兩國有足夠的領土為所有國民造房子，也有足夠的食物養(yǎng)活國民。但是，它們兩國無法就一個它們都能相信的共同故事達成一致，于是就發(fā)動了戰(zhàn)爭。今天，英國和德國實現(xiàn)了和平，不是因為它們的領土增加了（其實兩國的領土比1914年時少了許多），而是因為現(xiàn)在它們有了一個大部分英國人和德國人都相信的共同的故事。

幾千年前佛陀就說過，人世乃夢幻泡影。的確，國家、神祇、公司、金錢、意識形態(tài)——都是我們創(chuàng)造并相信的集體幻影，人類歷史就是由它們統(tǒng)治的。在人工智能時代，我們相信的故事比以前更加重要，因為我們有了追求幻想的更強大的技術。

古人想象天堂和地獄時，他們的幻想深深地影響著他們的行為。他們打仗、殺死所謂的異教徒、不吃某種食物、禁止某些性行為，因為他們認為這樣能夠上天堂?？墒?，他們只能把天堂推遲到想象中的來生。在21世紀，至少有些人會忍不住使用人工智能、生物工程學和其他革命性技術來試著在今世實現(xiàn)自己的幻想。如果我們不謹慎地選擇自己所相信的東西，很可能會被幼稚的烏托邦幻想誤導，陷入技術地獄之中無路可退。

要創(chuàng)造一個更美好的世界，只學會計算機編碼或解譯遺傳密碼是不夠的。人工智能和遺傳工程學很容易被用來為極權暴君和宗教狂熱分子服務。我們真正需要明白的是人的頭腦以及頭腦產生并相信的幻想。這是詩人、哲學家和史學家的任務，現(xiàn)如今這個任務比任何時候都更加緊迫。

常有人問我，為什么《人類簡史》引起了這么多讀者的共鳴。我認為，這本書之所以成功，是因為它滿足了一個實實在在的需求，為大家講述了一個關于人類歷史的最新科學發(fā)現(xiàn)的故事。不過，我也試著幫讀者從一個新的角度來看大局。我們生活在一個全球性世界中，但大多數(shù)學校里教的和書本上講的都還是某一個國家或文化的當?shù)貧v史。今天，塑造你命運的有領導人的政治決定，有舊金山工程師的技術發(fā)明，也有印度工廠的生態(tài)影響。要想了解你的未來，你需要了解整個世界的歷史和全人類面臨的挑戰(zhàn)。我寫此書，是想幫人們更清楚地看世界，讓每個人都有能力參加我們時代最重要的辯論。

GPT-3冒充我寫的那些文字我并不全同意。但其中有一句話我完全認可：“我們生活在由和我們非常不同的人在我們出生很久以前發(fā)明的思想牢獄之中?！痹谖铱磥?，像我這樣的歷史學家的工作是展示這些思想牢獄是如何建造起來的，并表明我們并非注定關在其中無法逃脫。人是講故事的動物；沒有故事，人類社會就無法運作。但歸根結底，這些故事不過是我們?yōu)榱藥椭硕鴦?chuàng)造出來的工具。如果一個故事造成的弊大于利，我們總可以把它改掉。

“人類簡史三部曲”，【以色列】尤瓦爾·赫拉利/著 林俊宏/譯，中信出版集團，2018年10月版