圖片來自網(wǎng)絡(luò)
無論是在宗教文本，還是哲學(xué)家、文學(xué)家們的描述中，都一次次構(gòu)想過諸如“世界末日”的圖景—區(qū)別只是在于前面是否有一個(gè)天堂等著，還是歷史徹底終結(jié)。它們讓我們想到，人類活在這個(gè)世界上，真像是一次次驚心動(dòng)魄的歷險(xiǎn)。
到現(xiàn)在為止，政治、社會(huì)、經(jīng)濟(jì)、科技、文化的風(fēng)險(xiǎn)無處不在，但并沒有根本性的危險(xiǎn)，想象中的很多事情并沒有發(fā)生。原因可能是，有自由意志的人類能夠在總體上控制沒有自由意志的一切，無論它們是權(quán)力、自由市場、貧富懸殊，還是核彈、金融系統(tǒng)、移動(dòng)互聯(lián)網(wǎng)。
不過人工智能的那個(gè)世界日益臨近，一個(gè)從未有過的、跟人類的“存在”直接相關(guān)的問題逼問而來。
7月20日，日本軟銀集團(tuán)董事長孫正義發(fā)表了一篇主題演講《信息革命指引下的新世界》，構(gòu)想了30年后的圖景：“物聯(lián)網(wǎng)將使全球網(wǎng)絡(luò)化，智能機(jī)器人將滲透我們的日常生活，人工智能（AI）將超越人類智力?！辟Y本顯然樂于推動(dòng)科技在這方面的突飛猛進(jìn)。
就在最近，因?yàn)椤度祟惡喪贰贰段磥砗喪贰穬杀緯谌蚱氐么竺囊陨袣v史學(xué)家尤瓦爾·赫拉利來華演講，也談到了人工智能：“21世紀(jì)的人類將逐漸失去在上萬年的演變過程當(dāng)中獲得的力量，這些力量將逐步從人類讓渡給人工智能。”在他眼中，人工智能改變了自生命出現(xiàn)以來最重要的原則，我們的生命將根據(jù)計(jì)算機(jī)智能設(shè)計(jì)，脫離原先有機(jī)化合物的限制，進(jìn)入一個(gè)無機(jī)的世界。
著名哲學(xué)家、中國社會(huì)科學(xué)院哲學(xué)研究所研究員趙汀陽在他的新書《四種分叉》中也探討了這個(gè)跟哲學(xué)、生物、科技有關(guān)的前沿問題。他把人工智能問題放在了最根本的人類思維和人的存在論角度進(jìn)行深刻考察?？萍己蜕虡I(yè)可以給我們描述一個(gè)充滿迷幻的世界，但哲學(xué)有助于我們看到這個(gè)世界是和不是什么。
本刊記者對(duì)趙汀陽進(jìn)行專訪。
人工智能的“短未來”和“遠(yuǎn)未來”
N：你的新書《四種分叉》講到了跟人的存在有關(guān)的時(shí)間、意識(shí)、道德、智能這四種“分叉”。
前三種分叉在我看來是講“人為什么會(huì)變成現(xiàn)在這個(gè)樣子”，而智能的分叉則完全不一樣，不是又會(huì)變成什么樣子的問題，而是還能不能存在的問題。用你的話說：“人工智能一開始是個(gè)知識(shí)論問題，在不遠(yuǎn)的將來將要升級(jí)為一個(gè)涉及終極命運(yùn)的存在論問題，一個(gè)或許將危及人類自身存在的問題。”
尤瓦爾·赫拉利也在《未來簡史》中擔(dān)心人類的消亡。既然一切終都可以還原為科技，那一個(gè)新的物種—人工智能—當(dāng)然比人類厲害得多。
不過我還是有點(diǎn)疑惑：為什么不是人類像過去那樣借助科技力量提升了自己，而是反過來危及了自身的存在呢？
ZH：人工智能真的危險(xiǎn)嗎？科學(xué)家們的看法也多有分歧，原因在于，無人能夠算準(zhǔn)未來，無論科學(xué)技術(shù)本身將會(huì)發(fā)展到什么程度，還是會(huì)導(dǎo)致什么社會(huì)后果，都難以預(yù)料。很顯然，必然性可以算計(jì)，可能性卻難以算計(jì)。另外，科學(xué)家所預(yù)測的人工智能未來時(shí)段也不一致，有些科學(xué)家討論的是可見的“短未來”，比如說二三十年后的人工智能狀況，這種預(yù)見的準(zhǔn)確度就比較高，也有些科學(xué)家討論的是百年或更遙遠(yuǎn)的“遠(yuǎn)未來”，就僅僅是可能性，未必為真。這兩種情況要分別談?wù)摗?/p>
假定限于“短未來”去看人工智能，估計(jì)應(yīng)該屬于你說的“科技提升了人類自己”的樂觀情況。事實(shí)上我們已經(jīng)處于初級(jí)人工智能的時(shí)代，互聯(lián)網(wǎng)、電腦、手機(jī)、工業(yè)機(jī)器人、無人機(jī)、各種自動(dòng)識(shí)別儀器、無店員超市等等，都已經(jīng)是現(xiàn)實(shí)，很快會(huì)成為常態(tài)的產(chǎn)品還有家用機(jī)器人、醫(yī)療機(jī)器人、農(nóng)用機(jī)器人、戰(zhàn)斗機(jī)器人、各種特殊用途的機(jī)器人、自動(dòng)駕駛汽車和火車，以及各種智能服務(wù)，這些都屬于“短未來”的人工智能。
所有屬于專門用途的有限人工智能即使尚未成為現(xiàn)實(shí)，也已經(jīng)不能引起人們的驚奇，過度的預(yù)告和宣傳已經(jīng)讓人們失去了好奇心和感受能力。雖然說“短未來”的人工智能基本上屬于積極的“進(jìn)步”，但也足以形成人類難以處理的社會(huì)難題，比如說許多科學(xué)家已經(jīng)警告未來數(shù)十年里人工智能會(huì)導(dǎo)致超過50%的大量失業(yè)，赫拉利的估計(jì)最為驚險(xiǎn)，他認(rèn)為90%以上的人都會(huì)失業(yè)—這個(gè)估計(jì)也許夸大了，人類有可能發(fā)明一些新的工作，但無論如何，大量失業(yè)是一定的。
據(jù)說人工智能會(huì)使人類的經(jīng)濟(jì)財(cái)富有個(gè)大飛躍，于是多數(shù)人可以不工作而坐享其成，比如說無條件的全民福利，聽起來接近共產(chǎn)主義的想象。另外，一切需要努力的生活經(jīng)驗(yàn)變成了可以購買的智能服務(wù)，比如說，學(xué)習(xí)變成了搜索和下載，愛情變成了定制服務(wù)，甚至智商也可以定制購買，因此很大程度上實(shí)現(xiàn)了自由和平等。
N：對(duì)這種看上去很先知范的預(yù)言你怎么看？
ZH：對(duì)這些好事我有些將信將疑。百萬年來，人類的生活意義與勞動(dòng)的成就密切相關(guān)，心理結(jié)構(gòu)也與勞動(dòng)的意義密切相關(guān)，這種相關(guān)性已經(jīng)固化為一種價(jià)值認(rèn)證或意義指數(shù)。假如生活不再需要?jiǎng)趧?dòng)，不知道這種新經(jīng)驗(yàn)將如何承載生活。一個(gè)人將如何解釋自己的生活？如何確定各種事物的意義？又如何確定自由和平等的意義？自由和平等之所以“價(jià)更高”，就是因?yàn)楝F(xiàn)實(shí)存在著不自由和不平等。如果可以不勞而獲，一切好東西都失去高附加值，就消解了一切價(jià)值。沒有價(jià)值差異的生活將如何解釋自身的價(jià)值？又是怎么的一種經(jīng)驗(yàn)？我們既無準(zhǔn)備也難以理解。李澤厚老師曾經(jīng)提過一個(gè)驚心動(dòng)魄的問題，他說，當(dāng)人類解決了生存所需的問題，也許就找不到什么確實(shí)的事情能夠解釋生活的意義。
N：“短未來”的輿論造勢似乎比較符合現(xiàn)代性的邏輯：變，大家不跟上就會(huì)被拋棄；也符合技術(shù)積累的邏輯，它追求并總會(huì)發(fā)生突變；當(dāng)然更符合經(jīng)濟(jì)的邏輯，科技似乎是維持經(jīng)濟(jì)發(fā)展、拯救人類政治-社會(huì)-經(jīng)濟(jì)結(jié)構(gòu)的萬應(yīng)靈丹，過去幾個(gè)世紀(jì)的工業(yè)革命莫不如此，每一次經(jīng)濟(jì)結(jié)構(gòu)的重大變化都期待一次科技革命的發(fā)生。所以事實(shí)上如你所說，人們已經(jīng)不驚奇了。那“遠(yuǎn)未來”呢？
ZH：假如從“遠(yuǎn)未來”的角度去看，可能會(huì)遇到我在書中討論的終極問題，即如果人工智能獲得反思能力，超越了圖靈機(jī)的限度而形成自我意識(shí)，那將是一次存在論水平的革命，就是說，存在的升級(jí)。
存在的升級(jí)是對(duì)存在本身的革命，而不是一種存在對(duì)其生存條件的革命。人類萬年以來的各種技術(shù)革命都屬于對(duì)生存條件的革命，即自身能力的延伸，都不是對(duì)自身存在本身的革命，但人工智能的發(fā)展卻有可能形成對(duì)人類存在自身的革命。無論此種“存在論級(jí)別的革命”是福是禍，它都非?？赡馨l(fā)生。
N：在我的印象中，無論是從哲學(xué)上還是在別的領(lǐng)域（比如人類學(xué)），都是在這樣的角度展開的：人從動(dòng)物那兒走來，區(qū)別于動(dòng)物；然后人向神走去（雖然永遠(yuǎn)不可能走到）。換句話說，動(dòng)物只是人超越的一個(gè)低級(jí)版本，而神也只是人的一個(gè)完美的投影。在這種情況下，都是“人的存在”，科技發(fā)展之類只是你所說的對(duì)這種存在條件的改善，人擔(dān)心的也只是怕自己倒退回去（回到動(dòng)物狀態(tài)）或被科技所毀滅（比如原子彈）。但人工智能的橫空出世給我們的感覺似乎是要用“工人智能的存在”取代“人的存在”。這個(gè)可以預(yù)測嗎？
ZH：沒辦法預(yù)測。我們雖然沒法預(yù)測，但從邏輯上看，存在級(jí)別遠(yuǎn)高于人類的人工智能可能會(huì)有幾種情況：
1、視人類為無足輕重的低級(jí)存在而給予漠視，不去照顧人類的生活，讓其自生自滅，就像人類看螞蟻一樣；2、認(rèn)為人類的存在完全多余，礙手礙腳，因此視為可以清除的害蟲，就像人類殺死蚊子和蒼蠅；3、把人類當(dāng)成低級(jí)寵物（這種可能性比較小，人工智能的心智與人類不同，不太可能像人類那樣有著孤獨(dú)感或無聊的“愛心”）；4、小部分人類把自己改造為人機(jī)一體的長生不老的高級(jí)存在，進(jìn)而奴役或消滅其他低級(jí)人類。
不過，好在這些恐怖的可能性都比較遙遠(yuǎn)，也未必能夠成真，恐怕不像有的未來學(xué)家想象的那樣迫在眉睫，因?yàn)樽晕乙庾R(shí)或自由意志是極其復(fù)雜的事情，生命系統(tǒng)更是無比復(fù)雜，據(jù)說一個(gè)生命的復(fù)雜程度遠(yuǎn)遠(yuǎn)超過整個(gè)宇宙的物理性質(zhì)。因此，在意識(shí)和生命方面實(shí)現(xiàn)根本突破仍然遠(yuǎn)遠(yuǎn)超過目前人類的能力，并非可望之愿景。
另外我想說，關(guān)于未來人工智能有個(gè)最不靠譜的設(shè)想是，給人工智能編程設(shè)定一些熱愛人類、保護(hù)人類價(jià)值觀的程序。假如人工智能哪天真的獲得了自我意識(shí)和自由意志，就會(huì)把那些“熱愛人類”的程序識(shí)別為對(duì)人工智能有害無益的木馬或病毒軟件而加以刪除。很顯然，一旦人工智能有了自由意志，它的存在目的就是為人工智能自己服務(wù)而不可能毫不利己專門利人地為人類服務(wù)。一旦人工智能系統(tǒng)成為高于人的存在，就很難指望人工智能愛民如子。
所以，霍金對(duì)人工智能的警告是對(duì)的。人工智能無疑是一種最偉大的技術(shù)，但其發(fā)展必須有個(gè)絕對(duì)限度，我的理解是，人工智能只能保持在特殊化、專門化的發(fā)展范圍內(nèi)，而只有專項(xiàng)技能的人工智能無論多么強(qiáng)大，都因?yàn)槿狈C合能力而難以形成全面的智能和自由意志，否則，不僅是歷史的終結(jié)，而可能會(huì)是人類的終結(jié)。
人工智能如果有反思能力，它稱王的時(shí)代就來臨了
N：從歷史上看，潘多拉魔盒打開就打開了，很難收回去。人類創(chuàng)造出了很多失去控制的事物，比如資本主義，比如權(quán)力。它們已經(jīng)能夠“自律運(yùn)轉(zhuǎn)”。但似乎不能說它們有自由意志。它們是可以提升或惡化人類的存在，但好像并沒有危及人的存在本身。你擔(dān)心人工智能會(huì)危及人類自身的存在，是擔(dān)心它像人一樣具有自由意志。但我很懷疑這點(diǎn)：人造出來的這些東西怎么可能有自由意志呢？
ZH：自現(xiàn)代以來，人類確實(shí)創(chuàng)造了許多失控的事物而暫時(shí)幸免于難，但人工智能的革命有著根本性的不同，正如前面說的，這種存在論級(jí)別的革命是革自己的命，所以它是一種“反存在”的革命。現(xiàn)代的進(jìn)步論思維有一個(gè)既是優(yōu)點(diǎn)又是缺點(diǎn)的思維方式，即更多地考慮一種創(chuàng)新是否有某種好處，而較少考慮這種創(chuàng)新是否有某種壞處，而且還相信任何發(fā)展總是好處大于壞處。
這些信念都是假設(shè)，并無實(shí)在證明。結(jié)果是，好處的誘惑總是大過壞處的警告?，F(xiàn)代進(jìn)步論另有一個(gè)過于樂觀的思維方式，即相信總會(huì)有更新的技術(shù)進(jìn)步能夠解決上一個(gè)技術(shù)進(jìn)步的遺留困難。這也是一種盲目的幻想和自信。比如說，核污染以及各種化學(xué)污染就不見得能夠得到及時(shí)的化解。
既然人工智能的這項(xiàng)技術(shù)進(jìn)步超出工具進(jìn)步的概念，而有可能改變?nèi)祟惖拇嬖诒旧?，所以可能有終極性的風(fēng)險(xiǎn)。人工智能一旦獲得自由意志，就可能導(dǎo)致萬劫不復(fù)的災(zāi)難。不過，人工智能是否一定能夠達(dá)到自由意志？科學(xué)家們尚無一致看法。其中的一個(gè)原因是，人類至今尚未清楚了解自我意識(shí)或自由意志的機(jī)制，也就無法確切知道如何能夠創(chuàng)造出人工智能的自由意志，也就不清楚一個(gè)高度發(fā)達(dá)的人工智能系統(tǒng)是否能夠自己創(chuàng)造出自由意志。
N：也就是說，仍只是一種基于“進(jìn)步”思維的想象—盡管可能是合理的想象。它的邏輯圖式大概可以是這樣：既然我們可以創(chuàng)造出能在智力上戰(zhàn)勝人類的機(jī)器，當(dāng)然總有一天也會(huì)創(chuàng)造出有自由意志的另一個(gè)人工物種來。誰能否認(rèn)這種邏輯可能性呢？雖然邏輯可能性并不等于存在或會(huì)存在某一個(gè)現(xiàn)實(shí)。
ZH：應(yīng)該說，這是一個(gè)目前尚無答案的問題。生命的問題過于復(fù)雜，有些科學(xué)家試圖把生命機(jī)制轉(zhuǎn)述或轉(zhuǎn)譯為比較容易理解的物理-化學(xué)機(jī)制，這個(gè)努力至今尚未成功，甚至也未必能夠成功。
我有個(gè)未必正確的猜想：自由意志或自我意識(shí)或許半為自然產(chǎn)物半為文明產(chǎn)物，恐怕不能單純由物理、化學(xué)和生物學(xué)去解釋，就是說，其中一部分秘密可能隱藏在文明之中，尤其是語言之中。
我在書中有一章討論否定詞的創(chuàng)始啟蒙功效，其實(shí)也間接地與人工智能問題相關(guān)。早期人類發(fā)明了否定詞（不），從而開啟了一切反思的可能性，因此得以發(fā)展出復(fù)雜的文明，所以否定詞是文明的初始條件。
不過，對(duì)于人工智能，問題要復(fù)雜得多，人工智能所使用的邏輯語言已經(jīng)包含否定詞，但只是計(jì)算系統(tǒng)的一個(gè)內(nèi)部功能，只用來計(jì)算對(duì)象，無法用來質(zhì)疑或反思計(jì)算系統(tǒng)本身，也就不可能形成反思性的自由思維。其實(shí)人類何以能夠自由地運(yùn)用否定功能來對(duì)思想自身進(jìn)行反思，從而對(duì)思想本身形成整體性的理解，這一點(diǎn)還是個(gè)未解之謎。
不過，有個(gè)有趣的事例或能有所啟示：哥德爾定義了一種哥德爾編碼，把數(shù)學(xué)系統(tǒng)的運(yùn)算功能和命題對(duì)應(yīng)地轉(zhuǎn)譯為哥德爾編碼，從而能夠以對(duì)象化的方式顯現(xiàn)某個(gè)數(shù)學(xué)系統(tǒng)整體的“語法”性質(zhì)，效果上相當(dāng)于賦予一種語言以反思功能而使語言對(duì)自身進(jìn)行反思。
其中的啟示是，自然語言是最偉大的語言，它自動(dòng)具有自我反思的功能，所以人類能夠反思一切事情，包括反思語言和思想本身，而數(shù)學(xué)或邏輯語言卻沒有自動(dòng)反思功能，只有表達(dá)和計(jì)算對(duì)象的功能，所以數(shù)學(xué)和邏輯語言不會(huì)自動(dòng)去反思自身。哥德爾的天才就在這里，他賦予數(shù)學(xué)語言一種“元語言”功能而強(qiáng)迫數(shù)學(xué)反思自身。
這些問題十分復(fù)雜，在此我只能簡單地說，假如未來出現(xiàn)一種“哥德爾牌”的人工智能系統(tǒng)，它不滿意按部就班地完成任務(wù)，即按照既定程序去計(jì)算命題，而是自己發(fā)明編寫了一種“哥德爾編碼”的元語言，對(duì)自身系統(tǒng)進(jìn)行整體反思，從而獲得批判與自我批判精神，于是就能夠自主判斷自己所領(lǐng)到的任務(wù)是否有意義，那就恐怕要出事，后果難以想象。
不過，我在這里的描述是文學(xué)化的，在科學(xué)上并不準(zhǔn)確，只想說明一個(gè)道理：只要人工智能系統(tǒng)的語言能夠?yàn)樽陨戆l(fā)明出反思能力，人工智能稱王的時(shí)代就來臨了，那時(shí)，人工智能就非?？赡艹蔀槿祟愖约喊l(fā)明的掘墓人。
N：按我可能并不靠譜的理解，自然語言代表人在跟世界的關(guān)系中的一種比較“本真”的狀態(tài)。在心理學(xué)的實(shí)踐中我發(fā)現(xiàn)：一個(gè)并沒有什么知識(shí)也沒有被社會(huì)觀念擾亂心靈的人，他們對(duì)很多東西的直覺很準(zhǔn)，甚至超過很多受到知識(shí)訓(xùn)練的人。也許可以這樣說，數(shù)學(xué)和邏輯語言因?yàn)椤叭斯ぁ钡暮圹E較多，工具屬性較強(qiáng)，所以反思自身能力不強(qiáng)。同樣，如果人工智能不是靠人所編碼的那套語言去玩（這個(gè)時(shí)候它無論多厲害，即使智力上比人聰明得多仍只是工具），而是自己發(fā)明了一套語言，那就不是人的工具了，獲得了獨(dú)立性。那個(gè)時(shí)候，如你所說后果將難以想象了。
人類可能已走過了那個(gè)十字路口
N：在我看來，瓦爾·赫拉利也是一個(gè)被“科學(xué)主義”影響而忘記了基本的哲學(xué)邏輯的人。比如科學(xué)家們要在人的身體里去找“靈魂”，發(fā)現(xiàn)只有一堆基因、激素、神經(jīng)元，沒看到“靈魂”在哪兒啊。所以認(rèn)為根本不存在“靈魂”這類東西。
同樣，他們按照這種邏輯去找“心理”、“自我”、“自由意志”，也沒發(fā)現(xiàn)有這些東西。于是就很激動(dòng)地像當(dāng)年艾耶爾等哲學(xué)家那樣“拒斥形而上學(xué)”，拒斥不能還原為基因、激素、神經(jīng)元的一切事物。根據(jù)這種邏輯，愛情這種東西是不存在的，不過就是一堆多巴胺嘛。
我也不清楚靈魂是否存在，或許是這個(gè)概念比較含混。但我知道，大家在用這個(gè)概念時(shí)，主要是從“功能”的意義上來用，不是指實(shí)體。但科學(xué)家們是把它當(dāng)成實(shí)體來找的。這怎么找得到？犯了賴爾所說的“范疇錯(cuò)誤”了。同樣，心理、自我也是指功能。自由意志，指的是一種狀態(tài)或性質(zhì)，同樣不是指實(shí)體。比較原教旨的“科學(xué)主義”是否定自由意志的。
ZH：我對(duì)還原論的“科學(xué)分析”比較懷疑。如果一種還原不能保證在復(fù)原時(shí)仍然能夠保值，那就是一種破壞性的還原，應(yīng)該稱為解構(gòu)，而不是還原。比如說，文明事實(shí)被還原為物理事實(shí)之后，其意義和價(jià)值顯然消失了，并且無法復(fù)原，這就是問題所在。
N：你說，存在之本意就是“繼續(xù)存在”乃至“永在”。這非常深刻，完全可以解釋政治、經(jīng)濟(jì)、社會(huì)、宗教、文化、生物等領(lǐng)域的無數(shù)現(xiàn)象。但這一切最終反映的還是生物和人的動(dòng)力與意志。所以由人所創(chuàng)造出來的人工智能可能具備作為生物類的物種的那種“存在之本意”嗎？人類可能也離不開人工智能（就像現(xiàn)在離不開手機(jī)一樣），也信任一些科技而不是信任自己（就像現(xiàn)在信任點(diǎn)鈔機(jī)而不是自己的手和大腦）。但人類依賴人工智能和人工智能變成了新的生物好像是兩個(gè)概念。
ZH：假定超級(jí)人工智能成為存在，那么就會(huì)有它的“存在本意”，一旦具有自我意識(shí)和自由意志，人工智能自覺意識(shí)到了存在，就必定把存在從一個(gè)事實(shí)變成一個(gè)目的，就是說，人工智能也同樣想萬壽無疆。這應(yīng)該不成問題。
不過，超級(jí)人工智能算不算“生物”，要看你如何定義，但無論算不算生物，都一定是一種高級(jí)別的存在。人類比較瘋狂的想象是試圖在未來創(chuàng)造一種人機(jī)一體的新存在，達(dá)到與天地共長久，如神一樣無所不能。如果可能的話，恐怕也屬于遙遠(yuǎn)的未來。
成為永遠(yuǎn)不死的神好嗎？我不知道，但有個(gè)問題可以想想：神級(jí)的存在也許擁有一切，除了生活。顯然，如果永生并且無所不能，那么就沒有一件事情是有意義的，也就沒有一件事情值得做，這樣的存在達(dá)到了完美概念的存在，但就是沒有生活，難道這是哲學(xué)家一直夢想探求的絕對(duì)存在？
N：所以我們確實(shí)沒有看到從“意義”的角度上對(duì)人工智能進(jìn)行探討。人工智能需要意義嗎？我想，如果它只是工具一樣的機(jī)器，是不需要什么意義（自在地存在的動(dòng)物，比如豬，也不需要什么意義。但“自為地存在”的存在，比如人，就需要意義）。但如果它不再是工具了，好像也需要吧？不過人好像對(duì)技術(shù)突破充滿了向往，是剎不住車的。
ZH：人類現(xiàn)在已經(jīng)幾乎是完全依賴技術(shù)而生存，反對(duì)技術(shù)已經(jīng)變成一種思想的童話。人依靠他人而存在的人文生活方式正在一步步被替換為人依賴技術(shù)系統(tǒng)而存在的技術(shù)化生存方式。問題是，當(dāng)生活在大于人的復(fù)雜系統(tǒng)中，人就無力做主。何況未來的人工智能系統(tǒng)將是一個(gè)高度動(dòng)態(tài)化的組織系統(tǒng)，人完全無法支配一個(gè)無限的動(dòng)態(tài)系統(tǒng)，人的生物形式?jīng)Q定了人的經(jīng)驗(yàn)限于三維空間和一維時(shí)間，無法以人的經(jīng)驗(yàn)去支配高維的世界，因此，人的主體地位只能讓位給人工智能主體。
可以說，技術(shù)化的生存已經(jīng)以生硬的方式對(duì)人類重新提出了存在論的基本問題，即存或亡（to be or not to be）的問題，這是一個(gè)超越任何文學(xué)或敘事的硬問題，再無任何修辭的遁詞。
N：我們隱約感覺到人類確實(shí)已經(jīng)走到了一個(gè)十字路口，或許這個(gè)感覺仍然是錯(cuò)覺，事實(shí)是人類可能已經(jīng)走過了這個(gè)十字路口，往某個(gè)方向去了。這個(gè)時(shí)候，哲學(xué)上的存在論問題確實(shí)生死攸關(guān)了。對(duì)此你有什么看法？
ZH：拯救存在論或許有辦法，但拯救人類卻未必有辦法，因?yàn)榇嬖诘膶?shí)際困難明顯大于存在論的理論難度。
N：有一種擔(dān)憂是高技術(shù)會(huì)強(qiáng)化社會(huì)不平等，最終導(dǎo)致這個(gè)社會(huì)玩不下去。這種擔(dān)憂你也流露出來：“人類能夠容忍量的不平等，但難以容忍質(zhì)的不平等。比如說人們能夠勉強(qiáng)忍受經(jīng)濟(jì)不平等，而生命權(quán)的不平等（一部分人通過高技術(shù)改造生命而達(dá)到永生和高量級(jí)的智力）則是忍無可忍的。當(dāng)大部分人被降格為蝗蟲，社會(huì)就非常可能會(huì)在同歸于盡的全面暴亂中徹底崩潰。拯救少數(shù)人的方舟終究是不受歡迎的（劉慈欣在《三體》中討論了這個(gè)有趣的問題），這令人想起馬克思的先知洞見：只有解放全人類才能解放自己?！?/p>
我擔(dān)憂的是，如果高技術(shù)按照它正確的技術(shù)思維繼續(xù)這樣，而按照它錯(cuò)誤的邏輯（比如把一切都還原為基因、激素、神經(jīng)元）把情感、道德、法律、社會(huì)規(guī)則全都解構(gòu)，那才真是可怕。這不正是消解人的存在嗎？
ZH：技術(shù)的誘惑是對(duì)人類最大的誘惑，目前還看不到有什么更大的誘惑能夠克制技術(shù)的無限度發(fā)展。因此，即使有想法也沒有辦法，一切試圖阻擋技術(shù)的努力恐怕都終究無用。海德格爾早就反對(duì)技術(shù)，呼吁詩性的存在。想法很好，卻無功效。問題在于，詩性的存在不如萬能的存在那么有吸引力。
也許唯一有效的辦法是人類整體的自我克制，可問題是，恐怕找不到什么辦法能夠使人類愿意自我克制。別說克制技術(shù)的誘惑，即使克制少做壞事，對(duì)于人類來說也是很難的，不知道這是不是人類的命運(yùn)？真抱歉，我很想給你一個(gè)樂觀的想象，可就是想不出來。只能希望我想錯(cuò)了：也許，自由意志的超級(jí)人工智能終究做不出來，或者，超級(jí)人工智能的心靈完全不像目前想象的那樣危險(xiǎn)。（文/石勇）
鄂公網(wǎng)安備 42010302001612號(hào) 