陳楸帆談人工智能與科幻寫作

陳楸帆（邵仄炯 繪）

科幻作家陳楸帆的新作《AI未來進行式》（浙江人民出版社2022年5月出版）與人工智能專家李開復合作，有種理呆文傻手拉手走江湖的互補性反差萌。書的一半是十篇科幻小說，每篇對應(yīng)一類科技應(yīng)用，另一半是技術(shù)分析和科普，給文學故事提供科技現(xiàn)實的土壤?！渡虾u》邀請作家小白和陳楸帆對談，探討了人工智能對人類社會的當下介入與未來發(fā)展可能性，以及科幻寫作和虛構(gòu)類敘事的技巧。

《AI未來進行式》，李開復、陳楸帆著，浙江人民出版社2022年5月出版，464頁，88.00元

《AI未來進行式》在設(shè)計和結(jié)構(gòu)上有些新奇。它既像個短篇故事集，但因為主旨集中，某種程度上也可以說是一種長篇小說。而且每一篇故事讓專家來做解讀和技術(shù)背景介紹，這接近于科普寫作的部分在書中占有相當篇幅，兩個部分構(gòu)成了一種互為詮釋的關(guān)系。也就是說，讀者既可以把科普部分視為對故事的注解，也可以把故事看作對科普內(nèi)容的敘事化展現(xiàn)。這樣一個構(gòu)思，最初是怎樣形成的呢？

陳楸帆：其實這種結(jié)構(gòu)是從一開始就有的設(shè)計，科幻小說搭配對故事中出現(xiàn)的技術(shù)進行分析展望，是一種打破虛構(gòu)與非虛構(gòu)界限的文體類型。因此我和開復在前期進行了大量的調(diào)研訪談工作，針對人工智能研究者、學者、從業(yè)者、投資者，希望盡可能深入地理解目前行業(yè)發(fā)展狀況?；谶@些理解我們繪制了一張AI技術(shù)發(fā)展路線圖，把不同技術(shù)點按照應(yīng)用場景由近到遠、由淺入深地進行排列組合，在這些“技術(shù)套裝”之上，我再去發(fā)想不同的故事，包括背景、文化、場景、人物情感、價值沖突等等，以期在科技的信息量與文學的復雜性之間達成平衡協(xié)調(diào)。所以確實如您所說，這本書有許多種讀法，分開來讀，合在一起讀，把它們作為互文來讀，或者去讀出兩部分之間斷裂沖突之處，都很有意思。當然最后效果如何還得看讀者的反饋。

技術(shù)套裝，這個說法有意思。閱讀時候確實有這種感覺，這十個部分從故事本身來看，是從日常事件漸漸寫到更重大事件，而且排序上也好像關(guān)乎某種技術(shù)發(fā)展邏輯，所以讀起來確實有一種整體感。設(shè)想這些故事時，你覺得很順利嗎？這有時候有點像命題作文，有沒有在為某個“技術(shù)套裝”設(shè)想一個故事時，完全找不到方向的時刻？這些故事里面哪一篇曾讓你最為難？

陳楸帆：前面半年非常撓頭，就是因為找不準方向。開復是個技術(shù)樂觀主義者，但純粹的樂觀落實到故事層面會顯得幼稚且缺乏戲劇張力，我必須去挖掘其中可能存在的價值觀沖突，所以也有過廢稿。直到我提出十個故事必須落在十個不同的社會，從特定的歷史文化語境中去尋找未來演變跡象，而AI技術(shù)作為工具，也可能被利益集團濫用，去放大人性或制度中的負面因素，比如《一葉知命》中的種姓制度。但最終，人類需要發(fā)揮自己的主觀能動性，學會與科技共生共存共同進化，這是唯一的出路。最難的可能是《人類剎車計劃》，因為這是一個瘋狂科學家毀滅世界的典型故事，如何讓它真實可信不落俗套同時又保留一定的希望，確實煞費了一些功夫。

你提到《一葉知命》，故事展望了未來大數(shù)據(jù)挖掘分析可以達到的廣度和深度，也揭示了它可能給人類社會帶來的負面沖擊。我們知道通過海量數(shù)據(jù)分析，計算機確實能做到一些我們可以稱之為“預測”的事情，或者說“算命”。人類已開始試著實踐用算法來預測犯罪，故事本身當然引向了對數(shù)據(jù)長尾因素會造成嚴重偏見的討論，那么你對大數(shù)據(jù)預測這件事本身有什么看法？

陳楸帆：預測未來這件事情人類已經(jīng)做了上萬年，從茹毛飲血的穴居時代，人類就通過原始的祭祀崇拜來祈求神靈帶來獵物，減少疾病與天災(zāi)。在科學的時代我們依靠數(shù)據(jù)建模來擬合現(xiàn)實，希望推演事物未來發(fā)展的軌跡。當數(shù)據(jù)量、參數(shù)及模型維度遠超人類大腦能夠處理的規(guī)模之后，機器便順其自然地成為新的先知。然而其中存在著幾個核心問題：首先是如何保證相關(guān)數(shù)據(jù)的完整性，這涉及到對現(xiàn)實采樣的范圍與粒度；其次是機器只能理解數(shù)據(jù)集中的相關(guān)性而非因果關(guān)系，往往導致預測的偏差；模型是否存在與訓練數(shù)據(jù)集過擬合（overfitting，在機器學習中指算法模型過于緊密或精確地匹配特定數(shù)據(jù)集，以至于無法良好地擬合其他數(shù)據(jù)或預測未來的觀察結(jié)果的現(xiàn)象。數(shù)據(jù)不足、模型參數(shù)過多、結(jié)構(gòu)過于復雜都可能是產(chǎn)生過擬合的原因，其本質(zhì)在于模型將無關(guān)的噪聲誤認為具有相關(guān)性的有效信息）而無法泛化到更為普遍的場景；最后就是我們往往借助于人類對歷史的理解與認知來建立預測模型，但或許這種人類中心主義的視角只能看到冰山一角，現(xiàn)實世界是一個多主體交互的巨復雜系統(tǒng)，甚至連時空都并非勻質(zhì)線性的本質(zhì)存在，我們又知道些什么呢？所以最后多半結(jié)果會像《西部世界》中的“雷荷波”（Rehoboam）系統(tǒng)一樣，走向自反性的崩潰。

《雙雀》是這些故事中比較讓人心情愉悅的一篇，我知道你對自然語言生成算法了解很多，你覺得機器很快就能實現(xiàn)用自然語言說話寫作嗎？如果真到了那一天，你覺得人類社會會發(fā)生怎樣的變化？比如教育領(lǐng)域，比如寫作，這會不會引起某種文化上的巨變？

陳楸帆：最新的GPT-3（Generative Pre-trained Transformer 3，人工智能公司OpenAI訓練與開發(fā)的高級自然語言處理模型，是迄今最強大的人工智能語言工具）及各種變體已經(jīng)能夠以超乎想象的流暢程度與人類進行對話以及進行特定領(lǐng)域的寫作，比如財經(jīng)新聞、體育報道、法律文書、論文摘要……甚至模仿歷史上不同的作家風格進行創(chuàng)作。盡管生成內(nèi)容質(zhì)量還不夠穩(wěn)定，且時常會犯一些常識性的錯誤，但目前也有科學家嘗試教會機器理解我們所身處的“世界模型”?？梢哉f，我們已經(jīng)生活在這樣的科幻現(xiàn)實中。如果科技真的到了我們無法分辨人類與機器的地步，哪怕只是語言層面上，都足以顛覆絕大部分行業(yè)及社會生活的面貌，因為人類無法離開語言進行思考、表達與交流。許多人類職業(yè)會被替代，企業(yè)會高度自動化。新一代兒童會更習慣與機器進行交流，相比之下人類交流笨拙而低效，充滿誤解。機器能夠無窮盡地生產(chǎn)出供人類娛樂的個性化內(nèi)容，不輸歷史上任何經(jīng)典的文學、影像或游戲。而最后的最后，我們不得不質(zhì)疑意識與智能的本質(zhì)，因為從表征上已無法區(qū)分人與機器，那么界限在哪？

如果從人類中心論的角度，未來無疑不站在我們這一邊。但如果將機器也視為我們文明延續(xù)的產(chǎn)物，那么我希望新的智能生命能夠建立起更可持續(xù)發(fā)展的文明形態(tài)，并平等地尊重所有物種包括非生命的環(huán)境本身。按照卡爾達肖夫指數(shù)（Kardashev Scale）對文明的分類，人類連全面利用行星級能源的一級文明都沒有達到，我們沒有任何理由自大甚至自戀，而應(yīng)該以開放心態(tài)接受人類世作為通往更高級文明形態(tài)（在詹姆斯·拉夫洛克看來是純硅基生命的“新星世”）過渡期的命運。

那樣一種悲觀態(tài)度，或者說那種認為機器智能有可能建立一種更好的文明，也可能會讓有些人產(chǎn)生一種更極端想法。如書中《人類剎車計劃》中那位瘋狂科學家。你有沒有想過把這個人物做更加復雜化的處理，讓讀者隱隱覺得也許他那么做也有他的某種理由？

陳楸帆：確實是篇幅所限，想要放進去的內(nèi)容有點多，人物只好做類型化臉譜化處理，如果有機會展開成更充裕的故事，應(yīng)該給瘋狂科學家賦予更多復雜的情感關(guān)系與動機，比如他對于信仰的理解其實可以是一條線索。

你會同情這位瘋狂科學家的某些觀點嗎？

陳楸帆：我其實非常贊成瘋狂科學家的某些觀點，包括精英階層與科技巨頭社會感的缺失，包括氣候變化挑戰(zhàn)下國際社會的無動于衷各自為政，當然他采取了極端化的毀滅性手段來反擊，這點我是不贊同的。

那倒是，如果是超級機器智能想統(tǒng)治地球，估計也不用采取那么激烈的手段，完全可以不顯山不露水悄悄地做成這件事情，也許與此同時人類還會覺得越來越幸福。這本書里《幸福島》就講了一個由超級智能管理或者甚至統(tǒng)治的社會中，人會不會感到幸福的故事。我們知道人類的幸福感還有很大一部分來自創(chuàng)造感，如果創(chuàng)造性的工作都由機器來做了，人還能不能有幸福感？當然超級智能可能也會在這點上滿足人類，讓人類做一點自以為能獲得創(chuàng)造感的游戲，甚至直接干預人類大腦，刺激它們的自我獎勵機制，諸如此類。

陳楸帆：我覺得人類自古到今一直在追尋幸福，但最后發(fā)現(xiàn)也許跟“真實”與“美”一樣，只能替代性地追求一種對幸福的感受。而到了智能時代，機器與算法遠比我們?nèi)祟愐私庾约?，包括如何產(chǎn)生幸福感，不光是神經(jīng)遞質(zhì)與感官層面的刺激，也包括通過語義分析揭示無法被意識到的潛在情感結(jié)構(gòu)。但是這樣被計算出來的幸福感是否真實，或只是一種幻覺。因為人類無可救藥地被捆綁在意義上，我們很難接受一種無意義的生活，哪怕從表征上是完美且幸福的，但缺乏意義感的建構(gòu)會讓人類走向自我毀滅。

所以你確實對人類的前景沒有多少信心。這本書全部故事結(jié)束在假定的奇點之年來臨前，小說好像勉力提供了一種還可以說比較舒適的人類結(jié)局：抵達豐饒之年，人類與機器智能達成妥協(xié)，機器不僅給人帶來無限豐饒的物質(zhì)，也給予你們想要的幸福感，人類向超級智能自動交出了自己的歷史，隨后，奇點來了，超級機器智能獲得了自我意識。機器智能會不會產(chǎn)生意識？通過計算能不能模擬意識？這個問題你怎么看？

陳楸帆：意識正如大衛(wèi)·查默斯所說是一個難題，從還原主義的角度這些年我們細致分析了神經(jīng)元、分子、離子層面的交流機制，繪制了連接組、突觸與神經(jīng)遞質(zhì)的圖譜。但這對于解答意識是什么，它如何產(chǎn)生并沒有太多實質(zhì)性的推動。我直覺更傾向于羅杰·彭羅斯的看法，他認為意識是非計算性的，超越了現(xiàn)有神經(jīng)科學、生物學與物理學的解釋，與我們?nèi)绾胃举|(zhì)地理解現(xiàn)實相關(guān)——這關(guān)系到對于量子力學更深刻的洞察，它的非定域性（nonlocality）與疊加態(tài)（superposition）特征挑戰(zhàn)了我們現(xiàn)有的時空觀。而加州大學爾灣分校的計算認知學家唐納德·霍夫曼則把意識視為比時空更本質(zhì)的存在，宇宙萬物都具備某種程度的意識，這就非常接近于神秘主義傳統(tǒng)中的泛靈論了。所以歸根結(jié)底，取決于我們?nèi)绾味x與測量意識。機器當然能夠產(chǎn)生意識，但未必是通過計算，而無意識與有意識之間的界限也許并不像人們想象中那么明晰。

我看到一種說法，超級智能用不著意識，它不需要由意識來給“大腦”提供額外集中注意力，就算人腦，大部分運算也是在無意識中完成，對超級智能來說，它的運算能力如此龐大、如此無邊無際，它根本不需要集中注意力，所以當智能達到那個水平時，意識就成了一件無用之物，會被放棄。如果超級智能放棄了意識，那么它同時也就放棄了人類所有那些自我意識、同情，在那樣一個超級智能統(tǒng)治的星球上，你認為人類還有立足之地嗎？

陳楸帆：彼得·沃茨的《盲視》以及最新一季《愛死機》里面的“蟲群”其實說的就是這樣的無意識智能文明，自我意識對于它們來說是一種低效無用的冗余功能，就像盲腸一樣。但我同樣認為，在那樣的一種文明形態(tài)中會有不同水平的意識涌現(xiàn)，也許是宇宙級別的分布式意識，它成為了塑造時空與不同維度現(xiàn)實的基礎(chǔ)，而我們現(xiàn)在人類所謂的意識與文明，只不過是其中渺如煙塵的分型與投射。但仍然，人類有自己的命運，有自己的旅程，就像古希臘神話《奧德賽》一樣，奧德修斯歷經(jīng)磨難，戰(zhàn)勝巨人與怪物，最后衣錦回鄉(xiāng)，但他已經(jīng)不再是原來的自己，他回到的也并不是原來的故鄉(xiāng)。他領(lǐng)悟到更大的使命與歸屬，那種崇高感或許是跨越了一切物種與文明界限的終極意義。

你覺得寫一部科幻小說最困難的部分在哪里？故事情節(jié)？人物形象？技術(shù)/社會環(huán)境？你自己最多碰到的困難，或者說常常最需要花力氣的地方在哪里？

陳楸帆：我覺得整體上都很難，最難的可能是怎么把這些不同層面的信息整合成一個圓融的敘事體。而且隨著寫作經(jīng)驗的豐富，它不是變得越來越容易，你的眼光、要求、想要達到的目標和擺脫的慣性都不一樣。對于我來說，現(xiàn)在最花力氣的地方反而是在最不花力氣的地方。這么說可能有點玄，它不在收集信息、理解科技、編排人物與拿捏故事原型，而是在于不經(jīng)過理性思考判斷，從潛意識層面涌現(xiàn)的直覺，也就是“非計算性”的部分。你無法控制它的到來，很多時候只能祈禱。

從敘事本質(zhì)的角度來看，科幻小說實際上可能是“反小說”的，因為至少在表面上，敘事必須在事件發(fā)生之后，但科幻小說是面向未來，講述那些未曾發(fā)生的事情，即便使用敘事裝置，假設(shè)敘述者是在“未來的未來”，但無論寫作或者閱讀，某種程度上總是需要去克服這種敘事或者感受上的時間倒置，相對來說科幻電影比較好辦，畢竟銀幕上一切事件都“正在發(fā)生”。你覺得科幻小說有沒有可能實現(xiàn)一種姑且說“現(xiàn)實主義”的風格？

陳楸帆：文學的時空錯置感也是它最美妙的地方，挑戰(zhàn)了讀者在閱讀文字過程中的線性時間體驗。不止科幻，包括傳統(tǒng)文學中的先鋒派、意識流、后現(xiàn)代主義等等被打上諸多標簽的亞文類都在打碎、拼貼、重組敘事中的時空?？苹每赡茏罘奖愕囊稽c是依靠科技邏輯將這種錯置合法化，帶來認知上更強的真實感，從而實現(xiàn)柯勒律治所謂的“懸置懷疑”。另外一方面，我們對于傳統(tǒng)“現(xiàn)實主義”的理解很大程度上是一種感官與文化的歷史建構(gòu)，它未必反映了真正的“現(xiàn)實”，從這個角度上講，或許科幻所書寫描繪的種種復數(shù)的“現(xiàn)實”才更為貼近當前量子力學、復雜性科學與認知科學所試圖重新構(gòu)建的現(xiàn)實藍圖。

你心目中有沒有那么一兩位科幻小說作家，或者幾部科幻小說，你認為即使把他們放在整個世界文學史框架下，也可以稱之為偉大作家，與莎士比亞、托爾斯泰等文豪巨匠并肩而毫無愧色？

陳楸帆：第一反應(yīng)想到的名字包括斯坦尼斯拉夫·萊姆、厄休拉·勒古恩、菲利普·K. 迪克、亞瑟·C. 克拉克、特德·姜、瑪格麗特·阿特伍德、馮內(nèi)古特、奧克塔維亞·E.巴特勒、阿爾道斯·赫胥黎、托馬斯·品欽、J. G. 巴拉德等等，盡管其中許多人并不是只寫科幻小說，甚至某些人非?？咕鼙淮蛏稀翱苹米骷摇钡臉撕灒麄兊淖髌氛宫F(xiàn)出來的認知推測性與陌生化美學，超越歷史與未來、科技與人文、東方與西方、已知與未知、人類與他者等等種種二元性，從更為宏大的宇宙視角思考人類文明命運的野心與使命感，“偉大”二字當之無愧。