人與AI，是敵是友？

人工智能（ Arti?cial Intelligence，以下簡稱“AI”）是一個(gè)具有高度技術(shù)集成性的學(xué)術(shù)領(lǐng)域，但其商業(yè)運(yùn)用的范圍非常廣泛。由于二者之間的信息不對(duì)稱，AI在專業(yè)領(lǐng)域內(nèi)的“內(nèi)部形象”與其在公眾（包括政界與商界精英人士）心目中的“外部形象”之間往往有巨大的落差。嚴(yán)格地說，“Arti?cial Intelligence”這個(gè)詞是在1956年才成為專有名詞的，而最早提出這個(gè)英文詞組的是AI領(lǐng)域的元老級(jí)人物麥卡錫，而這個(gè)詞組本身，則是在同年舉辦的美國達(dá)特茅斯會(huì)議上被學(xué)術(shù)界普遍認(rèn)可的。與之相比，與AI相關(guān)的形象竟然早在1956年之前就已經(jīng)進(jìn)入了公眾的視野。 譬如 ， 世界上的第一部科幻小說《弗蘭肯斯坦》（1818年出版）就設(shè)想了用電路將不同的尸體殘肢拼湊成人工智慧體的可能性；在1920年上演的科幻舞臺(tái)劇《羅梭的萬能工人》中，“人造人”的理念再一次被賦予形象的外觀；在1927年上映的德國名片《大都會(huì)》中，一個(gè)以女主人公瑪麗亞的外形出現(xiàn)的機(jī)器人，竟然扮演起了工人運(yùn)動(dòng)領(lǐng)袖的角色；科幻作家阿西莫夫的名篇《我，機(jī)器人》也早在1950年就已經(jīng)面市（其中有些篇章甚至是1940年代寫就的），早于給“AI”正名的達(dá)特茅斯會(huì)議。

為何一種技術(shù)樣態(tài)面向公眾的詮釋方案反而比該技術(shù)樣態(tài)本身更早出現(xiàn)呢？這其實(shí)是由AI自身的特殊性所導(dǎo)致的。AI的技術(shù)內(nèi)核雖然艱深，但“模擬人類智慧”這一理念本身并不晦澀。因此，該理念就容易被一些敏銳的思想先驅(qū)者轉(zhuǎn)化為藝術(shù)形象，由此形成相對(duì)于技術(shù)樣態(tài)本身的“搶跑”態(tài)勢(shì)。此外，專業(yè)的AI科學(xué)家之所以對(duì)AI產(chǎn)生興趣，在相當(dāng)程度上也是因?yàn)槭艿搅舜蟊娢幕瘜?duì)于AI想象的影響。然而，需要注意的是，此類想象所帶來的慣性在AI真正誕生之后繼續(xù)引導(dǎo)了大眾對(duì)于AI的認(rèn)識(shí)，并在相當(dāng)程度上偏離了AI業(yè)界發(fā)展的實(shí)際情況。這就導(dǎo)致直到今天，不少人對(duì)AI的認(rèn)識(shí)仍是建立在關(guān)于AI的科幻藝術(shù)作品上，而此類科幻藝術(shù)作品對(duì)AI技術(shù)實(shí)質(zhì)有意或無意的誤讀，又進(jìn)一步擴(kuò)大了專業(yè)的AI研究圈與外部公眾之間的信息不對(duì)稱。

筆者將主流科幻影視作品對(duì)AI技術(shù)實(shí)質(zhì)的誤解分為以下三類。

誤解一：AI的典型出場(chǎng)樣態(tài)是人形機(jī)器人。在電影《人工智能》中，主人公小戴維就是一個(gè)標(biāo)準(zhǔn)的人形機(jī)器人，其外貌與一般的美國小朋友沒有任何兩樣。在電視劇《西部世界》中，整村整鎮(zhèn)的機(jī)器人都被做成了美國西部牛仔的樣子。日本電影《我的機(jī)器人女友》亦是按照類似的思路將機(jī)器人設(shè)計(jì)成了一個(gè)女人的模樣。

電影《人工智能》（A.I. Artificial Intelligence，2001）中的人形機(jī)器人戴維

從影視創(chuàng)作的角度看，將AI設(shè)計(jì)成人形機(jī)器人有三點(diǎn)好處：（1）演員可以直接扮成機(jī)器人，省去制作真機(jī)器人的道具成本；（2）人形機(jī)器人的表情與動(dòng)作更容易引發(fā)觀眾的共情；（3）人形機(jī)器人更容易與真人產(chǎn)生戲劇沖突，由此推進(jìn)劇情發(fā)展。

然而，從AI的技術(shù)實(shí)質(zhì)上看，這種表現(xiàn)方式多少有些誤導(dǎo)性。相關(guān)誤解是建立在如下三個(gè)錯(cuò)誤的預(yù)設(shè)之上的。

錯(cuò)誤的預(yù)設(shè)1：AI與機(jī)器人是一回事。

事實(shí)上，AI與機(jī)器人屬于兩個(gè)不同的學(xué)科領(lǐng)域，遑論人形機(jī)器人研究。嚴(yán)格來說，AI的研究任務(wù)是編制特定的計(jì)算機(jī)程序，使其能夠模擬人類智能的某些功能，譬如玩某些棋類游戲。顯然，賦予這樣的智能程序以一般的商用計(jì)算機(jī)物理外觀就可以了，其并不需要具有人形機(jī)器人的外觀。與之相比，機(jī)器人的建造是“機(jī)器人學(xué)”的任務(wù)，而機(jī)器人學(xué)所涉及的主要學(xué)科是機(jī)械工程學(xué)、電機(jī)工程學(xué)、機(jī)械電子學(xué)、電子學(xué)、控制工程學(xué)、計(jì)算機(jī)工程學(xué)、軟件工程學(xué)、資訊工程學(xué)、數(shù)學(xué)及生物工程學(xué)，AI在它們之中并不扮演核心角色。當(dāng)然，AI與機(jī)器人技術(shù)的確常常會(huì)碰撞出更有趣的工程學(xué)應(yīng)用案例，但是這并不意味著二者在概念上是一回事。

錯(cuò)誤的預(yù)設(shè)2：機(jī)器人就應(yīng)當(dāng)采用人形的外觀設(shè)置。

其實(shí)，即使是機(jī)器人，也往往不采用人形的外觀設(shè)置。以世界上第一臺(tái)全自動(dòng)機(jī)器人“Unimate”為例，該機(jī)器人在美國新澤西州尤因鎮(zhèn)的內(nèi)陸費(fèi)舍爾向?qū)ЧS的通用汽車裝配線上承擔(dān)了從裝配線運(yùn)輸壓鑄件并將這些零件焊接在汽車車身上的工作。在經(jīng)過特定調(diào)試后，這個(gè)機(jī)器人還能將高爾夫球打到杯子里，甚至是倒啤酒。這臺(tái)機(jī)器人沒有類似人類的眼睛、嘴與皮膚，它只有機(jī)械臂以及臂端的一個(gè)簡易抓舉設(shè)施與人類肢體類似。由此不難想見，機(jī)器人可以被做成各式各樣的形狀，比如魚形與鳥形。

世界第一臺(tái)全自動(dòng)機(jī)器人Unimate

錯(cuò)誤的預(yù)設(shè)3：人形機(jī)器人是智能或者靈魂的天然載體。

人類其實(shí)具有“萬物有靈論”的心理投射傾向，即將很多具有動(dòng)物或者人形的非生命體視為有靈魂者。孩童喜歡對(duì)著玩偶自言自語便是明證，而這種傾向在成人的心理架構(gòu)中也得到了保留。在心理學(xué)文獻(xiàn)里，這種心理傾向被稱為“人格化”（personification）或者“人類化”（anthropomorphization）。已經(jīng)有文獻(xiàn)指出，這一心理傾向可以幫助那些缺乏真實(shí)社會(huì)關(guān)系的人通過對(duì)物體的“人格化”獲得代償性的虛擬社會(huì)交往方式，由此克服孤獨(dú)。廣告商會(huì)利用這一心理機(jī)制將產(chǎn)品的外觀設(shè)計(jì)得具有人性，以獲取消費(fèi)者的好感。需要注意的是，激發(fā)人格化的心理傾向的門檻是很低的：只要對(duì)象看上去有點(diǎn)兒像人就可以了。這就意味著，就科幻影視的觀影體驗(yàn)而言，只要影視主創(chuàng)方將片中的機(jī)器人設(shè)計(jì)得像人，這樣的視覺輸入就會(huì)順利激發(fā)觀眾的人格化傾向，由此自主賦予這樣的機(jī)器人以智慧與靈魂。但這種討巧的做法在AI研究中是完全行不通的。賦予AI任何一種實(shí)際的操作功能，都需要編程者在后臺(tái)付出巨大的努力，而以AI為主題的科幻影視作品往往會(huì)忽略這種努力，這自然會(huì)在相當(dāng)程度上使得公眾對(duì)AI的技術(shù)實(shí)質(zhì)產(chǎn)生誤解。

誤解二：AI可能具有人類所不具備的全局性知識(shí)，即所謂的“上帝之眼”，并由此導(dǎo)致對(duì)人類個(gè)體的壓迫。在系列科幻電影《生化危機(jī)》中，保護(hù)傘公司的幕后操控者竟然是一個(gè)叫“紅皇后”的超級(jí)AI：她（之所以稱“她”，是因?yàn)樵揂I體在片中被賦予了小女孩的外觀）能夠預(yù)知以主人公愛麗絲為首的人類團(tuán)體的行動(dòng)，而且，她為了保護(hù)傘公司的利益，會(huì)毫不猶豫地殺死大批無辜的群眾。無獨(dú)有偶，在電影《機(jī)械公敵》中，也有一個(gè)叫“薇琪”的超級(jí)AI。她（該超級(jí)程序同樣具有女性外觀）經(jīng)過反復(fù)計(jì)算后，得出了一個(gè)可怕的結(jié)論——只有消滅一部分人類，才能使全體人類得到更好的發(fā)展。她甚至還將這個(gè)駭人聽聞的計(jì)劃稱為“人類保護(hù)計(jì)劃”。

電影《生化危機(jī)》（Resident Evil，2002）中的超級(jí)AI“紅皇后”

從戲劇沖突的角度看，AI在這些影視作品中具有的全局性冷酷視角，與人類個(gè)體所具有的局部性（但同時(shí)更具溫情）視角形成了鮮明的對(duì)照，而這種對(duì)照本身就具有很強(qiáng)的戲劇張力。同時(shí)，影視主創(chuàng)人員對(duì)AI的設(shè)想也滿足了一部分觀眾對(duì)于AI的想象：AI雖然缺乏情感，但是在計(jì)算能力方面超越人類的。所以，AI能夠比人類更清楚何為“大局”，盡管這并不是人類個(gè)體所愿意接受的“大局”。

不過，上述印象是建立在對(duì)AI的很深的誤解之上的，因?yàn)槌瑥?qiáng)的計(jì)算能力并不意味著對(duì)全局知識(shí)的把控。實(shí)際上，任何一個(gè)智能體如果想要把握這樣的全局知識(shí)，都需要囊括所有問題領(lǐng)域的超級(jí)知識(shí)圖譜，而該知識(shí)圖譜往往是人類智慧的結(jié)晶。舉個(gè)例子，如果你要計(jì)算一枚導(dǎo)彈在各種復(fù)雜的空氣環(huán)境中的軌道變化情況，你先要設(shè)立一個(gè)合理的空氣動(dòng)力學(xué)框架（該框架無疑是來自學(xué)術(shù)共同體的長期知識(shí)積累），并在該框架中設(shè)置大量的參數(shù)，至于如何計(jì)算這些參數(shù)，則是下一步才要考慮的問題。想要在開放式的問題解決場(chǎng)域中建立一張合適的知識(shí)圖譜，即使對(duì)人類建模者來說也是充滿挑戰(zhàn)的。譬如，在解決所謂的“電車難題”時(shí)，任何一種比較穩(wěn)妥的方案都需要預(yù)設(shè)一個(gè)特定的規(guī)范倫理學(xué)立場(chǎng)（功利主義的、義務(wù)論的，或是德性論的），而人們就各種立場(chǎng)之短長并沒有達(dá)成普遍一致的意見。這就是說，用以解決“電車難題”的統(tǒng)一觀念前提并不存在，遑論在這一前提下構(gòu)建統(tǒng)一的知識(shí)圖譜。從這個(gè)角度看，作為人類的智慧轉(zhuǎn)移形態(tài)，任何AI都無法超越人類目前的智慧上限，就所有問題的解決方案給出毫無瑕疵的知識(shí)圖譜。

基于上述分析，我們不妨再來審視《機(jī)械公敵》里“薇琪”的結(jié)論——?dú)⑺酪徊糠秩祟愐员Ｗo(hù)人類整體的利益是合理的。她得出這一結(jié)論的推理過程是，人類的過度繁衍已經(jīng)影響了地球的安全，所以，必須清除一部分人類以為更多的人留出生存空間。很顯然，這個(gè)結(jié)論的知識(shí)框架是建立在某種粗暴的計(jì)算方式之上的：她將所有人都視為消費(fèi)者，并且以此為分母，讓其平分世界既有的資源總量，最后得出了“資源不夠分”的結(jié)論。在這個(gè)知識(shí)框架中，被忽略的因素有：（1）人類不僅是消費(fèi)者，也是生產(chǎn)者，因此，人類有針對(duì)性的勞動(dòng)能夠使世界的資源總量增加；（2）盡管當(dāng)前世界上人口較多，但未來人口并不一定會(huì)繼續(xù)增多， 因?yàn)槲覀儽仨毧紤]人口老齡化所導(dǎo)致的人口萎縮問題；（3）人類內(nèi)部有復(fù)雜的社會(huì)共同體結(jié)構(gòu)分層（國家、民族、地方、家庭等等），因此，忽視所有人的鄉(xiāng)土背景信息卻仍能有效保證全人類生存機(jī)會(huì)的再分配方案并不存在。反之，如果有人硬是要將所有這些參數(shù)都放在一個(gè)超級(jí)平臺(tái)上予以思考，他就必須放棄全局式的上帝視角，而不得不在彼此沖突的種種立場(chǎng)中進(jìn)行選擇（譬如，在基于不同民族國家利益的立場(chǎng)之間進(jìn)行選擇）。這樣的計(jì)算方案顯然會(huì)固化特定人類團(tuán)體的偏私，并由此激化不同人類團(tuán)體之間的既有立場(chǎng)沖突，這也就與主流科幻電影所展現(xiàn)的僅僅激化毫無社會(huì)背景的全體AI與全體人類之間的沖突不同了。

電影《機(jī)械公敵》（I, Robot，2004）劇照

誤解三：AI可以輕易具備與人類順暢進(jìn)行語言與情感溝通的能力。從表面上看，這一誤解與前一種誤解是相互矛盾的，因?yàn)樵谇耙环N誤解里，AI應(yīng)當(dāng)是缺乏感情的。但需要指出的是，由于在主流科幻影視作品中AI已經(jīng)被賦予了人格，所以，就像影視劇中的人類角色有善、惡之分一樣，AI角色也有善、惡之分，而對(duì)那些“善良”的AI角色來說，預(yù)設(shè)其具有與人類共情與交流的能力，已然成為主流科幻影視作品的標(biāo)準(zhǔn)模式。比較典型的案例有以下幾個(gè)： 在電影《人工智能》中，機(jī)器人小戴維不但能夠立即學(xué)會(huì)英語，而且渴望得到來自人類母親的愛；在動(dòng)畫電影《超能陸戰(zhàn)隊(duì)》中，充氣機(jī)器人大白成了最值得信賴的“暖男”；在電影《她》中，男主人公竟然在與AI系統(tǒng)OS1聊天的過程中愛上了這個(gè)聊天軟件；在系列電影《星球大戰(zhàn) 》中，禮儀機(jī)器人C-3PO的人際交流能力甚至要遠(yuǎn)遠(yuǎn)超過人類：按照劇情設(shè)定，它能夠翻譯3萬種星際語言，并憑借這個(gè)本領(lǐng)使得人類主人在復(fù)雜的星際外交活動(dòng)中游刃有余。

在科幻影視作品的場(chǎng)景中預(yù)設(shè)AI具有流暢的人-機(jī)交流能力，顯然對(duì)推進(jìn)劇情大有裨益。不過，從客觀角度看，以上影視作品所呈現(xiàn)的人機(jī)一家的美好圖景，已經(jīng)遠(yuǎn)遠(yuǎn)超出了目前主流AI所能提供的技術(shù)產(chǎn)品的水平。相關(guān)評(píng)判理由有二。

第一，機(jī)器與人類順暢交流的能力是建立在“自然語言處理 ”（Natural Language Processing，以下簡稱“NLP”）技術(shù)上的。目前，這種技術(shù)在商業(yè)上的最重要的應(yīng)用是機(jī)器翻譯（Machine Translation）。建立在深度學(xué)習(xí)路徑上的主流NLP技術(shù)現(xiàn)在遠(yuǎn)不及主流科幻電影所描述的那么成熟。傳統(tǒng)的深度學(xué)習(xí)程序采用的是監(jiān)督式的學(xué)習(xí)方式：這種學(xué)習(xí)方式需要程序員對(duì)所有語料進(jìn)行繁復(fù)的人工標(biāo)注，編程成本極高（人工標(biāo)注的意義在于，令計(jì)算機(jī)了解語料處理的標(biāo)準(zhǔn)答案）。近年來，隨著互聯(lián)網(wǎng)上語料的增多，對(duì)NLP的研究更加聚焦于無監(jiān)督學(xué)習(xí)和半監(jiān)督學(xué)習(xí)的算法。不過，雖然這些算法能大幅減少人工標(biāo)注的工作量，但由于失去了人類提供的標(biāo)準(zhǔn)答案的校準(zhǔn)，此類系統(tǒng)最終輸出結(jié)果的錯(cuò)誤率也會(huì)隨之上升。要彌補(bǔ)這一缺陷，除了提高輸入的數(shù)據(jù)量之外別無他法。由此不難看出，若要提高主流NLP產(chǎn)品的技術(shù)水平，需要進(jìn)行訓(xùn)練數(shù)據(jù)量的擴(kuò)容。這反過來也就意味著：這種技術(shù)無法應(yīng)對(duì)語料比較少的機(jī)器翻譯任務(wù)，特別是一些缺乏網(wǎng)絡(luò)數(shù)據(jù)支持的方言語料與某些個(gè)性化口頭禪。然而，根據(jù)人際交往的常識(shí)，熟悉特定方言與口頭禪才能迅速在對(duì)話中拉近關(guān)系。這也意味著，按照現(xiàn)有的技術(shù)，我們很難做出像《她》中OS1系統(tǒng)那樣的可以自由地切換各種英語口音并與人類進(jìn)行交談的軟件，遑論像《星球大戰(zhàn)》中C-3PO那樣的精通三萬種語言的機(jī)器語言學(xué)家（目前的AI技術(shù)甚至很難處理缺乏相關(guān)網(wǎng)絡(luò)數(shù)據(jù)的冷門語言）。

電影《她》（Her，2013）中男主人公與OS1系統(tǒng)交談

第二，情緒交流是人際交往的重要方面，而在AI中實(shí)現(xiàn)可以被算法化的情緒機(jī)制其實(shí)非常困難。此項(xiàng)工作需要AI專家先根據(jù)認(rèn)知心理學(xué)提取出一個(gè)足夠抽象的情緒生成理論，然后設(shè)法將其應(yīng)用于計(jì)算機(jī)載體。至于哪些關(guān)于情緒的心理學(xué)要素僅僅對(duì)人有意義，哪些要素同時(shí)適用于AI與人類，要逐項(xiàng)鑒別才行。實(shí)際上，目前的主流AI并不能擁有情緒，它們只能鑒別人類的情緒。比如，從1995年開始，美國麻省理工學(xué)院就啟動(dòng)了一個(gè)叫“情緒計(jì)算”（affective computing）的項(xiàng)目,  其主要內(nèi)容是通過搜集從攝像機(jī)、錄音筆、生理指標(biāo)感知器中得到的人類行為數(shù)據(jù)，判斷受試者究竟處于何種情緒中。不過，計(jì)算機(jī)做出判斷的算法基礎(chǔ)依然是某種樣式的深度學(xué)習(xí)機(jī)制：

就深度學(xué)習(xí)的有監(jiān)督學(xué)習(xí)版本而言，人類標(biāo)注員需要對(duì)每張人臉圖片的實(shí)際情緒狀態(tài)進(jìn)行語言標(biāo)注，然后以此為樣本，慢慢訓(xùn)練系統(tǒng)，使其掌握將人臉與特定情緒標(biāo)簽相聯(lián)系的一般映射規(guī)律。需要注意的是，經(jīng)過訓(xùn)練的系統(tǒng)即使能夠精準(zhǔn)地對(duì)人臉進(jìn)行情緒識(shí)別，其自身也不擁有情緒：一臺(tái)能夠識(shí)別出快樂表情的機(jī)器人沒有一天會(huì)感到快樂，而且，它們也不知道人類為何會(huì)感到快樂。這樣的AI產(chǎn)品很難與人類產(chǎn)生真正的共情，遑論在理解人類真實(shí)情感動(dòng)機(jī)的前提下與人類展開深層的精神交流。

由上可知 ，以AI為主題的主流影視作品其實(shí)掩蓋了這樣一個(gè)真相：主流AI技術(shù)目前還無法支持那些影視作品所暢想的信息處理能力。當(dāng)然，對(duì)未來科技進(jìn)行適當(dāng)幻想是科幻影視作品的天然權(quán)利，但需要注意的是，幾乎所有以AI為主題的主流影視作品都沒有向觀眾解釋清楚，未來的AI專家將沿著怎樣的技術(shù)路徑兌現(xiàn)影視主創(chuàng)者在影片中提出的技術(shù)許諾。與之相比，以生物學(xué)為主題的科幻電影（如《侏羅紀(jì)公園》）以及以生態(tài)學(xué)為主題的科幻電影（如《后天》），對(duì)相關(guān)科學(xué)主題的探討要深入很多，遑論像《地心引力》與《火星救援》這樣基于大量真實(shí)宇航科技知識(shí)的“硬科幻”作品。

若有人問我，這些主流科幻電影所展現(xiàn)出來的AI能力理論上是否可以實(shí)現(xiàn)，我會(huì)說，這個(gè)問題問錯(cuò)了方向，因?yàn)檫@個(gè)發(fā)問方式依然是將機(jī)器與人對(duì)立了起來，而沒有將機(jī)器視為一部分人對(duì)另外一部分人進(jìn)行控制的工具。我們更應(yīng)當(dāng)擔(dān)心的是，現(xiàn)有的基于大數(shù)據(jù)的AI技術(shù)的運(yùn)用，會(huì)不會(huì)加劇人與人之間既有的不平等，由此加深人類社會(huì)自身的異化。我們要做的是對(duì)人類社會(huì)各種可能的組織架構(gòu)進(jìn)行反思。

本文摘自復(fù)旦大學(xué)哲學(xué)學(xué)院徐英瑾教授的新作《哲學(xué)的二十個(gè)夜晚》。

《哲學(xué)的二十個(gè)夜晚》，徐英瑾/著，東方出版社中心·光塵，2024年2月版