AI關(guān)乎權(quán)力而非技術(shù)；心理治療機(jī)器人的悖論

AI關(guān)乎權(quán)力而非技術(shù)  

近日，《雅各賓》發(fā)表了研究者Jason Resnikoff的文章，認(rèn)為AI并非一種特定的技術(shù)，而只是一種敘述。AI不過(guò)是這個(gè)利用技術(shù)烏托邦主義來(lái)貶低勞動(dòng)的敘述中的一個(gè)新篇章。AI有可能對(duì)工人造成嚴(yán)重傷害——原因并非來(lái)自技術(shù)本身，而在于老板掌控了它。Jason Resnikoff是《勞動(dòng)的終結(jié)：自動(dòng)化的承諾如何降低了勞動(dòng)質(zhì)量》一書(shū)的作者。

AI帶來(lái)的物質(zhì)變化并未消除人類(lèi)勞動(dòng)，反而讓勞動(dòng)退化。作者認(rèn)為，這在機(jī)械化的歷史中早有先例，從工業(yè)革命伊始，技術(shù)不但沒(méi)有減輕工作量，反而使雇主利用技術(shù)——甚至只是技術(shù)的概念——把原本優(yōu)質(zhì)的工作變成了低技能勞動(dòng)，并通過(guò)技術(shù)掩蓋人類(lèi)的勞動(dòng)，讓勞動(dòng)力成本更低。

雇主們借用AI這個(gè)詞匯來(lái)編織一個(gè)技術(shù)進(jìn)步、打壓工會(huì)和勞動(dòng)退化（Labor Degradation，降低勞動(dòng)質(zhì)量）密不可分的故事。然而，這種退化并非技術(shù)的本質(zhì)，而是資本和勞動(dòng)關(guān)系的產(chǎn)物。目前關(guān)于AI和工作未來(lái)的討論，只不過(guò)是雇主長(zhǎng)期以來(lái)試圖削弱工人權(quán)力、聲稱(chēng)人類(lèi)勞動(dòng)價(jià)值下降的又一新篇章。

當(dāng)技術(shù)企業(yè)家談?wù)摗癆I做這個(gè)”、“AI做那個(gè)”時(shí)（比如埃隆·馬斯克向前英國(guó)首相里希·蘇納克承諾的“AI將帶來(lái)豐裕的時(shí)代，人人無(wú)需工作，因?yàn)椤瓵I能夠包攬一切’”），他們用的“AI”一詞更多是掩蓋實(shí)際情況。學(xué)術(shù)研究領(lǐng)域的AI通常并非特指某種技術(shù)，而是如權(quán)威人士瑪格麗特·A·博登所定義的“讓計(jì)算機(jī)做與人類(lèi)思維類(lèi)似的事情的實(shí)踐”。換句話(huà)說(shuō)，AI更像是一種希望，即制造出表現(xiàn)得像是智能的機(jī)器。沒(méi)有一項(xiàng)單一技術(shù)讓AI在計(jì)算機(jī)科學(xué)中獨(dú)樹(shù)一幟。

當(dāng)前許多關(guān)于AI的討論集中在人工神經(jīng)網(wǎng)絡(luò)在機(jī)器學(xué)習(xí)中的應(yīng)用。機(jī)器學(xué)習(xí)指的是使用算法在大量數(shù)據(jù)集中尋找模式以進(jìn)行統(tǒng)計(jì)預(yù)測(cè)，如ChatGPT這樣的聊天機(jī)器人。聊天機(jī)器人通過(guò)龐大的計(jì)算能力和海量數(shù)據(jù)來(lái)計(jì)算一個(gè)詞出現(xiàn)在另一個(gè)詞旁邊的統(tǒng)計(jì)概率。

機(jī)器學(xué)習(xí)通常依賴(lài)于設(shè)計(jì)者來(lái)幫助系統(tǒng)解釋數(shù)據(jù)，這時(shí)人工神經(jīng)網(wǎng)絡(luò)派上用場(chǎng)（機(jī)器學(xué)習(xí)和人工神經(jīng)網(wǎng)絡(luò)只是AI的兩種工具）。人工神經(jīng)網(wǎng)絡(luò)是一組鏈接的軟件程序（每個(gè)程序稱(chēng)為一個(gè)節(jié)點(diǎn)），每個(gè)節(jié)點(diǎn)可以計(jì)算一項(xiàng)特定任務(wù)。以ChatGPT為例（屬于大語(yǔ)言模型類(lèi)別），每個(gè)節(jié)點(diǎn)是一個(gè)運(yùn)行數(shù)學(xué)模型（稱(chēng)為線(xiàn)性回歸模型）的程序，接收數(shù)據(jù)、預(yù)測(cè)統(tǒng)計(jì)可能性并生成輸出。這些節(jié)點(diǎn)相互連接，每個(gè)鏈接有不同權(quán)重，用于影響最終的輸出。

這種模仿與人類(lèi)意識(shí)相去甚遠(yuǎn)。研究人員并不了解大腦的運(yùn)作，因此無(wú)法真正將語(yǔ)言規(guī)則編碼進(jìn)機(jī)器內(nèi)。相反，他們采用了微軟研究院研究員凱特·克勞福德稱(chēng)之為的“概率或蠻力方法”。人類(lèi)并不以這種方式思考。例如，兒童并不是通過(guò)閱讀所有維基百科的內(nèi)容并統(tǒng)計(jì)詞語(yǔ)的相鄰頻率來(lái)學(xué)習(xí)語(yǔ)言的。此外，這些系統(tǒng)消耗大量能源且費(fèi)用高昂。訓(xùn)練ChatGPT-4的成本約為7800萬(wàn)美元；Google的Gemini Ultra則達(dá)到1.91億美元。人類(lèi)學(xué)會(huì)和使用語(yǔ)言的成本遠(yuǎn)低于此。

在標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)中，人類(lèi)標(biāo)記不同輸入以教導(dǎo)機(jī)器如何組織數(shù)據(jù)及其在決定最終輸出時(shí)的重要性。例如，許多人領(lǐng)著極低的報(bào)酬“預(yù)訓(xùn)練”或教導(dǎo)計(jì)算機(jī)程序辨認(rèn)圖像內(nèi)容，標(biāo)記圖片以便程序區(qū)分花瓶和杯子。據(jù)《衛(wèi)報(bào)》報(bào)道，OpenAI在肯尼亞雇用合同工為ChatGPT標(biāo)記涉及暴力、自殘、謀殺等內(nèi)容的文本和圖像，報(bào)酬低得驚人。多名工人聲稱(chēng)這些工作條件剝削性極強(qiáng)，并請(qǐng)求肯尼亞政府對(duì)OpenAI展開(kāi)調(diào)查。

《衛(wèi)報(bào)》的文章以非洲員工Mercy和Anita的經(jīng)歷為例。Mercy是一名位于肯尼亞內(nèi)羅畢的內(nèi)容審核員，她的工作包括審查社交媒體上的暴力或色情內(nèi)容，以確保其符合公司的社區(qū)準(zhǔn)則。這些內(nèi)容常常涉及極端暴力、性虐待等，給她的心理帶來(lái)了沉重的負(fù)擔(dān)。在她的一次審核中，她竟意外發(fā)現(xiàn)了一段視頻的受害者是自己的祖父，因這段視頻，她在同事面前崩潰，但主管只是安慰她“明天可以休息”，卻要求她繼續(xù)當(dāng)天的工作。

Anita則在烏干達(dá)北部城市古魯從事數(shù)據(jù)標(biāo)注工作，負(fù)責(zé)分析視頻內(nèi)容中的司機(jī)面部表情，幫助構(gòu)建AI的“車(chē)內(nèi)行為監(jiān)測(cè)系統(tǒng)”。她的工作壓力大，報(bào)酬低，長(zhǎng)時(shí)間面對(duì)電腦屏幕注視枯燥的視頻內(nèi)容，每周45小時(shí)的勞動(dòng)報(bào)酬僅略高于200美元，約合每小時(shí)1.16美元。

這些內(nèi)容審核員和數(shù)據(jù)標(biāo)注員的日常工作極為艱苦，不僅需要時(shí)刻集中注意力，還得面對(duì)大量令人不安的內(nèi)容。由于生產(chǎn)效率要求嚴(yán)格，他們必須在規(guī)定時(shí)間內(nèi)完成大量任務(wù)，幾乎沒(méi)有時(shí)間休息或反思，許多人因此飽受心理創(chuàng)傷、抑郁甚至有自殺傾向。

文章指出，全球南方（如非洲）的工人因經(jīng)濟(jì)脆弱性，不得不接受這樣的工作條件，而雇主通常對(duì)他們的身心健康缺乏關(guān)懷。內(nèi)容審核公司會(huì)通過(guò)閉路電視監(jiān)控系統(tǒng)、指紋掃描等監(jiān)視員工的行為，計(jì)算每一秒的工作效率。盡管這些公司聲稱(chēng)為貧困地區(qū)提供就業(yè)機(jī)會(huì)，但實(shí)際工作條件令人窒息，且合同通常僅為短期，員工隨時(shí)可能失去工作。工人不敢抱怨，因?yàn)橹雷约汉苋菀妆惶娲?/p>

根據(jù)《雅各賓》文章的作者，當(dāng)代AI的使用趨勢(shì)卻趨向于將技術(shù)神秘化，將其包裹成一個(gè)龐大且難以理解的革命性機(jī)制。這種效果并非偶然，而是符合資本的利益。AI，并不是一項(xiàng)革命性的技術(shù)，而是關(guān)于技術(shù)的一個(gè)敘述。AI不過(guò)是這個(gè)利用技術(shù)烏托邦主義來(lái)貶低勞動(dòng)的敘述中的一個(gè)新篇章。

幾家法國(guó)大型連鎖超市聲稱(chēng)他們使用“人工智能”來(lái)識(shí)別小偷，然而實(shí)際情況是這些監(jiān)控是由馬達(dá)加斯加的員工通過(guò)觀看監(jiān)控視頻完成的，而這些員工每月的收入僅在90至100歐元之間。同樣的情況也發(fā)生在所謂的“Voice in Action”技術(shù)（其制造商聲稱(chēng)這是一個(gè)“人工智能驅(qū)動(dòng)的”系統(tǒng)）上，該技術(shù)在美國(guó)的快餐店接收顧客的得來(lái)速訂單；事實(shí)上，超過(guò)70%的訂單都是由菲律賓的員工處理的。人類(lèi)學(xué)家瑪麗·格雷（Mary Gray）和微軟的高級(jí)首席研究員西達(dá)爾斯·蘇里（Siddharth Suri）形象地稱(chēng)這種將人力勞動(dòng)隱藏在數(shù)字前臺(tái)的做法為“幽靈工作”。

將人工智能僅視為一種技術(shù)——無(wú)論是機(jī)器學(xué)習(xí)還是數(shù)字平臺(tái)——都是錯(cuò)誤的。這引出了關(guān)于自動(dòng)化的話(huà)語(yǔ)，而近年來(lái)的人工智能熱潮正是其最新的迭代?？萍歼M(jìn)步的理念早在戰(zhàn)后時(shí)期之前就已出現(xiàn)，但在二戰(zhàn)之后，這些理念逐漸凝聚成了一種通常被用來(lái)削弱工人權(quán)力的意識(shí)形態(tài)。

這種意識(shí)形態(tài)的初始版本是二戰(zhàn)后美國(guó)出現(xiàn)的自動(dòng)化話(huà)語(yǔ)，該話(huà)語(yǔ)主張所有技術(shù)變革必然指向人類(lèi)勞動(dòng)，尤其是藍(lán)領(lǐng)工業(yè)勞動(dòng)的消失。它是兩種相互交織的現(xiàn)象的直接產(chǎn)物。首先，是在激進(jìn)的1930年代后形成的工會(huì)組織力量，這對(duì)資本構(gòu)成了威脅；其次，是戰(zhàn)后時(shí)期非凡的技術(shù)熱情。從1930年代開(kāi)始，美國(guó)企業(yè)就試圖將自己及其產(chǎn)品描繪為帶來(lái)左翼激進(jìn)分子曾與政治革命聯(lián)系在一起的那種烏托邦式未來(lái)的源頭。（例如，杜邦公司承諾通過(guò)化學(xué)實(shí)現(xiàn)“革命性”變化以及“更好的生活”，而不是財(cái)產(chǎn)的重新分配。）

二戰(zhàn)的勝利、政府資助的技術(shù)突破以及隨之而來(lái)的經(jīng)濟(jì)繁榮似乎印證了這種觀點(diǎn)。正如1955年《商業(yè)周刊》所說(shuō)，人們“感到實(shí)驗(yàn)室和工廠里誕生了某種新事物和革命性事物”。因此，從工業(yè)領(lǐng)袖到工會(huì)官員，再到學(xué)生運(yùn)動(dòng)成員，甚至一些激進(jìn)的女權(quán)主義者，都覺(jué)得或許美國(guó)技術(shù)能夠克服工業(yè)資本主義生產(chǎn)中最痛苦的特征：階級(jí)斗爭(zhēng)和工作異化。

這種普遍的信念促使福特汽車(chē)公司的一位生產(chǎn)副總裁創(chuàng)造了“自動(dòng)化”一詞，用來(lái)描述公司通過(guò)再造工業(yè)社會(huì)本身的過(guò)程，以對(duì)抗工會(huì)、惡化工作條件。福特公司及其他公司很快將“自動(dòng)化”描繪成一種將根本改變工業(yè)工作場(chǎng)所的革命性技術(shù)。自動(dòng)化的定義模糊不清，但仍有許多美國(guó)人真心相信它會(huì)獨(dú)立地帶來(lái)豐裕，同時(shí)消滅無(wú)產(chǎn)階級(jí)，并且用社會(huì)學(xué)家和著名公共知識(shí)分子丹尼爾·貝爾的話(huà)說(shuō)，用高技能的白領(lǐng)“薪水階層”取而代之。然而，各行業(yè)中的經(jīng)理和工人所稱(chēng)的自動(dòng)化往往只是導(dǎo)致工作條件惡化和加速工作，而非機(jī)器代替人工勞動(dòng)。

AI就像早期的機(jī)械化形式一樣，后者包括自20世紀(jì)50年代以來(lái)對(duì)白領(lǐng)辦公室工作的計(jì)算機(jī)化機(jī)械化，其中雇主的目標(biāo)是將技術(shù)含量較高的白領(lǐng)工作轉(zhuǎn)變?yōu)楦阋说陌爰夹g(shù)性工作。在20世紀(jì)下半葉，計(jì)算機(jī)制造商和雇主推出電子數(shù)字計(jì)算機(jī)，意圖降低文職人員的工資成本。他們用大量低薪的女性操作打孔機(jī)來(lái)取代熟練的秘書(shū)或辦事員，這些操作員生產(chǎn)的打孔卡片被用于大型批處理計(jì)算機(jī)中。

結(jié)果是文職人員的數(shù)量增加了，而不是減少了，但新的工作比以前的工作更差。這些工作更加單調(diào)，工作節(jié)奏也加快了。在20世紀(jì)的最后四分之一里，雇主成功地說(shuō)服中層管理人員自行承擔(dān)文書(shū)工作，為他們配備了臺(tái)式電腦以便自行完成打字、歸檔和通信工作，這些工作曾經(jīng)由公司付費(fèi)給文職人員完成。這種工作降級(jí)的方式在今天的白領(lǐng)工作中仍然很常見(jiàn)。

自動(dòng)化話(huà)語(yǔ)的力量在于，它迎合了一種科技進(jìn)步主義，這種進(jìn)步主義即便在今天，仍吸引著左翼中的某些傾向，如所謂的加速主義者，他們認(rèn)為工業(yè)化的發(fā)展本身會(huì)產(chǎn)生無(wú)產(chǎn)階級(jí)革命的條件。

一些工會(huì)在自動(dòng)化浪潮中做出妥協(xié)，如美國(guó)國(guó)際長(zhǎng)途和倉(cāng)庫(kù)工人工會(huì)成功地在集裝箱化的過(guò)程中爭(zhēng)取到對(duì)老員工的退休福利，但大多數(shù)工會(huì)卻未能抵抗自動(dòng)化話(huà)語(yǔ)的影響。美國(guó)肉類(lèi)包裝工人聯(lián)合會(huì)允許公司引進(jìn)工具設(shè)備，期望獲得退休福利和轉(zhuǎn)崗機(jī)會(huì)，但最終自動(dòng)化并未解決工人失業(yè)的問(wèn)題，反而導(dǎo)致工會(huì)瓦解。類(lèi)似的情況在現(xiàn)代肉類(lèi)加工行業(yè)仍然存在。

文章認(rèn)為，今天的“AI”已成為“自動(dòng)化”的同義詞，帶有類(lèi)似的、不切實(shí)際的技術(shù)烏托邦敘述。歷史表明工人和組織者需要警惕這些過(guò)度的技術(shù)敘事，拒絕將其視為不可逆轉(zhuǎn)的文明進(jìn)程，而應(yīng)將技術(shù)視為工作場(chǎng)所的一部分，工人有權(quán)對(duì)此進(jìn)行民主治理。AI并非一種具體的革命性技術(shù)，它更多是一種用來(lái)削弱工人力量的技術(shù)敘事。文章建議工人拒絕盲目崇拜科技進(jìn)步，以爭(zhēng)取在工作場(chǎng)所中對(duì)技術(shù)的自主權(quán)，避免因“進(jìn)步”之名犧牲勞動(dòng)權(quán)益。

心理治療機(jī)器人的悖論

當(dāng)心理治療資源稀缺的現(xiàn)實(shí)遭遇以Chatgpt為代表的聊天機(jī)器人的興起，越來(lái)越多的人開(kāi)始向人工智能尋求心理健康支持。當(dāng)心理治療機(jī)器人成為一門(mén)越來(lái)越大的生意，其中暗藏的危險(xiǎn)也逐漸暴露出來(lái)。Jess McAllen近日在《異見(jiàn)者》（The Baffler）雜志發(fā)表了《機(jī)器里的治療師》（The Therapist in the Machine）一文，結(jié)合自身經(jīng)歷對(duì)這一現(xiàn)象及其背后的隱憂(yōu)進(jìn)行了深入探究。

從新西蘭搬到美國(guó)之后，McAllen有5年時(shí)間沒(méi)有進(jìn)行心理治療。在她看來(lái)，心理治療機(jī)器人是美國(guó)醫(yī)療選擇悖論的化身。在新西蘭，只要評(píng)估醫(yī)生認(rèn)為你確實(shí)有需要，公共心理健康系統(tǒng)就會(huì)指派一名心理醫(yī)生，但在美國(guó)，她不得不從零開(kāi)始自己尋找心理醫(yī)生。她為此求助了Psychology Today、 Alma和 Headway等多家提供心理咨詢(xún)服務(wù)的平臺(tái)，結(jié)果卻迷失在了令人眼花繚亂的搜索結(jié)果之中：你不僅要選擇治療師的學(xué)位、性別、外貌，還必須找到與自己匹配的流派、個(gè)性甚至政治立場(chǎng)，而無(wú)論怎么選擇都要付出高昂的費(fèi)用。

這些困難導(dǎo)致很多需要心理健康治療的人無(wú)法得到專(zhuān)業(yè)幫助，這個(gè)所謂的治療缺口就成為了商機(jī)。幾年前，BetterHelp和Talkspace這兩家科技公司開(kāi)始為訂閱用戶(hù)提供和有執(zhí)照的治療師進(jìn)行文字和視頻聊天的服務(wù)。在積極投放廣告和在社交網(wǎng)絡(luò)上開(kāi)展?fàn)I銷(xiāo)等策略之下，這種模式一度很受歡迎，兩家公司的利潤(rùn)都達(dá)到了數(shù)百萬(wàn)美元。但最近，在線(xiàn)治療的客戶(hù)紛紛表示，他們?cè)诓煌闹委煄熤g輾轉(zhuǎn)，這些治療師似乎總是敷衍了事半途而廢，而線(xiàn)上治療師們則抱怨這些平臺(tái)重?cái)?shù)量輕質(zhì)量，總是鼓勵(lì)他們承擔(dān)不可持續(xù)的工作量?，F(xiàn)在，層出不窮的心理治療機(jī)器人試圖更進(jìn)一步，通過(guò)完全拋棄人類(lèi)來(lái)規(guī)避人類(lèi)的缺陷。

McAllen指出，早在半個(gè)多世紀(jì)之前，研究人員就開(kāi)始實(shí)驗(yàn)將人工智能應(yīng)用于心理治療領(lǐng)域。1966年，麻省理工學(xué)院教授約瑟夫·維澤鮑姆（Joseph Weizenbaum）創(chuàng)造了第一個(gè)聊天機(jī)器人ELIZA，可以被看作是今天的心理治療機(jī)器人的原型。ELIZA以蕭伯納的戲劇《皮格馬利翁》中的女主人公命名，通過(guò)人工智能的 “自然語(yǔ)言處理”分支進(jìn)行操作。在1966年一篇概述其研究成果的論文中，維澤鮑姆討論了病人與治療師之間的投射，他寫(xiě)道：“舉例來(lái)說(shuō)，如果一個(gè)人告訴精神科醫(yī)生‘我坐了很久的船’，而他的回答是‘跟我說(shuō)說(shuō)船吧’，我們不會(huì)認(rèn)為他對(duì)船一無(wú)所知，而會(huì)認(rèn)為他這樣引導(dǎo)隨后的對(duì)話(huà)是有某種目的的?！本S澤鮑姆認(rèn)為這種假設(shè)有利于治療技術(shù)的發(fā)展，因?yàn)檫@意味著人工智能不需要掌握關(guān)于現(xiàn)實(shí)世界的明確信息。“ELIZA至少表明了制造和維持理解的假象是多么容易，那么具有可信度的判斷的假象同樣如此。這其中潛藏著某種危險(xiǎn)?！?/p>

這種危險(xiǎn)顯然沒(méi)能阻止當(dāng)代科技公司乃至醫(yī)療保健公司不斷推出新的改進(jìn)版本的心理治療聊天機(jī)器人來(lái)賺取利潤(rùn)。最近發(fā)布的一項(xiàng)研究表明，與寫(xiě)日記、心理教育小冊(cè)子等傳統(tǒng)的自主行為干預(yù)手段相比，心理治療機(jī)器人并沒(méi)有任何突出之處。這項(xiàng)研究的作者之一Todd Essig博士告訴McAllen，這些人工智能應(yīng)用程序正在利用“科學(xué)”營(yíng)銷(xiāo)來(lái)實(shí)現(xiàn)及早套現(xiàn)。套現(xiàn)的具體形式包括提供熊貓?jiān)煨偷腁I治療師（Earkick，加入每年40美元的高級(jí)計(jì)劃可以為“熊貓”佩戴飾品）、提供不同形象、性格和特長(zhǎng)的AI治療師供用戶(hù)選擇（Heartfelt Services，提供大胡子Paul、神話(huà)人物般的Serene和大大咧咧的Joy三種AI治療師選項(xiàng)），等等。

大多數(shù)情況下，AI心理治療工具的創(chuàng)造者都聲稱(chēng)他們至少在增強(qiáng)而非取代傳統(tǒng)的心理健康治療，這些工具的一個(gè)顯著優(yōu)勢(shì)是可以隨叫隨到。但McAllen指出，除了對(duì)治療費(fèi)用的考量，治療師提供有限度的服務(wù)還有其他原因。太多斷斷續(xù)續(xù)的交流會(huì)削弱每次專(zhuān)門(mén)治療的效果，而即時(shí)生成的、無(wú)邊界的回復(fù)可能會(huì)強(qiáng)化病人尋求安慰的行為，從而導(dǎo)致他們?cè)诟械酵纯鄷r(shí)忽視自己的自主性。但也有一些例外，布魯克林綜合心理服務(wù)機(jī)構(gòu)的臨床心理學(xué)家瑪麗·梅爾卡多（Marie Mercado）認(rèn)為，對(duì)于邊緣性人格障礙的患者而言，知道在治療時(shí)間之外理論上可以聯(lián)系到自己的治療師是有好處的，但他們需要提前和治療師約定回應(yīng)方案。她也承認(rèn)，對(duì)于恐慌突然發(fā)作無(wú)法立刻聯(lián)系到人類(lèi)治療師的人來(lái)說(shuō)，人工智能或許能夠提供幫助，但仍然伴隨著過(guò)度介入的風(fēng)險(xiǎn)。

McAllen寫(xiě)道，盡管人們很容易認(rèn)為人工智能心理治療被過(guò)度炒作了，因此會(huì)像NFT或是元宇宙一樣歸于失敗，但事實(shí)上，它已經(jīng)在既有的醫(yī)療體系中獲得了巨大的發(fā)展勢(shì)頭。英國(guó)國(guó)家醫(yī)療服務(wù)體系（NHS）采用了一款叫做Limbic的人工智能應(yīng)用程序幫助篩查和評(píng)估尋求心理健康治療的人。2021年，NHS參與了心理健康聊天機(jī)器人Wysa的研究。此后，該公司與 NHS 展開(kāi)了一系列合作，其中包括即將推出的 “針對(duì)焦慮和情緒低落等常見(jiàn)心理健康問(wèn)題”的人工智能 CBT項(xiàng)目。在美國(guó)，F(xiàn)DA已授予了Wysa公司開(kāi)發(fā)的由人工智能主導(dǎo)的 “心理健康對(duì)話(huà)代理器”以“突破性設(shè)備稱(chēng)號(hào)”，表明其將與該公司合作加快監(jiān)管流程。除了眾多心理治療聊天機(jī)器人之外，還有一些人工智能初創(chuàng)公司致力于將治療師的部分工作自動(dòng)化。例如由沃頓商學(xué)院校友運(yùn)營(yíng)的Marvix AI能夠記錄治療過(guò)程并自動(dòng)生成筆記，形成一個(gè)或者兩三個(gè)診斷代碼，號(hào)稱(chēng)每天可以為臨床心理醫(yī)生節(jié)省一到兩個(gè)小時(shí)，每年為其增加4.3萬(wàn)美元的收入。在McAllen看來(lái)，將不斷提高生產(chǎn)力的價(jià)值體系推廣到心理治療領(lǐng)域有著很大的局限性。把心理治療視作可以量化的、因而可以甚至應(yīng)該提高效率的過(guò)程，這種觀點(diǎn)與經(jīng)常發(fā)生倒退并且伴隨著很多復(fù)雜性的心理疾病的混亂現(xiàn)實(shí)相悖離。

Heartfelt Services的創(chuàng)始人Gunnar J?rgen Viggósson是一名正在攻讀心理學(xué)本科學(xué)位的計(jì)算機(jī)科學(xué)家，他承認(rèn)人類(lèi)治療師在過(guò)去發(fā)揮的作用，但認(rèn)為人工智能的優(yōu)勢(shì)恰恰在于它沒(méi)有人性。Viggósson認(rèn)為人們?cè)诤腿斯ぶ悄芰奶鞎r(shí)不會(huì)將自己的情感投射于其上，不會(huì)覺(jué)得它耐心有限或是擔(dān)心它覺(jué)得自己怪異，但McAllen指出，事實(shí)上，受到嚴(yán)重精神疾病折磨的人——無(wú)論是精神錯(cuò)亂、狂躁癥或強(qiáng)迫癥發(fā)作還是創(chuàng)傷后應(yīng)激障礙——很可能會(huì)將自我投射到聊天機(jī)器人上。這正是維澤鮑姆對(duì)ELIZA得出的結(jié)論之一。一個(gè)人在異常精神狀態(tài)下的確可能用人工智能的回應(yīng)促成甚至引導(dǎo)魯莽的決定，從而為自己和他人帶來(lái)嚴(yán)重后果。但在心理治療機(jī)器人的創(chuàng)造者們看來(lái)，這些面臨嚴(yán)峻精神危機(jī)的人似乎并不是這些人工智能應(yīng)用程序的目標(biāo)受眾。

McAllen進(jìn)一步指出，過(guò)去心理治療針對(duì)的主要是患有嚴(yán)重精神疾病的人，直到20世紀(jì)90年代最后一波精神病患者去機(jī)構(gòu)化浪潮之后，西方各國(guó)才開(kāi)始開(kāi)展減少對(duì)心理疾病的污名化的運(yùn)動(dòng)，由此帶來(lái)了人們對(duì)于心理治療的觀念變化：現(xiàn)在人們普遍認(rèn)為心理治療是一種必要的大腦調(diào)整，所有人都應(yīng)該參與其中——如果負(fù)擔(dān)得起的話(huà)。到了2000年代的中后期，傳遞的信息又發(fā)生了微妙的變化，宣傳活動(dòng)，尤其是由政府資助的宣傳活動(dòng)開(kāi)始把重點(diǎn)放在更好接受的心理健康問(wèn)題和含混不清的心理健康概念之上。這些修辭促成了政策上的重大勝利，如2008年的《心理健康與成癮法案》（Mental Health Parity and Addiction Act）和2010年的《平價(jià)醫(yī)療法案》（Affordable Care Act），這兩項(xiàng)法案都要求醫(yī)療保險(xiǎn)公司將心理健康治療與其他醫(yī)療狀況同等對(duì)待。其他相關(guān)的后果還包括健康產(chǎn)業(yè)的爆炸式發(fā)展、高產(chǎn)的自助書(shū)籍作者對(duì)精神類(lèi)藥物的妖魔化以及急癥治療快速被 “預(yù)防治療”所取代。這些結(jié)構(gòu)性變化制造出了真空，科技公司、私募基金和硅谷風(fēng)投都試圖瞄準(zhǔn)這一領(lǐng)域推出產(chǎn)品。公共醫(yī)療保險(xiǎn)和私人保險(xiǎn)公司很可能都會(huì)轉(zhuǎn)向人工智能心理治療工具，從而以更低廉的價(jià)格擴(kuò)大治療范圍。但心理治療資源向一般心理問(wèn)題傾斜的結(jié)果是 ，患有嚴(yán)重精神疾病的人想要獲得亟需的治療變得更困難了，這一人群需要的是更加復(fù)雜的心理治療，這一缺口顯然是人工智能無(wú)法填補(bǔ)的。

McAllen的切身體會(huì)是，只有找到一個(gè)和自己的狀況相匹配的專(zhuān)業(yè)人士，才能得到真正的幫助。要做到這一點(diǎn)，哪怕不對(duì)美國(guó)的醫(yī)療體系進(jìn)行根本性的改革，為想要接受治療師培訓(xùn)的人提供獎(jiǎng)學(xué)金或補(bǔ)貼就能大大緩解目前專(zhuān)業(yè)人士短缺的問(wèn)題；提高報(bào)銷(xiāo)比例，讓治療師放心和保險(xiǎn)公司簽約，也能夠解決很多人因?yàn)橘M(fèi)用高昂而對(duì)專(zhuān)業(yè)治療望而卻步的問(wèn)題。試圖用人工智能治療師來(lái)填補(bǔ)缺口則不過(guò)是掩耳盜鈴而已。

巧合的是，伯克利大學(xué)哲學(xué)教授Alva No?近日在《萬(wàn)古雜志》（Aeon）發(fā)表的《討伐機(jī)器》（Rage Against the Machine）一文，恰好從哲學(xué)的視角解釋了人工智能的局限性，其中對(duì)于人類(lèi)語(yǔ)言的深刻分析充分說(shuō)明了心理治療機(jī)器人為什么難以取代人類(lèi)心理治療師。

在No?看來(lái)，圖靈測(cè)試本身就具有誤導(dǎo)性。其中至關(guān)重要的一點(diǎn)是，圖靈在測(cè)試中用打字代替了說(shuō)話(huà)，然而“言語(yǔ)是一種伴隨呼吸的、熱烈的運(yùn)動(dòng)，總是在語(yǔ)境當(dāng)中，在需要、感受、欲望、投射、目標(biāo)和限制的背景之下，與他人共同展開(kāi)”。在他看來(lái)，與文字信息相比，言語(yǔ)和舞蹈的共同之處更多，如今我們?cè)阪I盤(pán)的統(tǒng)治之下太過(guò)自如，以至于甚至沒(méi)能注意到文本如何掩蓋了語(yǔ)言的身體現(xiàn)實(shí)。

圖靈測(cè)試中更為隱蔽的一個(gè)花招則是用游戲代替了有意義的人類(lèi)交流。No?認(rèn)為，對(duì)生活的游戲化是圖靈最隱秘而令人不安的遺產(chǎn)之一。圖靈對(duì)于游戲的理解是片面而扭曲的，從計(jì)算的角度來(lái)看，游戲是可理解的虛擬世界的透明結(jié)構(gòu)，在其中規(guī)則限制了行動(dòng)，價(jià)值判斷和成敗標(biāo)準(zhǔn)都是確定無(wú)疑的，但真正的游戲同時(shí)也是競(jìng)賽，是我們接受考驗(yàn)的試驗(yàn)場(chǎng)，我們的局限性會(huì)被暴露出來(lái)，我們的力量和脆弱都會(huì)一并顯現(xiàn)。一個(gè)參加國(guó)際象棋比賽的孩子可能會(huì)極度焦慮以至于感到惡心，這種本能表達(dá)并不是偶然的附帶現(xiàn)象，也不是對(duì)游戲而言沒(méi)有本質(zhì)價(jià)值的外在表現(xiàn)，而是游戲的內(nèi)在組成部分。也就是說(shuō)，人類(lèi)不僅僅是遵循規(guī)則或規(guī)范的行動(dòng)者，我們的行動(dòng)總是（至少是潛在的）沖突場(chǎng)所。

就語(yǔ)言來(lái)說(shuō)，我們說(shuō)話(huà)時(shí)不會(huì)盲目地遵循規(guī)則，規(guī)則本身就是可供爭(zhēng)奪和可以爭(zhēng)論的。我們從一開(kāi)始就不得不面對(duì)交談的困難，即使在實(shí)事求是且沒(méi)有過(guò)多壓力的多數(shù)情況下，我們也很容易誤解對(duì)方。在交談中，質(zhì)疑用詞，要求重新表述、重復(fù)和修正，幾乎是不可避免的。也就是說(shuō)，交談從一開(kāi)始就包括了對(duì)交談的反思和批評(píng)，我們?cè)谑褂谜Z(yǔ)言的同時(shí)也在改變語(yǔ)言，語(yǔ)言是一個(gè)捕捉和釋放、參與和批評(píng)的場(chǎng)所，是一個(gè)過(guò)程。而這顯然是機(jī)器模擬無(wú)法做到的?！叭祟?lèi)不是訓(xùn)練出來(lái)的。我們擁有經(jīng)驗(yàn)。我們學(xué)習(xí)。例如，對(duì)我們來(lái)說(shuō)，學(xué)習(xí)一門(mén)語(yǔ)言不是學(xué)習(xí)生成‘下一個(gè)詞’，而是學(xué)著工作、玩耍、吃飯、愛(ài)、調(diào)情、跳舞、打架、祈禱、操縱、談判、假裝、發(fā)明和思考。最關(guān)鍵的是，我們不僅僅是吸收學(xué)到的東西然后不斷繼續(xù)；我們總是抵抗。我們的價(jià)值判斷總是無(wú)定論的。我們不僅僅是詞語(yǔ)的生成器。我們是意義的創(chuàng)造者?！?/p>