AI的調(diào)情有多好笑？

【編者按】

《你看起來(lái)好像……我愛(ài)你》是一本寫(xiě)給普通人了解AI的趣味科普書(shū)，作者賈內(nèi)爾·沙內(nèi)，擁有一個(gè)電子工程學(xué)專業(yè)的博士學(xué)位以及一個(gè)物理學(xué)碩士學(xué)位。本書(shū)結(jié)集自她在自己的網(wǎng)站上撰寫(xiě)的關(guān)于人工智能的妙趣橫生的文章，關(guān)于人工智能可以做什么、不能做什么，以及它為什么已經(jīng)影響了我們生活的方方面面。作者在書(shū)中舉了大量例子來(lái)講述人工智能的相關(guān)實(shí)驗(yàn)，是帶領(lǐng)讀者走近AI世界的一場(chǎng)可愛(ài)導(dǎo)覽。本文為該書(shū)序言《人工智能無(wú)處不在》，由澎湃新聞經(jīng)中信·鸚鵡螺授權(quán)發(fā)布。

教一個(gè)AI（人工智能）調(diào)情，絕對(duì)不是我常做的事情。

當(dāng)然，我做過(guò)很多奇怪的人工智能項(xiàng)目。在我的博客“怪奇人工智能”上，我曾經(jīng)訓(xùn)練過(guò)一個(gè)AI來(lái)給貓取名字——其中有一些不太成功的案例，比如叮當(dāng)先生或者嘔吐者，我還讓一個(gè)AI來(lái)生成新的菜譜，其中一些菜譜會(huì)用到去皮迷迭香和破碎的玻璃作為原料。不過(guò)，教AI說(shuō)一些人類的甜言蜜語(yǔ)是一件完全不同的事情。

人工智能是通過(guò)樣本來(lái)學(xué)習(xí)的——在我們的情境中是研究一些已有的搭訕俏皮話，然后用它們生成更多全新的話語(yǔ)。問(wèn)題在于：我的電腦屏幕上的訓(xùn)練數(shù)據(jù)集是一些我從互聯(lián)網(wǎng)上各處收集的俏皮話，而且它們?nèi)己茉愀?。它們?dāng)中包括油膩俗氣的雙關(guān)語(yǔ)和帶有侮辱性的含沙射影。一旦我訓(xùn)練了一個(gè)人工智能程序模仿它們，只要點(diǎn)擊一下按鈕，這個(gè)程序就會(huì)生成成千上萬(wàn)個(gè)糟糕的俏皮話。同時(shí)，就像一個(gè)易受外界影響的孩子一樣，它不會(huì)知道哪些語(yǔ)言應(yīng)該模仿，哪些不應(yīng)該模仿。這個(gè)人工智能程序會(huì)從一塊對(duì)搭訕俏皮話一無(wú)所知（甚至不知道英語(yǔ)是什么）的白板開(kāi)始，從這些樣本中學(xué)習(xí)，盡最大努力來(lái)模仿它發(fā)現(xiàn)的所有規(guī)律，當(dāng)然也包括樣本中粗俗的部分。人工智能沒(méi)辦法知道哪些話是好的。

我考慮過(guò)放棄這個(gè)項(xiàng)目，但是我需要寫(xiě)一篇博文，同時(shí)我已經(jīng)花費(fèi)了許多時(shí)間來(lái)收集這些用作樣本的俏皮話。所以我開(kāi)始訓(xùn)練程序。這個(gè)人工智能開(kāi)始尋找樣本中的規(guī)律，發(fā)明并檢驗(yàn)一些可以幫助它預(yù)測(cè)哪些字母應(yīng)該按照何種順序出現(xiàn)在俏皮話中的規(guī)則。最終，訓(xùn)練結(jié)束了。帶著一點(diǎn)兒誠(chéng)惶誠(chéng)恐的意味，我命令這個(gè)人工智能程序生成一些語(yǔ)句：

你一定是一個(gè)三角形？因?yàn)槟闶沁@里唯一的東西。

嘿，寶貝，你會(huì)成為一把鑰匙嗎？因?yàn)槲夷軌蛉淌苣愕泥洁铰暋?/p>

你是一根蠟燭嗎？因?yàn)槟憧雌饋?lái)真熱辣。

你真美，你對(duì)我和寶貝說(shuō)蝙蝠。

你看起來(lái)像個(gè)東西，我愛(ài)你。

我感到又驚又喜。這個(gè)人工智能的虛擬大腦（復(fù)雜度大概相當(dāng)于一條蠕蟲(chóng)）沒(méi)有能力辨別數(shù)據(jù)集的各種細(xì)節(jié)，比如厭女癥和粗俗。它盡全力應(yīng)付它設(shè)法發(fā)現(xiàn)的規(guī)律……然后獲得一種完全不同——也許更好——的答案，來(lái)解決逗笑陌生人的問(wèn)題。

盡管對(duì)我而言，它能生成話語(yǔ)已經(jīng)是一種引人注目的成功了，但對(duì)于那些關(guān)于人工智能的知識(shí)大多來(lái)自新聞?lì)^條和科幻小說(shuō)的人來(lái)說(shuō)，我的人工智能伙伴表現(xiàn)出的亂無(wú)頭緒也許會(huì)讓他們感到驚訝。我們常常見(jiàn)到一些公司聲稱人工智能可以像人類一樣區(qū)分語(yǔ)言中各種細(xì)微的差異，甚至做得更好，或者人工智能將很快在許多工作領(lǐng)域代替人類。新聞界發(fā)布消息說(shuō)，人工智能很快會(huì)無(wú)處不在。這些說(shuō)法是正確的——同時(shí)也是大錯(cuò)特錯(cuò)的。

事實(shí)上，人工智能已經(jīng)無(wú)處不在了。我們?cè)诨ヂ?lián)網(wǎng)上的體驗(yàn)取決于人工智能，它決定了我們能看到哪些廣告，它推薦視頻，同時(shí)檢測(cè)社交媒體上的機(jī)器人和惡意網(wǎng)站。許多公司使用人工智能來(lái)進(jìn)行簡(jiǎn)歷篩選，判斷該面試哪些應(yīng)聘者，也會(huì)用人工智能來(lái)判斷是否應(yīng)該批準(zhǔn)某項(xiàng)貸款申請(qǐng)。自動(dòng)駕駛汽車中的人工智能已經(jīng)駕駛了上百萬(wàn)英里（它們?cè)谙萑肜Щ髸r(shí)偶爾需要人類營(yíng)救）。我們已經(jīng)把人工智能應(yīng)用在我們的智能手機(jī)中，它們會(huì)識(shí)別我們的語(yǔ)音指令，自動(dòng)給相片中的人臉歸類貼標(biāo)簽，甚至?xí)谝曨l中加一個(gè)讓我們看起來(lái)長(zhǎng)著兔子耳朵的濾鏡。

但是不需要多長(zhǎng)時(shí)間，我們就會(huì)體會(huì)到，這些我們每天都在使用的人工智能并非完美無(wú)缺。廣告投放程序會(huì)不停地給我們推送我們買過(guò)的靴子的廣告。垃圾郵件過(guò)濾器有時(shí)會(huì)讓明顯的騷擾郵件通過(guò)，或是在最不合時(shí)機(jī)的關(guān)頭過(guò)濾掉一封至關(guān)重要的郵件。

因?yàn)槲覀內(nèi)粘Ｉ钪械脑S多部分受到算法的支配，這些人工智能的“怪癖”除了造成不便，還開(kāi)始帶來(lái)一些嚴(yán)重的后果。視頻網(wǎng)站YouTube（優(yōu)兔）上的推薦算法會(huì)把人們引向觀點(diǎn)更加兩極化的內(nèi)容，短短幾次點(diǎn)擊之間，人們就會(huì)從主流新聞被引導(dǎo)到去觀看仇視社會(huì)的群體和陰謀家的視頻。在假釋、貸款和簡(jiǎn)歷篩選方面幫助人類決策的算法是中立的，但是它們也可能像它們要替代的人類那樣充滿偏見(jiàn)——有時(shí)更甚之。人工智能控制的監(jiān)控沒(méi)有辦法收受賄賂，但它們?cè)诒灰笞瞿臣聲r(shí)，也無(wú)法出于道德原因而提出反對(duì)。研究者發(fā)現(xiàn)，一些看起來(lái)無(wú)足輕重的細(xì)節(jié)，比如一塊小小的貼紙，就可以讓一個(gè)圖像識(shí)別的人工智能認(rèn)為一把槍是一臺(tái)烤面包機(jī)，而安全性能不足的指紋識(shí)別器被主人的指紋愚弄的概率是77%。

人們經(jīng)常兜售人工智能比實(shí)際上更能干的觀點(diǎn)，號(hào)稱他們的人工智能可以完成一些只有科幻小說(shuō)中才會(huì)出現(xiàn)的情景。另一些人則自賣自夸他們的人工智能公正不阿，盡管它們的表現(xiàn)明顯地帶有偏見(jiàn)。同時(shí)，通常人們聲稱的人工智能所做的工作，實(shí)際上都是人類居于幕后在工作。作為這個(gè)星球上的消費(fèi)者和公民，我們得避免上當(dāng)受騙。我們需要理解我們的數(shù)據(jù)是如何被人工智能使用的，理解我們使用的人工智能究竟是什么。

在“怪奇人工智能”博客上，我花了不少時(shí)間用人工智能做了一些有趣的項(xiàng)目。這意味著讓人工智能模仿一些不同尋常的事物，比如俏皮話。另外，我想試試能不能讓它們走出舒適區(qū)，比如我給一個(gè)圖像識(shí)別算法展示電影人物阿納金·天行者的圖片，然后詢問(wèn)它看到了什么：它回答說(shuō)阿納金·天行者是一棵樹(shù)，接著便開(kāi)始和我爭(zhēng)論起來(lái)。從我的經(jīng)驗(yàn)來(lái)看，我發(fā)現(xiàn)，即便是最直截了當(dāng)?shù)娜蝿?wù)也可能使人工智能失效，就像你和它開(kāi)了一個(gè)玩笑。但是事實(shí)證明，和人工智能開(kāi)這樣的玩笑——交給它一項(xiàng)任務(wù)，然后看著它不知所措——是一種了解人工智能的絕佳途徑。

事實(shí)上，就像我們將在本書(shū)中看到的，人工智能算法的內(nèi)部構(gòu)造往往是如此復(fù)雜和怪異，以至于觀察人工智能的輸出可能是唯一一種我們能用來(lái)探索它理解了什么、哪里出現(xiàn)了問(wèn)題的工具。當(dāng)你讓一個(gè)人工智能程序畫(huà)一只貓或者寫(xiě)一個(gè)笑話時(shí)，它犯下的錯(cuò)誤和它在處理指紋或醫(yī)學(xué)影像時(shí)犯的錯(cuò)誤是類似的，只是當(dāng)它畫(huà)出的貓有6條腿、講的笑話里沒(méi)有包袱的時(shí)候，你可以更容易知道它出了問(wèn)題。另外，這些錯(cuò)真的很好笑。

在我嘗試讓人工智能走出它們的舒適區(qū)，進(jìn)入我們的世界時(shí)，我曾經(jīng)讓人工智能去寫(xiě)一篇小說(shuō)的第一行、在不同尋常的場(chǎng)景中識(shí)別綿羊、寫(xiě)一份菜單、給豚鼠取名字，通常得到的結(jié)果都非常奇怪。但是從這些實(shí)驗(yàn)中，你可以學(xué)到許多有關(guān)人工智能的優(yōu)缺點(diǎn)的知識(shí)——以及哪些事情它不太可能在你我的有生之年做到。

這是我學(xué)到的：

人工智能奇怪之處的五點(diǎn)原則：

   人工智能的缺點(diǎn)不是因?yàn)樗鼈兲斆?，而是因?yàn)樗鼈儾粔蚵斆鳌?/strong>

   人工智能的腦力大概相當(dāng)于一條蠕蟲(chóng)。

   人工智能并沒(méi)有真正理解你想讓它解決的問(wèn)題。

   人工智能會(huì)完完全全按照你告訴它的指令來(lái)執(zhí)行?；蛘撸辽贂?huì)盡全力去做。

   人工智能會(huì)選擇最容易的路徑。

那么，讓我們一起進(jìn)入人工智能的奇怪世界吧！我們將會(huì)了解到人工智能是什么——以及它不是什么。我們會(huì)知道它擅長(zhǎng)什么，在哪里一定會(huì)失敗。我們會(huì)知道為什么未來(lái)的人工智能也許長(zhǎng)得不太會(huì)像《星球大戰(zhàn)》中的機(jī)器人那樣，反而會(huì)更接近一群昆蟲(chóng)。我們將會(huì)知道為什么自動(dòng)駕駛汽車在世界毀滅、喪尸橫行時(shí)不太適合用來(lái)逃跑。我們將會(huì)知道為什么你永遠(yuǎn)也不應(yīng)該自愿去測(cè)試一個(gè)分揀三明治的人工智能，同時(shí)我們將會(huì)遇到行走的人工智能，它不想做任何事只想行走。在這個(gè)過(guò)程中，我們將會(huì)知道人工智能如何工作，如何思考，為什么它將使世界變得更怪異。

《你看起來(lái)好像……我愛(ài)你：AI的工作原理以及它為這個(gè)世界帶來(lái)的稀奇古怪》，[美]賈內(nèi)爾·沙內(nèi)著，余天呈譯，中信出版集團(tuán)·鸚鵡螺2021年4月。