問(wèn)題1. “時(shí)間問(wèn)題——如果人工智能發(fā)展得太快以至于關(guān)于人工智能的辯論來(lái)不及展開(kāi)將怎么辦？”

　　在所有我收到的問(wèn)題里面，這個(gè)問(wèn)題是讓我考慮得最多的。我認(rèn)為，這是一個(gè)基本的批判意見(jiàn)。這個(gè)問(wèn)題是如此重要以至于我在第6章討論“奇點(diǎn)”的時(shí)候已經(jīng)涉及到了。本質(zhì)上來(lái)說(shuō)，這里所爭(zhēng)議的是，如果人工智能的崛起太快了，就沒(méi)有足夠的時(shí)間在社會(huì)上產(chǎn)生的宇宙主義－地球主義的分化，因此，本書(shū)的這個(gè)論點(diǎn)不成立。沒(méi)有這樣的分化，將不會(huì)有人工智能辯論，也沒(méi)有人工智能戰(zhàn)爭(zhēng)。

　　來(lái)信

　　親愛(ài)的德·加里斯教授：

　　通過(guò)CNN(美國(guó)有線新聞臺(tái))網(wǎng)站的一個(gè)鏈接，我最近接觸了您的《關(guān)于超級(jí)智能機(jī)器的道德困境》的文章。我著迷于閱讀這篇文章，雖然我在這些領(lǐng)域不是一名專家，我敢說(shuō)在大多數(shù)方面我贊成您的觀點(diǎn)。然而，有一點(diǎn)讓我感到有些前后不一致，請(qǐng)您原諒我這樣說(shuō)。這點(diǎn)就是您對(duì)于“地球主義者”和“宇宙主義者”的看法。要產(chǎn)生兩派之間的爭(zhēng)斗，制造電子大腦的一派應(yīng)該已經(jīng)獲得了某種進(jìn)展，也許電子大腦已經(jīng)存在了。這就是我在您的論文里發(fā)現(xiàn)的矛盾之處。被宇宙主義者保護(hù)和培育的人工智能機(jī)器的存在不會(huì)使兩派之間的爭(zhēng)論顯得多余嗎？我同意您的觀點(diǎn)，那就是電子大腦將以指數(shù)速度發(fā)展進(jìn)化。因此，它們是否會(huì)發(fā)展成對(duì)人類充滿敵意的物種問(wèn)題馬上就會(huì)有答案，以至于“宇宙主義者”和“地球主義者”的主要智囊們沒(méi)有機(jī)會(huì)來(lái)完成他們的論述和爭(zhēng)論。這將發(fā)生在他們考慮發(fā)動(dòng)戰(zhàn)爭(zhēng)之前—— 假設(shè)這些“人類”智囊們是合理程度的文明。我希望我的看法不會(huì)以任何方式冒犯您，并且我將很愉快地聆聽(tīng)您對(duì)于這個(gè)問(wèn)題的看法。

　　回答

　　我贊同你的主要觀點(diǎn)。我把這點(diǎn)重新表述為——“如果電子大腦(人工智能)以(快速的)指數(shù)速度進(jìn)化發(fā)展，也就是說(shuō)在未來(lái)幾十年內(nèi)達(dá)到或超越人類的智慧級(jí)別，那么將沒(méi)有足夠的時(shí)間產(chǎn)生地球主義者－宇宙主義者的沖突，人工智能戰(zhàn)爭(zhēng)也不會(huì)產(chǎn)生?！蔽掖_實(shí)認(rèn)為人工智能是以指數(shù)速度進(jìn)步的，但是不至于如此的迅速以至于沒(méi)有足夠的時(shí)間產(chǎn)生人工智能的辯論和發(fā)起人工智能戰(zhàn)爭(zhēng)。

　　我認(rèn)為其中的原因是由于制造真正人工智能的任務(wù)是非常困難的，并且可能需要幾十年的時(shí)間來(lái)完成。在目前，我們對(duì)于人腦的工作原理、記憶的本質(zhì)是什么、思維是什么、我們是如何推理等所知甚少。在人腦內(nèi)有千萬(wàn)億個(gè)神經(jīng)鍵(神經(jīng)元之間的聯(lián)系)，清楚地表明人腦結(jié)構(gòu)是如何的超級(jí)復(fù)雜。我猜想，關(guān)于人類在神經(jīng)科學(xué)研究領(lǐng)域的進(jìn)步最現(xiàn)實(shí)的情景就是，從現(xiàn)在開(kāi)始將至少需要50年的時(shí)間來(lái)在人工大腦制造上取得真正的進(jìn)展，但之后的進(jìn)展將相對(duì)緩慢(雖然也是指數(shù)級(jí)別的)。

　　我認(rèn)為，早期的人工智能機(jī)器所表現(xiàn)出來(lái)的智慧足以引起地球主義者的警覺(jué)。像我這樣的一些人將會(huì)提醒大眾某些事情即將發(fā)生，但是我認(rèn)為之后的進(jìn)展將不會(huì)非常迅速，因?yàn)閷?duì)于大眾來(lái)說(shuō)，反應(yīng)的時(shí)間將非常有限。當(dāng)公眾從他們的家用產(chǎn)品中看到智能的真正跡象時(shí)，將不需要很多年的時(shí)間來(lái)反應(yīng)。我認(rèn)為對(duì)于公眾和政府來(lái)說(shuō)，如果他們真正地察覺(jué)到對(duì)于他們的物種支配甚至生存存在著真正的和強(qiáng)烈的威脅時(shí)，5到10年的時(shí)間將足夠讓事情有所進(jìn)展。

　　同樣，當(dāng)那些有意識(shí)的大腦制造者們認(rèn)為實(shí)驗(yàn)室內(nèi)的進(jìn)展證實(shí)威脅確實(shí)存在的時(shí)候，他們將毫不遲疑地警示大眾。例如，我，傾向于讓公眾清楚地了解世界上人工智能的發(fā)展現(xiàn)狀，即使它們目前還處于比較原始的狀態(tài)。大腦研究制造者們處于這樣的一個(gè)位置，能夠第一個(gè)知道正在發(fā)生些什么，因?yàn)檎撬麄冊(cè)谥圃爝@些東西。

　　我認(rèn)為從道德上來(lái)說(shuō)，我們有一種義務(wù)來(lái)告訴公眾正在發(fā)生著的某些事，以便公眾有時(shí)間來(lái)反應(yīng)，來(lái)防止如此的情況發(fā)生，即人工智能的指數(shù)級(jí)別的智慧增長(zhǎng)曲線比大腦制造者的預(yù)計(jì)還要迅速。我同樣認(rèn)為大腦制造者們應(yīng)該現(xiàn)在就警示公眾，而不是等待人工智能機(jī)器擁有真正智慧的第一個(gè)征兆出現(xiàn)。這樣就可以給予公眾更多的時(shí)間來(lái)反應(yīng)，但是當(dāng)然，如果公眾看不到真正智慧的證據(jù)，那么，他們會(huì)認(rèn)為研究者們是在喊狼來(lái)了，且因此忽視他們。