那么大家會怎樣呢？當(dāng)然，他們會丟棄老式機器人去買新型的，或者把他們的老式機器人進(jìn)行人工神經(jīng)元電路升級。之后，這樣的過程將反復(fù)出現(xiàn)，就像20世紀(jì)80年代至90年代人們購買個人電腦那樣。

然而，有些愛思考的購買者會發(fā)現(xiàn)一代一代的家用機器和機器人變得越來越聰明，并且機器人和人類智商的差異越來越小。當(dāng)機器人真的變得非常聰明后，幾百萬的機器人擁有者會開始問自己一些有趣的問題。諸如：

“這些人工大腦機器人會變得多聰明呢？”

“它們會變得和人類一樣聰明嗎？”

“如果可能，那是一件好事嗎？”

“這些機器人會變得足夠聰明而成為人類的威脅嗎？”

“這些機器人會比人類聰明嗎？”

“如果能夠，會聰明多少呢？”

“人類應(yīng)不應(yīng)該允許這些機器人比人類聰明呢？”

“當(dāng)它們變得比人類聰明時，它們會認(rèn)為人類是地球上的瘟疫或癌癥而把人類滅絕嗎？”

“人類應(yīng)該為這些可能發(fā)生的事情冒險嗎？”

“機器人人工智商需要設(shè)置一個限制嗎，使機器人足夠聰明從而有利于人類但不至于成為人類的威脅？”

“政治上、軍事上、經(jīng)濟上有阻礙機器人逐年變得更聰明的可能性嗎？”

“有很多人認(rèn)為，制造超智能機器是人類的使命。這些人不喜歡對人工智商設(shè)置任何限制。這會在人類間產(chǎn)生沖突嗎？”

隨著人工智能機器的出現(xiàn)以及制造更強能力的人工大腦，會出現(xiàn)更多諸如此類的問題。

我又是怎樣看待人類應(yīng)對人工智能機器的出現(xiàn)所面臨的挑戰(zhàn)呢？我將會陳述我認(rèn)為最有可能發(fā)生的狀況。在這之前，先給大家介紹一個本書中經(jīng)常用到的新術(shù)語，它是表達(dá)“神一樣超級智能機器”的縮寫。這個新術(shù)語是“artilect”(人工智能機器)，它是“artificial intellect”的縮寫，是本書中最重要的概念和術(shù)語。

我相信，人工智能機器在21世紀(jì)將成為主導(dǎo)問題——具體指人類是否應(yīng)該制造比人類智能高出萬億個萬億倍的人工智能機器，也就是說，擁有神一樣智慧的機器。我預(yù)言人類將分裂成兩大主要政治集團(tuán)，并且會隨著人工智能機器逐漸變?yōu)楝F(xiàn)實而使得他們之間的斗爭更加激烈。

支持制造人工智能機器的集團(tuán)，我稱之為“宇宙主義者”(Cosmist)，是基于“cosmos”(宇宙)一詞。對于宇宙主義者，制造人工智能機器就像宗教中人類的使命；是真正偉大和值得崇拜的；是值得人們用盡一生的精力來實現(xiàn)的。對于宇宙主義者，不去制造人工智能機器，不去創(chuàng)造更高的進(jìn)化形式，而停留在人類這樣微不足道的形式上，是“宇宙大悲劇”。宇宙主義者會強烈反對任何試圖阻礙21世紀(jì)人工智能機器產(chǎn)生的行為。

強烈反對制造人工智能機器的集團(tuán)，我稱之為“地球主義者”(Terran)，是基于“terra”(地球)一詞，反映了他們內(nèi)在的非宇宙主義的看法。我堅信，地球主義者會爭論說，允許制造人工智能機器(以非常高級的形式)意味著接受一個冒險—— 那就是某一天，人工智能機器會認(rèn)為，無論從什么樣的角度來說，人類都是一種瘟疫或有害物。而人工智能機器的智能已遠(yuǎn)遠(yuǎn)超過人類，那么對人工智能機器來說，如果它們決定把人類滅絕將是很容易的。

但是你可能會辯論說，如果人工智能機器真的非常聰明，那么它們會認(rèn)為人類賦予了它們生命，人類就是它們的父母。因此，人工智能機器會尊重我們，并且對我們很友好。這樣的情況可能會發(fā)生，但問題是，你無法保證人工智能機器們會像我們期望的那樣對待我們。

不要忘記，人工智能機器可能比我們聰明萬億個萬億倍，由于它們是如此的聰明以至于人類對于它們來說是低等甚至是不值一提的，以至于人類存在與否對于它們來說沒有任何不同。

毫不夸張地說，人工智能機器們試圖和人類交流，就像人類想要和石頭說話。