因此對于我來說,選擇半機器人不能解決宇宙主義者/地球主義者的沖突。任何輕舉妄動,都可能加劇沖突,因為這會讓地球主義者因難以區(qū)別人類和半機器人而更加偏執(zhí)和多疑。
過去的十年里,我一直比較騎墻和中立,一直用“一方面,另一方面”的方式來表達我的觀點和解釋兩種看法,一邊支持地球主義者,另一邊又青睞宇宙主義者。經過一段時間,我的朋友開始指責我是“偽善者”?!暗隆ぜ永锼?,你指望人類在地球主義者與宇宙主義者之間進行選擇,但是你自己都沒有這樣做?!薄昂芄?,”我想,“那么我就選擇吧。”在我內心深處,我是宇宙主義者,我將在討論宇宙主義者觀點的第4章陳述我支持宇宙主義者的感受和論據。在那一章我將說明為什么我和其他宇宙主義者會如此熱情地支持制造人工智能機器,我們準備接受人類可能會滅絕的可怕威脅。
在論述地球主義者觀點的第5章,我將解釋為什么地球主義者會覺得制造人工智能機器是一場災難。
在本書的第6章,我將展現給大家一個畫面,那就是我怎樣看待沖突的醞釀和可能產生的后果。
現階段,你們中的某些人可能很難想象,機器怎么可能比人類更有能力并且聰明幾萬億個萬億倍。這看起來簡直就像科幻小說,不會被人類認真對待。
這類事情的發(fā)生已經不是第一次了。
1933年,一個叫利奧·西拉特的匈牙利裔猶太物理學家,正在倫敦的一個旅館里讀報紙上關于著名新西蘭物理學家、原子核發(fā)現者盧瑟福爵士演講的報告。一個參加演講的新聞記者詢問盧瑟福是否相信那一天會到來—— 原子核里釋放的不可思議的高能量被用于工業(yè)上。盧瑟福的著名回答是“妄想”,也就是“沒門”、“不可能”、“廢話”。西拉特對此表示懷疑,認為肯定有辦法。
當西拉特在倫敦街上漫步的時候,突然產生一個靈感。這年是1933年,發(fā)現中子的第二年。他意識到中子是一種非常好的子彈,它不會被原子核的電荷偏轉出去,因為根據定義,中子沒有電荷,它的名字也是因此而得。
西拉特知道鈾是化學元素表里最不穩(wěn)定的核子。西拉特的辦法是用中子轟擊鈾原子核使它變得不穩(wěn)定,因此原子核可能會裂變成兩個更小的原子核。而原子核越小其包含的中子越少,也就意味著裂變時有些中子會被發(fā)散出去從而去轟擊其他的鈾原子核。
因此,西拉特是世界上第一個想到核鏈式反應的人。作為一個物理學家和愛因斯坦的同事朋友,他能夠計算出,如果發(fā)生這樣的鏈式反應大概可以釋放多少能量。他知道兩個原子核和發(fā)散出去的中子的質量之和將會小于原先的鈾原子核和中子的質量之和。那么不見的質量跑到哪兒去了?
他知道這些質量將會被轉化成巨大的能量釋放出去。一個西瓜大小的鈾,經過鏈式反應釋放出的能量有多大呢?經過計算,發(fā)現這個能量將足以毀掉整座城市。
西拉特是一個猶太人,說德語,他讀過希特勒慕尼黑暴動失敗后在監(jiān)獄里寫的書—— Mein Kampf (《我的奮斗》),所以他知道希特勒對猶太人有一個“Endlosung”(“最終解決辦法”),那就是,要把猶太人全部消滅。1933年,希特勒掌握了德國的大權。
因此,西拉特不僅是世界上第一個想出核鏈式反應概念的人,也是第一個害怕希特勒首先“擁有核彈”的人。這個想法使他驚恐萬分。德國在20世紀20年代是世界上物理學最先進的國家—— 擁有眾多杰出的科學家,如愛因斯坦、普朗克、海森堡,等等。因此,西拉特覺得德國非常有可能成為世界上第一個擁有核彈的國家。
他跑到美國華盛頓,開始向五角大樓堅持不懈地宣揚自己的觀點。五角大樓那些人認為他是瘋子。僅僅一顆炸彈就可以摧毀一座城市的概念讓他們覺得荒謬之極。在20世紀30年代,威力最大的炸彈僅僅可以炸毀一個大型建筑物。