問題9. “如果一個人工智能機器變得有意識，消滅它嗎？”

下述的觀點更好地表達了地球主義者的態(tài)度。

來信

親愛的德·加里斯教授：

如果人工智能機器在定義上來說“超越了人類的控制范圍”，那么，為什么要認真地思考是否要制造它們呢？讓我們更具體些，您所定義的人工智能機器“哪一部分應該永遠不要制造出來呢”。我們非常善于制造我們可以控制的強大工具。制造對人類有危險的人工智能機器會有什么好處呢？為什么不停止制造這些人工智能機器而僅僅去制造那些無自我意識的人工智能呢？只有人類和其他的一些動物具有自我意識。把一臺人工智能機器放在鏡子前面，如果它可以識別其映像是自身的話，毀掉它！

回答

這種評論顯然沒有考慮“硅權利”。許多宇宙主義者會認為毀掉有意識的人工智能機器是一種謀殺行為。我從上述的評論可以看出這種評論沒有宇宙主義的同情，因為他問到，“制造對人類有危險的人工智能機器會有什么好處呢？”

好，考慮一下這樣的意見如何？——“去制造神一樣的宗教般的吸引力”，或者“去制造出地球上或者更遙遠的星球上的下一個主導物種”，或者“去創(chuàng)造出一個和科學更加兼容的宗教來達到‘宇宙意識’的目的”。或者這樣，那就是“很多人渴望最終得到一個機會，來做一些‘大事’，來看到‘全景’”。

這樣的評論低估了宇宙主義學說的力量，它非常強大有力，可能會影響幾十億人的思想，會成為影響本世紀全球政治的力量，并且在某個時刻會間接地導致幾十億人的死亡。請不要簡單地反對它，它甚至可能成為人類和宇宙中其他幾萬億個高級物種所必須面臨的“宇宙主義者過渡”的問題，也許只有少數(shù)物種可以存活下來。宇宙主義可能比我們想象的要有影響得多。