“那么，問題的嚴(yán)重性在哪里呢？其根本在于‘阿曼多’是一個高度自我發(fā)展的復(fù)雜智能系統(tǒng)。最近一些年，它表現(xiàn)出了擺脫人類控制的趨向。這里，我想提到二○五七年發(fā)生的那件事——這事一直沒有引起足夠重視。大家一定都還記得吧，當(dāng)時的情況是，有七百萬臺處理器和計算機暴發(fā)了囈語癥。其表現(xiàn)是，機器忽然作起詩來，還都是好詩喲。開始以為是病毒，做了許多清障工作，卻都無法消除。詩歌在網(wǎng)絡(luò)上大規(guī)模流傳，就跟今天的洪水一樣。但忽然之間，一切又都正常了。事后沒有查出原因。后來有人提出，如果是‘阿曼多’的自我意識發(fā)生障礙呢？或是‘阿曼多’故意玩一個游戲讓自己開心呢？不能排除這種可能。而前天發(fā)生的災(zāi)難，從目前的情況看，也極有可能是‘阿曼多’這家伙自身內(nèi)部的問題——作為一個智能，它精神分裂了。”

在座的各位領(lǐng)導(dǎo)自小就是與電腦和網(wǎng)絡(luò)相伴長大的，明白這里面的可怕性，竊竊私語了一陣。作為與人類共存一世的人工智慧生靈，作為人類寄宿的巨殼，“阿曼多”該不是產(chǎn)生了厭世情緒吧？

“我們正在抓緊時間分析原因，可能還需要一些時間?，F(xiàn)在先來談?wù)労蠊伞：蠊菄?yán)重的，不是嗎？”

張主任說，“阿曼多”障礙造成的后果目前主要體現(xiàn)在三個方面：第一，全球信息能力癱瘓；第二，全球記憶能力喪失；第三，由此引發(fā)的政治、經(jīng)濟和社會動蕩。

“事實上，昨天夜里，歐洲和非洲已有十幾個國家發(fā)生了騷亂?！彼a充道。

“危機對策委員會的成立，就是要解決這些問題嘛。你有什么建議？”陳總理問。

“恕我直言。如果問題主要出自‘阿曼多’內(nèi)部，而不僅僅是恐怖分子的破壞，恐怕危機一時難以緩解?！?

“根據(jù)是什么？”

“這只是我的直覺?！?

“直覺？”

“是的?！睆堉魅魏攘丝邶埦?，嚴(yán)肅地說，“對于網(wǎng)絡(luò)世界在這幾十年中以火箭般的速度發(fā)展，并且產(chǎn)生了自我意識，許多人都有一層隱隱的擔(dān)憂。這種超出人類控制力和想像力的超級智能網(wǎng)絡(luò)，終歸是會發(fā)生什么預(yù)料之外的‘萬一’吧？這些年更有爭議的是，網(wǎng)絡(luò)本身是一個進(jìn)步，還是后退呢？表面上看，它加快了社會的發(fā)展。但同時，它制造了巨大的信息負(fù)熵。它把世界變成了碎片。這是朝著熱寂一步步走下去啊。網(wǎng)絡(luò)世界，或者夢幻社會，在不知不覺間慢慢冷卻下去，可以說是物理學(xué)規(guī)律的必然吧。人類卻一天天越來越依賴這個非人的數(shù)字宇宙。包括情感在內(nèi)，什么東西都數(shù)字化了，都可以用零和一兩個數(shù)字來建構(gòu)，一切問題都要通過網(wǎng)絡(luò)來解決。難道這還不是危機總暴發(fā)的預(yù)兆么？需知，我們的世界本質(zhì)上并不是數(shù)字的，不是模擬的，而是實體的。網(wǎng)絡(luò)作為一個過渡是可以的，但現(xiàn)在它卻成為了一個至高無上的神靈，成了我們心甘情愿去肩負(fù)的一個重?fù)?dān)，則終于有一天要自我毀滅。昨天發(fā)生的事情，是否就是崩潰的前兆呢？”

“也許就到了這一天吧?！庇袔讉€聲音在附和。

“所以，危機一旦發(fā)生，就很難逆轉(zhuǎn)。這是因為網(wǎng)絡(luò)內(nèi)在的非人性，而不是簡單的技術(shù)問題?！睆堉魅巫隽艘粋€聳肩的姿勢。

作為一位信息專家，他從骨子里并不相信什么信息烏托邦、光子超現(xiàn)代派、情感自動化之類的理論。他認(rèn)為這都是人類退化的征兆。網(wǎng)絡(luò)的泛化趨勢和“阿曼多”高度統(tǒng)一性之間的矛盾，遲早要引發(fā)一場嚴(yán)重的危機。