“那么，問(wèn)題的嚴(yán)重性在哪里呢？其根本在于‘阿曼多’是一個(gè)高度自我發(fā)展的復(fù)雜智能系統(tǒng)。最近一些年，它表現(xiàn)出了擺脫人類控制的趨向。這里，我想提到二○五七年發(fā)生的那件事——這事一直沒(méi)有引起足夠重視。大家一定都還記得吧，當(dāng)時(shí)的情況是，有七百萬(wàn)臺(tái)處理器和計(jì)算機(jī)暴發(fā)了囈語(yǔ)癥。其表現(xiàn)是，機(jī)器忽然作起詩(shī)來(lái)，還都是好詩(shī)喲。開始以為是病毒，做了許多清障工作，卻都無(wú)法消除。詩(shī)歌在網(wǎng)絡(luò)上大規(guī)模流傳，就跟今天的洪水一樣。但忽然之間，一切又都正常了。事后沒(méi)有查出原因。后來(lái)有人提出，如果是‘阿曼多’的自我意識(shí)發(fā)生障礙呢？或是‘阿曼多’故意玩一個(gè)游戲讓自己開心呢？不能排除這種可能。而前天發(fā)生的災(zāi)難，從目前的情況看，也極有可能是‘阿曼多’這家伙自身內(nèi)部的問(wèn)題——作為一個(gè)智能，它精神分裂了?！?

在座的各位領(lǐng)導(dǎo)自小就是與電腦和網(wǎng)絡(luò)相伴長(zhǎng)大的，明白這里面的可怕性，竊竊私語(yǔ)了一陣。作為與人類共存一世的人工智慧生靈，作為人類寄宿的巨殼，“阿曼多”該不是產(chǎn)生了厭世情緒吧？

“我們正在抓緊時(shí)間分析原因，可能還需要一些時(shí)間?，F(xiàn)在先來(lái)談?wù)労蠊伞：蠊菄?yán)重的，不是嗎？”

張主任說(shuō)，“阿曼多”障礙造成的后果目前主要體現(xiàn)在三個(gè)方面：第一，全球信息能力癱瘓；第二，全球記憶能力喪失；第三，由此引發(fā)的政治、經(jīng)濟(jì)和社會(huì)動(dòng)蕩。

“事實(shí)上，昨天夜里，歐洲和非洲已有十幾個(gè)國(guó)家發(fā)生了騷亂?！彼a(bǔ)充道。

“危機(jī)對(duì)策委員會(huì)的成立，就是要解決這些問(wèn)題嘛。你有什么建議？”陳總理問(wèn)。

“恕我直言。如果問(wèn)題主要出自‘阿曼多’內(nèi)部，而不僅僅是恐怖分子的破壞，恐怕危機(jī)一時(shí)難以緩解?！?

“根據(jù)是什么？”

“這只是我的直覺?！?

“直覺？”

“是的?！睆堉魅魏攘丝邶埦?，嚴(yán)肅地說(shuō)，“對(duì)于網(wǎng)絡(luò)世界在這幾十年中以火箭般的速度發(fā)展，并且產(chǎn)生了自我意識(shí)，許多人都有一層隱隱的擔(dān)憂。這種超出人類控制力和想像力的超級(jí)智能網(wǎng)絡(luò)，終歸是會(huì)發(fā)生什么預(yù)料之外的‘萬(wàn)一’吧？這些年更有爭(zhēng)議的是，網(wǎng)絡(luò)本身是一個(gè)進(jìn)步，還是后退呢？表面上看，它加快了社會(huì)的發(fā)展。但同時(shí)，它制造了巨大的信息負(fù)熵。它把世界變成了碎片。這是朝著熱寂一步步走下去啊。網(wǎng)絡(luò)世界，或者夢(mèng)幻社會(huì)，在不知不覺間慢慢冷卻下去，可以說(shuō)是物理學(xué)規(guī)律的必然吧。人類卻一天天越來(lái)越依賴這個(gè)非人的數(shù)字宇宙。包括情感在內(nèi)，什么東西都數(shù)字化了，都可以用零和一兩個(gè)數(shù)字來(lái)建構(gòu)，一切問(wèn)題都要通過(guò)網(wǎng)絡(luò)來(lái)解決。難道這還不是危機(jī)總暴發(fā)的預(yù)兆么？需知，我們的世界本質(zhì)上并不是數(shù)字的，不是模擬的，而是實(shí)體的。網(wǎng)絡(luò)作為一個(gè)過(guò)渡是可以的，但現(xiàn)在它卻成為了一個(gè)至高無(wú)上的神靈，成了我們心甘情愿去肩負(fù)的一個(gè)重?fù)?dān)，則終于有一天要自我毀滅。昨天發(fā)生的事情，是否就是崩潰的前兆呢？”

“也許就到了這一天吧?！庇袔讉€(gè)聲音在附和。

“所以，危機(jī)一旦發(fā)生，就很難逆轉(zhuǎn)。這是因?yàn)榫W(wǎng)絡(luò)內(nèi)在的非人性，而不是簡(jiǎn)單的技術(shù)問(wèn)題。”張主任做了一個(gè)聳肩的姿勢(shì)。

作為一位信息專家，他從骨子里并不相信什么信息烏托邦、光子超現(xiàn)代派、情感自動(dòng)化之類的理論。他認(rèn)為這都是人類退化的征兆。網(wǎng)絡(luò)的泛化趨勢(shì)和“阿曼多”高度統(tǒng)一性之間的矛盾，遲早要引發(fā)一場(chǎng)嚴(yán)重的危機(jī)。