HBGary Federal 是一個與美國政府合作的安全技術公司，2011 年遭到黑客攻擊，人們因此發(fā)現(xiàn)美國政府正打算制造更大規(guī)模的“人工草皮”。華盛頓當局似乎已經(jīng)為“人員管理”軟件的研究進行了招標，這類軟件可以幫助“阿斯特羅草皮制造商”創(chuàng)立社交媒體機器人程序“大軍”，用于發(fā)布政府用戶的評論。

這些發(fā)布虛假評論的人極富經(jīng)驗， 而且很狡詐。HBGary Federal 公司的阿斯特羅草皮軟件可以讓新賬戶“老化”，使其看起來有一定歷史，不僅可以自動編造出背景故事，還能形成某種網(wǎng)絡生活模式，完善虛假的朋友網(wǎng)絡。因此在網(wǎng)絡世界中，人們很難辨別出一個真正的人和一個機器人或某個有虛假身份的人有什么區(qū)別。事實上，該程序可以創(chuàng)造出一個“真人”需要的一切—姓名、電子郵箱地址、網(wǎng)絡賬號等。如果你調(diào)查這類賬戶，你會發(fā)現(xiàn)它們就像是某個有多年網(wǎng)齡的人創(chuàng)建的賬戶。

大概是因為黑客攻擊事件，HBGary Federal 公司再也不會與美國政府合作了。盡管如此，我們能夠保證美國聯(lián)邦政府不會與其他擁有類似技術的公司合作嗎？

當這些機器人擁有越來越多“和人類一樣”的習慣后，它們愚弄我們的能力也就更強了。一些機器人甚至可以對真實事件“做出反應”，它們和人一樣睡覺、起床，它們可以發(fā)送網(wǎng)絡消息，做你希望它們做的事情。你不用絞盡腦汁去想那些公司、機構甚至是個人是如何利用該技術進行在線“聊天”的?！拔椰F(xiàn)在正在非洲旅行！這個尼康相機的效果太好了！”咔嗒一聲，你拍下了非洲熱帶草原?！按骶S·卡梅倫在競選辯論中表現(xiàn)很好”，就在電視直播的競選辯論結(jié)束后，“你”發(fā)布了這么一條評論。

問題在于，事態(tài)有可能因此惡化。最近，臉譜網(wǎng)的報告指出7% 的海外用戶都是騙子，也就是說在該社交網(wǎng)站上有8 309 萬個潛在的機器人。雖然其中不乏真實存在的人—他們因為對數(shù)據(jù)的搜集和售賣心存警惕，所以選擇使用匿名或化名的臉譜網(wǎng)賬號。他們并非故意誤導人們的造假者—但在他們當中，有多少人喜歡那些機器人程序，又有多少人是為了金錢利益而發(fā)帖的？

他們想要給你看什么東西？是某種特殊的產(chǎn)品、某個政黨，還是某種意識形態(tài)？

他們希望你的決策向哪個方向傾斜？

在這個時代，我們自行搜尋信息的機會越來越多，因而我們需要非常慎重地對待上文中提到的那些狀況。

假設為了做出更明智的決策，我們考慮將全新的網(wǎng)絡世界（一個博客、帖子和搜索的世界）的價值最大化。這時，我們必須保證網(wǎng)絡上的信息是可信賴的。

因為傳統(tǒng)真理守護者的缺失， 我們肩負的責任也就更大了——需要確定自己說的話是真實且可信的。

我并沒有低估由此產(chǎn)生的挑戰(zhàn)。