引發(fā)公共衛(wèi)生危機的虛假新聞
2000年，美國宣布已經(jīng)在全國范圍內(nèi)消滅了麻疹。盡管2010年報告的病例只有63個，但在2019年開始后的7個月里，報告的病例數(shù)超過了1100個，增長了將近1800%。麻疹對兒童來說尤其危險，通常以發(fā)燒和起皮疹開始，但是在1000個病例中，有1個病例的病毒會擴散到大腦，引起腦腫脹和身體抽搐，或者引發(fā)腦炎。每20名患上了麻疹的孩子中就會有1名患上肺炎，從而導致肺無法從空氣中汲取氧氣并將其輸送給全身。2017年，這種疾病以這樣的方式奪走了全世界11萬名兒童的生命。
當?shù)貢r間2019年5月6日，美國佛羅里達州奧蘭多，衛(wèi)生局免疫部門。美國疾病控制和預防中心6日公布的數(shù)據(jù)顯示，截至5月3日，美國當年已確診764例麻疹病例，刷新25年來新高
麻疹也是世界上傳染性最強的病毒之一。一個感染者的咳嗽會馬上污染空氣中的懸浮顆粒，即便他在你抵達前幾個小時就已經(jīng)離開了房間，你仍然有可能通過這些被污染的懸浮顆?；忌线@種疾病。只要接觸這種病毒，10個人中有9個人會被傳染。2020年，每一個新冠肺炎病毒的感染者有可能傳染的平均人數(shù)，也就是其R0值是2.5，而麻疹的R0值為15。
為了防止具有如此強大傳染力的疾病在人群中傳播，社會必須通過為絕大部分人口接種疫苗來發(fā)展“群體免疫”的能力。比如，以小兒麻痹癥為例，這種病沒有那么強的傳染性，所以疫苗的接種率只要達到80%～85%就可以實現(xiàn)群體免疫。對于麻疹這種具有極高傳染性的疾病，疫苗的接種率必須達到95%才能夠?qū)崿F(xiàn)群體免疫。令人遺憾的是，盡管從1963年開始就已經(jīng)出現(xiàn)了一種有效的疫苗，但是按照專家的說法，麻疹在美國死灰復燃，是因為人們拒絕接種疫苗。雖然在2017年有91%的兒童接種了麻疹-流行性腮腺炎-風疹（或者簡稱為MMR）疫苗，但近年來一些社區(qū)的疫苗接種率出現(xiàn)了急劇下滑，正是在這些社區(qū)，麻疹病例的數(shù)量開始激增。
對我來講，麻疹疫情的暴發(fā)好像就發(fā)生在我的家門口，因為我有一個7歲的兒子，而受麻疹疫情暴發(fā)影響最嚴重的群體，那個幾乎占據(jù)了2019 年美國報告的麻疹病例一半以上的社區(qū)就是距離我家5個街區(qū)的、位于紐約布魯克林的正統(tǒng)猶太社區(qū)。其他較大范圍的暴發(fā)主要集中在一些關系緊密的社區(qū)中，比如紐約洛克蘭的猶太人社區(qū)和華盛頓克拉克縣的烏克蘭裔以及俄羅斯裔美國人社區(qū)，在這些社區(qū)中，疫苗的接種率始終徘徊在70%左右，遠遠低于群體免疫所需的閾值。
如果麻疹如此危險，而疫苗又如此有效，那么為什么有些父母不愿意給他們的孩子接種疫苗呢？這可能要歸咎于1998年在媒體上曾出現(xiàn)過的一波有關接種疫苗會發(fā)生危險的錯誤信息，這些錯誤信息來源于安德魯·韋克菲爾德（Andrew Wakefield）在權威醫(yī)學雜志《柳葉刀》上發(fā)表的一篇欺詐性的論文，他在文中聲稱接種疫苗會導致兒童出現(xiàn)自閉癥。盡管后來的真相表明，韋克菲爾德當時被一個正在起訴疫苗制造商的律師收買，并且他自己也正在開發(fā)一種與之競爭的疫苗，所以他偽造了那篇論文中的證據(jù)?！读~刀》隨后立刻撤銷了這篇論文，韋克菲爾德也因此失去了行醫(yī)執(zhí)照。但是，通過一部由韋克菲爾德自己導演的、曾廣為流傳的電影《疫苗黑幕》（Vaxxed），以及在博客上傳播的陰謀論的幫助下，結合當今社交媒體的催化，這波由他制造的錯誤信息的浪潮至今尚未平息。
為了處理這一“反疫苗”的錯誤信息引發(fā)的一系列的后果，美國參議院在2019年3月召開了一次公開的聽證會。在這次聽證會上，作為田納西大學健康科學中心兒科系主任以及田納西州孟菲斯市幸福兒童醫(yī)院的首席兒科醫(yī)生，喬納森·卡勒斯（Jonathan Cullers）博士做證說：“除了田納西州原有的關于疫苗豁免的政策以及在給出專業(yè)咨詢意見時采用的方式有不當之處以外，通過社交媒體和各種快速的、多樣化的通信渠道對一些非主流理論進行的放大，再加上缺乏權威意見的主動干預，一些錯誤信息立刻得到了強化。所有這些因素疊加在一起，正在導致……人們對接種疫苗的遲疑。當父母主要是通過互聯(lián)網(wǎng)或社交媒體平臺（如推特和臉書）來獲取大量信息時，在缺乏準確信息的情況下，他們?nèi)绻喿x到這些非主流的觀點，就很有可能會產(chǎn)生擔憂和困惑。因此，在沒有更多信息的情況下，這些家長在面對是否該讓孩子接種疫苗的問題時，或許就會表現(xiàn)出猶豫不決?！边@些坊間的證據(jù)表明，在社交媒體上傳播的錯誤信息正在使那些原本通過接種疫苗就可以防控的疾?。ㄈ缏檎睿U散開來，而這是非常令人擔憂的。
2019年5月6日，在佛羅里達州奧蘭多市奧蘭治縣衛(wèi)生局里的麻疹疫苗
臉書上的反疫苗之王
拉里·庫克（Larry Cook）把自己描繪成了一個“全職的反接種疫苗的活動家”，2019年，他成為臉書上的反疫苗之王。他建立的“停止強制接種疫苗”組織是一個營利性的實體，這個組織通過在社交媒體上傳播反疫苗接種的虛假新聞來賺錢，同時通過在亞馬遜上銷售反接種疫苗的書籍來賺取介紹費。另外，他還通過在GoFundMe（眾籌平臺）網(wǎng)站上舉辦的活動來籌集資金，而籌集到的資金被他用來運營他的網(wǎng)站，支付他在臉書上投放的廣告的費用以及他的個人賬單。庫克的“停止強制接種疫苗”組織和另一個由小羅伯特·F.肯尼迪（Robert F. Kennedy Jr.）領導的名為“世界水星計劃”的組織在2019年購買了臉書上54%的反疫苗廣告。
庫克在臉書上投放的反疫苗廣告瞄準的是在華盛頓州的25歲以上的年輕女性，這個年齡段的女性很有可能會有孩子，而她們的孩子需要接種疫苗。在臉書上，包括庫克賬號在內(nèi)的一共7個不同的賬號針對25歲以上的女性發(fā)布了超過150個帖子，這些帖子的瀏覽量為160萬～520萬，每1美元的廣告投入收獲了大約18次的點擊量。對所有行業(yè)的企業(yè)來講，在臉書上獲得一次點擊的平均成本在1.85美元左右。如果做一個簡單的計算，你會發(fā)現(xiàn)庫克的滲透具有極其驚人的效率，上面的數(shù)據(jù)表明，他每獲得一次點擊，只需要支付大約0.06美元。
2019年年初，在臉書上所有關于疫苗的搜索結果都已經(jīng)被反疫苗的宣傳所主導。而YouTube的推薦算法把用戶“從基于事實的醫(yī)療信息推向了反疫苗的錯誤信息”，另外，“在Pinteres（拼趣）上，75%的與疫苗相關的帖子討論的是麻疹疫苗和自閉癥之間根本就不存在的聯(lián)系”。在一份2019年發(fā)表的論文中，喬治·華盛頓大學的研究人員發(fā)現(xiàn)，俄羅斯的推特機器人發(fā)布有關疫苗信息的頻率是普通推特用戶的22倍，這就把有關疫苗的錯誤信息與俄羅斯嘗試劫持炒作機器的行為聯(lián)系了起來。
和政治類的虛假新聞一樣，反疫苗的錯誤信息的集中程度也很高。《大西洋月刊》的亞歷克西斯·馬德里加爾（Alexis Madrigal）做出的分析顯示，2016年1月到2019年2月，在臉書上排名前50的疫苗相關的頁面中充斥著大量信息，這些信息幾乎占到了全網(wǎng)排名前1萬篇疫苗相關的帖子的一半，而且這些帖子獲得了全部點贊數(shù)的38%。事實上，在這段時間里，僅僅7個反疫苗相關的頁面就生成了前1萬篇疫苗相關的帖子中的20%。
炒作機器的網(wǎng)絡會高度集中在由具有相似的觀點和信仰的人群所組成的關系緊密的社區(qū)中。今天，我們都生活在一個能夠把志趣相投的人聯(lián)結在一起的信息生態(tài)系統(tǒng)中。2019年和2020年，在紐約和華盛頓暴發(fā)的麻疹疫情都發(fā)生在人員志趣相投且關系緊密的社區(qū)中。就像俄羅斯的錯誤信息無須說服大多數(shù)的美國人來對選舉結果產(chǎn)生影響一樣，在社交媒體上開展的反疫苗活動也不需要通過說服大批人放棄接種疫苗來促使麻疹疫情重新暴發(fā)。要使疫苗接種的水平低于群體免疫所需要的閾值，他們只需要說服在同一個關系緊密的社區(qū)中的一小部分人，然后這些人就會互相分享這些錯誤信息。
通過分析7年以來260萬名用戶與30萬個疫苗相關的帖子的互動，研究人員發(fā)現(xiàn)，在臉書上進行的與疫苗有關的討論往往發(fā)生在那些關系非常緊密的社區(qū)中。上述研究結果還顯示：“與疫苗有關的內(nèi)容的消費已經(jīng)被回聲室效應所主導，而且觀點的兩極分化多年來一直在不斷地加劇。從用戶對這些信息的消費習慣中產(chǎn)生了一些相互之間完全隔離的社區(qū)……絕大多數(shù)用戶在消費這些信息時要么傾向于支持，要么完全反對疫苗，而不會兩者兼而有之?！比A盛頓州的那些人員關系緊密的社區(qū)正是拉里·庫克和反疫苗的奸商在投放他們的臉書廣告時所瞄準的社區(qū)，而且這些社區(qū)也正是暴發(fā)了麻疹疫情的社區(qū)。
2019年年初，社交媒體平臺注意到了這些現(xiàn)象，Instagram開始屏蔽與反疫苗相關的標簽，比如“疫苗導致自閉癥”和“疫苗是毒藥”等；YouTube宣布不會再允許用戶通過廣告將反疫苗視頻貨幣化；Pinterest禁止了用戶搜索有關疫苗的內(nèi)容；而臉書不再顯示任何含有反疫苗內(nèi)容的頁面和群組，并調(diào)整了推薦引擎，不再建議用戶加入這些群組，另外，他們還撤下了拉里·庫克等人在臉書上購買的廣告。那么，這些措施是否有助于減緩麻疹疫情的暴發(fā)呢？虛假新聞是否真的會推動那些原本可以預防的疾病的傳播？所有問題的答案很可能就隱藏在當下正在興起的關于虛假新聞的科學中。
虛假新聞的科學
盡管虛假新聞的崛起很可能給民主、經(jīng)濟和公共衛(wèi)生帶來潛在的災難性的后果，但是關于它如何以及為什么會在網(wǎng)上傳播開來的科學研究目前才剛剛起步。直到2018年，絕大多數(shù)有關虛假新聞的科學研究都只能分析很少的一些孤立的樣本，或者針對某個故事的傳播進行案例研究，而且每次研究的對象都是一些孤立的個案。所以，我和我的同事蘇魯什·沃梭基、德布·羅伊決定著手改變這一現(xiàn)狀，2018年3月，我們在《科學》雜志上發(fā)表了已經(jīng)進行了長達10年的關于虛假新聞在網(wǎng)絡上傳播的研究報告。
在這項研究中，我們與推特直接合作，研究了從2006年推特成立一直到2017年所有曾經(jīng)在這個平臺上傳播的、經(jīng)過事實核查的真實新聞和虛假新聞的傳播方式。我們從推特的歷史檔案中提取了那些經(jīng)過事實核查的虛假新聞的推文，其中包括大約12.6萬條被反復轉(zhuǎn)發(fā)的推文，這些推文經(jīng)過300萬人超過450萬次的轉(zhuǎn)發(fā)在網(wǎng)絡上傳播開來。在將有關新聞（推文）分為真假兩類的過程中，我們使用了6家獨立的事實核查組織（其中包括Snopes、Politifact、Factcheck.org等）提供的信息，而這些組織對相關新聞的真實性表現(xiàn)出了95%～98%的一致性。然后，我們又雇用了一些學生，讓他們在麻省理工學院和威爾斯利學院的校園內(nèi)獨立核查上述幾家事實核查機構在選擇那些經(jīng)過反復轉(zhuǎn)發(fā)的推文時是否存在偏見。
一旦我們有了一個全面的數(shù)據(jù)庫，其中包含自推特問世以來的10年間各種經(jīng)過事實核查的謠言，我們就可以搜索有哪些推文曾經(jīng)提到過這些謠言，然后通過反向追蹤這些謠言的轉(zhuǎn)發(fā)鏈條，找出“原始”的推文（即第一篇在推特上提到這些謠言的推文），這樣我們就可以重建這些謠言在網(wǎng)上通過轉(zhuǎn)發(fā)進行傳播的整個過程（實際上，這個過程是眾多擁有單一共同源頭的完整轉(zhuǎn)發(fā)鏈條所組成的集合）。在我們把完整的轉(zhuǎn)發(fā)鏈條圖形化以后，整個轉(zhuǎn)發(fā)的過程呈現(xiàn)出了一種奇異的、讓人感到非常陌生的形態(tài)。一般來講，這個過程的圖形會從原始的推文開始，呈放射狀向四周發(fā)散，通過轉(zhuǎn)發(fā)擴散開來，接著，每一個方向上都會形成新的轉(zhuǎn)發(fā)鏈條，而這些鏈條看上去就好像是從中心向外延伸的水母的觸須。我們在下圖中畫出了 這些虛假新聞眾多轉(zhuǎn)發(fā)鏈條中的一條（見下圖），用數(shù)學的方式描繪了這些虛假新聞隨著時間的推移在推特的用戶群中不斷被轉(zhuǎn)發(fā)并傳播的過程，進而分析了虛假新聞的傳播是如何變得與真實新聞的傳播不同的。
一個虛假的新聞故事通過推特進行傳播的數(shù)據(jù)透視圖像。長線條代表了更長的轉(zhuǎn)發(fā)鏈條，顯示了虛假新聞的傳播范圍更廣，滲透程度更深。上述結果發(fā)表在《科學》雜志上
這個發(fā)現(xiàn)既讓我們感到驚訝，又讓我們感到擔憂。我們發(fā)現(xiàn)，與所有類別的真實信息相比，虛假新聞會傳播得更遠、更快，而且滲透的程度會更深、范圍會更廣。有時候，后者甚至會超出前者一個數(shù)量級。雖然真實信息很少會擴散到1000人以上的群體中，但前1%的虛假新聞轉(zhuǎn)發(fā)鏈可以很輕松地擴散到10萬人的群體中。
把真實信息傳播給1500人所需要的時間大約是把虛假信息傳播給同樣數(shù)量的人所需時間的6倍，而把前者的原始推文傳播給10個轉(zhuǎn)發(fā)人所需的時間又是把后者傳播給同樣數(shù)量的轉(zhuǎn)發(fā)人所需時間的20倍。虛假信息的傳播范圍明顯比真實信息更廣，而且在轉(zhuǎn)發(fā)鏈每個不同的“深度”層次上，虛假信息被轉(zhuǎn)發(fā)的次數(shù)都比真實信息多（每一次轉(zhuǎn)發(fā)都會將原始的推文傳播得更遠，在這個過程中就會產(chǎn)生一條新的轉(zhuǎn)發(fā)鏈條，或者多次轉(zhuǎn)發(fā)的層疊。在這樣一條轉(zhuǎn)發(fā)鏈條上，轉(zhuǎn)發(fā)或?qū)盈B的次數(shù)就是我們所說的“深度”）。
與其他任何類別的虛假新聞相比，虛假政治新聞的傳播范圍更廣，滲透程度更深，影響到的人更多，因此在網(wǎng)上的熱度更高。虛假政治新聞影響超過2萬人的速度幾乎是其他所有類型的虛假新聞影響僅1萬人的速度的三倍。涉及政治和都市逸聞的新聞的傳播速度可以說是所有新聞當中最快的，也是網(wǎng)上熱度最高的。即便對社交賬號持有人的年齡、活躍程度、粉絲數(shù)量以及在原始推文下方進行評論的人數(shù)，甚至對原始推文的作者是不是一個經(jīng)過驗證的用戶等各項因素進行控制，虛假信息被轉(zhuǎn)發(fā)的概率仍然要比真實信息高出70%。
或許有人會認為，可以用傳播虛假新聞的人的性格特征來解釋為什么虛假信息的傳播速度比真實信息的傳播速度快很多，但數(shù)據(jù)告訴我們，情況并非如此。比如，有人可能會懷疑，那些傳播虛假信息的人擁有更多粉絲，關注更多的人，更頻繁地在推特上發(fā)帖，更經(jīng)常地使用經(jīng)過“認證”的賬號，或者注冊推特的時間更長。事實上，情況卻恰恰相反。平均來講，那些散布虛假新聞的人的粉絲數(shù)量明顯更少，他們自己關注的人也寥寥無幾，他們在推特上的活躍度非常低，而且?guī)缀鯊牟皇褂媒?jīng)過認證的賬號，另外，他們注冊推特的時間一般都很短。換句話說，盡管有上述這些差異，但虛假新聞比真實新聞傳播得更遠、更快，滲透的程度更深且范圍更廣的原因并不在這些人的身上。那么，虛假新聞為什么能傳播開來，又是如何傳播開來的呢？謊言在網(wǎng)上的傳播，實際上是在一個人們意想不到的共生關系中，在相互協(xié)同的機器人與一些毫不知情的人類進行某種復雜的互動后得以實現(xiàn)的。
社交機器人和虛假新聞的傳播
社交機器人（由軟件控制的社交媒體賬號）是虛假新聞得以傳播的一個重要因素。當我們分析2014年俄羅斯在克里米亞進行的信息戰(zhàn)時，我們已經(jīng)從推特的數(shù)據(jù)中看到了這一點，而且在橫跨了10年時間、范圍更加廣泛的來自推特的樣本數(shù)據(jù)中，我們也看到了這一點。社交機器人在網(wǎng)上傳播謊言的方式既令人感到不安，又令人非常著迷。
我在印第安納大學的朋友和同事菲利波·門采爾（Filippo Menczer），還有他的同事邵程程（Chengcheng Shao，音譯）、喬瓦尼·錢帕利亞（Giovanni Ciampaglia）、奧努爾·瓦羅爾（Onur Varol）、楊凱晨（Kai-Cheng Yang，音譯）和阿里桑德羅·弗拉米尼（Alessandro Flammini）在2018年公開了迄今為止規(guī)模最大的關于社交機器人如何傳播虛假新聞的研究。他們具體分析了2016年和2017年在推特上傳播了40萬篇文章的1400萬條推文。他們的工作進一步證實了我們的發(fā)現(xiàn)，即虛假新聞在網(wǎng)上要比真實新聞更容易被傳播。他們還發(fā)現(xiàn)，在傳播來自低可信度來源的內(nèi)容時，社交機器人扮演了一個很重要的角色。但是，社交機器人放大虛假新聞的方式令人感到非常驚訝，這也凸顯出它們用來挾持炒作機器的程序是極其復雜的。
首先，在虛假新聞發(fā)布后的幾秒鐘內(nèi)，社交機器人就會捕捉到這些新聞，然后自動進行大范圍的轉(zhuǎn)發(fā)，它們的程序就是這樣設計的。所以，最初傳播虛假新聞的人更有可能是機器人，而不是人類?；叵胍幌挛覀冊谏蠄D中演示的虛假新聞在推特中通過層層轉(zhuǎn)發(fā)而形成的那種放射狀的形態(tài)，這種形態(tài)的絕大部分都是由機器人形成的。接下來發(fā)生的事情驗證了這種策略的有效性，因為之后的大部分轉(zhuǎn)發(fā)都是由人類完成的。機器人早期在推特上的活動引發(fā)了人類不成比例的參與，所以這些被機器人捕捉到的虛假新聞開始形成眾多不斷向外延伸的轉(zhuǎn)發(fā)鏈條，但最終還是需要由人類通過炒作機器的網(wǎng)絡把這些虛假新聞傳播開來。
其次，機器人會不斷地提到一些有影響力的人。如果它們能夠讓一個有影響力的人來轉(zhuǎn)發(fā)這些虛假新聞，那么這些虛假新聞馬上就會被放大，而且還會被合理化。門采爾和他的同事用他們的數(shù)據(jù)舉了一個例子。有一個機器人曾經(jīng)19次提到了@realDonaldTrump（特朗普的推特賬號），而且它每次都轉(zhuǎn)發(fā)這樣一條虛假新聞：在2016年的總統(tǒng)大選中，有數(shù)百萬名非法移民也參與了投票。當有影響力的人士被愚弄并開始分享這些內(nèi)容時，這種策略就起了作用。例如，特朗普曾經(jīng)在很多場合轉(zhuǎn)發(fā)過一些已經(jīng)被確認是由機器人發(fā)出來的內(nèi)容，這就使那些內(nèi)容好像得到了證實，進而使這些錯誤信息在推特上被廣泛地傳播開來。實際上，正是特朗普將數(shù)百萬名非法移民在2016年總統(tǒng)大選中參與了投票這一錯誤信息當成了官方的話題。
但是，如果沒有人類，機器人就無法傳播虛假新聞。在我們對推特進行的10年的研究中，我們發(fā)現(xiàn)，正是人類，而不是機器人，使得虛假新聞的傳播比真相的傳播速度更快、范圍更廣。在2016-2017年的研究中，門采爾和他的同事同樣發(fā)現(xiàn)，正是人類， 而不是機器人，才是推特中最重要的虛假新聞傳播者。最終，人類和機器人在虛假新聞的傳播過程中共同扮演了某種共生的角色：通過誘導人類，機器人實現(xiàn)了虛假新聞的分享，而人類又通過炒作機器把虛假新聞傳播到了更大的范圍。任何利用錯誤信息開展的活動的最終目標都是對一些人進行誤導，而且也只有人類才會進行諸如投票、抗議、抵制各種產(chǎn)品等一系列的活動，當然還包括決定是否讓他們的孩子接種疫苗等。這些深層次的人類決策過程正是虛假新聞想要進行誘導并施加影響的對象，而機器人只不過是達成這一目的的工具。但是，如果人類就是虛假新聞活動的目標，而且對它們的傳播還如此關鍵，那么我們?yōu)槭裁磿惶摷傩侣勎?？我們?yōu)槭裁催€會主動分享這些錯誤信息呢？
虛假新聞
新奇性假設
一種解釋是由我和蘇魯什·沃梭基、德布·羅伊提出的“新奇性假設”。新奇的東西會吸引人的注意力，因為它會讓人感到驚訝并引起人們情緒上的共鳴，而且它還會更新或改變我們對這個世界的理解。新奇的東西會鼓勵人們進行分享，因為它會在無形中傳達出分享者的社會地位，分享者會被視為一個“知情人”或者能夠接觸“內(nèi)幕消息”的人。在意識到了這些之后，我們決定利用我們在研究推特的10年間所搜集的數(shù)據(jù)進行測試，看一看虛假新聞是否真的比真實新聞更加新奇。我們還具體核查了推特用戶是否更有可能轉(zhuǎn)發(fā)那些看起來更加新奇的信息。
為了衡量所謂的“新奇性”，我們觀察了那些既分享真實新聞，也分享各種謠言的用戶，然后把謠言推文的內(nèi)容與在用戶決定轉(zhuǎn)發(fā)這些謠言前60天內(nèi)曾經(jīng)接觸過的所有推文的內(nèi)容進行了比較。在多種不同的衡量新奇性的標準下，我們的發(fā)現(xiàn)始終都是一致的：虛假新聞確實比真實新聞更加新奇，而且人們也更傾向于分享一些新奇的信息。這個結果在所謂的“注意力經(jīng)濟”的背景下是完全符合邏輯的。在社交媒體中，本來就存在各種競爭非常激烈的思想和行為模式，正是在這樣一種背景下，新奇性吸引了我們本就稀缺的注意力，激發(fā)了我們在網(wǎng)上看到的各種消費和分享行為。
雖然在我們的研究中，虛假新聞要比真相更加新奇，但用戶很可能并不這么認為。所以，為了進一步測試“新奇性假設”，我們通過比較用戶在回復這些謠言時表達出來的情緒來具體評估用戶對真相和虛假新聞的感受。我們發(fā)現(xiàn)，虛假新聞會激起更多的驚嘆和厭惡，而真相會激起更多的悲傷、期待、快樂和信任，所以這實際上已經(jīng)證實了我們的“新奇性假設”。但這些情緒也揭示出，除了新奇性之外，還有哪些因素會刺激人們?nèi)シ窒砟切┨摷傩侣?。為了理解隱藏在虛假新聞背后的傳播機制，我們不得不考慮人類對虛假新聞的敏感性。
我們對虛假新聞的敏感性
關于人類容易受到“錯誤信念”影響的科學，要比關于虛假新聞的科學發(fā)展得更加成熟，但不幸的是，即便是前者也沒有能夠得到定論。當下，在所謂的“古典推理”和“動機推理”之間還存在著一場爭論。古典推理認為，當我們進行分析性思考的時候，我們能夠更好地明辨真假。動機推理卻認為，當我們面對關于錯誤信念的糾正信息時，我們的分析能力越強，就越會主動去“深入挖掘”并進一步加深對錯誤信念的投入，尤其是如果我們從一開始就已經(jīng)對那些錯誤信念深信不疑。
我的朋友，同時也是我在麻省理工學院的同事戴 維·蘭德（David Rand）與他的合作者戈登·彭尼庫克（Gordon Pennycook）研究了哪種類型的人能夠更好地分辨出虛假新聞。他們首先測試了具有認知反思能力的人是如何應對認知反思任務（CRT）的，然后詢問這些人是否會相信一系列真實和虛假的新聞故事。認知反思任務測試的是一個人的反思能力。如果你讓某個人解一道題：“購買一根球棒和一個球總共需要花費1.1美元，球棒比球貴1美元，那么球多少錢？”通常，很多人會飛快地給出一個很直觀的答案，即10美分，但如果你回頭再仔細思考一下，那么這個答案顯然是錯誤的，因為如果球的價格是10美分，那么球棒的價格就是1.1美元，總共是1.2美元。這種類型的問題測試的正是人們的反思能力。蘭德和彭尼庫克發(fā)現(xiàn)，反思能力強的人能夠更好地分辨真?zhèn)?，并且能夠更好地識別出對真實事件有明顯傾向性的報道，這個結論實際上支持了古典推理的觀點。
但是，不斷地重復同一種說法會讓人信以為真。如果一個人用虛假新聞反復地沖刷我們的頭腦，我們就很有可能會相信它。這也被稱作“虛假真實效應”，在多次重復接觸某些錯誤信息后，我們就會傾向于相信這些信息。重復之所以會讓人相信，是因為人們往往傾向于相信他們已經(jīng)接觸過的或思考過的東西，這就是所謂的 “證真偏差”。所以，當我們聽到某些東西的次數(shù)越多，而且它與我們已經(jīng)知道的某些東西一致時，我們就越有可能相信這些東西。類似的想法還導致一些認知科學家和政治科學家提出了這樣的假設，即由于存在“證真偏差”的現(xiàn)象，任何用來糾正錯誤的信息都可能會起到反作用。當你試圖讓某些人相信，他們一直持有的錯誤信念實際上并不正確的時候，他們反而會更深入地挖掘那些錯誤的信念并深陷其中。但是，有關這種“逆火效應”的證據(jù)似乎并不充分。 例如，在三個不同的調(diào)查實驗中，安德魯·格斯和亞歷山大·科波克（Alexander Coppock）表示：“即使在理論上極其有利的情況下，我們也沒有發(fā)現(xiàn)任何這種群體強力逆反的證據(jù)。”
所以，反思確實可以幫助我們從虛假中辨識出真相。盡管信息的重復會讓人傾向于相信，但是用于糾正錯誤的信息不一定會產(chǎn)生反向的效果，即便“證真偏差”帶來的偏見確實會讓我們更加相信我們已經(jīng)知道的東西。這些發(fā)現(xiàn)向我們提供了與虛假新聞做斗爭的線索。
制造虛假新聞的經(jīng)濟動機
俄羅斯對烏克蘭和美國政治的干預，已經(jīng)充分說明了制造虛假新聞背后的政治動機，但其中的經(jīng)濟動機也絕不應該被低估。制造虛假新聞的經(jīng)濟動機在馬其頓的維爾斯地區(qū)展現(xiàn)得淋漓盡致。
維爾斯是一個馬其頓境內(nèi)的毫無活力的山城，這里大約有55000名居民，擁有兩個電視頻道，還有一些非常漂亮的教堂。歷史上的一些著名人物和事件也出現(xiàn)在這里，比如奧斯曼帝國時期的大維齊爾，以及14世紀后期發(fā)生在塞爾維亞和奧斯曼帝國之間的一場戰(zhàn)爭。但對維爾斯的全球歷史地位做出過最大貢獻的，或許還是那些2016年美國總統(tǒng)大選期間在這座城市里到處游蕩的無法找到工作的年輕人，因為他們發(fā)現(xiàn)了，炒作機器是如何通過在網(wǎng)上傳播虛假新聞而讓他們發(fā)財致富的。
維爾斯的年輕人首先創(chuàng)建并推廣了數(shù)百個不同的網(wǎng)站，這些網(wǎng)站通過社交媒體的廣告網(wǎng)絡向美國的選民傳播了各種虛假新聞。像谷歌這樣的公司會在互聯(lián)網(wǎng)瀏覽器上投放廣告，然后再依據(jù)不同的網(wǎng)站吸引的高質(zhì)量用戶的數(shù)量來向網(wǎng)站創(chuàng)建者支付報酬。維爾斯的年輕人發(fā)現(xiàn)，通過創(chuàng)建各種網(wǎng)站，再利用社交媒體的網(wǎng)絡來推廣其內(nèi)容，他們就可以賺到很多錢。閱讀并分享他們文章的人越多，他們賺到的錢就越多。
他們發(fā)現(xiàn)，虛假新聞可以吸引更多的讀者，而且，正如我們在自己的研究中發(fā)現(xiàn)的那樣，人們在網(wǎng)上分享虛假新聞的可能性要比分享其他內(nèi)容的可能性高70%。所以，這些年輕人會首先通過創(chuàng)建虛假的賬號來放大一些文章的信息，一旦相關的趨勢算法注意到了這些文章，這些虛假的新聞故事就會受到廣播效應的推動，這些文章就可以被傳播給更多的人，并擴展到網(wǎng)絡中的新區(qū)域。接著，我們看到的就是鋪天蓋地的虛假新聞了，而且就在美國民眾還在前往投票站的路上的時候，這些虛假新聞就已經(jīng)把他們完全淹沒了。當大量的資金流向某一個方向的時候，虛假新聞卻正在朝著另一個方向流動。就在2016年總統(tǒng)大選前幾個月，當維爾斯的大街上擠滿了嶄新的寶馬車時，整個美國卻已經(jīng)被虛假新聞的洪流吞沒了。維爾斯小城只不過是其中的一個例子而已。2019年全年，虛假新聞網(wǎng)站收獲了超過2億美元的廣告收入。虛假新聞現(xiàn)在已經(jīng)是大生意了，當我們準備推出解決這個問題的方案時，我們必須認識到這一經(jīng)濟現(xiàn)實。
電視中的虛假新聞
現(xiàn)實的終結
不幸的是，到目前為止，我所描述的一切，從股市的崩盤到麻疹疫情的暴發(fā)，再到對選舉的人為干預，這些實際上還算一些比較好的消息，因為在虛假新聞的時代，一切都只會變得更糟糕。我們正處于“合成媒體”這個嶄新時代的邊緣，有些人擔心這將把我們帶入“現(xiàn)實的終結”。這樣的描述聽起來或許有些夸張，但毫無疑問的是，在制造虛假新聞的領域，技術創(chuàng)新正在以非常危險的步伐快速向前邁進。各種“深度造假”技術的發(fā)展正在生產(chǎn)出極具說服力的“人工合成的音頻和視頻內(nèi)容”，這些內(nèi)容甚至比文本類的虛假新聞更有可能愚弄我們?！吧疃仍旒佟奔夹g已經(jīng)可以使用深度學習（一種基于多層神經(jīng)網(wǎng)絡的機器學習的方式）創(chuàng)造出超現(xiàn)實的虛假視頻和音頻內(nèi)容了。如果說眼見為實，那么，與我們迄今為止見過的任何虛假媒介相比，下一代的虛假媒介內(nèi)容更能讓我們完全信服，而這是極其危險的。
2018年，電影導演兼模仿秀演員喬丹·皮爾（Jordan Peele）與BuzzFeed（新聞網(wǎng)站）合作制作了一段“深度造假”的視頻。在視頻中，奧巴馬把特朗普稱作“徹頭徹尾的蠢豬”。雖然視頻看上去就像是真的，但這顯然是虛假新聞。在視頻中，當皮爾讓奧巴馬說出“現(xiàn)在，我根本不可能說出這樣的話來……至少絕不會在公開的演講中這樣說”的時候，他讓那個明顯是他捏造的形象開玩笑般地點了點頭。也就在這一年的晚些時候，CNN（美國有線電視新聞網(wǎng)）記者吉姆·阿科斯塔（Jim Acosta）和白宮實習生在新聞發(fā)布會上發(fā)生了爭吵，這一爭吵的加速版視頻使阿科斯塔拒絕放下手上麥克風的行為顯得更加暴力，所以這段視頻后來還被用來為吊銷阿科斯塔的記者證辯護。曾經(jīng)在電影中扮演過替身的特技演員后來告訴記者，他們經(jīng)常使用這種技巧，這使他們在電影中的出拳和踢腿看起來更有攻擊性。
“深度造假”技術的基礎是一種被稱作“生成式對抗網(wǎng)絡”（Generative Adversarial Networks，后簡稱 GANs）的特定類型的深度學習技術，它是伊恩·古德費洛（Ian Goodfellow）在蒙特利爾大學讀研究生期間首次開發(fā)出來的。有一天晚上，當他和其他研究生一起在當?shù)氐囊患揖瓢衫锖绕【茣r，古德費洛遇到了一個和機器學習有關的問題，即如何訓練一臺電腦自己創(chuàng)建照片，這個問題已經(jīng)困擾了他的朋友很長時間。傳統(tǒng)的方法遭遇了慘敗。但是，就在那天晚上，在喝了幾品脫啤酒之后，古德費洛居然頓悟了。他開始設想，是否可以通過讓兩個神經(jīng)網(wǎng)絡相互對抗來解決這個問題。這就是GANs的最初設想，臉書人工智能研究部門的前負責人楊立昆（Yann LeCun）把這項技術稱作“在過去的20年里深度學習領域中最酷的想法”。這也正是隱藏在那段視頻背后的操控奧巴馬把特朗普稱作“蠢豬”的技術力量。
GANs把兩個神經(jīng)網(wǎng)絡湊到一起，讓它們進行對抗：其中一個被稱作“生成者”，它的工作就是制造出各種合成媒體的內(nèi)容；而另一個被稱作“判別者”，它的工作就是去判斷有關的內(nèi)容是真的還是假的?！吧烧摺睍摹芭袆e者”的決策過程中了解到自己的缺陷，然后以此為基礎去優(yōu)化它所創(chuàng)造的合成媒體的內(nèi)容，這樣，它創(chuàng)造出來的視頻和音頻就會越來越有說服力。事實上，“生成者”的全部工作就是最大限度地提高它欺騙“判別者”的能力，使其誤以為那些合成的視頻或音頻的內(nèi)容是真實的。想象一下，有這樣一臺機器，它被設置在一個超級循環(huán)中，不斷地試圖讓自己變得越來越擅長愚弄我們。在一個GANs技術正在以指數(shù)級速度不斷改善的世界里，我們將要面對的未來很可能是一個現(xiàn)實扭曲的世界。
當然，GANs技術還可以被用在好的方面，比如在高能物理的實驗中生成讓人信服的合成數(shù)據(jù)，或者加速藥物的研究和發(fā)現(xiàn)，但是這種技術可能對地緣政治和經(jīng)濟造成的傷害令人感到不安。美國國務院前反恐事務協(xié)調(diào)員丹尼爾·本杰明（Daniel Benjamin）和克林頓政府與奧巴馬政府國家安全委員會反恐事務高級主任史蒂文·西蒙（Steven Simon）曾描繪了這樣一幅可怕的畫面：“你很容易就可以想象出那些偽造的視頻可能會帶來何種巨大的破壞，比如你可能會看到一段視頻，上面出現(xiàn)的是伊朗的外交官員正在與恐怖分子合作商討襲擊美國的目標，或者你還可以簡單地捏造一段新聞，內(nèi)容是伊朗或朝鮮的軍隊正計劃對任意某個目標進行先發(fā)制人的打擊……這樣的虛假新聞很可能會導致一場戰(zhàn)爭，或者后果同樣嚴重的是，它們可能會阻礙一個國家對真正的威脅做出反應?！?/p>
“深度造假”的音頻已經(jīng)被用來詐騙一些企業(yè)了，金額高達數(shù)百萬美元。2019年夏天，賽門鐵克公司的CTO（首席技術官）休·湯普森（Hugh Thompson）披露，他的公司曾經(jīng)注意到，好幾個客戶遭到了“深度造假”的音頻攻擊。攻擊者首先用長達數(shù)小時的公開錄音資料對一套GANs系統(tǒng)進行了訓練，這些公開資料的內(nèi)容包括了其中一家公司的CEO在接受新聞采訪、發(fā)表公開演講，以及在財報電話會議上發(fā)表講話時留下的所有語音文件，還有在國會面前做證時留下的語音錄音。利用這些音頻文件，攻擊者建立了一個系統(tǒng)來自動模仿這名CEO的聲音。例如，他們會打電話給公司的CFO（首席財務官），然后利用模仿的聲音假裝是公司的CEO，要求CFO立即將數(shù)百萬美元電匯到他們控制的銀行賬號上。 這個系統(tǒng)并不是只能發(fā)送預先錄制的信息，而是可以將攻擊者的聲音實時地轉(zhuǎn)換成為這家公司CEO的聲音，這樣他們就可以進行一 場“真實”的對話，并且回答任何CFO有可能會提出的問題。由系統(tǒng)合成的CEO的語音是如此逼真，再加上一個為什么需要馬上安排轉(zhuǎn)賬的好故事，比如不馬上轉(zhuǎn)賬的話公司很可能會失去一筆大買賣，又或者他們必須在這個財務季度即將結束的時候趕上某個即將到來的截止日期，那么此時這家公司的CFO就很有可能會按照要求進行轉(zhuǎn)賬。湯普森還透露，這樣的攻擊每次都會讓目標公司損失數(shù)百萬美元。
喬丹·皮爾在與Buzzfeed一起制作出那段關于奧巴馬的“深度造假”視頻時曾這樣說過：“這聽起來可能很簡單，但是在信息時代，我們?nèi)绾卫^續(xù)向前發(fā)展，將意味著我們是選擇繼續(xù)這樣生存下去，還是選擇墜入某種混亂的深淵。”想要理解某種“混亂的深淵”是否就是我們的命運，我們必須理解炒作機器的工作方式。而想要做到這一點，我們就需要回到一些基本的原則上，從深入了解炒作機器的工作機制開始，然后再具體地審視社交媒體對我們的大腦產(chǎn)生的影響。
本文節(jié)選自《炒作機器：社交時代的群體盲區(qū)》。
《炒作機器：社交時代的群體盲區(qū)》，【美】錫南·阿拉爾/著 周海云/譯，中信出版集團，2022年5月版
鄂公網(wǎng)安備 42010302001612號 