人工智能的倫理和隱私難題

【編者按】

如何深刻理解與全面把握“大變局”，決定著中國對(duì)當(dāng)今世界未來與中國發(fā)展的清晰認(rèn)識(shí)，也會(huì)直接影響中國人的日常生活。近日，《百年變局》一書出版，從政勢之變、經(jīng)濟(jì)之變、數(shù)字之變?nèi)齻€(gè)篇章展開，闡述在百年變局的背景下政治、經(jīng)濟(jì)、科技的變化趨勢，并在此基礎(chǔ)上引出當(dāng)前的中國應(yīng)該怎么辦，未來向何處去。本文摘錄“數(shù)字之變”中的部分內(nèi)容，在簡要回溯人工智能的歷史的基礎(chǔ)上，探討人工智能的倫理和隱私難題。

怎樣進(jìn)行人工智能監(jiān)管？這已經(jīng)成為一個(gè)全球性難題。普京曾經(jīng)指出：“人工智能是未來，但也有難以預(yù)測的威脅。無論誰成為這個(gè)領(lǐng)域的領(lǐng)導(dǎo)者，都將會(huì)成為這個(gè)領(lǐng)域的統(tǒng)治者?！逼站┲赋隽艘粋€(gè)殘酷的現(xiàn)實(shí)——在人工智能領(lǐng)域是贏家通吃的世界，而不受約束的科技亦正亦邪，是鋒利的雙刃劍。

1.人工智能“一鍵脫衣”的危機(jī)

2019年6月27日，一款“一鍵脫衣”的軟件DeeNude引起了全球媒體的焦慮。只要給DeepNude一張女性照片，借助神經(jīng)網(wǎng)絡(luò)技術(shù)，App可以自動(dòng)“脫掉”女性身上的衣服，顯示出裸體。

DeepNude的創(chuàng)建者阿爾貝托（Alberto）在接受媒體采訪時(shí)表示，該軟件基于加州大學(xué)伯克利分校研究者開發(fā)的開源算法pix2pix創(chuàng)建，并使用1萬張女性裸圖加以訓(xùn)練。這一算法與之前的人工智能換臉技術(shù)deepfake算法相似，也和無人車技術(shù)所使用的算法相似。阿爾貝托還表示，該軟件目前之所以只能用于女性照片，是因?yàn)榕月泱w圖像更容易在網(wǎng)上找到，但他希望能創(chuàng)建一個(gè)男性版本的軟件。反“色情復(fù)仇”組織Badass的創(chuàng)始人凱特琳·鮑登（Katelyn Bowden）感嘆說：“真是讓人震驚。現(xiàn)在每個(gè)人都有可能成為色情報(bào)復(fù)的受害者，即使沒有拍過一張裸體照片，也可能會(huì)成為受害者。這樣的技術(shù)根本不應(yīng)該向公眾開放?！?/p>

2.想避免風(fēng)險(xiǎn)會(huì)是發(fā)展的最大風(fēng)險(xiǎn)：以無人駕駛為例

2018年以來，隨著人工智能技術(shù)帶來的各種改變，例如對(duì)工作的威脅，對(duì)個(gè)人大數(shù)據(jù)信息的精準(zhǔn)分析，引起了全球各國人們的普遍恐慌。規(guī)避風(fēng)險(xiǎn)是人的天性，但不是發(fā)展的目的。托馬斯·阿奎那（Saint Thomas Aquinas） 曾經(jīng)寫道：“如果船長的最高使命是保護(hù)他的船只，那么他永遠(yuǎn)只會(huì)停留在港口。”和其他所有創(chuàng)新類似，人工智能的最終目標(biāo)是促進(jìn)人類社會(huì)的發(fā)展，而安全是發(fā)展的一部分。過度擔(dān)憂在一定程度上會(huì)阻礙技術(shù)的發(fā)展。下面以無人駕駛為例來說明這個(gè)問題。當(dāng)前無人駕駛技術(shù)發(fā)展全面加速。盡管2018年出現(xiàn)了兩起無人駕駛致命車禍，但大部分無人駕駛汽車公司的發(fā)展并沒有受到影響。自動(dòng)駕駛的人工智能發(fā)展不能只局限于實(shí)驗(yàn)室，同時(shí)也需要大量的實(shí)際路況測試和數(shù)據(jù)訓(xùn)練。通過公路的無人駕駛實(shí)際運(yùn)行，讓駕駛AI學(xué)習(xí)規(guī)范、合法和安全的駕駛，不斷修復(fù)存在的系統(tǒng)問題。當(dāng)前美國有部分州政府通過了無人駕駛公路測試法案，其中加州對(duì)無人駕駛發(fā)展的支持最為積極。根據(jù)加州車輛管理局的報(bào)告，2017年無人駕駛車輛的實(shí)際公路測試中，測試車輛以完全無人干預(yù)的自動(dòng)駕駛模式運(yùn)行的里程數(shù)超過50萬英里。其中Waymo（谷歌拆分出來的自動(dòng)駕駛公司）和Cruise（通用汽車子公司）自動(dòng)駕駛測試?yán)锍虜?shù)最多。下圖是加州車管局（DMV）公布的2017年1至11月各公司汽車自動(dòng)駕駛平均里程數(shù)（自動(dòng)行駛距離/人為干預(yù)次數(shù)）。

2017年1-11月加州路測汽車自動(dòng)駕駛的平均英里數(shù)（自動(dòng)行駛距離/人為干預(yù)次數(shù)）。資料來源：California DMV.

從圖看，大部分公司2017年下半年人為干預(yù)自動(dòng)駕駛的頻率明顯下降。Waymo公司1-6月無人駕駛平均英里數(shù)是4847英里，7-11月增長了55%。通用公司的無人駕駛里程數(shù)也從1-6月的627英里增加到了7-11月的2750英里，增長338.6%。百度也表現(xiàn)不俗，增長了600%，無人干預(yù)自動(dòng)駕駛平均距離達(dá)到了119英里。根據(jù)加州DMV的數(shù)據(jù)，當(dāng)前獲準(zhǔn)在公路上進(jìn)行無人駕駛的汽車數(shù)量約400余輛（可查數(shù)據(jù)是409輛）。其中Cruise公司最多，占104輛；其次是蘋果和Waymo，分別是55輛和51輛。Waymo公司是當(dāng)前加州唯一在不配置備用駕駛員的情況下準(zhǔn)許在公路進(jìn)行自動(dòng)駕駛測試的公司。

但民眾特別是發(fā)達(dá)國家的民眾對(duì)無人駕駛的擔(dān)憂卻開始越來越強(qiáng)烈。從2018年年初的民意調(diào)查看，亞非拉人民對(duì)自動(dòng)駕駛的熱情遠(yuǎn)高于西方發(fā)達(dá)國家。根據(jù)蓋洛普2018年年初對(duì)1503名美國民眾對(duì)無人駕駛相關(guān)問題進(jìn)行的調(diào)查，有34%的人表示他們期望未來6至10年內(nèi)美國能普及無人駕駛。有19%的受訪人認(rèn)為未來五年內(nèi)無人駕駛就會(huì)隨處可見。

民眾對(duì)自動(dòng)駕駛的接受程度，各地區(qū)差異較大。根據(jù)跨國咨詢公司益普索集團(tuán)（Ipsos）近期對(duì)中、印等15個(gè)國家2.15萬人的抽樣調(diào)查表明，亞非拉國家普遍比較歡迎自動(dòng)駕駛，而西方發(fā)達(dá)國家反對(duì)人數(shù)占比反而更多。如下圖所示，印度和中國對(duì)自動(dòng)駕駛最熱情，分別有49%和46%的人表示非常期待。根據(jù)Ipsos的調(diào)查，在南美，巴西有31%受訪者表示歡迎自動(dòng)駕駛，和俄羅斯接近。但美國可能由于受最近幾個(gè)月無人駕駛車禍?zhǔn)录挠绊?，有近四分之一的人表示不?huì)嘗試自動(dòng)駕駛。歐洲國家反對(duì)自動(dòng)駕駛的人也比較多，德國占31%、法國和英國分別占25%和24%。加拿大也有24%的人表示明確反對(duì)。

部分國家民眾對(duì)自動(dòng)駕駛汽車的態(tài)度（省略態(tài)度中立人數(shù)占比）。資料來源：Ipsos

雖然無人駕駛汽車發(fā)展過程引發(fā)了民眾對(duì)于安全的焦慮，但究竟是進(jìn)一步加強(qiáng)監(jiān)管還是提供較為寬松的環(huán)境？當(dāng)前從美國和我國的實(shí)際情況來看， 并沒有因?yàn)榇嬖陲L(fēng)險(xiǎn)而加強(qiáng)對(duì)無人駕駛的束縛。

部分國家民眾對(duì)自動(dòng)駕駛汽車的態(tài)度（省略態(tài)度中立人數(shù)占比）

根據(jù)皮尤調(diào)查2016年的數(shù)據(jù)，2006-2016年十年中，美國的人類駕駛員造成4萬人不必要的死亡。換句話說，每天有100人被一名人類駕駛員殺死。另一方面，自動(dòng)駕駛汽車可以將交通事故死亡率降低多達(dá)90%。這意味著延遲的成本由于監(jiān)管焦慮而無人駕駛的汽車技術(shù)每年將導(dǎo)致成千上萬的不必要的死亡。莫卡特斯中心（Mercatus Center）模型表明，5%的監(jiān)管延遲可能會(huì)產(chǎn)生額外的15500例不必要的死亡事故。延遲25%意味著112400名不必要的死亡。所以，從長遠(yuǎn)發(fā)展看，因?yàn)楹ε聼o人駕駛帶來的風(fēng)險(xiǎn)而限制其發(fā)展，本身就是最大的風(fēng)險(xiǎn)，因?yàn)闊o人駕駛較之于人類駕駛，有著顯然的優(yōu)勢。其他人工智能領(lǐng)域也存在類似的問題。

3.當(dāng)前我國人工智能發(fā)展遇到的問題

一是大數(shù)據(jù)生態(tài)有待進(jìn)一步完善。當(dāng)前人工智能是以大數(shù)據(jù)為基礎(chǔ)的，需要依托大數(shù)據(jù)對(duì)機(jī)器智能進(jìn)行訓(xùn)練。在這一方面，目前我國依然存在一些問題。一是大數(shù)據(jù)生態(tài)系統(tǒng)方面落后于美國，缺少統(tǒng)一的標(biāo)準(zhǔn)和跨平臺(tái)的共享。二是公共大數(shù)據(jù)開放依然有限。開放政府大數(shù)據(jù)有助于私營部門的創(chuàng)新，但我國的公共部門開放的大數(shù)據(jù)依然相對(duì)少。三是跨國大數(shù)據(jù)流動(dòng)的安全問題，我國在這方面面臨的挑戰(zhàn)越來越嚴(yán)峻。

二是人工智能人才問題。我國在人工智能基礎(chǔ)研究方面依然落后于美國，其中主要原因之一是人才依然短缺。當(dāng)前我國對(duì)高端人工智能人才的渴求依然是非常強(qiáng)烈的。美國超過半數(shù)的資據(jù)科學(xué)家擁有10年以上的工作經(jīng)驗(yàn)，但據(jù)麥肯錫統(tǒng)計(jì)，我國相關(guān)領(lǐng)域經(jīng)驗(yàn)不足5年的研究人員高達(dá)40%。我國當(dāng)前只有不到30個(gè)專注于人工智能的大學(xué)研究實(shí)驗(yàn)室，僅靠這些實(shí)驗(yàn)室是無法產(chǎn)出足夠的人才來滿足人工智能行業(yè)的需求的。此外，我國當(dāng)前人工智能人才分布也不均勻，主要集中在計(jì)算機(jī)視覺和語音識(shí)別領(lǐng)域，而其他領(lǐng)域的人才相對(duì)更少。

三是人工智能核心硬件依然存在諸多不足。我國的微處理器（micropro-cessors）長期以來嚴(yán)重依賴進(jìn)口，部分類型的高階半導(dǎo)體則幾乎完全依靠進(jìn)口。為解決這一難題并掌握半導(dǎo)體核心技術(shù)以提高我國在未來更廣泛地部署人工智能領(lǐng)域的能力，我國在2014年發(fā)布《國家集成電路產(chǎn)業(yè)發(fā)展推進(jìn)綱要》和《中國制造2025》，并設(shè)立了一個(gè)超過200億美元的基金，通過并購、投資入股國內(nèi)外半導(dǎo)體產(chǎn)業(yè)等，積極扶持國內(nèi)半導(dǎo)體產(chǎn)業(yè)，雖然已見初步成效，但自主創(chuàng)新之路仍然艱辛漫長。

4.對(duì)未來我國人工智能發(fā)展的建議：夯實(shí)基礎(chǔ)，保護(hù)知識(shí)產(chǎn)權(quán)，鼓勵(lì)創(chuàng)新

縱觀人工智能的發(fā)展，既有低谷，也有高峰，一路走來，在曲折中前進(jìn)?；仡櫄v史，人工智能的發(fā)展既離不開基礎(chǔ)設(shè)施的發(fā)展，也受到市場利益的推動(dòng)。未來，人工智能的發(fā)展會(huì)越來越廣泛，它會(huì)促進(jìn)全行業(yè)數(shù)據(jù)的加速產(chǎn)生，推動(dòng)移動(dòng)化計(jì)算的發(fā)展。在垂直領(lǐng)域，AI也會(huì)向商業(yè)化發(fā)展靠攏，創(chuàng)造出更多的直接經(jīng)濟(jì)價(jià)值。因此，回歸基礎(chǔ)建設(shè)，完善大數(shù)據(jù)生態(tài)，加強(qiáng)知識(shí)產(chǎn)權(quán)保護(hù)，依然是當(dāng)前我國推動(dòng)人工智能發(fā)展的重點(diǎn)，這三項(xiàng)基礎(chǔ)工作做好了，才能進(jìn)一步激發(fā)社會(huì)的創(chuàng)新能力，激活企業(yè)的人工智能創(chuàng)新動(dòng)力，為我國在數(shù)字時(shí)代的騰飛培育堅(jiān)實(shí)的核心動(dòng)能。

《百年變局》，王文、賈晉京、劉玉書、王鵬/著，北京師范大學(xué)出版社2020年5月版。