人工智能安全（精裝版）

第1章人工智能技術(shù)發(fā)展概述
1.1人工智能的研究方向及起源
1.1.1人工智能的研究方向
1.1.2人工智能起源
1.2人工智能的三次發(fā)展高峰
1.2.1人工智能第一次發(fā)展高峰
1.2.2人工智能第二次發(fā)展高峰
1.2.3人工智能第三次發(fā)展高峰
1.3人工智能的三個(gè)學(xué)術(shù)流派
1.3.1符號(hào)主義
1.3.2連接主義
1.3.3行為主義
1.3.4關(guān)于三個(gè)學(xué)術(shù)流派的評(píng)論
1.4人工智能第三次發(fā)展高峰的技術(shù)推手
1.4.1深度學(xué)習(xí)的貢獻(xiàn)
1.4.2軟件框架成為人工智能應(yīng)用的推手
1.4.3解決不同軟硬件的適配
1.4.4算力大幅提升的貢獻(xiàn)
1.4.5大數(shù)據(jù)的貢獻(xiàn)
1.4.6移動(dòng)互聯(lián)網(wǎng)與傳感器的貢獻(xiàn)
1.5人工智能帶來(lái)的巨大沖擊
1.5.1人工智能對(duì)經(jīng)濟(jì)的沖擊
1.5.2人工智能對(duì)社會(huì)的沖擊
1.5.3人工智能對(duì)人類思維的沖擊
1.5.4人工智能對(duì)教育與就業(yè)的影響
1.5.5人工智能對(duì)隱私的沖擊
1.6本章小結(jié)
參考文獻(xiàn)
第2章世界各國(guó)人工智能發(fā)展戰(zhàn)略規(guī)劃
2.1美國(guó)人工智能發(fā)展戰(zhàn)略
2.1.1美國(guó)人工智能發(fā)展職能機(jī)構(gòu)
2.1.2美國(guó)人工智能戰(zhàn)略規(guī)劃
2.1.3美國(guó)人工智能發(fā)展計(jì)劃
2.1.4美國(guó)人工智能監(jiān)管政策
2.2歐盟及英國(guó)人工智能發(fā)展戰(zhàn)略
2.2.1歐盟及英國(guó)的人工智能戰(zhàn)略
2.2.2歐盟人工智能發(fā)展計(jì)劃
2.2.3歐盟及英國(guó)的人工智能倫理原則
2.2.4歐盟及英國(guó)人工智能立法及監(jiān)管
2.3其他一些國(guó)家人工智能發(fā)展戰(zhàn)略
2.3.1日本人工智能發(fā)展戰(zhàn)略
2.3.2俄羅斯人工智能發(fā)展戰(zhàn)略
2.3.3韓國(guó)、新加坡、加拿大、印度等國(guó)的人工智能戰(zhàn)略
2.4中國(guó)人工智能發(fā)展戰(zhàn)略
2.4.1中國(guó)人工智能發(fā)展的總體要求
2.4.2中國(guó)人工智能發(fā)展的主要任務(wù)
2.4.3中國(guó)人工智能產(chǎn)業(yè)發(fā)展的資源配置
2.4.4中國(guó)人工智能發(fā)展的保障措施
2.4.5中國(guó)人工智能發(fā)展的組織保障
2.4.6中國(guó)人工智能人才培養(yǎng)政策
2.5國(guó)內(nèi)外人工智能標(biāo)準(zhǔn)研究
2.5.1國(guó)際人工智能標(biāo)準(zhǔn)研究
2.5.2中國(guó)人工智能標(biāo)準(zhǔn)研究
2.6本章小結(jié)
參考文獻(xiàn)
第3章人工智能安全概述
3.1人工智能與安全的辯證關(guān)系
3.2人工智能安全體系架構(gòu)與分類
3.2.1人工智能安全體系架構(gòu)
3.2.2人工智能助力安全
3.2.3人工智能內(nèi)生安全
3.2.4人工智能衍生安全
3.3人工智能安全所處位置及外部關(guān)聯(lián)
3.3.1人工智能安全性、可靠性和可控性的關(guān)系
3.3.2人工智能安全與法律、政策和標(biāo)準(zhǔn)的關(guān)系
3.3.3人工智能安全與倫理之間的關(guān)系
3.3.4人工智能安全評(píng)測(cè)與防控
3.4本章小結(jié)
參考文獻(xiàn)
第4章人工智能助力安全
4.1人工智能助力安全概述
4.2人工智能助力防御
4.2.1物理智能安防監(jiān)控
4.2.2軍用機(jī)器人
4.2.3智能入侵檢測(cè)
4.2.4惡意代碼檢測(cè)與分類
4.2.5基于知識(shí)圖譜的威脅獵殺
4.2.6用戶實(shí)體行為分析
4.2.7垃圾郵件檢測(cè)
4.3人工智能助力攻擊
4.3.1自動(dòng)化網(wǎng)絡(luò)攻擊
4.3.2助力網(wǎng)絡(luò)攻擊，提升網(wǎng)絡(luò)攻擊效率
4.3.3助力有害信息的傳播
4.3.4助力虛假信息內(nèi)容的制作
4.3.5智能惡意代碼
4.3.6神經(jīng)網(wǎng)絡(luò)后門
4.3.7對(duì)抗機(jī)器學(xué)習(xí)
4.3.8智能工具被用于惡意攻擊
4.3.9助力自主武器研發(fā)
4.4本章小結(jié)
參考文獻(xiàn)
第5章人工智能的內(nèi)生安全
5.1數(shù)據(jù)安全
5.1.1數(shù)據(jù)集質(zhì)量影響人工智能內(nèi)生安全
5.1.2數(shù)據(jù)投毒可人為導(dǎo)致人工智能算法出錯(cuò)
5.1.3對(duì)抗樣本成為人工智能內(nèi)生安全的新關(guān)注點(diǎn)
5.2框架安全
5.3算法安全
5.3.1算法的可解釋性
5.3.2對(duì)抗樣本體現(xiàn)出人工智能算法缺乏可解釋性
5.4模型安全
5.4.1模型存儲(chǔ)和管理的安全
5.4.2開源模型被攻擊
5.5運(yùn)行安全
5.5.1客觀原因?qū)е碌倪\(yùn)行安全問題
5.5.2主觀原因?qū)е碌倪\(yùn)行安全問題
5.6本章小結(jié)
參考文獻(xiàn)
第6章人工智能衍生安全問題
6.1人工智能系統(tǒng)失誤而引發(fā)的安全事故
6.1.1自動(dòng)駕駛汽車失效
6.1.2智能機(jī)器人失效
6.1.3智能音箱失效
6.1.4人工智能系統(tǒng)“失控”
6.1.5會(huì)話人工智能的偏激言論
6.1.6醫(yī)療人工智能的危險(xiǎn)治療意見
6.2人工智能武器研發(fā)可能引發(fā)國(guó)際軍備競(jìng)賽
6.2.1各國(guó)人工智能武器化發(fā)展情況
6.2.2人工智能武器軍備競(jìng)賽帶來(lái)的風(fēng)險(xiǎn)
6.3人們對(duì)人工智能技術(shù)失控的擔(dān)憂
6.4人工智能行為體失控三要素
6.4.1人工智能行為體具有行為能力以及破壞力
6.4.2人工智能行為體具有不可解釋的決策能力
6.4.3人工智能行為體具有進(jìn)化能力，可進(jìn)化成自主系統(tǒng)
6.5預(yù)防人工智能技術(shù)失控的舉措
6.5.1人機(jī)協(xié)作國(guó)際規(guī)范
6.5.2阿西洛馬人工智能原則
6.5.3自我終結(jié)機(jī)制防范系統(tǒng)性失控風(fēng)險(xiǎn)
6.6本章小結(jié)
參考文獻(xiàn)
第7章人工智能行為體
7.1人工智能行為體的定義
7.2人工智能行為體類型1——傳統(tǒng)型
7.2.1工業(yè)機(jī)器人
7.2.2專用服務(wù)機(jī)器人
7.2.3家用型機(jī)器人
7.3人工智能行為體類型2——自動(dòng)駕駛的交通工具
7.3.1自動(dòng)駕駛簡(jiǎn)介
7.3.2自動(dòng)駕駛汽車
7.3.3人工智能無(wú)人機(jī)
7.3.4無(wú)人駕駛船舶
7.4人工智能行為體類型3——人工智能武器
7.4.1人工智能武器簡(jiǎn)介
7.4.2“殺人蜂” 武器
7.4.3炮塔型AI戰(zhàn)斗機(jī)器人
7.4.4人形戰(zhàn)斗機(jī)器人
7.5人工智能行為體類型4——類人機(jī)器人
7.5.1Jules機(jī)器人
7.5.2Bina48機(jī)器人
7.5.3Sophia機(jī)器人
7.6人工智能行為體的特性
7.6.1人工智能行為體的移動(dòng)特性
7.6.2人工智能行為體的決策特性
7.6.3人工智能行為體的自主特性
7.7本章小結(jié)
參考文獻(xiàn)
第8章人工智能行為體保險(xiǎn)箍
8.1體系架構(gòu)
8.2基本功能
8.2.1遠(yuǎn)程控制組件
8.2.2能源控制組件
8.2.3宿主交互組件
8.2.4數(shù)據(jù)記錄組件
8.3安全機(jī)制
8.3.1設(shè)備安全
8.3.2數(shù)據(jù)安全
8.3.3運(yùn)行安全
8.4安全圍欄
8.4.1工作過程
8.4.2移動(dòng)范圍限制
8.4.3速度與距離監(jiān)控
8.4.4輸出功率與力約束
8.4.5安全策略
8.5增強(qiáng)功能
8.5.1內(nèi)置傳感器
8.5.2人的識(shí)別
8.5.3“黑AIA”識(shí)別
8.6防控中心
8.6.1態(tài)勢(shì)感知
8.6.2指揮控制
8.6.3應(yīng)急處置
8.6.4專家研判
8.7生態(tài)環(huán)境
8.7.1準(zhǔn)入制度
8.7.2標(biāo)準(zhǔn)規(guī)范
8.7.3生態(tài)基礎(chǔ)
8.8本章小結(jié)
參考文獻(xiàn)
第9章人工智能行為體的安全評(píng)估與檢測(cè)
9.1人工智能行為體的安全管理概述
9.1.1從術(shù)語(yǔ)的角度感受個(gè)人助理機(jī)器人的安全要素
9.1.2個(gè)人助理機(jī)器人的風(fēng)險(xiǎn)評(píng)估要求
9.1.3個(gè)人助理機(jī)器人的安全要求
9.1.4個(gè)人助理機(jī)器人的功能安全
9.2人工智能行為體安全評(píng)估和檢測(cè)的目標(biāo)
9.2.1動(dòng)能安全：對(duì)AIA動(dòng)能的評(píng)估
9.2.2決策安全：對(duì)決策系統(tǒng)安全的評(píng)估
9.2.3自主安全：對(duì)AIA自主能力失控風(fēng)險(xiǎn)的評(píng)估
9.3人工智能行為體安全評(píng)估的方法與指標(biāo)
9.3.1動(dòng)能安全評(píng)估
9.3.2決策安全評(píng)估
9.3.3自主安全評(píng)估
9.3.4安全評(píng)估過程
9.4人工智能行為體檢測(cè)能力與檢測(cè)方法
9.4.1針對(duì)AIA動(dòng)能的檢測(cè)方法
9.4.2針對(duì)AIA決策機(jī)制的檢測(cè)方法
9.4.3針對(duì)AIA自主能力的檢測(cè)方法
9.5人工智能行為體的檢測(cè)流程
9.5.1針對(duì)AIA動(dòng)能的檢測(cè)流程
9.5.2針對(duì)AIA決策機(jī)制的檢測(cè)流程
9.5.3針對(duì)AIA自主能力的檢測(cè)流程
9.6本章小結(jié)
參考文獻(xiàn)
第10章人工智能安全倫理準(zhǔn)則
10.1人工智能技術(shù)引發(fā)的倫理問題
10.1.1人權(quán)問題
10.1.2倫理地位問題
10.1.3責(zé)任倫理問題
10.1.4風(fēng)險(xiǎn)問題
10.2人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.2.1各國(guó)政府及社團(tuán)組織關(guān)于人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.2.2國(guó)際組織關(guān)于人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.2.3企業(yè)和高等院校關(guān)于人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
10.3人工智能行為體的倫理決策
10.3.1人工智能行為體的倫理決策能力
10.3.2人工智能行為體的倫理決策設(shè)計(jì)
10.3.3人工智能行為體的倫理決策考量
10.4人工智能行為體的責(zé)任歸咎
10.4.1責(zé)任主體
10.4.2責(zé)任分配
10.4.3無(wú)人駕駛汽車的責(zé)任追究
10.5本章小結(jié)
參考文獻(xiàn)
第11章人工智能前沿技術(shù)
11.1學(xué)術(shù)前沿
11.1.1強(qiáng)化學(xué)習(xí)
11.1.2遷移學(xué)習(xí)
11.1.3聯(lián)邦學(xué)習(xí)
11.1.4分布式機(jī)器學(xué)習(xí)
11.1.5表示學(xué)習(xí)
11.1.6元學(xué)習(xí)
11.1.7可解釋的人工智能
11.1.8對(duì)抗訓(xùn)練
11.1.9人工智能芯片
11.1.10技術(shù)前沿安全挑戰(zhàn)
11.2應(yīng)用前沿
11.2.1計(jì)算機(jī)視覺
11.2.2自然語(yǔ)言處理
11.2.3智能語(yǔ)音
11.2.4智能駕駛
11.2.5擬人和仿生
11.2.6智能攻防
11.2.7應(yīng)用前沿安全挑戰(zhàn)
11.3交叉領(lǐng)域
11.3.1人工智能與互聯(lián)網(wǎng)
11.3.2人工智能與工業(yè)互聯(lián)網(wǎng)
11.3.3人工智能與醫(yī)學(xué)生物
11.3.4人工智能與軍事
11.3.5人工智能與商業(yè)模式
11.3.6人工智能與人文社會(huì)
11.3.7交叉領(lǐng)域安全挑戰(zhàn)
11.4本章小結(jié)
參考文獻(xiàn)
第12章人工智能安全的未來(lái)展望
12.1人工智能內(nèi)生安全的未來(lái)展望
12.1.1數(shù)據(jù)是否會(huì)制約人工智能內(nèi)生安全
12.1.2對(duì)抗樣本是否會(huì)出現(xiàn)在實(shí)際應(yīng)用場(chǎng)景中
12.1.3是否存在安全的智能模型
12.1.4人工智能執(zhí)行過程是否安全
12.2人工智能衍生安全的未來(lái)展望
12.2.1人工智能武器化
12.2.2人工智能濫用導(dǎo)致安全隱患
12.2.3人工智能是否會(huì)危害人類
12.3人工智能安全相關(guān)的未來(lái)焦點(diǎn)
12.3.1人工智能基礎(chǔ)工具應(yīng)注重自主可控
12.3.2如何看待人工智能自主發(fā)明物的專利性問題
12.3.3人工智能對(duì)人的影響
12.3.4人工智能挑起的欲望
12.3.5超人工智能是否會(huì)危害人類
12.4人工智能的安全可控之路
12.4.1建立保護(hù)人類的法律規(guī)范和規(guī)章制度
12.4.2確立人類優(yōu)先與安全優(yōu)先的原則
12.4.3謹(jǐn)慎承認(rèn)智能機(jī)器人的法律主體資格
12.4.4充分尊重社會(huì)公眾的知情權(quán)
12.4.5人工智能的安全評(píng)估與檢測(cè)
12.4.6人工智能安全可控需要社會(huì)各界共同的努力
12.5本章小結(jié)
參考文獻(xiàn)