人工智能安全

第1章 概述 1
1.1 人工智能的發(fā)展、應(yīng)用及其安全性 1
1.1.1 人工智能的發(fā)展 1
1.1.2 人工智能的應(yīng)用 4
1.1.3 人工智能帶來的安全問題 6
1.2 人工智能安全的范疇 9
1.2.1 人工智能安全的范疇與特征 9
1.2.2 人工智能安全的分類 12
1.3 人工智能安全治理 18
1.3.1 人工智能安全與技術(shù)標(biāo)準(zhǔn) 22
1.3.2 人工智能安全與法律 23
1.3.3 人工智能安全倫理道德 24
1.3.4 人工智能安全評估評測 24
1.4 本章小結(jié) 24
參考文獻 25
本章執(zhí)筆人 29
第2章 可信計算保障人工智能安全 30
2.1 可信計算技術(shù) 30
2.1.1 可信計算簡介 30
2.1.2 可信計算相關(guān)技術(shù) 31
2.1.3 可信計算標(biāo)準(zhǔn)體系 35
2.2 基于可信計算構(gòu)建安全可信的人工智能計算環(huán)境 36
2.2.1 人工智能系統(tǒng)啟動環(huán)境度量保護 37
2.2.2 人工智能系統(tǒng)運行環(huán)境度量保護 40
2.2.3 人工智能計算環(huán)境可信報告 44
2.2.4 人工智能數(shù)據(jù)可信存儲 45
2.2.5 人工智能系統(tǒng)可信審計 48
2.3 基于可信計算實現(xiàn)人工智能數(shù)據(jù)可信交互 50
2.3.1 人工智能數(shù)據(jù)可信交互連接架構(gòu) 50
2.3.2 人工智能數(shù)據(jù)可信交互過程 53
2.4 本章小結(jié) 54
參考文獻 54
本章執(zhí)筆人 55
第3章 無人系統(tǒng)安全 56
3.1 無人駕駛安全 56
3.1.1 無人駕駛安全研究概述 56
3.1.2 現(xiàn)狀與發(fā)展趨勢 58
3.1.3 研究內(nèi)容 60
3.1.4 我國無人駕駛的人工智能安全方案和風(fēng)險應(yīng)對策略 73
3.2 多無人系統(tǒng)協(xié)同 76
3.2.1 發(fā)展方向與進展 76
3.2.2 安全要素分析 78
3.2.3 技術(shù)保障措施 88
3.3 本章小結(jié) 91
參考文獻 91
本章執(zhí)筆人 94
第4章 基于類腦計算的強人工智能及其安全 95
4.1 概念界定及其技術(shù)實現(xiàn)途徑 95
4.1.1 相關(guān)基本概念 95
4.1.2 關(guān)于強人工智能發(fā)展與實現(xiàn)的觀點 98
4.1.3 基于類腦計算的強人工智能 99
4.2 時間預(yù)測及潛在安全問題分析 104
4.2.1 發(fā)展階段預(yù)測 104
4.2.2 時間點預(yù)測 109
4.2.3 理論及技術(shù)研究階段的潛在安全問題 113
4.2.4 應(yīng)用階段的潛在安全問題 116
4.3 安全風(fēng)險對策與風(fēng)險預(yù)防策略研究 118
4.3.1 安全風(fēng)險評估及風(fēng)險對策研究 118
4.3.2 理論及技術(shù)研究階段的風(fēng)險預(yù)防策略 121
4.3.3 應(yīng)用階段的風(fēng)險預(yù)防策略研究 126
4.4 本章小結(jié) 128
參考文獻 129
本章執(zhí)筆人 133
第5章 智能制造和智能城市中的人工智能應(yīng)用安全 134
5.1 智能制造中的人工智能應(yīng)用安全 134
5.1.1 發(fā)展現(xiàn)狀 135
5.1.2 應(yīng)用場景 143
5.1.3 安全風(fēng)險分析 145
5.1.4 安全技術(shù)體系 150
5.1.5 重點產(chǎn)業(yè)與應(yīng)用發(fā)展方向 150
5.2 智能城市中的人工智能應(yīng)用安全 152
5.2.1 發(fā)展現(xiàn)狀 152
5.2.2 應(yīng)用場景 157
5.2.3 安全風(fēng)險分析 160
5.2.4 安全技術(shù)體系 163
5.2.5 重點產(chǎn)業(yè)與應(yīng)用發(fā)展方向 163
5.3 本章小結(jié) 165
參考文獻 165
本章執(zhí)筆人 167
第6章 網(wǎng)絡(luò)安全 168
6.1 概述 168
6.2 應(yīng)用現(xiàn)狀與趨勢 169
6.2.1 在網(wǎng)絡(luò)攻擊中的應(yīng)用 169
6.2.2 在網(wǎng)絡(luò)防御中的應(yīng)用 176
6.3 應(yīng)用引發(fā)的安全問題與應(yīng)對 187
6.3.1 應(yīng)用引發(fā)的安全問題與應(yīng)對措施綜述 187
6.3.2 對抗樣本問題 190
6.3.3 對抗樣本問題的應(yīng)對措施 191
6.4 值得深入研究的內(nèi)容 193
6.4.1 基于人工智能技術(shù)的網(wǎng)絡(luò)攻擊 194
6.4.2 基于人工智能技術(shù)的網(wǎng)絡(luò)防御 195
6.4.3 針對人工智能技術(shù)的網(wǎng)絡(luò)攻擊 195
6.4.4 針對人工智能技術(shù)的網(wǎng)絡(luò)防御 197
6.5 本章小結(jié) 198
參考文獻 199
本章執(zhí)筆人 204
第7章 人工智能安全可控的產(chǎn)業(yè)生態(tài)建設(shè) 205
7.1 安全可控的產(chǎn)業(yè)生態(tài)建設(shè)的概念與內(nèi)涵 205
7.2 我國人工智能安全可控水平分析 206
7.2.1 國內(nèi)外人工智能應(yīng)用技術(shù)發(fā)展研究 206
7.2.2 我國人工智能安全可控需要解決的主要問題 221
7.3 我國人工智能產(chǎn)業(yè)生態(tài)建設(shè)現(xiàn)狀分析 228
7.3.1 人工智能產(chǎn)業(yè)生態(tài)現(xiàn)狀分析 229
7.3.2 我國人工智能產(chǎn)業(yè)生態(tài)建設(shè)存在的主要問題 232
7.4 我國人工智能安全可控與產(chǎn)業(yè)生態(tài)建設(shè) 233
7.4.1 人工智能產(chǎn)業(yè)生態(tài)建設(shè)與安全可控水平的關(guān)系 233
7.4.2 我國安全可控的人工智能軟硬件發(fā)展目標(biāo) 234
7.4.3 我國安全可控的人工智能產(chǎn)業(yè)生態(tài)發(fā)展目標(biāo) 234
7.4.4 我國IT產(chǎn)業(yè)發(fā)展對安全可控的人工智能產(chǎn)業(yè)生態(tài)建設(shè)的
啟示 235
7.5 建設(shè)安全可控的人工智能產(chǎn)業(yè)生態(tài)的措施 236
7.5.1 加強對人工智能安全可控發(fā)展的頂層設(shè)計 236
7.5.2 加強人工智能應(yīng)用技術(shù)的安全可控能力 237
7.5.3 強化安全可控的人工智能產(chǎn)業(yè)生態(tài)建設(shè) 238
7.5.4 人工智能應(yīng)用產(chǎn)業(yè)鏈要素安全可控 239
7.6 本章小結(jié) 241
參考文獻 241
本章執(zhí)筆人 242
第8章 人工智能安全標(biāo)準(zhǔn)與風(fēng)險評估預(yù)警 243
8.1 人工智能安全標(biāo)準(zhǔn) 243
8.1.1 人工智能安全標(biāo)準(zhǔn)的理論和實踐意義 243
8.1.2 人工智能安全標(biāo)準(zhǔn)研制概況 244
8.1.3 ISO/IEC JTC1人工智能技術(shù)安全相關(guān)標(biāo)準(zhǔn) 248
8.1.4 ITU-T人工智能應(yīng)用安全相關(guān)標(biāo)準(zhǔn) 249
8.1.5 IEEE人工智能倫理道德安全相關(guān)標(biāo)準(zhǔn) 249
8.1.6 NIST組織研制人工智能安全相關(guān)標(biāo)準(zhǔn) 251
8.1.7 我國的人工智能安全標(biāo)準(zhǔn) 251
8.1.8 基于模塊劃分的人工智能安全標(biāo)準(zhǔn)體系分類 254
8.2 人工智能安全風(fēng)險評估 264
8.2.1 風(fēng)險評估的概念 264
8.2.2 人工智能安全風(fēng)險評估原則、流程與方法 265
8.2.3 人工智能安全風(fēng)險評估指標(biāo)體系構(gòu)建 267
8.3 人工智能安全風(fēng)險預(yù)警 278
8.3.1 人工智能安全風(fēng)險預(yù)警方法 278
8.3.2 安全風(fēng)險預(yù)警等級劃分及閾值確定 280
8.4 本章小結(jié) 281
參考文獻 281
本章執(zhí)筆人 282
第9章 人工智能法律倫理 283
9.1 人工智能倫理 283
9.2 強人工智能倫理 290
9.2.1 人工智能的倫理風(fēng)險與治理現(xiàn)狀 291
9.2.2 強人工智能的倫理風(fēng)險 294
9.2.3 強人工智能體的倫理身份與新型倫理關(guān)系 302
9.2.4 向善的強人工智能——優(yōu)化共生設(shè)計 307
9.2.5 強人工智能倫理治理的初步思考 309
9.3 人工智能法律治理 310
9.3.1 人工智能應(yīng)用引發(fā)的法律問題 310
9.3.2 人工智能法律治理原則、機制與規(guī)律 312
9.4 本章小結(jié) 317
參考文獻 318
本章執(zhí)筆人 319