單類分類理論與算法

目錄
前言
符號說明
第1章 緒論 1
1.1 兩類分類 1
1.1.1 例子 (蠓蟲分類) 1
1.1.2 兩類分類問題 3
1.2 多類分類 4
1.2.1 例子 (鳶尾屬植物分類) 4
1.2.2 多類分類問題 5
1.3 單類分類 10
1.3.1 例子 (Square 數(shù)據(jù)集) 10
1.3.2 單類分類問題 11
1.3.3 單類分類方法的分類 12
參考文獻 16
第2章 單類分類器 20
2.1 基于密度估計的單類分類器 20
2.1.1 Parzen 窗密度估計 20
2.1.2 K 近鄰 21
2.1.3 高斯密度估計 22
2.1.4 高斯混合模型 23
2.2 基于神經(jīng)網(wǎng)絡(luò)的單類分類器 23
2.2.1 自聯(lián)想神經(jīng)網(wǎng)絡(luò) 24
2.2.2 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò) 25
2.2.3 自組織映射神經(jīng)網(wǎng)絡(luò) 28
2.2.4 極限學(xué)習(xí)機 30
2.3 基于聚類的單類分類器 32
2.3.1 K 均值 33
2.3.2 模糊 c 均值 33
2.3.3 水平集法 35
2.4 基于支持域的單類分類器 38
2.4.1 單類支持向量機 38
2.4.2 支持向量數(shù)據(jù)描述 41
2.4.3 核主成分分析 44
參考文獻 46
第3章 單類分類的維數(shù)約簡 48
3.1 特征選擇 48
3.1.1 SVDD 半徑遞歸特征消除法 48
3.1.2 SVDD 對偶目標遞歸特征消除法 51
3.1.3 過濾式特征選擇 54
3.2 特征提取 59
3.2.1 主成分分析 59
3.2.2 線性判別分析 62
3.2.3 局部保持投影 63
3.3 基于正則化相關(guān)熵的異常檢測特征提取 65
3.3.1 相關(guān)工作 65
3.3.2 數(shù)學(xué)模型 66
3.3.3 算法描述 68
3.3.4 實驗結(jié)果 69
3.4 基于模擬退火的 SVDD 特征提取和參數(shù)選擇 75
3.4.1 模擬退火 75
3.4.2 SA-SVDD 76
3.4.3 實驗結(jié)果 78
參考文獻 80
第4章 基于核的單類分類器 83
4.1 魯棒的光滑單類支持向量機 83
4.1.1 相關(guān)工作 83
4.1.2 數(shù)學(xué)模型 84
4.1.3 實驗結(jié)果 86
4.2 基于局部相關(guān)保留的單類支持向量機 88
4.2.1 相關(guān)工作 89
4.2.2 數(shù)學(xué)模型 91
4.2.3 算法描述 93
4.2.4 實驗結(jié)果 94
4.3 局部保留加權(quán)單類支持向量機 97
4.3.1 數(shù)學(xué)模型 97
4.3.2 算法描述 99
4.3.3 實驗結(jié)果 100
4.4 自適應(yīng)加權(quán)單類支持向量機 103
4.4.1 相關(guān)工作 104
4.4.2 數(shù)學(xué)模型 105
4.4.3 算法描述 106
4.4.4 實驗結(jié)果 106
4.5 基于可縮放 hinge 損失函數(shù)的魯棒單類支持向量機 109
4.5.1 數(shù)學(xué)模型 110
4.5.2 算法描述 113
4.5.3 魯棒單類支持向量機的泛化性能和魯棒性 113
4.5.4 實驗結(jié)果 116
4.6 基于截斷 1 范數(shù)的魯棒最小二乘單類支持向量機 129
4.6.1 相關(guān)工作 130
4.6.2 數(shù)學(xué)模型 131
4.6.3 算法描述 133
4.6.4 實驗結(jié)果 133
4.7 基于樣本選取和加權(quán) KPCA-e1 的異常檢測 139
4.7.1 相關(guān)工作 139
4.7.2 構(gòu)造過程 140
4.7.3 實驗結(jié)果 144
4.8 基于核學(xué)習(xí)向量量化的異常檢測 149
4.8.1 LVQ 和 KLVQ 149
4.8.2 重新表示的 KLVQ 152
4.8.3 實驗結(jié)果 153
4.9 基于 SOM 和局部最小包圍球的異常檢測 155
4.9.1 基于 SOM 和 LVQ 的異常檢測器 155
4.9.2 基于 SOM 和局部最小包圍球的異常檢測器 156
4.9.3 實驗結(jié)果 159
參考文獻 163
第5章 單類分類器集成 167
5.1 基于旋轉(zhuǎn)的單類支持向量機集成 167
5.1.1 構(gòu)造過程 167
5.1.2 算法實現(xiàn) 168
5.1.3 實驗結(jié)果 169
5.2 基于改進 AdaBoost 的單類支持向量機集成 171
5.2.1 AdaBoost 集成方法的發(fā)展 171
5.2.2 改進的 AdaBoost 集成方法 173
5.2.3 實驗結(jié)果 174
5.2.4 圖像檢索 179
5.3 基于魯棒 AdaBoost 的單類支持向量機集成 184
5.3.1 數(shù)學(xué)模型 184
5.3.2 算法描述 188
5.3.3 經(jīng)驗誤差界和泛化誤差界 189
5.3.4 實驗結(jié)果 193
5.4 基于 Renyi 熵多樣性度量的 SVDD 選擇性集成 206
5.4.1 Renyi 熵 206
5.4.2 SVDD 的選擇性集成 207
5.4.3 實驗結(jié)果 213
5.5 基于相關(guān)熵和距離方差的 SVDD 選擇性集成 221
5.5.1 相關(guān)工作 221
5.5.2 數(shù)學(xué)模型 222
5.5.3 算法描述 224
5.5.4 實驗結(jié)果 225
參考文獻 229
第6章 基于深度學(xué)習(xí)的單類分類器 232
6.1 基于雙判別器生成式對抗網(wǎng)絡(luò)的異常檢測方法 232
6.1.1 生成式對抗網(wǎng)絡(luò) 232
6.1.2 D2GANND 234
6.1.3 實驗結(jié)果 237
6.2 基于非凸正則化項的堆棧魯棒稀疏自編碼器 240
6.2.1 預(yù)備知識 240
6.2.2 基于 T-e1 范數(shù)和 e2，1 范數(shù)組合正則化項的魯棒稀疏自編碼器 244
6.2.3 基于堆棧魯棒稀疏自編碼器的單類分類器集成 247
6.2.4 實驗結(jié)果 248
參考文獻 252
索引 254