支持向量機(jī)算法及在大規(guī)模樣本集的應(yīng)用

目錄
1緒論（1）
1.1機(jī)器學(xué)習(xí)理論（1）
1.1.1學(xué)習(xí)問題的一般模型（2）
1.1.2經(jīng)驗(yàn)風(fēng)險最小化原則（3）
1.1.3模型復(fù)雜度和推廣能力（3）
1.1.4結(jié)構(gòu)風(fēng)險最小化原則（4）
1.2支持向量機(jī)算法及研究現(xiàn)狀（4）
1.2.1理論研究（5）
1.2.2訓(xùn)練算法（7）
1.2.3應(yīng)用研究（8）
2統(tǒng)計學(xué)習(xí)理論和最優(yōu)化理論（10）
2.1統(tǒng)計學(xué)習(xí)理論基礎(chǔ)（10）
2.1.1學(xué)習(xí)問題的數(shù)學(xué)表達(dá)（10）
2.1.2經(jīng)驗(yàn)風(fēng)險最小化原則（11）
2.1.3學(xué)習(xí)過程的一致性條件（11）
2.1.4學(xué)習(xí)過程收斂速率的漸進(jìn)性理論（13）
2.1.5推廣能力的泛化誤差界（14）
2.1.6結(jié)構(gòu)風(fēng)險最小化原則（14）
2.2最優(yōu)化理論（15）
2.2.1基本概念（16）
2.2.2凸集理論基礎(chǔ)（17）
2.2.3拉格朗日乘子理論（18）
2.3本章小結(jié)（21）
3標(biāo)準(zhǔn)支持向量機(jī)算法（22）
3.1最優(yōu)分類超平面（22）
3.2核函數(shù)理論（23）
3.3支持向量機(jī)算法（25）
3.3.1線性支持向量機(jī)（25）
3.3.2近似線性可分支持向量機(jī)（26）
3.3.3非線性支持向量機(jī)（28）
3.3.4支持向量特性（29）
3.4數(shù)值試驗(yàn)（30）
3.4.1數(shù)據(jù)預(yù)處理（30）
3.4.2實(shí)驗(yàn)結(jié)果（31）
3.5本章小結(jié)（33）
4最小二乘支持向量機(jī)算法（34）
4.1最小二乘支持向量機(jī)（34）
4.1.1線性最小二乘支持向量機(jī)（34）
4.1.2非線性最小二乘支持向量機(jī)（35）
4.2原空間最小二乘支持向量機(jī)（36）
4.2.1線性原空間最小二乘支持向量機(jī)（36）
4.2.2非線性原空間最小二乘支持向量機(jī)（37）
4.2.3標(biāo)準(zhǔn)形式（38）
4.2.4仿真實(shí)驗(yàn)（39）
4.2.5小結(jié)（41）
4.3稀疏最小二乘支持向量機(jī)（42）
4.3.1線性稀疏最小二乘支持向量機(jī)（42）
4.3.2非線性稀疏最小二乘支持向量機(jī)（42）
4.3.3稀疏模型L1SLSSVM（43）
4.3.4仿真實(shí)驗(yàn)（43）
4.3.5小結(jié)（46）
4.4本章小結(jié)（46）
5支持向量域描述算法（47）
5.1研究現(xiàn)狀（47）
5.2工作機(jī)理（48）
5.2.1線性空間SVDD（48）
5.2.2特征空間SVDD（49）
5.2.3支持向量特性及分布（51）
5.3約簡支持向量域描述RSVDD（51）
5.3.1中心距離比值SVM（52）
5.3.2約簡支持向量域描述（53）
5.3.3約簡集規(guī)模（54）
5.3.4數(shù)值實(shí)驗(yàn)（55）
5.3.5結(jié)論（57）
5.4信賴支持向量域描述（57）
5.4.1信賴支持向量域描述（57）
5.4.2抽樣集規(guī)模（58）
5.4.3抽樣集分布（58）
5.4.4參數(shù)設(shè)置和復(fù)雜度（60）
5.4.5數(shù)值實(shí)驗(yàn)（61）
5.4.6結(jié)論（63）
5.6本章小結(jié)（64）
6光滑支持向量機(jī)算法（65）
6.1引言（65）
6.2Mangasasian的光滑SSVM（66）
6.2.1標(biāo)準(zhǔn)SVM（66）
6.2.2光滑支持向量機(jī)（67）
6.2.3多項(xiàng)式光滑模型（67）
6.3光滑對角加權(quán)支持向量機(jī)（69）
6.3.1二次損失函數(shù)SVM（69）
6.3.2線性光滑對角加權(quán)支持向量機(jī)（70）
6.3.3非線性光滑對角加權(quán)支持向量機(jī)（72）
6.3.4算法實(shí)現(xiàn)（76）
6.3.5數(shù)值實(shí)驗(yàn)（77）
6.4隱空間光滑支持向量機(jī)（80）
6.4.1隱空間簡介（81）
6.4.2隱空間支持向量機(jī)（81）
6.4.3隱空間光滑支持向量機(jī)HS3VM （83）
6.4.4PSO參數(shù)尋優(yōu)（83）
6.4.5數(shù)值試驗(yàn)（85）
6.4.6結(jié)束語（87）
6.5本章小結(jié)（87）
7大規(guī)模樣本集下的支持向量機(jī)算法（88）
7.1同心超球面支持向量機(jī)HSVM（88）
7.1.1理論基礎(chǔ)（88）
7.1.2同心超球面組的構(gòu)造（90）
7.1.3算法實(shí)現(xiàn)（92）
7.1.4數(shù)值實(shí)驗(yàn)（93）
7.1.5小結(jié)（95）
7.2支持向量機(jī)的集成算法（95）
7.2.1集成學(xué)習(xí)算法概述（95）
7.2.2空間支持向量域分類器SSVDC（96）
7.2.3算法實(shí)現(xiàn)（100）
7.2.4數(shù)值實(shí)驗(yàn)（101）
7.2.5結(jié)論（105）
7.3聚類分片雙支持向量域分類器（106）
7.3.1聚類分片（106）
7.3.2雙支持向量域分類器（108）
7.3.3鏈接規(guī)則（110）
7.3.4復(fù)雜度分析（111）
7.3.5數(shù)值試驗(yàn)（111）
7.4本章小結(jié)（114）
8總結(jié)與展望（116）
8.1總結(jié)（116）
8.2展望（117）
參考文獻(xiàn)（119）