數(shù)據(jù)分析的結(jié)構(gòu)化表征學(xué)習(xí)

第 1 章 緒論 1
1．1 表征學(xué)習(xí)的概念 1
1．2 結(jié)構(gòu)化表征學(xué)習(xí)基礎(chǔ) 2
1．2．1 結(jié)構(gòu)化表征學(xué)習(xí)的基礎(chǔ)理論和方法 2
1．2．2 結(jié)構(gòu)化表征學(xué)習(xí)的應(yīng)用 7
參考文獻(xiàn) 8
第 2 章 塊對(duì)角低秩表征學(xué)習(xí) 11
2．1 低秩表征學(xué)習(xí)方法 12
2．2 塊對(duì)角低秩表征學(xué)習(xí)的方法設(shè)計(jì) 13
2．3 塊對(duì)角低秩表征學(xué)習(xí)的優(yōu)化算法 15
2．4 識(shí)別算法的設(shè)計(jì) 18
2．5 塊對(duì)角低秩表征學(xué)習(xí)的算法分析 19
2．5．1 收斂性分析 19
2．5．2 計(jì)算時(shí)間復(fù)雜度 20
2．5．3 新樣本預(yù)測(cè)檢驗(yàn) 20
2．6 與現(xiàn)有低秩表征學(xué)習(xí)方法的關(guān)系 22
2．6．1 與非負(fù)低秩表征稀疏方法的關(guān)系 22
2．6．2 與結(jié)構(gòu)化稀疏低秩表征方法的關(guān)系 23
2．6．3 與監(jiān)督正則化魯棒子空間方法的關(guān)系 24
2．7 實(shí)驗(yàn)驗(yàn)證 24
2．7．1 實(shí)驗(yàn)設(shè)置 24
2．7．2 在人臉識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 25
2．7．3 在字符識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 28
2．7．4 在場(chǎng)景識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 30
2．7．5 優(yōu)勢(shì)分析 30
2．7．6 算法收斂性實(shí)驗(yàn)驗(yàn)證 32
2．7．7 算法參數(shù)敏感性經(jīng)驗(yàn)分析 32
2．8 本章小結(jié) 33
參考文獻(xiàn) 34
第3 章 判別性彈性網(wǎng)正則化回歸表征學(xué)習(xí) 38
3．1 最小二乘回歸方法 39
3．2 基于彈性網(wǎng)正則化的回歸表征學(xué)習(xí)模型 40
3．2．1 一種普適的彈性網(wǎng)正則化回歸表征學(xué)習(xí)框架 40
3．2．2 判別性彈性網(wǎng)正則化回歸表征學(xué)習(xí)模型 42
3．2．3 判別性彈性網(wǎng)正則化回歸表征學(xué)習(xí)的快速模型 43
3．3 模型優(yōu)化求解和算法分類(lèi)模型 44
3．3．1 模型的優(yōu)化求解 44
3．3．2 判別性回歸表征空間的構(gòu)造和算法分類(lèi)模型 47
3．4 算法分析 48
3．4．1 與經(jīng)典回歸模型的關(guān)系 48
3．4．2 時(shí)間復(fù)雜度和收斂性分析 48
3．5 實(shí)驗(yàn)驗(yàn)證 50
3．5．1 對(duì)比方法與實(shí)驗(yàn)設(shè)置 50
3．5．2 在人臉識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 51
3．5．3 在物體識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 55
3．5．4 在場(chǎng)景識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 55
3．5．5 與傳統(tǒng)的回歸表征學(xué)習(xí)模型進(jìn)行對(duì)比分析 56
3．5．6 優(yōu)化算法的收斂條件和參數(shù)敏感性經(jīng)驗(yàn)分析 57
3．5．7 算法效率分析 59
3．6 本章小結(jié) 60
參考文獻(xiàn) 61
第4 章 邊緣結(jié)構(gòu)化表征學(xué)習(xí) 64
4．1 判別性最小二乘回歸方法 65
4．2 邊緣結(jié)構(gòu)化表征學(xué)習(xí)模型 66
4．2．1 損失函數(shù) 66
4．2．2 算法復(fù)雜度正則項(xiàng) 67
4．2．3 自適應(yīng)流形結(jié)構(gòu)學(xué)習(xí) 68
4．3 邊緣結(jié)構(gòu)化表征學(xué)習(xí)算法的優(yōu)化策略 70
4．3．1 求解優(yōu)化變量W、A 和B 70
4．3．2 求解優(yōu)化變量R 71
4．3．3 求解優(yōu)化變量P 72
4．4 半監(jiān)督學(xué)習(xí)模型的擴(kuò)展 74
4．5 邊緣結(jié)構(gòu)化表征學(xué)習(xí)的算法分析 74
4．5．1 優(yōu)化算法收斂性的理論分析 74
4．5．2 計(jì)算復(fù)雜度 75
4．6 實(shí)驗(yàn)驗(yàn)證 75
4．6．1 實(shí)驗(yàn)設(shè)置 76
4．6．2 在物體識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 77
4．6．3 在人臉識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 79
4．6．4 在紋理識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 81
4．6．5 在場(chǎng)景識(shí)別任務(wù)中的實(shí)驗(yàn)結(jié)果 82
4．6．6 識(shí)別性能對(duì)比分析 83
4．6．7 算法參數(shù)敏感性經(jīng)驗(yàn)分析 85
4．6．8 算法收斂性實(shí)驗(yàn)驗(yàn)證 87
4．6．9 效率對(duì)比分析 88
4．7 本章小結(jié) 89
參考文獻(xiàn) 89
第5 章 基于聯(lián)合學(xué)習(xí)的二值多視圖表征學(xué)習(xí) 93
5．1 二值多視圖表征學(xué)習(xí)框架 95
5．1．1 二值多視圖聚類(lèi)模型 95
5．1．2 高效的可擴(kuò)展多視圖圖像聚類(lèi)分析模型 96
5．2 高效的可擴(kuò)展多視圖圖像聚類(lèi)算法 99
5．3 高效的可擴(kuò)展多視圖圖像聚類(lèi)算法分析 102
5．3．1 收斂性分析 102
5．3．2 復(fù)雜度分析 103
5．4 實(shí)驗(yàn)驗(yàn)證 103
5．4．1 數(shù)據(jù)集和評(píng)估標(biāo)準(zhǔn) 103
5．4．2 中等規(guī)模多視圖數(shù)據(jù)實(shí)驗(yàn)驗(yàn)證 104
5．4．3 大規(guī)模多視圖數(shù)據(jù)實(shí)驗(yàn)驗(yàn)證 107
5．4．4 經(jīng)驗(yàn)性分析 108
5．4．5 可視化分析 113
5．5 本章小結(jié) 115
參考文獻(xiàn) 116
第6 章 基于靈活局部結(jié)構(gòu)擴(kuò)散的廣義不完整多視圖聚類(lèi) 120
6．1 多視圖聚類(lèi)方法 122
6．1．1 部分多視圖聚類(lèi) 122
6．1．2 多個(gè)不完整視圖聚類(lèi) 123
6．2 基于靈活局部結(jié)構(gòu)擴(kuò)散的廣義不完整多視圖聚類(lèi)模型 123
6．2．1 單視圖個(gè)體表征學(xué)習(xí) 124
6．2．2 多視圖一致性表征學(xué)習(xí) 125
6．2．3 自適應(yīng)加權(quán)多視圖學(xué)習(xí) 126
6．2．4 GIMC_FLSD 的總體目標(biāo)函數(shù) 126
6．3 GIMC_FLSD 的優(yōu)化算法 127
6．4 GIMC_FLSD 的理論分析 129
6．4．1 計(jì)算復(fù)雜度 129
6．4．2 收斂性分析 130
6．4．3 與其他方法的聯(lián)系 130
6．5 實(shí)驗(yàn)驗(yàn)證 131
6．5．1 實(shí)驗(yàn)配置 131
6．5．2 實(shí)驗(yàn)結(jié)果和分析 133
6．5．3 時(shí)間復(fù)雜度分析 137
6．5．4 參數(shù)靈敏度分析 139
6．5．5 收斂性分析 142
6．6 本章小結(jié) 143
參考文獻(xiàn) 143
第7 章 可擴(kuò)展的監(jiān)督非對(duì)稱(chēng)哈希學(xué)習(xí) 148
7．1 哈希學(xué)習(xí)方法 149
7．2 可擴(kuò)展的監(jiān)督非對(duì)稱(chēng)哈希學(xué)習(xí)模型 151
7．2．1 問(wèn)題定義 151
7．2．2 方法解析 152
7．3 可擴(kuò)展的監(jiān)督非對(duì)稱(chēng)哈希表征學(xué)習(xí)的優(yōu)化算法 154
7．3．1 交替優(yōu)化方法 154
7．3．2 收斂性分析 158
7．3．3 算法的樣本外擴(kuò)展問(wèn)題 158
7．4 實(shí)驗(yàn)驗(yàn)證 159
7．4．1 實(shí)驗(yàn)數(shù)據(jù) 159
7．4．2 實(shí)驗(yàn)設(shè)置 160
7．4．3 在CIFAR-10 圖像檢索數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 161
7．4．4 在Caltech-256 目標(biāo)檢索數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 165
7．4．5 在SUN-397 場(chǎng)景檢索數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 167
7．4．6 在ImageNet 大規(guī)模數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 169
7．4．7 在NUS-WIDE 多實(shí)例數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 171
7．4．8 實(shí)驗(yàn)分析和討論 173
7．5 本章小結(jié) 175
參考文獻(xiàn) 175
第8 章 深度語(yǔ)義協(xié)同哈希學(xué)習(xí) 181
8．1 哈希學(xué)習(xí)方法 182
8．2 深度語(yǔ)義協(xié)同哈希學(xué)習(xí)模型 184
8．2．1 問(wèn)題定義 184
8．2．2 特征嵌入網(wǎng)絡(luò) 185
8．2．3 類(lèi)別編碼網(wǎng)絡(luò) 186
8．2．4 構(gòu)建語(yǔ)義不變結(jié)構(gòu) 186
8．2．5 協(xié)同學(xué)習(xí) 187
8．3 深度語(yǔ)義協(xié)同哈希學(xué)習(xí)的優(yōu)化算法設(shè)計(jì) 187
8．3．1 訓(xùn)練策略分析 187
8．3．2 樣本擴(kuò)展問(wèn)題 188
8．4 實(shí)驗(yàn)驗(yàn)證 188
8．4．1 實(shí)驗(yàn)設(shè)置 189
8．4．2 評(píng)估標(biāo)準(zhǔn) 189
8．4．3 在NUS-WIDE 數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 189
8．4．4 在MIRFlickr 數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 193
8．4．5 在CIFAR-10 數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 196
8．4．6 子模塊分析 198
8．4．7 參數(shù)敏感性分析和可視化結(jié)果 199
8．5 本章小結(jié) 200
參考文獻(xiàn) 201
第9 章 判別性費(fèi)希爾嵌入字典學(xué)習(xí) 205
9．1 相關(guān)工作 207
9．1．1 符號(hào)定義 207
9．1．2 畫(huà)像定義 207
9．1．3 FDDL 算法 208
9．2 判別性費(fèi)希爾嵌入字典學(xué)習(xí)算法 209
9．2．1 判別性費(fèi)希爾原子嵌入模型 209
9．2．2 判別性費(fèi)希爾系數(shù)嵌入模型 210
9．2．3 DFEDL 算法的目標(biāo)函數(shù) 211
9．3 判別性費(fèi)希爾嵌入字典學(xué)習(xí)的優(yōu)化算法 211
9．4 算法對(duì)比與分析 213
9．4．1 DFEDL 算法與FDDL 算法的關(guān)系 214
9．4．2 時(shí)間復(fù)雜度分析 215
9．4．3 收斂性分析 215
9．5 實(shí)驗(yàn)驗(yàn)證 216
9．5．1 實(shí)驗(yàn)配置 216
9．5．2 數(shù)據(jù)集描述 217
9．5．3 在深度特征數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 218
9．5．4 在手工數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 219
9．5．5 實(shí)驗(yàn)結(jié)果分析 221
9．5．6 參數(shù)敏感性分析 222
9．5．7 實(shí)驗(yàn)收斂性分析 223
9．5．8 不同原子數(shù)的影響 223
9．5．9 與深度學(xué)習(xí)模型的對(duì)比 224
9．6 本章小結(jié) 226
參考文獻(xiàn) 227
附錄 234
附錄A 引理9-1 及其證明過(guò)程 234
附錄B 引理9-2 及其證明過(guò)程 236
附錄C 定理9-1 及其證明過(guò)程 237