機(jī)器學(xué)習(xí)：因子分解機(jī)模型與推薦系統(tǒng)

目 錄
前言
第1章 緒論 1
1.1 預(yù)測和推薦問題描述 1
1.2 研究意義 3
1.3 國內(nèi)外研究現(xiàn)狀及發(fā)展動(dòng)態(tài) 4
1.3.1 數(shù)據(jù)稀疏性和冷啟動(dòng)問題 5
1.3.2 用戶偏好和物品流行度動(dòng)態(tài)建模 6
1.3.3 大數(shù)據(jù)處理和模型的擴(kuò)展性 7
1.3.4 多樣性和準(zhǔn)確性平衡問題 8
1.4 本書組織結(jié)構(gòu) 9
第2章 FM模型及其擴(kuò)展 12
2.1 邏輯回歸模型 12
2.2 基于因子分解的多項(xiàng)式回歸模型 13
2.3 FM模型 14
2.4 FM模型與矩陣分解模型的轉(zhuǎn)化 15
2.4.1 矩陣分解模型 15
2.4.2 FM模型轉(zhuǎn)化為矩陣分解模型 16
2.5 FM模型的高階擴(kuò)展 17
2.6 FM模型的場交互擴(kuò)展 18
2.7 FM模型的層次交互擴(kuò)展 19
2.8 FM模型與其他模型的集成 20
2.9 本章小結(jié) 22
笫3章 特征工程及其對(duì)FM模型的影響 23
3.1 屬性、特征、特征向量和數(shù)據(jù)集 23
3.2 特征工程 24
3.3 特征的來源 25
3.4 FM模型相關(guān)研究中的特征工程 27
3.5 FM模型的應(yīng)用領(lǐng)域 30
3.6 本章小結(jié) 32
第4章 模型訓(xùn)練方法 33
4.1 預(yù)測和推薦模型的目標(biāo)優(yōu)化 33
4.2 模型訓(xùn)練方式 34
4.2.1 擬牛頓法 34
4.2.2 SGD系列算法 35
4.2.3 Gibbs采樣算法 37
4.3 激活函數(shù) 38
4.4 過擬合問題 39
4.4.1 正則化方式 40
4.4.2 批規(guī)范化 41
4.4.3 Dropout及相關(guān)優(yōu)化方法 42
4.5 本章小結(jié) 44
第5章 智能化場感知分解機(jī) 45
5.1 算法改進(jìn)思路 45
5.2 iFFM模型 46
5.3 多樣性處理 48
5.3.1 熱擴(kuò)散算法 48
5.3.2 兩個(gè)模型的集成 50
5.4 實(shí)驗(yàn)結(jié)果與分析 50
5.4.1 實(shí)驗(yàn)環(huán)境 50
5.4.2 實(shí)驗(yàn)結(jié)果 51
5.5 本章小結(jié) 54
第6章 廣義場感知分解機(jī) 55
6.1 模型改進(jìn)思路 55
6.2 咐間因子 57
6.3 動(dòng)態(tài)模型構(gòu)建 58
6.4 GFFM模型評(píng)價(jià) 60
6.4.1 實(shí)驗(yàn)設(shè)置 60
6.4.2 實(shí)驗(yàn)結(jié)果及分析 62
6.5 本章小結(jié) 64
第7章 FM模型與深度學(xué)習(xí)模型的集成 65
7.1 FNN模型 65
7.2 Wide&Deep模型 66
7.3 Deep&Cross模型 67
7.4 DeepFM模型 68
7.5 NFM與AFM模型 68
7.6 寬度和深度學(xué)習(xí)模型集成方式分析 69
7.7 本章小結(jié) 70
第8章 基于稠密網(wǎng)絡(luò)的廣義場感知分解機(jī) 71
8.1 ResNet和DenseNet 71
8.2 DGFFM模型 73
8.2.1 Wide&Deep結(jié)構(gòu) 73
8.2.2 FNN結(jié)構(gòu) 74
8.3 DGFFM模型評(píng)價(jià) 75
8.3.1 實(shí)驗(yàn)設(shè)置 75
8.3.2 實(shí)驗(yàn)結(jié)果及分析 75
8.4 本章小結(jié) 76
第9章 FM模型實(shí)現(xiàn)庫及并行化處理 77
9.1 libFM 一 77
9.1.1 libFM中核心類之間的關(guān)系 77
9.1.2 fm一learn類代碼解析 78
9.2 FM的其他實(shí)現(xiàn)庫 83
9.2.1 libFFM 83
9.2.2 fastFM 83
9.3 FM模型的其他優(yōu)化方法 83
9.4 FM模型的并行實(shí)現(xiàn) 84
9.5 本章小結(jié) 87
第10章 時(shí)尚電商領(lǐng)域的推薦系統(tǒng)研究 88
10.1 深度學(xué)習(xí)為時(shí)尚推薦研究帶來新思路 88
10.2 大數(shù)據(jù)環(huán)境下時(shí)尚電商推薦系統(tǒng)框架及面臨的問題 89
10.3 融合視覺特征的推薦系統(tǒng)研究內(nèi)容 90
10.3.1 融合非視覺屬性與視覺特征及其時(shí)空動(dòng)態(tài)性的推薦模型研究 91
10.3.2 面向大規(guī)模數(shù)據(jù)的并行化模型訓(xùn)練算法與技術(shù)研究 92
10.3.3 在線推薦引擎研究 92
10.4 關(guān)鍵問題 93
10.4.1 基于視覺特征的時(shí)空動(dòng)態(tài)建模 93
10.4.2 模型訓(xùn)練的優(yōu)化問題 93
10.4.3 推薦引擎的實(shí)時(shí)處理 93
10.5 相關(guān)技術(shù) 94
10.5.1 基于深度卷積神經(jīng)網(wǎng)絡(luò)的視覺特征提取方法 94
10.5.2 基于iFFM模型的非視覺屬性建模 95
10.5.3 基于VBPR的視覺特征建模 96
10.5.4 基于馬爾可夫鏈的時(shí)間序列預(yù)測 96
10.5.5 基于SGD算法的模型訓(xùn)練方法 97
10.5.6 基于TensorFlow的并行算法實(shí)現(xiàn) 98
10.6 本章小結(jié) 98
第11章 一個(gè)N-階段購買決策模型 100
11.1 研究背景 100
11.2 特征處理與Wide&Deep plus框架 101
11.3 NSPD模型及其優(yōu)化 102
11.4 實(shí)驗(yàn)與結(jié)果評(píng)價(jià) 105
11.4.1 數(shù)據(jù)集 105
11.4.2 評(píng)價(jià)指標(biāo) 106
11.4.3 算法實(shí)現(xiàn) 106
11.4.4 實(shí)驗(yàn)結(jié)果 106
11.5 本章小結(jié) 108
參考文獻(xiàn) 109