檢索匹配：深度學(xué)習(xí)在搜索、廣告、推薦系統(tǒng)中的應(yīng)用

第1部分 理 論 準(zhǔn) 備

第1章 深度學(xué)習(xí)時代/
1.1 深度學(xué)習(xí)的飛速發(fā)展/
1.2 深度學(xué)習(xí)在互聯(lián)網(wǎng)的應(yīng)用/
1.2.1 搜索/
1.2.2 推薦/
1.2.3 廣告/
1.2.4 通用檢索流程/
1.3 深度學(xué)習(xí)模型分類/
1.4 模型服務(wù)中臺/
1.5 分布式機器學(xué)習(xí)/
1.6 深度學(xué)習(xí)軟件框架/
1.7 小結(jié)/

第2章 深度學(xué)習(xí)簡介/
2.1 生物神經(jīng)網(wǎng)絡(luò)/
2.2 人工神經(jīng)網(wǎng)絡(luò)/
2.3 業(yè)務(wù)問題建模/
2.4 DNN的擬合能力/
2.5 DNN的學(xué)習(xí)方式/
2.6 CNN與RNN/
2.7 小結(jié)/


第2部分 設(shè)計與實現(xiàn)

第3章 標(biāo)簽拼接/
3.1 時間窗口/
3.2 延遲反饋/
3.3 樣本集介紹/
3.3.1 原始樣本/
3.3.2 廣告基本信息表/
3.3.3 用戶基本信息表/
3.3.4 用戶的行為日志/
3.4小結(jié)/

第4章 特征處理/
4.1 特征分類/
4.2 特征體系/
4.3 原始特征拼接/
4.3.1 拼接方法/
4.3.2 數(shù)據(jù)集特征拼接/
4.3.3 代碼/
4.4 明文特征抽取/
4.4.1 特征抽取算子/
4.4.2 特征抽取示例/
4.5 特征ID化/
4.5.1 特征詞表生成/
4.5.2 ID化示例/
4.6 代碼說明/
4.7 小結(jié)/

第5章 模型構(gòu)建/
5.1 DNN求解/
5.1.1 數(shù)學(xué)規(guī)劃/
5.1.2 DNN方法/
5.2 模型層/
5.2.1 輸入層/
5.2.2 神經(jīng)網(wǎng)絡(luò)層/
5.2.3 激活函數(shù)層/
5.3模型結(jié)構(gòu)/
5.3.1 DLRM模型/
5.3.2 模型搭建/
5.4 損失函數(shù)/
5.4.1 MSE損失函數(shù)/
5.4.2 CrossEntropy損失函數(shù)/
5.5 優(yōu)化器/
5.5.1 SGD/
5.5.2 Momentum/
5.5.3 Nesterov/
5.5.4 AdaGrad/
5.5.5 Adam/
5.5.6 擴展/
5.6 小結(jié)/

第6章 模型訓(xùn)練與預(yù)測/
6.1 模型評估/
6.2 模型訓(xùn)練/
6.2.1 模型訓(xùn)練流程/
6.2.2 模型訓(xùn)練技巧/
6.3 模型預(yù)測/
6.4 訓(xùn)練效果示例/
6.5 模型優(yōu)化/
6.6 GPU應(yīng)用/
6.7 小結(jié)/

第3部分 高級深度學(xué)習(xí)模型

第7章 檢索算法理論/
7.1 檢索算法抽象/
7.2 有表示匹配/
7.2.1 標(biāo)簽表示/
7.2.2 分布式表示/
7.3 無表示匹配/
7.4 內(nèi)容理解/
7.4.1 自然語言處理/
7.4.2 計算機視覺/
7.4.3 一點思考/
7.5 用戶理解/
7.6 總結(jié)/

第8章 檢索算法演進/
8.1 前深度學(xué)習(xí)時代/
8.1.1 LR/
8.1.2 決策樹/
8.1.3 協(xié)同過濾/
8.1.4 MF/
8.1.5 算法應(yīng)用/
8.2 深度學(xué)習(xí)時代/
8.2.1 精排模型演進/
8.2.2 粗排模型演進/
8.2.3 召回模型演進/
8.3 小結(jié)/

第9章 DSSM理論與實現(xiàn)/
9.1 DSSM模型/
9.2 DSSM實現(xiàn)/
9.3 線上預(yù)測/
9.4 ANN檢索/
9.4.1 基于樹的方法/
9.4.2 基于Hash的方法/
9.4.3 基于圖的方法/
9.4.4 ANN檢索效率比較/
9.5 訓(xùn)練效果/
9.6 模型優(yōu)化/
9.7 小結(jié)/

第4部分 分布式機器學(xué)習(xí)

第10章 計算機系統(tǒng)/
10.1 單機系統(tǒng)/
10.1.1 單機系統(tǒng)物理模型/
10.1.2 單機系統(tǒng)程序編程/
10.2 分布式系統(tǒng)/
10.2.1 分布式計算/
10.2.2 分布式存儲/
10.2.3 分布式協(xié)同通信/
10.2.4 CAP理論/
10.2.5 一點思考/
10.3 分布式系統(tǒng)示例/
10.4 分布式編程示例/
10.5 小結(jié)/

第11章 分布式機器學(xué)習(xí)設(shè)計與實現(xiàn)/
11.1 機器學(xué)習(xí)應(yīng)用系統(tǒng)設(shè)計/
11.2 分布式機器學(xué)習(xí)設(shè)計/
11.2.1 并行方式/
11.2.2 節(jié)點協(xié)作方式/
11.2.3 模型更新方式/
11.3 常用的分布式學(xué)習(xí)框架/
11.4 PS Lite介紹/
11.4.1 代碼架構(gòu)/
11.4.2 工作流程/
11.5 分布式訓(xùn)練實現(xiàn)/
11.5.1 架構(gòu)設(shè)計/
11.5.2 代碼實現(xiàn)/
11.5.3 程序運行/
11.5.4 模型保存與加載/
11.5.5 效果評估/
11.6 小結(jié)/
結(jié)語/
附錄/
附錄A 輔助學(xué)習(xí)資料/