生成式深度學習

目錄
前言 .1
第一部分 生成式深度學習概述
第1 章 生成建模 11
1.1 什么是生成建模？ 11
1.1.1 生成建模與判別建模 13
1.1.2 機器學習的發(fā)展 . 14
1.1.3 生成建模的興起 . 15
1.1.4 生成建模的框架 . 18
1.2 概率生成模型 21
1.2.1 你好，Wrodl ！ 24
1.2.2 你的第一個概率生成模型 . 25
1.2.3 樸素貝葉斯 28
1.2.4 你好，Wrodl ！續(xù)篇 . 31
1.3 生成建模的難題 33
表示學習 34
1.4 設置環(huán)境 37
1.5 小結 40
第2 章 深度學習 41
2.1 結構化與非結構化數(shù)據(jù) 41
2.2 深度神經(jīng)網(wǎng)絡 43
Keras 和TensorFlow 44
2.3 第一個深度神經(jīng)網(wǎng)絡 . 45
2.3.1 加載數(shù)據(jù). 46
2.3.2 建立模型. 48
2.3.3 編譯模型. 52
2.3.4 訓練模型. 54
2.3.5 評估模型. 55
2.4 改進模型 58
2.4.1 卷積層 . 58
2.4.2 批標準化. 64
2.4.3 Dropout 層 . 66
2.4.4 結合所有層 68
2.5 小結 71
第3 章 變分自動編碼器 73
3.1 畫展 73
3.2 自動編碼器 . 76
3.2.1 第一個自動編碼器 . 77
3.2.2 編碼器 . 78
3.2.3 解碼器 . 80
3.2.4 連接編碼器與解碼器 82
3.2.5 分析自動編碼器 . 84
3.3 變化后的畫展 87
3.4 構建變分自動編碼器 . 89
3.4.1 編碼器 . 89
3.4.2 損失函數(shù). 94
3.4.3 分析變分自動編碼器 97
3.5 使用VAE 生成面部圖像 98
3.5.1 訓練VAE 99
3.5.2 分析VAE . 102
3.5.3 生成新面孔 . 103
3.5.4 隱空間的算術 104
3.5.5 面部變形 106
3.6 小結 . 107
第4 章 生成對抗網(wǎng)絡 108
4.1 神秘獸 108
4.2 生成對抗網(wǎng)絡簡介 111
4.3 第一個生成對抗網(wǎng)絡 112
4.3.1 判別器 113
4.3.2 生成器 115
4.3.3 訓練GAN 119
4.4 GAN 面臨的難題 125
4.4.1 損失震蕩 125
4.4.2 模式收縮 126
4.4.3 不提供信息的損失函數(shù) 126
4.4.4 超參數(shù) 127
4.4.5 解決GAN 面臨的難題 . 127
4.5 WGAN 127
4.5.1 Wasserstein 損失 128
4.5.2 利普希茨約束 130
4.5.3 權重裁剪 131
4.5.4 訓練WGAN 132
4.5.5 分析WGAN 133
4.6 WGAN-GP 134
4.6.1 梯度懲罰損失 135
4.6.2 分析WGAN-GP 139
4.7 小結 . 140
第二部分 教機器繪畫、寫作、作曲和玩游戲
第5 章 繪畫 145
5.1 蘋果和橙子 146
5.2 CycleGAN 149
5.3 第一個CycleGAN 模型 . 151
5.3.1 簡介 151
5.3.2 生成器（U-Net） 153
5.3.3 判別器 157
5.3.4 編譯CycleGAN 158
5.3.5 訓練CycleGAN 161
5.3.6 分析CycleGAN 162
5.4 創(chuàng)建一個模仿莫奈作品的CycleGAN . 164
5.4.1 生成器（ResNet） 165
5.4.2 分析CycleGAN 166
5.5 神經(jīng)風格遷移 . 168
5.5.1 內容損失 169
5.5.2 風格損失 172
5.5.3 總方差損失 . 175
5.5.4 運行神經(jīng)風格遷移 176
5.5.5 分析神經(jīng)風格遷移模型 177
5.6 小結 . 178
第6 章 寫作 179
6.1 壞家伙們的文學社 180
6.2 長短期記憶網(wǎng)絡 181
6.3 第一個LSTM 網(wǎng)絡 182
6.3.1 分詞 183
6.3.2 建立數(shù)據(jù)集 . 185
6.3.3 LSTM 架構 . 187
6.3.4 嵌入層 187
6.3.5 LSTM 層 188
6.3.6 LSTM 元胞 . 190
6.4 生成新文本 192
6.5 RNN 擴展 . 196
6.5.1 堆疊式循環(huán)網(wǎng)絡 196
6.5.2 門控制循環(huán)單元 198
6.5.3 雙向元胞 200
6.6 編碼器- 解碼器模型 200
6.7 問答生成器 203
6.7.1 問答數(shù)據(jù)集 . 204
6.7.2 模型架構 205
6.7.3 推斷 210
6.7.4 模型的結果 . 212
6.8 小結 . 214
第7 章 作曲 215
7.1 前提知識 216
音符 216