Python貝葉斯分析（第2版）

第 1 章　概率思維　1
1.1 統(tǒng)計學、模型以及本書采用的方法　1
1.1.1 與數(shù)據(jù)打交道　2
1.1.2 貝葉斯建?！?
1.2 概率論　4
1.2.1 解釋概率　4
1.2.2 定義概率　6
1.3 單參數(shù)推斷　14
1.4 報告貝葉斯分析結(jié)果　23
1.4.1 模型表示和可視化　23
1.4.2 總結(jié)后驗　24
1.5 后驗預測檢查　26
1.6 總結(jié)　27
1.7 練習　28
第 2 章　概率編程　30
2.1 簡介　31
2.2 PyMC3 指南　32
2.3 總結(jié)后驗　34
2.4 隨處可見的高斯分布　41
2.4.1 高斯推斷　41
2.4.2 魯棒推斷　46
2.5 組間比較　50
2.5.1 Cohen’s d　52
2.5.2 概率優(yōu)勢　53
2.5.3 “小費”數(shù)據(jù)集　53
2.6 分層模型　57
2.6.1 收縮　60
2.6.2 額外的例子　63
2.7 總結(jié)　66
2.8 練習　67
第3 章　線性回歸建?！?9
3.1 一元線性回歸　69
3.1.1 與機器學習的聯(lián)系　70
3.1.2 線性回歸模型的核心　71
3.1.3 線性模型與高自相關性　75
3.1.4 對后驗進行解釋和可視化　77
3.1.5 皮爾遜相關系數(shù)　80
3.2 魯棒線性回歸　84
3.3 分層線性回歸　87
3.4 多項式回歸　94
3.4.1 解釋多項式回歸的系數(shù)　96
3.4.2 多項式回歸——終極模型　97
3.5 多元線性回歸　97
3.5.1 混淆變量和多余變量　101
3.5.2 多重共線性或相關性太高　104
3.5.3 隱藏效果變量　107
3.5.4 增加相互作用　109
3.5.5 變量的方差　110
3.6 總結(jié)　113
3.7 練習　114
第4 章　廣義線性模型　117
4.1 簡介　117
4.2 邏輯回歸　118
4.2.1 邏輯回歸模型　119
4.2.2 鳶尾花數(shù)據(jù)集　120
4.3 多元邏輯回歸　125
4.3.1 決策邊界　125
4.3.2 模型實現(xiàn)　126
4.3.3 解釋邏輯回歸的系數(shù)　127
4.3.4 處理相關變量　130
4.3.5 處理不平衡分類　131
4.3.6 softmax 回歸　133
4.3.7 判別式模型和生成式模式　135
4.4 泊松回歸　137
4.4.1 泊松分布　137
4.4.2 零膨脹泊松模型　139
4.4.3 泊松回歸和ZIP 回歸　141
4.5 魯棒邏輯回歸　143
4.6 GLM 模型　144
4.7 總結(jié)　145
4.8 練習　146
第5 章 模型比較　148
5.1 后驗預測檢查　148
5.2 奧卡姆剃刀原理——簡單性和準確性　153
5.2.1 參數(shù)過多會導致過擬合　155
5.2.2 參數(shù)太少會導致欠擬合　156
5.2.3 簡單性與準確性之間的平衡　157
5.2.4 預測精度度量　157
5.3 信息準則　159
5.3.1 對數(shù)似然和偏差　159
5.3.2 赤池信息量準則　160
5.3.3 廣泛適用的信息準則　161
5.3.4 帕累托平滑重要性采樣留一法交叉驗證　161
5.3.5 其他信息準則　161
5.3.6 使用PyMC3 比較模型　162
5.3.7 模型平均　165
5.4 貝葉斯因子　168
5.4.1 一些討論　169
5.4.2 貝葉斯因子與信息準則　173
5.5 正則化先驗　176
5.6 深入WAIC　177
5.6.1 熵　178
5.6.2 KL 散度　180
5.7 總結(jié)　182
5.8 練習　183
第6 章 混合模型　185
6.1 簡介　185
6.2 有限混合模型　187
6.2.1 分類分布　188
6.2.2 狄利克雷分布　189
6.2.3 混合模型的不可辨識性　192
6.2.4 怎樣選擇K 194
6.2.5 混合模型與聚類　198
6.3 非有限混合模型　199
6.4 連續(xù)混合模型　206
6.4.1 貝塔-二項分布和負二項分布　207
6.4.2 t 分布　207
6.5 總結(jié)　208
6.6 練習　209
第7 章 高斯過程　210
7.1 線性模型和非線性數(shù)據(jù)　210
7.2 建模函數(shù)　211
7.2.1 多元高斯函數(shù)　213
7.2.2 協(xié)方差函數(shù)與核函數(shù)　213
7.3 高斯過程回歸　217
7.4 空間自相關回歸　222
7.5 高斯過程分類　229
7.6 Cox 過程　235
7.6.1 煤礦災害　236
7.6.2 紅杉數(shù)據(jù)集　238
7.7 總結(jié)　241
7.8 練習　241
第8 章 推斷引擎　243
8.1 簡介　243
8.2 非馬爾可夫方法　245
8.2.1 網(wǎng)格計算　245
8.2.2 二次近似法　247
8.2.3 變分法　249
8.3 馬爾可夫方法　252
8.3.1 蒙特卡洛　253
8.3.2 馬爾可夫鏈　255
8.3.3 梅特羅波利斯- 黑斯廷斯算法　255
8.3.4 哈密頓蒙特卡洛　259
8.3.5 序貫蒙特卡洛　261
8.4 樣本診斷　263
8.4.1 收斂　264
8.4.2 蒙特卡洛誤差　268
8.4.3 自相關　268
8.4.4 有效樣本量　269
8.4.5 分歧　270
8.5 總結(jié)　273
8.6 練習　273
第9 章 拓展學習　274