深入理解軟件性能：一種動態(tài)視角

目　　錄

第 一部分 測量

第 1章 我的程序太慢了 3
1.1 數(shù)據(jù)中心環(huán)境 3
1.2 數(shù)據(jù)中心的硬件 5
1.3 數(shù)據(jù)中心的軟件 6
1.4 長尾時延 7
1.5 思維框架 9
1.6 數(shù)量級估測 9
1.7 為什么事務(wù)很慢 10
1.8 5種基本資源 11
1.9 小結(jié) 12
第 2章 測量CPU時間 13
2.1 發(fā)展歷史 14
2.2 現(xiàn)狀 17
2.3 測量add指令的時延 18
2.4 直線代碼失敗 19
2.5 簡單循環(huán)、循環(huán)開銷失敗、優(yōu)化編譯器失敗 19
2.6 死變量失敗 22
2.7 更好的循環(huán) 23
2.8 依賴變量 24
2.9 實際執(zhí)行時延 25
2.10 更多細(xì)微差別 25
2.11 小結(jié) 26
習(xí)題 26
第3章 測量內(nèi)存層次 28
3.1 內(nèi)存計時 28
3.2 關(guān)于內(nèi)存 29
3.3 緩存組織 30
3.4 數(shù)據(jù)對齊 32
3.5 頁表緩存組織 33
3.6 測量內(nèi)存的步驟 34
3.7 測量緩存行的大小 34
3.8 問題：預(yù)取第N 1行 36
3.9 依賴加載 37
3.10 非隨機(jī)的DRAM 38
3.11 測量每個緩存級別的總大小 39
3.12 測量每個級別的緩存相聯(lián)度 41
3.13 頁表緩存時間 42
3.14 緩存利用不足 42
3.15 小結(jié) 42
習(xí)題 43
第4章 CPU與內(nèi)存的交互 45
4.1 緩存交互 45
4.2 簡單矩陣乘法的動態(tài) 47
4.3 估測 47
4.4 初始化、反復(fù)核對和觀察 48
4.5 初始結(jié)果 49
4.6 更快的矩陣乘法，轉(zhuǎn)置方法 51
4.7 更快的矩陣乘法，子塊方法 53
4.8 感知緩存的計算 54
4.9 小結(jié) 55
習(xí)題 55
第5章 測量磁盤/SSD的傳輸時間 56
5.1 關(guān)于硬盤 56
5.2 關(guān)于SSD 58
5.3 軟件磁盤訪問和磁盤緩沖 60
5.4 磁盤讀取有多快 62
5.5 一次粗略估算 65
5.6 磁盤寫入有多快 66
5.7 結(jié)果 66
5.8 從磁盤讀取 67
5.9 寫入磁盤 71
5.10 從SSD讀取 74
5.11 寫入SSD 75
5.12 多次傳輸 76
5.13 小結(jié) 77
習(xí)題 77
第6章 測量網(wǎng)絡(luò)流量 79
6.1 關(guān)于以太網(wǎng) 81
6.2 關(guān)于集線器、交換機(jī)和路由器 82
6.3 關(guān)于TCP/IP 83
6.4 關(guān)于數(shù)據(jù)包 84
6.5 關(guān)于RPC 85
6.6 空程差 87
6.7 觀察網(wǎng)絡(luò)流量 88
6.8 示例RPC消息的定義 90
6.9 示例日志設(shè)計 92
6.10 使用RPC的示例客戶-服務(wù)器系統(tǒng) 93
6.11 示例服務(wù)器程序 94
6.12 自旋鎖 95
6.13 示例客戶端程序 96
6.14 測量一個示例客戶-服務(wù)器RPC 98
6.15 后處理RPC日志 99
6.16 觀察 100
6.17 小結(jié) 101
習(xí)題 102
第7章 磁盤和網(wǎng)絡(luò)數(shù)據(jù)庫的交互 103
7.1 時間對齊 103
7.2 多個客戶端 109
7.3 自旋鎖的應(yīng)用 109
7.4 實驗1 110
7.5 磁盤數(shù)據(jù)庫 113
7.6 實驗2 113
7.7 實驗3 117
7.8 日志 119
7.9 理解事務(wù)時延的變化 120
7.10 小結(jié) 120
習(xí)題 121

第二部分 觀察

第8章 日志 125
8.1 觀察工具 125
8.2 日志 125
8.3 基本日志 126
8.4 擴(kuò)展日志 127
8.5 時間戳 127
8.6 RPC ID 128
8.7 日志文件的格式 129
8.8 管理日志文件 130
8.9 小結(jié) 131
第9章 聚合措施測量 132
9.1 均勻的事件率與陣發(fā)的事件率 133
9.2 測量間隔 133
9.3 時間線 134
9.4 進(jìn)一步匯總時間線 136
9.5 直方圖的時間尺度 138
9.6 聚合每個事件的測量結(jié)果 140
9.7 一段時間的值的模式 142
9.8 更新間隔 143
9.9 事務(wù)采樣 144
9.10 小結(jié) 145
第 10章 儀表板 147
10.1 示例服務(wù) 147
10.2 示例儀表板 149
10.3 主儀表板 149
10.4 實例儀表板 153
10.5 服務(wù)器儀表板 154
10.6 健全檢查 154
10.7 小結(jié) 155
習(xí)題 155
第 11章 其他現(xiàn)有工具 156
11.1 觀察工具的分類 156
11.2 要觀察的數(shù)據(jù) 158
11.3 top命令 159
11.4 /proc和/sys偽文件 160
11.5 time命令 160
11.6 perf命令 161
11.7 oprofile 162
11.8 strace 165
11.9 ltrace 168
11.10 ftrace 169
11.11 mtrace 172
11.12 blktrace 174
11.13 tcpdump和Wireshark 177
11.14 locktrace 179
11.15 輸入負(fù)載、出站調(diào)用 179
11.16 小結(jié) 180
習(xí)題 181
第 12章 跟蹤工具 182
12.1 跟蹤工具的優(yōu)勢 182
12.2 跟蹤工具的缺點 183
12.3 3個起始問題 183
12.4 示例1：早期的程序計數(shù)器跟蹤 186
12.5 示例2：每個函數(shù)的計數(shù)和時間 188
12.6 案例分析：Gmail的按函數(shù)跟蹤 191
12.7 小結(jié) 196
第 13章 優(yōu)秀觀察工具的設(shè)計原則 197
13.1 需要觀察什么 197
13.2 有多頻繁？要多久 198
13.3 開銷有多大 199
13.4 設(shè)計的后果 200
13.5 案例分析：直方圖桶 200
13.6 設(shè)計數(shù)據(jù)顯示 202
13.7 小結(jié) 203

第三部分 內(nèi)核-用戶跟蹤

第 14章 KUtrace的目標(biāo)、設(shè)計、
實現(xiàn) 207
14.1 概述 207
14.2 目標(biāo) 208
14.3 設(shè)計 209
14.4 實現(xiàn) 211
14.5 內(nèi)核補丁和Linux內(nèi)核可加載模塊 211
14.6 控制程序 212
14.7 后處理 213
14.8 關(guān)于安全問題的一點說明 213
14.9 小結(jié) 213
第 15章 KUtrace中的Linux內(nèi)核補丁 214
15.1 跟蹤緩沖區(qū)數(shù)據(jù)結(jié)構(gòu) 215
15.2 原始跟蹤塊的格式 216
15.3 跟蹤條目 217
15.4 IPC跟蹤條目 218
15.5 時間戳 219
15.6 事件編號 219
15.7 嵌套的跟蹤條目 219
15.8 代碼 220
15.9 數(shù)據(jù)包跟蹤 221
15.10 AMD/Intel x86-64補丁 222
15.11 小結(jié) 224
習(xí)題 224
第 16章 KUtrace的Linux內(nèi)核可加載模塊 225
16.1 內(nèi)核接口數(shù)據(jù)結(jié)構(gòu) 225
16.2 模塊加載/卸載 226
16.3 初始化和控制跟蹤 226
16.4 實現(xiàn)跟蹤調(diào)用 227
16.5 Insert1 227
16.6 InsertN 229
16.7 切換到一個新的跟蹤塊 230
16.8 小結(jié) 230
第 17章 KUtrace的用戶態(tài)的運行時控制 231
17.1 控制跟蹤 232
17.2 獨立的kutrace_control程序 232
17.3 底層的kutrace_lib庫 233
17.4 可加載模塊的控制接口 233
17.5 小結(jié) 234
第 18章 KUtrace的后處理 235
18.1 后處理的細(xì)節(jié) 235
18.2 rawtoevent程序 236
18.3 eventtospan程序 237
18.4 spantotrim程序 239
18.5 spantospan程序 239
18.6 samptoname_k和samptoname_u程序 240
18.7 makeself程序 240
18.8 KUtrace的JSON格式 240
18.9 小結(jié) 242
第 19章 KUtrace中軟件動態(tài)的顯示 243
19.1 概述 243
19.2 區(qū)域①—控件 244
19.3 區(qū)域②—y軸 246
19.4 區(qū)域③—主時間線 246
19.5 區(qū)域④—IPC圖例 251
19.6 區(qū)域⑤—x軸 252
19.7 區(qū)域⑥—保存/還原 252
19.8 輔助控件 252
19.9 小結(jié) 253

第四部分 推理

第 20章 尋找什么 257
20.1 概述 257
20.2 尋找原因 258
第 21章 執(zhí)行太多 259
21.1 概述 259
21.2 程序 259
21.3 謎團(tuán) 260
21.4 探索和分析 261
21.5 理解謎團(tuán) 265
21.6 小結(jié) 265
第 22章 執(zhí)行緩慢 267
22.1 概述 267
22.2 程序 268
22.3 謎團(tuán) 268
22.4 浮點運算對立程序 270
22.5 內(nèi)存對立程序 273
22.6 理解謎團(tuán) 274
22.7 小結(jié) 274
第 23章 等待CPU 276
23.1 程序 276
23.2 謎團(tuán)1 276
23.3 探索和分析 277
23.4 謎團(tuán)2 279
23.5 理解謎團(tuán)2 280
23.6 附加謎團(tuán) 282
23.7 小結(jié) 284
習(xí)題 284
第 24章 等待內(nèi)存 285
24.1 程序 285
24.2 謎團(tuán)1 286
24.3 探索和分析 286
24.4 謎團(tuán)2：訪問頁表 290
24.5 理解謎團(tuán)2 290
24.6 小結(jié) 292
習(xí)題 292
第 25章 等待磁盤 293
25.1 程序 293
25.2 謎團(tuán) 294
25.3 探索和分析 294
25.4 讀取40 MB 296
25.5 順序讀取4 KB的塊 297
25.6 隨機(jī)讀取4 KB的塊 299
25.7 在SSD上寫入和同步
40 MB 301
25.8 在SSD上讀取40 MB 301
25.9 兩個程序同時訪問兩個文件 302
25.10 理解謎團(tuán) 303
25.11 小結(jié) 304
習(xí)題 304
第 26章 等待網(wǎng)絡(luò) 305
26.1 概述 305
26.2 程序 306
26.3 實驗1 307
26.4 實驗1中的謎團(tuán) 308
26.5 實驗1的探索與分析 309
26.6 實驗1中RPC之間的時間 313
26.7 實驗2 315
26.8 實驗3 315
26.9 實驗4 316
26.10 理解謎團(tuán) 319
26.11 附加異常 320
26.12 小結(jié) 322
第 27章 等待鎖 323
27.1 概述 323
27.2 程序 327
27.3 實驗1：長時間持有鎖 330
27.4 實驗1中的謎團(tuán) 331
27.5 探索和分析實驗1 332
27.6 實驗2：修復(fù)鎖捕獲 334
27.7 實驗3：通過多個鎖修復(fù)鎖爭用 335
27.8 實驗4：通過鎖住更少的工作來修復(fù)鎖爭用 337
27.9 實驗5：通過為儀表板使用RCU來修復(fù)鎖爭用 338
27.10 小結(jié) 340
第 28章 等待時間 341
28.1 定期工作 341
28.2 超時 342
28.3 時間分片 342
28.4 內(nèi)在的執(zhí)行延遲 343
28.5 小結(jié) 343
第 29章 等待隊列 344
29.1 概述 344
29.2 請求的分布 346
29.3 隊列的結(jié)構(gòu) 347
29.4 工作任務(wù) 348
29.5 主任務(wù) 348
29.6 Dequeue操作 348
29.7 Enqueue操作 349
29.8 PlainSpinLock類 349
29.9 “工作”例程 350
29.10 簡單的示例 350
29.11 哪些地方可能發(fā)生了問題 351
29.12 CPU頻率 352
29.13 復(fù)雜的示例 353
29.14 等待CPU：RPC日志 353
29.15 等待CPU：KUtrace 354
29.16 PlainSpinLock存在的缺陷 357
29.17 根本原因 358
29.18 修復(fù)PlainSpinLock：可觀察性 359
29.19 負(fù)載均衡 360
29.20 隊列深度：可觀察性 361
29.21 結(jié)尾處的自旋 361
29.22 剩下的最后一個缺陷 362
29.23 交叉檢查 362
29.24 小結(jié) 363
習(xí)題 363
第30章 全書回顧 365
30.1 你學(xué)到了什么 365
30.2 我們沒有講什么 367
30.3 接下來的工作 367
30.4 全書小結(jié) 368
附錄A 示例服務(wù)器 369
附錄B 跟蹤條目 372
術(shù)語表 377
參考文獻(xiàn) 383
KUtrace HTML圖例 384