OpenMP核心技術(shù)指南

譯者序
序言
前言
部分　做好學(xué)習(xí)OpenMP的準(zhǔn)備
第1章　并行計(jì)算 2
1.1　并行計(jì)算的基本概念 2
1.2　并發(fā)性的興起 4
1.3　并行硬件 5
1.3.1　多處理器系統(tǒng) 5
1.3.2　圖形處理單元 8
1.3.3　分布式內(nèi)存集群 10
1.4　多處理器計(jì)算機(jī)的并行軟件 10
第2章　性能語(yǔ)言 13
2.1　基礎(chǔ)：FLOPS、加速比和并行效率 13
2.2　阿姆達(dá)爾定律 16
2.3　并行開(kāi)銷(xiāo) 17
2.4　強(qiáng)擴(kuò)展與弱擴(kuò)展 19
2.5　負(fù)載均衡 19
2.6　用roofline模型理解硬件 21
第3章　什么是OpenMP 23
3.1　OpenMP的歷史 23
3.2　通用核心 25
3.3　OpenMP的主要組件 26
第二部分　OpenMP通用核心
第4章　線(xiàn)程和OpenMP編程模型 31
4.1　OpenMP概述 31
4.2　OpenMP 程序的結(jié)構(gòu) 31
4.3　線(xiàn)程和fork-join模式 34
4.4　使用線(xiàn)程 38
4.4.1　SPMD設(shè)計(jì)模式 39
4.4.2　偽共享 43
4.4.3　同步 45
4.5　結(jié)束語(yǔ) 49
第5章　并行化循環(huán) 50
5.1　共享工作循環(huán)構(gòu)造 51
5.2　組合式并行共享工作循環(huán)構(gòu)造 53
5.3　歸約 54
5.4　循環(huán)調(diào)度 56
5.4.1　靜態(tài)調(diào)度 56
5.4.2　動(dòng)態(tài)調(diào)度 57
5.4.3　選擇一個(gè)調(diào)度 59
5.5　隱式柵欄和nowait子句 61
5.6　帶有并行循環(huán)共享工作的Pi程序 63
5.7　一種循環(huán)級(jí)并行策略 64
5.8　結(jié)束語(yǔ) 66
第6章　OpenMP數(shù)據(jù)環(huán)境 67
6.1　缺省存儲(chǔ)屬性 68
6.2　修改存儲(chǔ)屬性 70
6.2.1　shared子句 70
6.2.2　private子句 72
6.2.3　firstprivate子句 73
6.2.4　default子句 74
6.3　數(shù)據(jù)環(huán)境的例子 74
6.3.1　數(shù)據(jù)作用域測(cè)試 75
6.3.2　曼德勃羅集的面積 76
6.3.3　重新審視Pi循環(huán)的例子 79
6.4　數(shù)組和指針 80
6.5　結(jié)束語(yǔ) 81
第7章　OpenMP任務(wù) 83
7.1　任務(wù)的必要性 83
7.2　顯式任務(wù) 86
7.3　個(gè)例子:薛定諤程序 87
7.4　single構(gòu)造 88
7.5　使用任務(wù) 89
7.5.1　什么時(shí)候任務(wù)完成 90
7.6　任務(wù)的數(shù)據(jù)環(huán)境 91
7.6.1　任務(wù)的缺省數(shù)據(jù)作用域 91
7.6.2　利用任務(wù)重新審視鏈表程序 93
7.7　利用任務(wù)的基礎(chǔ)設(shè)計(jì)模式 93
7.7.1　分而治之模式 95
7.8　結(jié)束語(yǔ) 99
第8章　OpenMP內(nèi)存模型 100
8.1　重新審視內(nèi)存層次結(jié)構(gòu) 101
8.2　OpenMP通用核心內(nèi)存模型 103
8.3　使用共享內(nèi)存 106
8.4　結(jié)束語(yǔ) 108
第9章　通用核心回顧 110
9.1　管理線(xiàn)程 111
9.2　共享工作構(gòu)造 111
9.3　組合式并行共享工作循環(huán)構(gòu)造 113
9.4　OpenMP任務(wù) 113
9.5　同步和內(nèi)存一致性模型 114
9.6　數(shù)據(jù)環(huán)境子句 115
9.7　歸約子句 116
9.8　環(huán)境變量和運(yùn)行時(shí)庫(kù)例程 117
第三部分　超越通用核心
第10章　超越通用核心的多線(xiàn)程 121
10.1　用于OpenMP通用核心構(gòu)造的附加子句 121
10.1.1　并行構(gòu)造 122
10.1.2　共享工作循環(huán)構(gòu)造 124
10.1.3　任務(wù)構(gòu)造 129
10.2　通用核心中缺失的多線(xiàn)程功能 133
10.2.1　threadprivate 133
10.2.2　master 135
10.2.3　atomic 136
10.2.4　OMP_STACKSIZE 137
10.2.5　運(yùn)行時(shí)庫(kù)例程 138
10.3　結(jié)束語(yǔ) 140
第11章　同步和OpenMP內(nèi)存模型 141
11.1　內(nèi)存一致性模型 142
11.2　成對(duì)同步 146
11.3　鎖以及如何使用它 151
11.4　C 內(nèi)存模型和OpenMP 153
11.5　結(jié)束語(yǔ) 156
第12章　超越OpenMP通用核心的硬件 157
12.1　非統(tǒng)一內(nèi)存訪(fǎng)問(wèn)系統(tǒng) 158
12.1.1　在NUMA系統(tǒng)上工作 159
12.1.2　嵌套并行構(gòu)造 168
12.1.3　檢查線(xiàn)程親和力 171
12.1.4　小結(jié)：線(xiàn)程親和力和數(shù)據(jù)局部性 173
12.2　SIMD 173
12.3　設(shè)備構(gòu)造 180
12.4　結(jié)束語(yǔ) 184
第13章　繼續(xù)OpenMP的學(xué)習(xí) 186
13.1　來(lái)自ARB的程序員資源 186
13.2　如何閱讀OpenMP規(guī)范 188
13.2.1　帶有所有正式術(shù)語(yǔ)的OpenMP 188
13.3　OpenMP規(guī)范的結(jié)構(gòu) 191
13.4　結(jié)束語(yǔ) 193
術(shù)語(yǔ)表 194