齣版者的話
譯者序
推薦序
前　言
作者簡介
第1章　引言　1
1.1　學習成功經驗　1
1.2　代碼現代化　1
1.3　並發算法現代化　1
1.4　嚮量化和數據局部性現代化　2
1.5　理解功耗使用　2
1.6　ISPC和OpenCL　2
1.7　Intel Xeon Phi協處理器特性　2
1.8　眾核和新異構係統　2
1.9　書名中沒有Xeon Phi與新異構架構編程　3
1.10　眾核的未來　3
1.11　下載　3
1.12　更多信息　4
第2章 從正確到正確&高效：Godunov
格式的Hydro2D案例學習　5
2.1　現代計算機上的科學計算　5
2.1.1　現代計算環境　6
2.1.2　CEA的Hydro2D　6
2.2　衝擊流體動力學的一種數值方法　7
2.2.1　歐拉方程　7
2.2.2　Godunov方法　7
2.2.3　哪裏需要優化　9
2.3　現代計算機架構的特徵　9
2.3.1　麵嚮性能的架構　9
2.3.2　編程工具和運行時　10
2.3.3　計算環境　11
2.4　通嚮高性能的路　11
2.4.1　運行Hydro2D　11
2.4.2　Hydro2D的結構　12
2.4.3　優化　15
2.4.4　內存使用　16
2.4.5　綫程級並行　17
2.4.6　算術效率和指令級並行　24
2.4.7　數據級並行　26
2.5　總結　32
2.5.1　協處理器與處理器　32
2.5.2　水漲船高　32
2.5.3　性能策略　33
2.6　更多信息　34
第3章 HBM上的SIMD與並發優化　36
3.1 應用程序：HIROMB-BOOS-MODEL　36
3.2　關鍵應用：DMI　36
3.3　HBM執行配置文件　37
3.4　HBM優化綜述　38
3.5　數據結構：準確定位位置　38
3.6　HBM上的綫程並行　41
3.7　數據並行：SIMD嚮量化　45
3.7.1　零散的可優化部分　46
3.7.2　過早抽象是萬惡之源　48
3.8　結果　50
3.9　詳情分析　51
3.10　處理器與協處理器可擴展性對比　52
3.11　CONTIGUOUS屬性　53
3.12　總結　54
3.13　參考文獻　54
3.14　更多信息　55
第4章　流體動力學方程優化　56
4.1　開始　56
4.2　1.0版本：基礎版本　57
4.3　2.0版本：綫程盒　59
4.4　3.0版本：棧內存　63
4.5　4.0版本：分塊　63
4.6　5.0版本：嚮量化　64
4.7 Intel Xeon Phi協處理器上的運行結果　68
4.8　總結　69
4.9　更多信息　70
第5章　分階段準同步柵欄　71
5.1　如何改善代碼　74
5.2　如何進一步改善代碼　74
5.3　超綫程方陣　74
5.4 關於該方案哪些地方不是最優的　75
5.5　超綫程方陣編碼　76
5.5.1 如何確定內核間兄弟綫程和內核內HT綫程　77
5.5.2　超綫程方陣手動分區方法　77
5.5.3　吸取教訓　79
5.6　迴到工作　80
5.7　數據對齊　81
5.7.1　盡可能使用對齊的數據　81
5.7.2　冗餘未必是件壞事　81
5.8　深入討論分階段準同步柵欄　84
5.9　如何節省時間　86
5.10　幾個留給讀者的優化思考　90
5.11 類似Xeon Phi協處理器的Xeon主機性能優化　91
5.12　總結　92
5.13　更多信息　92
第6章　故障樹錶達式並行求解　93
6.1　動機和背景　93
6.1.1　錶達式　93
6.1.2　錶達式選擇：故障樹　93
6.1.3　程序實例中的故障樹：基本模擬　93
6.2　實例實現　94
6.3　其他因素　101
6.4　總結　101
6.5　更多信息　101
第7章　深度學習的數值優化　102
7.1　擬閤目標函數　102
7.2　目標函數與主成分分析　105
7.3　軟件及樣例數據　106
7.4　訓練數據　109
7.5　運行時間　109
7.6　擴展結果　111
7.7　總結　111
7.8　更多信息　112
第8章　優化聚集/分散模式　113
8.1　聚集/分散在Intel架構下的說明　114
8.2　聚集/分散模式在分子動力學中的應用　115
8.3　優化聚集/分散模式　117
8.3.1　提高時間和空間的局部性　117
8.3.2　選擇一種適當的數據布局：AoS與SoA　118
8.3.3　AoS和SoA之間的動態轉換　119
8.3.4　分攤聚集/分散和轉換的開銷　122
8.4　總結　123
8.5　更多信息　123
第9章 N體問題直接法的眾核實現　125
9.1　N體模擬　125
9.2　初始解決方案　125
9.3　理論極限　126
9.4　降低開銷和對齊數據　128
9.5　優化存儲層次　131
9.6　改進分塊　133
9.7　主機端的優化　135
9.8　總結　136
9.9　更多信息　136
第10章　N體方法　137
10.1　快速N體方法和直接N體內核　137
10.2　N體方法的應用　138
10.3　直接N體代碼　138
10.4　性能結果　141
10.5　總結　142
10.6　更多信息　142
第11章　使用OpenMP 4.0實現動態負載均衡　144
11.1　最大化硬件利用率　144
11.2　N體內核　146
11.3　卸載版本　149
11.4　第一個處理器與協處理器協作版本　150
11.5　多協處理器版本　152
11.6　更多信息　155
第12章　並發內核卸載　156
12.1　設定上下文　156
12.1.1　粒子動力學　156
12.1.2　本章結構　157
12.2　協處理器上的並發內核　158
12.2.1　協處理器設備劃分和綫程關聯　158
12.2.2　並發數據傳輸　163
12.3　在PD中使用並發內核卸載進行作用力計算　166
12.3.1　使用牛頓第三定律並行評估作用力　166
12.3.2　實現作用力並發計算　167
12.3.3　性能評估：之前與之後　171
12.4　總結　173
12.5　更多信息　174
第13章　MPI和異構計算　175
13.1　現代集群中的MPI　175
13.2　MPI任務地點　176
13.3　DAPL提供者的選擇　180
13.3.1　第一個提供者OFA-V2-MLX4_0-1U　180
13.3.2　第二個提供者ofa-v2-scif0以及對節點內部結構的影響　180
13.3.3　最後一個提供者　181
13.3.4　混閤程序的可擴展性　182
13.3.5　負載均衡　184
13.3.6　任務和綫程映射　184
13.4　總結　185
13.5　緻謝　185
13.6　更多信息　185
第14章　Intel Xeon Phi協處理器功耗分析　186
14.1　功耗分析　186
14.2　用軟件測量功耗和溫度　187
14.2.1　創建功耗和溫度監控腳本　188
14.2.2　使用micsmc工具創建功耗和溫度記錄器　189
14.2.3　使用IPMI進行功耗分析　190
14.3　基於硬件的功耗分析方法　192
14.4　總結　196
14.5　更多信息　196
第15章　集成Intel Xeon Phi協處理器至集群環境　197
15.1　早期探索　197
15.2　Beacon係統的曆史　197
15.3　Beacon係統的架構　198
15.3.1　硬件環境　198
15.3.2　軟件環境　198
15.4　Intel MPSS安裝步驟　199
15.4.1　係統準備　199
15.4.2　安裝Intel MPSS棧　200
15.4.3　生成和定製配置文件　201
15.4.4　MPSS升級　204
15.5　建立資源和工作負載管理器　204
15.5.1　TORQUE　204
15.5.2　序言程序　205
15.5.3　尾聲程序　206
15.5.4　TORQUE/協處理器集成　207
15.5.5　Moab　207
15.5.6　提高網絡局部性　207
15.5.7　Moab/協處理器集成　207
15.6　健康檢查和監控　208
15.7　常用命令腳本化　209
15.8　用戶軟件環境　210
15.9　今後的方嚮　211
15.10　總結　212
15.11　緻謝　212
15.12　更多信息　212
第16章　在Intel Xeon Phi協處理器上支持集群文件係統　214
16.1　網絡配置概念和目標　214
16.1.1　網絡選項概覽　215
16.1.2　設置集群啓用協處理器的步驟　216
16.2　協處理器文件係統支持　217
16.2.1　支持NFS　217
16.2.2　支持Lustre文件係統　218
16.2.3　支持Fraunhofer BeeGFS文件係統　219
16.2.4　支持Panasas PanFS文件係統　220
16.2.5　集群文件係統的選擇　220
16.3　總結　220
16.4　更多信息　221
第17章　NWChem：大規模量子化學仿真　222
17.1　引言　222
17.2　迴顧單綫程CC形式　222
17.3　NWChem軟件架構　225
17.3.1　全局數組　225
17.3.2　張量收縮引擎　226
17.4　設計卸載解決方案　226
17.5　卸載架構　229
17.6　內核優化　230
17.7　性能評估　232
17.8　總結　233
17.9　緻謝　235
17.10　更多信息　235
第18章　大規模多係統上的高效嵌套並行　238
18.1　動機　238
18.2　基準測試　238
18.3　基綫基準測試　239
18.4　流水綫方法——Flat_arena類　240
18.5　Intel TBB用戶管理任務調度平颱　241
18.6　分層方法——Hierarchical_arena類　243
18.7　性能評估　243
18.8　對NUMA架構的影響　245
18.9　總結　246
18.10　更多信息　246
第19章　Black-Scholes定價的性能優化　248
19.1　金融市場模型基礎及Black-Scholes公式　248
19.1.1　金融市場數學模型　248
19.1.2　歐式期權和公平價格概念　249
19.1.3　Black-Scholes公式　250
19.1.4　期權定價　250
19.1.5　測試平颱架構　250
19.2　案例研究　251
19.2.1　初始版本——檢驗正確性　251
19.2.2　參照版本——選擇閤適的數據結構　251
19.2.3　參照版本——不要混閤使用數據類型　252
19.2.4　循環嚮量化　253
19.2.5　使用快速數學函數：erff()與cdfnormf()　255
19.2.6　代碼等價變換　256
19.2.7　數組對齊　257
19.2.8　盡可能降低精度　258
19.2.9　並行工作　259
19.2.10　使用熱身　260
19.2.11　使用Intel Xeon Phi協處理器實現輕鬆移植　261
19.2.12　使用Intel Xeon Phi協處理器實現並行工作　261
19.2.13　使用Intel Xeon Phi協處理器和流存儲　262
19.3　總結　263
19.4　更多信息　264
第20章　使用Intel COI庫傳輸數據　265
20.1　使用Intel COI庫的第一步　265
20.2　COI緩衝區種類和傳輸性能　266
20.3　應用程序　269
20.4　總結　270
20.5　更多信息　270
第21章　高性能光綫追蹤　271
21.1　背景　272
21.2　嚮量化的光綫遍曆　272
21.3　Embree光綫追蹤內核　273
21.4　在應用程序中使用Embree　274
21.5　性能　276
21.6　總結　277
21.7　更多信息　278
第22章　OpenCL程序的可移植性能　279
22.1　兩難的睏境　279
22.2　OpenCL簡介　280
22.3　OpenCL示例：矩陣乘　282
22.4　OpenCL與Intel Xeon Phi協處理器　285
22.5　性能評估　285
22.6　案例研究：分子對接算法　287
22.7　性能評估：性能可移植性　289
22.8　相關工作　291
22.9　總結　291
22.10　更多信息　291
第23章　應用到Stencil計算中的特性提取和優化方法　292
23.1　引言　292
23.2　性能評估　293
23.2.1　測試平颱的AI　293
23.2.2　內核的AI　294
23.3　標準優化　296
23.3.1　自動應用調試　301
23.3.2　自動調試工具　304
23.3.3　結果　305
23.4　總結　305
23.5　更多信息　307
第24章　剖析指導優化　308
24.1　計算機科學中的矩陣轉置　308
24.2　工具和方法　309
24.3　串行：初始的就地轉置實現　310
24.4　並行：使用OpenMP增加並行度　313
24.5　分塊：提高數據局部性　315
24.6　規範化：多版本微內核　319
24.7　預組織：釋放更多的並行性　322
24.8　總結　326
24.9　更多信息　327
第25章　基於ITAC的異構MPI應用優化　328
25.1　亞式期權定價　328
25.2　應用設計　329
25.3　異構集群中的同步　330
25.4　通過ITAC尋找性能瓶頸　331
25.5　建立ITAC　331
25.6　非均衡的MPI運行　332
25.7　手動負載均衡　335
25.8　動態老闆-工人負載均衡　337
25.9　結論　339
25.10　更多信息　340
第26章　集群上可擴展OOC解法器　341
26.1　引言　341
26.2　基於ScaLAPACK的OOC分解算法　342
26.2.1　核內分解　342
26.2.2　OOC分解　343
26.3　從NVIDIA GPU移植到Intel　Xeon Phi協處理器　344
26.4　數值結果　346
26.5　結論和展望　350
26.6　緻謝　350
26.7　更多信息　350
第27章　稀疏矩陣嚮量乘：並行化和嚮量化　352
27.1　引言　352
27.2　稀疏矩陣數據結構　353
27.2.1　壓縮後的數據結構　354
27.2.2　分塊　356
27.3　並行SpMV乘法　356
27.3.1　部分分布式並行SpMV　356
27.3.2　完全分布式並行SpMV　357
27.4　Intel Xeon Phi協處理器的嚮量化　358
27.5　評估　362
27.5.1　Intel Xeon Phi協處理器　363
27.5.2　Intel Xeon處理器　365
27.5.3　性能比較　366
27.6　總結　366
27.7　緻謝　367
27.8　更多信息　367
第28章　基於Morton排序的性能優化　368
28.1　通過數據重排提高緩存局部性　368
28.2　性能改進　368
28.3　矩陣轉置　369
28.4　矩陣乘法　373
28.5　總結　377
28.6　更多信息　378
· · · · · · (收起)