《並行程序設計導論》
齣版者的話
譯者序
本書贊譽
前言
緻謝
第1章為什麼要並行計算
1.1為什麼需要不斷提升的性能
1.2為什麼需要構建並行係統
1.3為什麼需要編寫並行程序
1.4怎樣編寫並行程序
1.5我們將做什麼
1.6並發、並行、分布式
1.7本書的其餘部分
1.8警告
1.9字體約定
1.10小結
1.11習題
第2章並行硬件和並行軟件
2.1背景知識
.2.1.1馮·諾依曼結構
2.1.2進程、多任務及綫程
2.2對馮·諾依曼模型的改進
2.2.1cache基礎知識
2.2.2cache映射
2.2.3cache和程序: 一個實例
2.2.4虛擬存儲器
2.2.5指令級並行
2.2.6硬件多綫程
2.3並行硬件
2.3.1simd係統
2.3.2mimd係統
2.3.3互連網絡
2.3.4cache一緻性
2.3.5共享內存與分布式內存
2.4並行軟件
2.4.1注意事項
2.4.2進程或綫程的協調
2.4.3共享內存
2.4.4分布式內存
2.4.5混閤係統編程
2.5輸入和輸齣
2.6性能
2.6.1加速比和效率
2.6.2阿姆達爾定律
2.6.3可擴展性
2.6.4計時
2.7並行程序設計
2.8編寫和運行並行程序
2.9假設
2.10小結
2.10.1串行係統
2.10.2並行硬件
2.10.3並行軟件
2.10.4輸入和輸齣
2.10.5性能
2.10.6並行程序設計
2.10.7假設
2.11習題
第3章用mpi進行分布式內存編程
3.1預備知識
3.1.1編譯與執行
3.1.2mpi程序
3.1.3mpi_init和mpi_finalize
3.1.4通信子、mpi_comm_size和mpi_comm_rank
3.1.5spmd程序
3.1.6通信
3.1.7mpi_send
3.1.8mpi_recv
3.1.9消息匹配
3.1.10status_p參數
3.1.11mpi_send和mpi_recv的語義
3.1.12潛在的陷阱
3.2用mpi來實現梯形積分法
3.2.1梯形積分法
3.2.2並行化梯形積分法
3.3i/o處理
3.3.1輸齣
3.3.2輸入
3.4集閤通信
3.4.1樹形結構通信
3.4.2mpi_reduce
3.4.3集閤通信與點對點通信
3.4.4mpi_allreduce
3.4.5廣播
3.4.6數據分發
3.4.7散射
3.4.8聚集
3.4.9全局聚集
3.5mpi的派生數據類型
3.6mpi程序的性能評估
3.6.1計時
3.6.2結果
3.6.3加速比和效率
3.6.4可擴展性
3.7並行排序算法
3.7.1簡單的串行排序算法
3.7.2並行奇偶交換排序
3.7.3mpi程序的安全性
3.7.4並行奇偶交換排序算法的重要內容
3.8小結
3.9習題
3.10編程作業
第4章用pthreads進行共享內存編程
4.1進程、綫程和pthreads
4.2“hello，world”程序
4.2.1執行
4.2.2準備工作
4.2.3啓動綫程
4.2.4運行綫程
4.2.5停止綫程
4.2.6錯誤檢查
4.2.7啓動綫程的其他方法
4.3矩陣-嚮量乘法
4.4臨界區
4.5忙等待
4.6互斥量
4.7生産者-消費者同步和信號量
4.8路障和條件變量
4.8.1忙等待和互斥量
4.8.2信號量
4.8.3條件變量
4.8.4pthreads路障
4.9讀寫鎖
4.9.1鏈錶函數
4.9.2多綫程鏈錶
4.9.3pthreads讀寫鎖
4.9.4不同實現方案的性能
4.9.5實現讀寫鎖
4.10緩存、緩存一緻性和僞共享
4.11綫程安全性
4.12小結
4.13習題
4.14編程作業
第5章用openmp進行共享內存編程
5.1預備知識
5.1.1編譯和運行openmp程序
5.1.2程序
5.1.3錯誤檢查
5.2梯形積分法
5.3變量的作用域
5.4歸約子句
5.5parallel for指令
5.5.1警告
5.5.2數據依賴性
5.5.3尋找循環依賴
5.5.4π值估計
5.5.5關於作用域的更多問題
5.6更多關於openmp的循環：排序
5.6.1冒泡排序
5.6.2奇偶變換排序
5.7循環調度
5.7.1schedule子句
5.7.2static調度類型
5.7.3dynamic和guided調度類型
5.7.4runtime調度類型
5.7.5調度選擇
5.8生産者和消費者問題
5.8.1隊列
5.8.2消息傳遞
5.8.3發送消息
5.8.4接收消息
5.8.5終止檢測
5.8.6啓動
5.8.7atomic指令
5.8.8臨界區和鎖
5.8.9在消息傳遞程序中使用鎖
5.8.10critical指令、atomic指令、鎖的比較
5.8.11經驗
5.9緩存、緩存一緻性、僞共享
5.10綫程安全性
5.11小結
5.12習題
5.13編程作業
第6章並行程序開發
6.1n體問題的兩種解決方法
6.1.1問題
6.1.2兩個串行程序
6.1.3並行化n體算法
6.1.4關於i/o
6.1.5用openmp並行化基本算法
6.1.6用openmp並行化簡化算法
6.1.7評估openmp程序
6.1.8用pthreads並行化算法
6.1.9用mpi並行化基本算法
6.1.10用mpi並行化簡化算法
6.1.11mpi程序的性能
6.2樹形搜索
6.2.1遞歸的深度優先搜索
6.2.2非遞歸的深度優先搜索
6.2.3串行實現所用的數據結構
6.2.4串行實現的性能
6.2.5樹形搜索的並行化
6.2.6采用pthreads實現的靜態並行化樹搜索
6.2.7采用pthreads實現的動態並行化樹搜索
6.2.8pthreads樹搜索程序的評估
6.2.9采用openmp實現的並行化樹搜索程序
6.2.10openmp實現的性能
6.2.11采用mpi和靜態劃分來實現樹搜索
6.2.12采用mpi和動態劃分來實現樹搜索
6.3忠告
6.4選擇哪個api
6.5小結
6.5.1pthreads和openmp
6.5.2mpi
6.6習題
6.7編程作業
第7章接下來的學習方嚮
參考文獻
索引
· · · · · · (收起)