【文件属性】:
文件名称:高性能并行计算
文件大小:868KB
文件格式:RAR
更新时间:2014-10-10 13:51:37
高性能 并行 计算 矩阵 方程组
"高性能并行计算"课程讲义
第一部分并行计算基础
第一章预备知识
1.1 并行计算的目标和内容. . . . . . . . . . . . . . . . . . 5
1.2 并行计算机发展历程. . . . . . . . . . . . . . . . . . . 6
1.2.1 计算机系统发展简史. . . . . . . . . . . . . . . . . . 6
1.2.2 并行计算机发展简述. . . . . . . . . . . . . . . . . . 7
1.3 目前世界高性能计算机的状况. . . . . . . . . . . . . . . 9
1.4 可扩展的并行计算机体系结构. . . . . . . . . . . . . . . 11
1.4.1 对称多处理机系统. . . . . . . . . . . . . . . . . . . 11
1.4.2 分布共享存储处理机系统. . . . . . . . . . . . . . . . 13
1.4.3 大规模并行计算机系统. . . . . . . . . . . . . . . . . 14
1.4.4 机群系统. . . . . . . . . . . . . . . . . . . . . . . 15
1.5 国内外超级计算中心状况. . . . . . . . . . . . . . . . . 16
1.5.1 美国超级计算中心简介. . . . . . . . . . . . . . . . . 16
1.5.2 *超级计算中心简介. . . . . . . . . . . . . . . 17
第二章基础并行算法
2.1 并行计算基本概念. . . . . . . . . . . . . . . . . . . . 21
2.2 并行算法设计基本原则. . . . . . . . . . . . . . . . . . 22
2.3 区域分解方法. . . . . . . . . . . . . . . . . . . . . . 23
2.4 功能分解方法. . . . . . . . . . . . . . . . . . . . . . 24
2.5 流水线技术. . . . . . . . . . . . . . . . . . . . . . . 25
2.6 分而治之方法. . . . . . . . . . . . . . . . . . . . . . 27
2.7 同步并行算法. . . . . . . . . . . . . . . . . . . . . . 27
2.8 异步并行算法. . . . . . . . . . . . . . . . . . . . . . 28
2.9 作业. . . . . . . . . . . . . . . . . . . . . . . . . . 28
第二部分并行算法设计与实现
第三章矩阵并行计算
3.1 并行矩阵乘法. . . . . . . . . . . . . . . . . . . . . . 32
3.1.1 串行矩阵乘法. . . . . . . . . . . . . . . . . . . . . 32
3.1.2 行列划分算法. . . . . . . . . . . . . . . . . . . . . 33
3.1.3 行行划分算法. . . . . . . . . . . . . . . . . . . . . 33
3.1.4 列列划分算法. . . . . . . . . . . . . . . . . . . . . 34
3.1.5 列行划分算法. . . . . . . . . . . . . . . . . . . . . 35
3.1.6 Cannon 算法. . . . . . . . . . . . . . . . . . . . . .35
3.2 线性代数方程组并行求解方法. . . . . . . . . . . . . . . 36
3.2.1 分布式系统的并行LU 分解算法. . . . . . . . . . . . . .37
3.2.2 三角方程组的并行解法. . . . . . . . . . . . . . . . . 38
3.3 对称正定线性方程组的并行解法. . . . . . . . . . . . . . 41
3.3.1 Cholesky 分解列格式的并行计算. . . . . . . . . . . . .41
3.3.2 双曲变换Cholesky 分解. . . . . . . . . . . . . . . . .42
3.3.3 修正的双曲变换Cholesky 分解. . . . . . . . . . . . . .44
3.4 三对角方程组的并行解法. . . . . . . . . . . . . . . . ..46
3.5 经典迭代算法的并行化. . . . . . . . . . . . . . . . . . 47
3.5.1 Jacobi 迭代法. . . . . . . . . . . . . . . . . . . . .47
3.5.2 Gauss-Seidel 迭代法. . . . . . . . . . . . . . . . . .48
3.6 异步并行迭代法. . . . . . . . . . . . . . . . . . . . . 49
3.6.1 异步并行迭代法基础. . . . . . . . . . . . . . . . . . 49
3.6.2 线性迭代的一般收敛性结果. . . . . . . . . . . . . . . 50
3.7 代数特征值问题的并行求解. . . . . . . . . . . . . . . . 51
3.7.1 对称三对角矩阵特征值问题. . . . . . . . . . . . . . . 51
3.7.2 Householder 变换. . . . . . . . . . . . . . . . . . . 52
3.7.3 化对称矩阵为三对角矩阵. . . . . . . . . . . . . . . . 53
3.8 作业. . . . . . . . . . . . . . . . . . . . . . . . . . 53
第三部分并行实现
第四章并行程序设计
4.1 并行编程模式的主要类型. . . . . . . . . . . . . . . . . 57
4.2 并行程序的基本特点. . . . . . . . . . . . . . . . . . . 57
4.3 并行程序的实现技术. . . . . . . . . . . . . . . . . . . 57
第五章消息传递编程接口MPI
5.1 MPI 简介. . . . . . . . . . . . . . . . . . . . . . . . 59
5.2 MPI 程序实例. . . . . . . . . . . . . . . . . . . . . . 59
第六章MPI 并行环境管理函数. . . . . . . . . . . . . . . . . 63
第七章MPI 进程控制函数
7.1 MPI 进程组操作函数. . . . . . . . . . . . . . . . . . . 65
7.2 MPI 通信子操作. . . . . . . . . . . . . . . . . . . . . 68
第八章MPI 点到点通信函数
8.1 阻塞式通信函数. . . . . . . . . . . . . . . . . . . . . 71
8.2 非阻塞式通信函数. . . . . . . . . . . . . . . . . . . . 77
8.3 特殊的点到点通信函数. . . . . . . . . . . . . . . . . . 82
8.4 MPI 的通信模式. . . . . . . . . . . . . . . . . . . . . 84
第九章MPI 用户自定义的数据类型与打包
9.1 用户定义的数据类型. . . . . . . . . . . . . . . . . . . 87
9.2 MPI 的数据打包与拆包. . . . . . . . . . . . . . . . . . 93
第十章MPI 聚合通信
10.1 障碍同步. . . . . . . . . . . . . . . . . . . . . . . .97
10.2 单点与多点通信函数. . . . . . . . . . . . . . . . . .. 99
10.3 多点与多点通信函数. . . . . . . . . . . . . . . . . . .103
第十一章MPI全局归约操作. . . . . . . . . . . . . . . . . . 107
第十二章HPL程序实例剖析. . . . . . . . . . . . . . . . . . 117
参考文献. . . . . . . . . . . . . . . . . . . . . . . . . .119
附录一并行程序开发工具与高性能程序库. . . . . . . . . . . .121
A.1 BLAS、LAPACK、ScaLAPACK .. . . . . . . . . . . . . . . .121
A.2 FFTW . . . . . . . . . . . . . . . . . . . . . . . . . .121
A.3 PETSc . . . . . . . . . . . . . . . . . . . . . . . . . 121
附录二MPI函数reference. . . . . . . . . . . . . . . . . . . 123
索引. . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
【文件预览】:
高性能并行计算.pdf
网友评论
- 讲解挺全面的
- 补充了挺多老师上课没有的内容。
- 还可以,基础类的
- 对我有用 作者留一下联系方式 方便交流
- 介绍的方法很多,学习一下,可以对并行计算有个大概的了解。
- 学习需要有一定的 基础
- 高性能并行计算 值得学习,还不错