《大规模分布式系统架构与设计实战》
基本信息
作者: 彭渊
丛书名: 大数据技术丛书
出版社:机械工业出版社
ISBN:9787111455035
上架时间:2014-2-21
出版日期:2014 年2月
开本:16开
页码:1
版次:1-1
所属分类:计算机 > 操作系统 > 操作系统理论 > 分布式操作系统
更多关于》》》《大规模分布式系统架构与设计实战》
内容简介
书籍
计算机书籍
《大规模分布式系统架构与设计实战》是作者从程序员到首席架构师十多年职业生涯的实战经验总结,系统讲解构建大规模分布式系统的核心技术与实现方法,包含作者开源的fourinone系统的设计与实现过程,手把手教你掌握分布式技术。通过学习这个系统的实现方法与相关的理论,读者可快速掌握分布式系统的理论并设计自己的分布式系统。
《大规模分布式系统架构与设计实战》从分布式计算的基本概念开始,解剖了众多流行概念的本质,深入讲解分布式系统的基本原理与实现方式,包括master-slave结构、消息中枢模式、网状直接交互模式、并行结合串行模式等,以及fourinone系统的架构、实现分布式功能的示例。接下来详细介绍分布式协调、分布式缓存、消息队列、分布式文件系统、分布式作业调度平台的设计与实现方法,不仅包括详细的架构原理、算法,还给出了实现步骤、核心api、实现代码。随书附带的光盘包括书中示例代码以及fourinone系统源代码。
目录
《大规模分布式系统架构与设计实战》
前 言
第1章 概述 1
1.1 分布式计算、并行计算、云计算概述 1
1.2 分布式产品hadoop、zookeeper、hbase概述 6
1.3 fourinone的产生背景 12
第2章 分布式并行计算的原理与实践 14
2.1 分布式并行计算模式 14
2.1.1 最初想到的master-slave结构 14
2.1.2 “包工头-职介所-手工仓库-工人”模式 15
2.1.3 基于消息中枢的计算模式 17
2.1.4 基于网状直接交互的计算模式 18
2.1.5 并行结合串行模式 22
2.1.6 包工头内部批量多阶段处理模式 23
2.1.7 计算集群模式和兼容遗留计算系统 24
2.1.8 工人计算的服务化模式 26
2.2 跟hadoop的区别 28
2.3 关于分布式的一些概念与产品 30
2.4 配置文件和核心api介绍 35
2.5 实践与应用 36
2.5.1 一个简单的示例 36
2.5.2 工头工人计算模式更完整的示例 39
2.5.3 工人合并互相say hello的示例 44
2.5.4 实现hadoop经典实例word count 48
2.5.5 分布式多机部署的示例 52
2.5.6 分布式计算自动部署的示例 53
2.5.7 计算过程中的故障和容灾处理 57
2.5.8 计算过程中的相关时间属性设置 60
2.5.9 如何在一台计算机上一次性启动多个进程 63
2.5.10 如何调用c/c++程序实现 68
2.5.11 如何中止工人计算和超时中止 68
2.5.12 使用并行计算大幅提升递归算法效率 73
2.5.13 使用并行计算求圆周率π 81
2.5.14 从赌钱游戏看pagerank算法 86
2.5.15 使用并行计算实现上亿排序 96
2.5.16 工人服务化模式应用示例 104
2.6 实时流计算 107
第3章 分布式协调的实现 111
3.1 协调架构原理简介 111
3.2 核心api 113
3.3 权限机制 115
3.4 相对于zookeeper的区别 116
3.5 与paxos算法的区别 117
3.6 实践与应用 119
3.6.1 如何实现公共配置管理 119
3.6.2 如何实现分布式锁 126
3.6.3 如何实现集群管理 129
3.6.4 多节点权限操作示例 134
3.6.5 领导者选举相关属性设置 137
第4章 分布式缓存的实现 139
4.1 小型网站或企业应用的缓存实现架构 139
4.2 大型分布式缓存系统实现过程 140
4.3 一致性哈希算法的原理、改进和实现 147
4.4 解决任意扩容的问题 152
4.5 解决扩容后数据均匀的问题 153
4.6 分布式session的架构设计和实现 154
4.7 缓存容量的相关属性设置 156
4.8 缓存清空的相关属性设置 158
第5章 消息队列的实现 162
5.1 闲话中间件与mq 162
5.2 jms的两种经典模式 163
5.3 如何实现发送接收的队列模式 164
5.4 如何实现主题订阅模式 168
第6章 分布式文件系统的实现 173
6.1 fttp架构原理解析 174
6.2 搭建配置fttpadapter环境 177
6.3 访问集群文件根目录 179
6.4 访问和操作远程文件 181
6.5 集群内文件复制和并行复制 184
6.6 读写远程文件 187
6.7 解析远程文件 189
6.8 并行读写远程文件 191
6.9 批量并行读写远程文件和事务补偿处理 194
6.10 如何进行整型读写 198
6.11 基于整型读写的上亿排序 205
第7章 分布式作业调度平台的实现 219
7.1 调度平台的设计与实现 219
7.2 资源隔离的实现 224
7.3 资源调度算法 226
7.4 其他作业调度平台简介 227
7.4.1 其他mpi作业资源调度技术 227
7.4.2 mesos和yarn简介 229