1.1 集群是什么
简单地说,集群就是指一组(若干个)相互独立的计算机,利用高速通信网络组成的一个较大的计算机服务系统,每个集群节点(即集群中的每台计算机)都是运行各自服务的独立服器。这些服务器之间可以彼此通信,协同向用户提供应用程序、系统资源和数据,并以单一系统的模式加以管理。当用户客户机请求集群系统时,集群给用户的感觉就是一个单一独立的服务器,而实际上用户请求的是一组集群服务器。
打开谷歌、百度的页面,看起来好简单,也许你觉得用几分钟就可以制作出相似的网页,而实际上,这个页面的背后是由成千上万台服务器集群协同工作的结果。而这么多的服务器维护和管理,以及相互协调工作也许就是读者你未来的工作职责了。
若要用一句话描述集群,即一堆服务器合作做同一件事,这些机器可能需要整个技术团队架构、设计和统一协调管理,这些机器可以分布在一个机房,也可以分布在全国全球各个地区的多个机房。
1.2 为什么要有集群
高性能、价格有效性、可伸缩性、高可用性
透明性、可管理性、可编辑性
1.2.1 集群种类
负载均衡集群 LB 解决调度问题
高可用集群 HA 解决单点故障问题(keeplived)
高性能计算集群 HP 、网络计算集群 GC
1.2.2 硬件设备
F5 设备 A10
1.2.3 软件
nginx (7层 1.9版本之后支持4层)、LVS (4层)、HAproxy (4层 7层)
1.2.4 负载均衡概念说明
对用户的访问请求进行调度管理
对用户的访问请求进行压力分担
1.2.5 反向代理
接收用户请求代替用户向后端访问
反向代理与数据转发的区别
1.2.6 压力测试的方式
ab (apache里的命令)
通过 yum install httpd-tools 获得
1.3 nginx反向代理实践
1.3.1 地址规划说明
HOSTNAME |
IP |
说明 |
lb01 |
10.0.0.5 |
Nginx 主负载服务器 |
lb02 |
10.0.0.6 |
nginx 辅负载服务器 |
web01 |
10.0.0.8 |
web01服务器 |
web02 |
10.0.0.7 |
web02服务器 |
web03 |
10.0.0.9 |
web03服务器 |
说明:以上为实际生产架构负载实现规划内容 |
ip命令说明
ip address show 查看ip地址
ip route show 查看路由信息
1.3.2 反向代理与数据转发的区别
1.3.3 安装部署nginx过程(安装命令集)
yum install -y pcre-devel openssl-devel
mkdir -p /server/tools
cd /server/tools
wget -q http://nginx.org/download/nginx-1.10.3.tar.gz
ls -l nginx-1.10..tar.gz
useradd www -s /sbin/nologin -M
tar xf nginx-1.10..tar.gz
cd nginx-1.10.
./configure --user=nginx --group=nginx --prefix=/application/nginx-1.10. --with-http_stub_status_module --with-http_ssl_module
make
make install
ln -s /application/nginx-1.10. /application/ngin
1.3.4 编写nginx配置文件(统一web服务器配置)
worker_processes ;
events {
worker_connections ;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout ;
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"';
server {
listen ;
server_name bbs.etiantian.org;
location / {
root html/bbs;
index index.html index.htm;
}
access_log logs/access_bbs.log main;
}
server {
listen ;
server_name www.etiantian.org;
location / {
root html/www;
index index.html index.htm;
}
access_log logs/access_www.log main;
}
}
1.3.5 统一nginx测试环境 (web文件)
mkdir -p /application/nginx/html/{www,bbs}
for name in www bbs; do echo $name `hostname` >/application/nginx/html/$name/xiaoxinxin.html;done
for name in www bbs; do cat /application/nginx/html/$name/xiaoxinxin.html;done
1.3.6 测试
[root@lb01 ~]# curl -H host:bbs.etiantian.org 10.0.0.8/xiaoxinxin.html
bbs web01
[root@lb01 ~]# curl -H host:bbs.etiantian.org 10.0.0.7/xiaoxinxin.html
bbs web02
[root@lb01 ~]# curl -H host:bbs.etiantian.org 10.0.0.9/xiaoxinxin.html
bbs web03
[root@lb01 ~]# curl -H host:www.etiantian.org 10.0.0.8/xiaoxinxin.html
www web01
[root@lb01 ~]# curl -H host:www.etiantian.org 10.0.0.7/xiaoxinxin.html
www web02
[root@lb01 ~]# curl -H host:www.etiantian.org 10.0.0.9/xiaoxinxin.html
www web03
1.3.7 配置负载服务文件
worker_processes ;
events {
worker_connections ;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout ;
upstream server_pools {
server 10.0.0.7:;
server 10.0.0.8:;
server 10.0.0.9:;
}
server {
listen ;
server_name bbs.etiantian.org;
location / {
proxy_pass http://server_pools;
}
}
1.3.8 测试访问
[root@lb01 conf]# curl -H host:bbs.etiantian.org 10.0.0.5/xiaoxinxin.html
bbs web03
[root@lb01 conf]# curl -H host:bbs.etiantian.org 10.0.0.5/xiaoxinxin.html
bbs web02
[root@lb01 conf]# curl -H host:bbs.etiantian.org 10.0.0.5/xiaoxinxin.html
bbs web01
1.4 nginx中常用模块说明
ngx_http_status_module
ngx_http_ssl_module
ngx_http_log_module
ngx_http_upstream_module
ngx_http_proxy_module
1.4.1 模块调度算法
①. 定义轮询调度算法-rr-默认调度算法
②. 定义权重调度算法-wrr
③. 定义静态调度算法-ip_hash
④. 定义最小的连接数-least_conn
1.4.2 nginx反向代理相关两个模块
upstream 模块 类似与一个池塘,将nginx节点放置到池塘中
proxy模块 用池塘里面的nginx节点,利用pr oxy进行调用
1.4.3 upstream模块核心参数简介
weight 权重
max_fails 抛得次数
fail_timeout 失败的超时时间
backup 备份
1.4.4 weight 参数实践 (权重)
upstream 模块只能在http区块里
worker_processes ;
events {
worker_connections ;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout ;
upstream server_pools{
server 10.0.0.7: weight=;
server 10.0.0.8: weight=;
}
server{
listen ;
server_name bbs.etiantian.org;
location / {
proxy_pass http://server_pools;
}
}
}
测试
[root@test tools]# curl 10.0.0.5
web01 www
[root@test tools]# curl 10.0.0.5
web01 www
[root@test tools]# curl 10.0.0.5
web02 www
[root@test tools]# curl 10.0.0.5
web01 www
[root@test tools]# curl 10.0.0.5
web01 www
[root@test tools]# curl 10.0.0.5
web02 www
1.4.5 其他的参数说明
max_fails 失败的尝试次数
fail_timeout 失败后的再次尝试时间
backup 备份节点:所有的节点都挂掉后数据才会请求web01
server 10.0.0.7: weight= max_fails= fail_timeout= ;
server 10.0.0.8: weight= max_fails= fail_timeout= backup;
测试,将web02停掉
[root@test tools]# curl 10.0.0.5
web02 www
[root@test tools]# curl 10.0.0.5
web02 www
停掉web02后
[root@test tools]# curl 10.0.0.5
web01 www
[root@test tools]# curl 10.0.0.5
web01 www
[root@test tools]# curl 10.0.0.5
1.4.6 访问抓包
用户请求报文
负载均衡请求报文
说明:
hosts 主机头不同,未配置proxy_set_header Host $host 参数,在负载均衡访问的时候会不带hosts信息。
1.4.7 upsrteam参数详细说明
upstream模块内参数 |
参数说明 |
server 10.0.10.8:80 |
负载均衡后面的RS配置,可以是IP或域名,如果端口不写,默认是80端口。 高并发场景下, IP可换成域名,通过 DNS做负载均衡。 |
weigth=1 |
代表服务器的权重,默认值是1。权重数字越大表示接受的请求比例越大。 |
max_fails=3 |
Nginx尝试连接后端主机失败的次数,这个值是配合 proxy_next_upstream、fastcgi_next_upstream和memcached_next_upstream 这三个参数来使用的。当nginx接收后端服务器返回这三个参数定义的状态码时,会将这个请求转发给正常工作的后端服务器,例如404、502、503、 Max_fails的默认值是1 ; 企业场景下建议2-3次。如京东1次,蓝汛10次,根据业务需求去配置 |
fail_timeout=10s |
在max_fails定义的失败次数后,距离下次检查的间隔时间,默认是10s ;如果max_fails是5 ,它就检测5次,如果5次都是502,那么,它就会根据fail_timeout的值,等待10s再去检查,还是只检查一次,如果持续502,在不重新加载 Nginx配置的情况下,每隔10s都只检查一次。常规业务2~3秒比较合理,比如京东3秒,蓝汛3秒,可根据业务需求去配置。 |
backup |
热备配置(RS节点的高可用),当前面激活的RS都失败后会自动启用热备RS这标志看这个服务器作为备份服务器,若主服务器全部宕机了,就会向它转发请求。 注意:当负载调度算法为ip_hash时,后端服务器在负载均衡调度中的状态不能是weight和backup。 |
down |
这标志着服务器永远不可用,这个参数可配合ip_hash使用;类似与注释。 |
weight :调节服务器的请求分配权重。1.4.8 上述命令的说明如下: