物联网架构成长之路(10)-Nginx负载均衡

时间:2021-11-22 02:30:52

0. 前言

  关于Nginx负载均衡的简单配置,我以前博客配置过基于HTTP的负载均衡。这次的负载均衡有点不一样,就是基于TCP的负载均衡。基于HTTP负载均衡是默认的Nginx版本支持的,配置也很简单,但是基于TCP的负载均衡,配置起来就有一点点麻烦了。

1. 下载安装

  由于我们要用到四层TCP层负载均衡,所以要自己编译Nginx,在这里下载最新版 http://nginx.org/download/nginx-1.12.2.tar.gz  中间我们可能要进行调试一些参数,可以下载这个扩展 git clone https://github.com/openresty/echo-nginx-module

  然后编译

 ./configure --prefix=/root/workspace/emq/nginx --with-stream --add-module=/root/workspace/emq/nginx-1.12./echo-nginx-module --with-http_geoip_module

  可能会要求安装这个libgeoip-dev包 apt-get install libgeoip-dev 由于我只是需要用到里面的geo扩展,不需要对应的信息,如果有需要的可以在这里下载数据包 http://dev.maxmind.com/geoip/legacy/downloadable/ https://www.cnblogs.com/kevingrace/p/6165572.html

物联网架构成长之路(10)-Nginx负载均衡

  当出现上图信息,表示编译成功

 make && make install

2. 增加虚拟网卡

  一种是临时增加,一种是配置到开机启动

 ifconfig eth1: 172.16.23.111 netmask 255.255.255.0 up
ifconfig eth1: down

  vim /etc/network/interfaces  增加后重启网卡

 auto lo
iface lo inet loopback auto eth1
iface eth1 inet static
address 172.16.23.204
netmask 255.255.255.0
gateway 172.16.23.1 #auto eth1:
#iface eth1: inet static
# address 172.16.23.104
# netmask 255.255.255.0
# gateway 172.16.23.1

3. nginx.conf 配置文件

 user root;

 worker_processes auto;

 events {
worker_connections ;
} stream { upstream backend {
server 172.16.20.217:;
server 172.16.20.217:;
} upstream backbind {
server 172.16.23.203:;
} map $msec $proxy_bind_ip {
~[-]$ 172.16.23.111;
~[-]$ 172.16.23.204;
} server {
listen ;
proxy_pass backend;
proxy_bind $proxy_bind_ip;
}
} http {
geo $LB {
default ;
     #include conf/geo.conf
172.16.20.217 ;
172.16.20.218 ;
}
map $LB $proxy_bind_ip {
172.16.23.111;
172.16.23.204;
}
map $msec $proxy_bind_ip_2 {
~[-]$ 172.16.23.111;
~[-]$ 172.16.23.204;
}
server {
listen ;
location /test {
echo $proxy_bind_ip;
echo $proxy_bind_ip_2;
echo $connection;
echo "hostname" $hostname;
echo "msec" $msec;
echo "pid" $pid;
echo "proxy_protocol" $proxy_protocol_addr ":" $proxy_protocol_port;
echo "remote:" $remote_addr ":" $remote_port;
echo "server:" $server_addr ":" $server_port;
echo "status:" $status;
echo "time:" $time_iso8601;
echo "time:" $time_local;
}
}
}

  增加nginx的echo模块、geo模块、stream模块

  一开始调试时,使用http{}进行调试,因为访问 http://127.0.0.1:8888/test 就可以进行变量调试了,以为不清楚map的语法,所以只能一点一点调试。

  upstream {} 后端负载均衡器

  map {} 变量映射

  geo {} IP过滤等功能

  server {} 服务器配置

  更多功能这里不做描述,网上资料更多更全。

4. 测试

物联网架构成长之路(10)-Nginx负载均衡

物联网架构成长之路(10)-Nginx负载均衡

  从上面两个图可以看到,创建两个服务监听应用

  172.16.23.217:60000 172.16.23.217:60001 这两个模拟的是实际应用中的后端业务应用(MQTT集群)

  TCP Client 创建5个连接,模拟不同客户端(MQTT设备)

  172.16.23.204:12345 172.16.23.111:12345 这两个是负载均衡器Nginx监听的端口。

  5个客户端连接连到Nginx负载均衡器,Nginx会随机负载到60000和60001两台后端应用服务,并且也会随机使用Nginx的虚拟网卡204或111