Atlas简介
Atlas是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上,修改了大量bug,添加了很多功能特性。目前该项目在360公司内部得到了广泛应用,很多MySQL业务已经接入了Atlas平台,每天承载的读写请求数达几十亿条。
同时,有超过50家公司在生产环境中部署了Atlas,超过800人已加入了我们的开发者交流群,并且这些数字还在不断增加。而且安装方便。配置的注释写的蛮详细的,都是中文。
Atlas主要功能
1.读写分离
2.从库负载均衡
3.IP过滤
4.自动分表
5.DBA可平滑上下线DB
6.自动摘除宕机的DB
Atlas相对于官方MySQL-Proxy的优势
1.将主流程中所有Lua代码用C重写,Lua仅用于管理接口
2.重写网络模型、线程模型
3.实现了真正意义上的连接池
4.优化了锁机制,性能提高数十倍
企业读写分离及分库分表其他方案介绍
Mysql-proxy(oracle) Mysql-router(oracle) Atlas (Qihoo 360) Atlas-sharding (Qihoo 360) Cobar(是阿里巴巴(B2B)部门开发) Mycat(基于阿里开源的Cobar产品而研发) TDDL Smart Client的方式(淘宝) Oceanus(58同城数据库中间件) OneProxy(原支付宝首席架构师楼方鑫开发 ) vitess(谷歌开发的数据库中间件) Heisenberg(百度) TSharding(蘑菇街白辉) Xx-dbproxy(金山的Kingshard、当当网的sharding-jdbc ) amoeb
安装Atlas
软件获取地址:https://github.com/Qihoo360/Atlas/releases
注意:
1、Atlas只能安装运行在64位的系统上 2、Centos 5.X安装 Atlas-XX.el5.x86_64.rpm,Centos 6.X安装Atlas-XX.el6.x86_64.rpm。 3、后端mysql版本应大于5.1,建议使用Mysql 5.6以上 Atlas (普通) : Atlas-2.2.1.el6.x86_64.rpm Atlas (分表) : Atlas-sharding_1.0.1-el6.x86_64.rpm
下载安装atlas
这里我们只需要下载普通的即可。
#在主库安装,进入安装包目录 [root@mysql-db01 ~]# cd /home/oldboy/tools/ #下载Atlas [root@mysql-db01 tools]# wget httpss://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm #安装 [root@mysql-db01 tools]# rpm -ivh Atlas-2.2.1.el6.x86_64.rpm Preparing... ########################################### [100%] 1:Atlas ########################################### [100%]
至此安装完成
配置Atlas配置文件
atlas配置文件中的密码需要加密才可以使用,软件自带的加密工具进行加密
[root@db03 ~]# cd /usr/local/mysql-proxy/bin/ -rwxr-xr-x 1 root root 9696 Dec 17 2014 encrypt ---> 密码加密工具 -rwxr-xr-x 1 root root 23564 Dec 17 2014 mysql-proxy -rwxr-xr-x 1 root root 1552 Dec 17 2014 mysql-proxyd -rw-r--r-- 1 root root 6 Dec 17 2014 VERSION [root@db03 bin]# ./encrypt 123 -----> 制作加密密码 3yb5jEku5h4=
生产密文密码
[root@db03 bin]# ./encrypt 123 3yb5jEku5h4= [root@db03 bin]# ./encrypt rep uMb86DSsoNU= [root@db03 bin]# ./encrypt mha O2jBXONX098= [root@db03 bin]# ./encrypt root //如果mysql登录不需要root密码,则不需要再配置文件中加入加密密码 DAJnl8cVzy8=
编辑配置文件
vim /usr/local/mysql-proxy/conf/test.cnf [mysql-proxy] admin-username = user admin-password = pwd proxy-backend-addresses = 10.0.0.55:3306 ----> ip地址为虚拟的ip地址,也是主库51的Ip proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306 ---> 从库ip pwds = repl:3yb5jEku5h4=,mha:O2jBXONX098= ---> 加密密文 daemon = true keepalive = true event-threads = 8 log-level = message log-path = /usr/local/mysql-proxy/log sql-log=ON proxy-address = 0.0.0.0:33060 ---> 这个端口不要占用服务端口,其余任意 admin-address = 0.0.0.0:2345 charset=utf8
详细的文件
[root@db03 bin]# cat /usr/local/mysql-proxy/conf/test.cnf [mysql-proxy] #带#号的为非必需的配置项目 #管理接口的用户名 admin-username = user #管理接口的密码 admin-password = pwd #Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔 proxy-backend-addresses = 10.0.0.55:3306 #Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔 #proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306 #用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的用户名和加密密码! pwds = mha:O2jBXONX098=,rep:uMb86DSsoNU= #设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。 daemon = true #设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。 keepalive = true #工作线程数,对Atlas的性能有很大影响,可根据情况适当设置 event-threads = 8 #日志级别,分为message、warning、critical、error、debug五个级别 log-level = error #日志存放的路径 log-path = /usr/local/mysql-proxy/log #SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF #sql-log = ON #慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。 #sql-log-slow = 10 #实例名称,用于同一台机器上多个Atlas实例间的区分 #instance = test #Atlas监听的工作接口IP和端口 proxy-address = 0.0.0.0:3307 #Atlas监听的管理接口IP和端口 admin-address = 0.0.0.0:2345 #分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项 #tables = person.mt.id.3 #默认字符集,设置该项后客户端不再需要执行SET NAMES语句 #charset = utf8 #允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接 #client-ips = 127.0.0.1, 192.168.1 #Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置 #lvs-ips = 192.168.1.1 [root@db03 bin]# cat /usr/local/mysql-proxy/conf/test.cnf [mysql-proxy] #带#号的为非必需的配置项目 #管理接口的用户名 admin-username = user #管理接口的密码 admin-password = pwd #Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔 proxy-backend-addresses = 10.0.0.55:3306 #Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔 #proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306 #用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的用户名和加密密码! pwds = mha:O2jBXONX098=,rep:uMb86DSsoNU= #设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。 daemon = true #设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。 keepalive = true #工作线程数,对Atlas的性能有很大影响,可根据情况适当设置 event-threads = 8 #日志级别,分为message、warning、critical、error、debug五个级别 log-level = error #日志存放的路径 log-path = /usr/local/mysql-proxy/log #SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF #sql-log = ON #慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。 #sql-log-slow = 10 #实例名称,用于同一台机器上多个Atlas实例间的区分 #instance = test #Atlas监听的工作接口IP和端口 proxy-address = 0.0.0.0:3307 #Atlas监听的管理接口IP和端口 admin-address = 0.0.0.0:2345 #分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项 #tables = person.mt.id.3 #默认字符集,设置该项后客户端不再需要执行SET NAMES语句 #charset = utf8 #允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接 #client-ips = 127.0.0.1, 192.168.1 #Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置 #lvs-ips = 192.168.1.1
启动Atlas
/usr/local/mysql-proxy/bin/mysql-proxyd test start #启动 /usr/local/mysql-proxy/bin/mysql-proxyd test stop #停止 /usr/local/mysql-proxy/bin/mysql-proxyd test restart #重启
注意:test是配置文件的名称
启动atlas脚本
[root@db03 ~]# cat /etc/init.d/atlasd #!/bin/sh Demo=test start() { echo -n $"Starting atlas: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo start } stop() { echo -n $"Shutting down atlas: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo stop } status() { echo $"Atlas status: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo status } restart() { echo $"Atlas Restart Info: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo restart } ATLAS="/usr/local/mysql-proxy/bin/mysql-proxyd" [ -f $ATLAS ] || exit 1 # See how we were called. case "$1" in start) start ;; stop) stop ;; restart) restart ;; status) status ;; *) echo $"Usage: $0 {start|stop|restart|status}" exit 1 esac exit 0
检查端口是否正常
[root@db03 ~]# netstat -lntup|grep mysql-proxy tcp 0 0 0.0.0.0:33060 0.0.0.0:* LISTEN 2125/mysql-proxy tcp 0 0 0.0.0.0:2345 0.0.0.0:* LISTEN 2125/mysql-proxy
Atlas管理操作
登入管理接口
[root@db03 ~]# mysql -uuser -ppwd -h127.0.0.1 -P2345
查看帮助信息
mysql> SELECT * FROM help;
详细中文版
user@127.0.0.1> select * from help; +----------------------------+---------------------------------------------------------+ | command | description | +----------------------------+---------------------------------------------------------+ | SELECT * FROM help | 查看help帮助 | SELECT * FROM backends | 查看后端代理的数据库 | SET OFFLINE $backend_id | 平滑下线数据库,例:SET OFFLINE 1; 加后端ID | SET ONLINE $backend_id | 平滑上线数据库,例:ADD MASTER 1; 加后端ID | ADD MASTER $backend | 添加一个主库,例:ADD MASTER 172.16.1.56:3306; | ADD SLAVE $backend | 添加一个从库,例:ADD SLAVE 172.168.1.57:3306; | REMOVE BACKEND $backend_id | 删除一个后端的库:例:REMOVE BACKEND 1; 加后端ID | SELECT * FROM clients | 查看可连接管理接口客户端 | ADD CLIENT $client | 添加一个客户端,例:ADD CLIENT 10.0.0.52; | REMOVE CLIENT $client | 删除一个客户端,例:REMOVE CLIENT 10.0.0.52; | SELECT * FROM pwds | 查看Atlas可连接用户 | ADD PWD $pwd | 添加用户(密码会自动加密)例:ADD PWD mha:mha; | ADD ENPWD $pwd | 添加用户(需要加密后的密码)例:ADD ENPWD mha:O2jBXONX098= | REMOVE PWD $pwd | 删除用户,例:REMOVE PWD mha; | SAVE CONFIG | 保存到配置文件 | SELECT VERSION | 查看版本信息 +----------------------------+---------------------------------------------------------+