mysql中间件 -> Atlas简介&安装

时间:2022-07-17 04:08:23

Atlas简介

Atlas是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上,修改了大量bug,添加了很多功能特性。目前该项目在360公司内部得到了广泛应用,很多MySQL业务已经接入了Atlas平台,每天承载的读写请求数达几十亿条。

同时,有超过50家公司在生产环境中部署了Atlas,超过800人已加入了我们的开发者交流群,并且这些数字还在不断增加。而且安装方便。配置的注释写的蛮详细的,都是中文

Atlas主要功能

1.读写分离

2.从库负载均衡

3.IP过滤

4.自动分表

5.DBA可平滑上下线DB

6.自动摘除宕机的DB

Atlas相对于官方MySQL-Proxy的优势  

1.将主流程中所有Lua代码用C重写,Lua仅用于管理接口

2.重写网络模型、线程模型

3.实现了真正意义上的连接池

4.优化了锁机制,性能提高数十倍

企业读写分离及分库分表其他方案介绍

    Mysql-proxy(oracle)
    Mysql-router(oracle)
    Atlas (Qihoo 360)
    Atlas-sharding (Qihoo 360)
    Cobar(是阿里巴巴(B2B)部门开发)
    Mycat(基于阿里开源的Cobar产品而研发)
    TDDL Smart Client的方式(淘宝)
    Oceanus(58同城数据库中间件)
    OneProxy(原支付宝首席架构师楼方鑫开发 )
    vitess(谷歌开发的数据库中间件)
    Heisenberg(百度)
    TSharding(蘑菇街白辉)
    Xx-dbproxy(金山的Kingshard、当当网的sharding-jdbc )
    amoeb

安装Atlas

软件获取地址:https://github.com/Qihoo360/Atlas/releases  

注意:  

1、Atlas只能安装运行在64位的系统上

2、Centos 5.X安装 Atlas-XX.el5.x86_64.rpm,Centos 6.X安装Atlas-XX.el6.x86_64.rpm。

3、后端mysql版本应大于5.1,建议使用Mysql 5.6以上

  Atlas (普通) : Atlas-2.2.1.el6.x86_64.rpm

  Atlas (分表) : Atlas-sharding_1.0.1-el6.x86_64.rpm

下载安装atlas 

这里我们只需要下载普通的即可。 

#在主库安装,进入安装包目录
[root@mysql-db01 ~]# cd /home/oldboy/tools/

#下载Atlas
[root@mysql-db01 tools]# 
wget httpss://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm

#安装
[root@mysql-db01 tools]# rpm -ivh Atlas-2.2.1.el6.x86_64.rpm 
Preparing...               ########################################### [100%]
  1:Atlas                  ########################################### [100%]

至此安装完成

配置Atlas配置文件

atlas配置文件中的密码需要加密才可以使用,软件自带的加密工具进行加密

[root@db03 ~]# cd /usr/local/mysql-proxy/bin/

-rwxr-xr-x 1 root root  9696 Dec 17  2014 encrypt  --->  密码加密工具
-rwxr-xr-x 1 root root 23564 Dec 17  2014 mysql-proxy
-rwxr-xr-x 1 root root  1552 Dec 17  2014 mysql-proxyd
-rw-r--r-- 1 root root     6 Dec 17  2014 VERSION

[root@db03 bin]# ./encrypt 123      ----->  制作加密密码
3yb5jEku5h4=  

生产密文密码

[root@db03 bin]# ./encrypt 123
3yb5jEku5h4=
[root@db03 bin]# ./encrypt rep
uMb86DSsoNU=
[root@db03 bin]# ./encrypt mha
O2jBXONX098=
[root@db03 bin]# ./encrypt root       //如果mysql登录不需要root密码,则不需要再配置文件中加入加密密码
DAJnl8cVzy8=

编辑配置文件  

vim  /usr/local/mysql-proxy/conf/test.cnf
[mysql-proxy]
admin-username = user
admin-password = pwd
proxy-backend-addresses = 10.0.0.55:3306  ----> ip地址为虚拟的ip地址,也是主库51的Ip
proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306  ---> 从库ip
pwds = repl:3yb5jEku5h4=,mha:O2jBXONX098=   ---> 加密密文
daemon = true
keepalive = true
event-threads = 8
log-level = message
log-path = /usr/local/mysql-proxy/log
sql-log=ON
proxy-address = 0.0.0.0:33060  ---> 这个端口不要占用服务端口,其余任意
admin-address = 0.0.0.0:2345
charset=utf8  

详细的文件

[root@db03 bin]# cat /usr/local/mysql-proxy/conf/test.cnf
[mysql-proxy]

#带#号的为非必需的配置项目

#管理接口的用户名
admin-username = user

#管理接口的密码
admin-password = pwd

#Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔
proxy-backend-addresses = 10.0.0.55:3306

#Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔
#proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306

#用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的用户名和加密密码!
pwds = mha:O2jBXONX098=,rep:uMb86DSsoNU=

#设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。
daemon = true

#设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。
keepalive = true

#工作线程数,对Atlas的性能有很大影响,可根据情况适当设置
event-threads = 8

#日志级别,分为message、warning、critical、error、debug五个级别
log-level = error

#日志存放的路径
log-path = /usr/local/mysql-proxy/log

#SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF
#sql-log = ON

#慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。
#sql-log-slow = 10

#实例名称,用于同一台机器上多个Atlas实例间的区分
#instance = test

#Atlas监听的工作接口IP和端口
proxy-address = 0.0.0.0:3307

#Atlas监听的管理接口IP和端口
admin-address = 0.0.0.0:2345

#分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项
#tables = person.mt.id.3

#默认字符集,设置该项后客户端不再需要执行SET NAMES语句
#charset = utf8

#允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接
#client-ips = 127.0.0.1, 192.168.1

#Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置
#lvs-ips = 192.168.1.1
[root@db03 bin]# cat /usr/local/mysql-proxy/conf/test.cnf
[mysql-proxy]

#带#号的为非必需的配置项目

#管理接口的用户名
admin-username = user

#管理接口的密码
admin-password = pwd

#Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔
proxy-backend-addresses = 10.0.0.55:3306

#Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔
#proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306

#用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的用户名和加密密码!
pwds = mha:O2jBXONX098=,rep:uMb86DSsoNU=

#设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。
daemon = true

#设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。
keepalive = true

#工作线程数,对Atlas的性能有很大影响,可根据情况适当设置
event-threads = 8

#日志级别,分为message、warning、critical、error、debug五个级别
log-level = error

#日志存放的路径
log-path = /usr/local/mysql-proxy/log

#SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF
#sql-log = ON

#慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。
#sql-log-slow = 10

#实例名称,用于同一台机器上多个Atlas实例间的区分
#instance = test

#Atlas监听的工作接口IP和端口
proxy-address = 0.0.0.0:3307

#Atlas监听的管理接口IP和端口
admin-address = 0.0.0.0:2345

#分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项
#tables = person.mt.id.3

#默认字符集,设置该项后客户端不再需要执行SET NAMES语句
#charset = utf8

#允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接
#client-ips = 127.0.0.1, 192.168.1

#Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置
#lvs-ips = 192.168.1.1

启动Atlas

/usr/local/mysql-proxy/bin/mysql-proxyd test start   #启动
/usr/local/mysql-proxy/bin/mysql-proxyd test stop    #停止
/usr/local/mysql-proxy/bin/mysql-proxyd test restart #重启

注意:test是配置文件的名称  

启动atlas脚本  

[root@db03 ~]# cat /etc/init.d/atlasd 
#!/bin/sh

Demo=test

start()
{
        echo -n $"Starting atlas: "
        /usr/local/mysql-proxy/bin/mysql-proxyd $Demo start
}
stop()
{
        echo -n $"Shutting down atlas: "
        /usr/local/mysql-proxy/bin/mysql-proxyd $Demo stop
}
status()
{
        echo  $"Atlas status: "
        /usr/local/mysql-proxy/bin/mysql-proxyd $Demo status
}
restart()
{
        echo $"Atlas Restart Info: "
        /usr/local/mysql-proxy/bin/mysql-proxyd $Demo restart
}


ATLAS="/usr/local/mysql-proxy/bin/mysql-proxyd"
[ -f $ATLAS ] || exit 1
# See how we were called.
case "$1" in
        start)
                start
                ;;
        stop)
                stop
                ;;
        restart)
                restart
                ;;
        status)
                status
                ;;
        *)
                echo $"Usage: $0 {start|stop|restart|status}"
                exit 1
esac
exit 0

检查端口是否正常  

[root@db03 ~]# netstat -lntup|grep mysql-proxy
tcp        0      0 0.0.0.0:33060               0.0.0.0:*                   LISTEN      2125/mysql-proxy    
tcp        0      0 0.0.0.0:2345                0.0.0.0:*                   LISTEN      2125/mysql-proxy

Atlas管理操作

登入管理接口

[root@db03 ~]# mysql -uuser -ppwd -h127.0.0.1 -P2345

查看帮助信息 

mysql> SELECT * FROM help;  

详细中文版

user@127.0.0.1> select * from help;
+----------------------------+---------------------------------------------------------+
| command                    | description                                             |
+----------------------------+---------------------------------------------------------+
| SELECT * FROM help         | 查看help帮助                        
| SELECT * FROM backends     | 查看后端代理的数据库                                  
| SET OFFLINE $backend_id    | 平滑下线数据库,例:SET OFFLINE 1; 加后端ID              
| SET ONLINE $backend_id     | 平滑上线数据库,例:ADD MASTER 1; 加后端ID               
| ADD MASTER $backend        | 添加一个主库,例:ADD MASTER 172.16.1.56:3306;           
| ADD SLAVE $backend         | 添加一个从库,例:ADD SLAVE 172.168.1.57:3306;           
| REMOVE BACKEND $backend_id | 删除一个后端的库:例:REMOVE BACKEND 1; 加后端ID          
| SELECT * FROM clients      | 查看可连接管理接口客户端                    
| ADD CLIENT $client         | 添加一个客户端,例:ADD CLIENT 10.0.0.52;             
| REMOVE CLIENT $client      | 删除一个客户端,例:REMOVE CLIENT 10.0.0.52;              
| SELECT * FROM pwds         | 查看Atlas可连接用户                        
| ADD PWD $pwd               | 添加用户(密码会自动加密)例:ADD PWD mha:mha;             
| ADD ENPWD $pwd             | 添加用户(需要加密后的密码)例:ADD ENPWD mha:O2jBXONX098=      
| REMOVE PWD $pwd            | 删除用户,例:REMOVE PWD mha;                  
| SAVE CONFIG                | 保存到配置文件                         
| SELECT VERSION             | 查看版本信息                          
+----------------------------+---------------------------------------------------------+