Atlas简介
Atlas是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上,修改了大量bug,添加了很多功能特性。目前该项目在360公司内部得到了广泛应用,很多MySQL业务已经接入了Atlas平台,每天承载的读写请求数达几十亿条。
同时,有超过50家公司在生产环境中部署了Atlas,超过800人已加入了我们的开发者交流群,并且这些数字还在不断增加。而且安装方便。配置的注释写的蛮详细的,都是中文。
Atlas主要功能
1.读写分离
2.从库负载均衡
3.IP过滤
4.自动分表
5.DBA可平滑上下线DB
6.自动摘除宕机的DB
Atlas相对于官方MySQL-Proxy的优势
1.将主流程中所有Lua代码用C重写,Lua仅用于管理接口
2.重写网络模型、线程模型
3.实现了真正意义上的连接池
4.优化了锁机制,性能提高数十倍
企业读写分离及分库分表其他方案介绍
Mysql-proxy(oracle) Mysql-router(oracle) Atlas (Qihoo 360) Atlas-sharding (Qihoo 360) Cobar(是阿里巴巴(B2B)部门开发) Mycat(基于阿里开源的Cobar产品而研发) TDDL Smart Client的方式(淘宝) Oceanus(58同城数据库中间件) OneProxy(原支付宝首席架构师楼方鑫开发 ) vitess(谷歌开发的数据库中间件) Heisenberg(百度) TSharding(蘑菇街白辉) Xx-dbproxy(金山的Kingshard、当当网的sharding-jdbc ) amoeb
安装Atlas
软件获取地址:
注意:
1、Atlas只能安装运行在64位的系统上2、Centos 5.X安装 Atlas-XX.el5.x86_64.rpm,Centos 6.X安装Atlas-XX.el6.x86_64.rpm。3、后端mysql版本应大于5.1,建议使用Mysql 5.6以上 Atlas (普通) : Atlas-2.2.1.el6.x86_64.rpm Atlas (分表) : Atlas-sharding_1.0.1-el6.x86_64.rpm
下载安装atlas
这里我们只需要下载普通的即可。
#在主库安装,进入安装包目录[root@mysql-db01 ~]# cd /home/oldboy/tools/#下载Atlas[root@mysql-db01 tools]# wget httpss://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm#安装[root@mysql-db01 tools]# rpm -ivh Atlas-2.2.1.el6.x86_64.rpm Preparing... ########################################### [100%] 1:Atlas ########################################### [100%] 至此安装完成
配置Atlas配置文件
atlas配置文件中的密码需要加密才可以使用,软件自带的加密工具进行加密
[root@db03 ~]# cd /usr/local/mysql-proxy/bin/-rwxr-xr-x 1 root root 9696 Dec 17 2014 encrypt ---> 密码加密工具-rwxr-xr-x 1 root root 23564 Dec 17 2014 mysql-proxy-rwxr-xr-x 1 root root 1552 Dec 17 2014 mysql-proxyd-rw-r--r-- 1 root root 6 Dec 17 2014 VERSION[root@db03 bin]# ./encrypt 123 -----> 制作加密密码3yb5jEku5h4=
生产密文密码
[root@db03 bin]# ./encrypt 1233yb5jEku5h4=[root@db03 bin]# ./encrypt repuMb86DSsoNU=[root@db03 bin]# ./encrypt mhaO2jBXONX098=[root@db03 bin]# ./encrypt root //如果mysql登录不需要root密码,则不需要再配置文件中加入加密密码DAJnl8cVzy8=
编辑配置文件
vim /usr/local/mysql-proxy/conf/test.cnf[mysql-proxy]admin-username = useradmin-password = pwdproxy-backend-addresses = 10.0.0.55:3306 ----> ip地址为虚拟的ip地址,也是主库51的Ipproxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306 ---> 从库ippwds = repl:3yb5jEku5h4=,mha:O2jBXONX098= ---> 加密密文daemon = truekeepalive = trueevent-threads = 8log-level = messagelog-path = /usr/local/mysql-proxy/logsql-log=ONproxy-address = 0.0.0.0:33060 ---> 这个端口不要占用服务端口,其余任意admin-address = 0.0.0.0:2345charset=utf8
详细的文件
[root@db03 bin]# cat /usr/local/mysql-proxy/conf/test.cnf[mysql-proxy]#带#号的为非必需的配置项目#管理接口的用户名admin-username = user#管理接口的密码admin-password = pwd#Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔proxy-backend-addresses = 10.0.0.55:3306#Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔#proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306#用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的用户名和加密密码!pwds = mha:O2jBXONX098=,rep:uMb86DSsoNU=#设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。daemon = true#设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。keepalive = true#工作线程数,对Atlas的性能有很大影响,可根据情况适当设置event-threads = 8#日志级别,分为message、warning、critical、error、debug五个级别log-level = error#日志存放的路径log-path = /usr/local/mysql-proxy/log#SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF#sql-log = ON#慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。#sql-log-slow = 10#实例名称,用于同一台机器上多个Atlas实例间的区分#instance = test#Atlas监听的工作接口IP和端口proxy-address = 0.0.0.0:3307#Atlas监听的管理接口IP和端口admin-address = 0.0.0.0:2345#分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项#tables = person.mt.id.3#默认字符集,设置该项后客户端不再需要执行SET NAMES语句#charset = utf8#允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接#client-ips = 127.0.0.1, 192.168.1#Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置#lvs-ips = 192.168.1.1[root@db03 bin]# cat /usr/local/mysql-proxy/conf/test.cnf[mysql-proxy]#带#号的为非必需的配置项目#管理接口的用户名admin-username = user#管理接口的密码admin-password = pwd#Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔proxy-backend-addresses = 10.0.0.55:3306#Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔#proxy-read-only-backend-addresses = 10.0.0.52:3306,10.0.0.53:3306#用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的用户名和加密密码!pwds = mha:O2jBXONX098=,rep:uMb86DSsoNU=#设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。daemon = true#设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。keepalive = true#工作线程数,对Atlas的性能有很大影响,可根据情况适当设置event-threads = 8#日志级别,分为message、warning、critical、error、debug五个级别log-level = error#日志存放的路径log-path = /usr/local/mysql-proxy/log#SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF#sql-log = ON#慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。#sql-log-slow = 10#实例名称,用于同一台机器上多个Atlas实例间的区分#instance = test#Atlas监听的工作接口IP和端口proxy-address = 0.0.0.0:3307#Atlas监听的管理接口IP和端口admin-address = 0.0.0.0:2345#分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项#tables = person.mt.id.3#默认字符集,设置该项后客户端不再需要执行SET NAMES语句#charset = utf8#允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接#client-ips = 127.0.0.1, 192.168.1#Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置#lvs-ips = 192.168.1.1
启动Atlas
/usr/local/mysql-proxy/bin/mysql-proxyd test start #启动/usr/local/mysql-proxy/bin/mysql-proxyd test stop #停止/usr/local/mysql-proxy/bin/mysql-proxyd test restart #重启
注意:test是配置文件的名称
启动atlas脚本
[root@db03 ~]# cat /etc/init.d/atlasd #!/bin/shDemo=teststart(){ echo -n $"Starting atlas: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo start}stop(){ echo -n $"Shutting down atlas: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo stop}status(){ echo $"Atlas status: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo status}restart(){ echo $"Atlas Restart Info: " /usr/local/mysql-proxy/bin/mysql-proxyd $Demo restart}ATLAS="/usr/local/mysql-proxy/bin/mysql-proxyd"[ -f $ATLAS ] || exit 1# See how we were called.case "$1" in start) start ;; stop) stop ;; restart) restart ;; status) status ;; *) echo $"Usage: $0 {start|stop|restart|status}" exit 1esacexit 0
检查端口是否正常
[root@db03 ~]# netstat -lntup|grep mysql-proxytcp 0 0 0.0.0.0:33060 0.0.0.0:* LISTEN 2125/mysql-proxy tcp 0 0 0.0.0.0:2345 0.0.0.0:* LISTEN 2125/mysql-proxy
Atlas管理操作
登入管理接口
[root@db03 ~]# mysql -uuser -ppwd -h127.0.0.1 -P2345
查看帮助信息
mysql> SELECT * FROM help;
详细中文版
user@127.0.0.1> select * from help;+----------------------------+---------------------------------------------------------+| command | description |+----------------------------+---------------------------------------------------------+| SELECT * FROM help | 查看help帮助 | SELECT * FROM backends | 查看后端代理的数据库 | SET OFFLINE $backend_id | 平滑下线数据库,例:SET OFFLINE 1; 加后端ID | SET ONLINE $backend_id | 平滑上线数据库,例:ADD MASTER 1; 加后端ID | ADD MASTER $backend | 添加一个主库,例:ADD MASTER 172.16.1.56:3306; | ADD SLAVE $backend | 添加一个从库,例:ADD SLAVE 172.168.1.57:3306; | REMOVE BACKEND $backend_id | 删除一个后端的库:例:REMOVE BACKEND 1; 加后端ID | SELECT * FROM clients | 查看可连接管理接口客户端 | ADD CLIENT $client | 添加一个客户端,例:ADD CLIENT 10.0.0.52; | REMOVE CLIENT $client | 删除一个客户端,例:REMOVE CLIENT 10.0.0.52; | SELECT * FROM pwds | 查看Atlas可连接用户 | ADD PWD $pwd | 添加用户(密码会自动加密)例:ADD PWD mha:mha; | ADD ENPWD $pwd | 添加用户(需要加密后的密码)例:ADD ENPWD mha:O2jBXONX098= | REMOVE PWD $pwd | 删除用户,例:REMOVE PWD mha; | SAVE CONFIG | 保存到配置文件 | SELECT VERSION | 查看版本信息 +----------------------------+---------------------------------------------------------+