jialiguo 发表于 2018-10-1 06:35:58

mysql读写分离中间件atlas的性能测试

  公司最近要对上读写分离的中间件,打算对现下比较流行的中间件逐一进行性能测试。首先测试的是atlas.
  此次测试分为两个部分,(1)atlas与直连db的性能比对,(2)event-threads参数对atlas性能的影响
一,简介
  Atlas是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上,修改了大量bug,添加了很多功能特性。
  主要功能:
  1.读写分离
  2.从库负载均衡
  3.IP过滤
  4.自动分表
  5.DBA可平滑上下线DB
  6.自动摘除宕机的DB
  Atlas相对于官方MySQL-Proxy的优势
  1.将主流程中所有Lua代码用C重写,Lua仅用于管理接口
  2.重写网络模型、线程模型
  3.实现了真正意义上的连接池
  4.优化了锁机制,性能提高数十倍
  二:实验环境说明
服务IPCPU内存系统Atlas172.31.38.151832GCentOS 6.7master172.31.18.104832GCentOS 6.7Slave1172.31.18.105832GCentOS 6.7Sysbench/salve2172.31.38.150832GCentOS 6.7  三:atlas的安装与配置
  1,在172.31.38.151这个服务器上部署atlas,下载atlas2.2.1
  https://github.com/Qihoo360/Atlas/releases
  2,安装
  sudorpm -ivh Atlas-2.2.1.el5.x86_64.rpm
  3,改配置文件
  cd /usr/local/mysql-proxy/conf
  cat test.cnf
  
  admin-username = admin
  admin-password = 123456
  proxy-backend-addresses = 172.31.18.104:3306
  proxy-read-only-backend-addresses = 172.31.18.105:3306@1, 172.31.38.150:3306@1
  pwds = user1:/iZxz+0GRoA=
  daemon = true
  log-level =debug
  log-path = /usr/local/mysql-proxy/log
  sql-log = ON
  keepalive = true
  event-threads =16
  log-level = message
  instance = test
  proxy-address = 0.0.0.0:1234
  admin-address = 0.0.0.0:2345
  charset = utf8
  4,启动atlas
  cd/usr/local/mysql-proxy/bin
  #   sudo ./mysql-proxyd test start
  OK: MySQL-Proxy of test is started
  查看服务进程是否在:
  ps -ef | grep mysql-proxy
  root   6874   10 01:16 ?      00:00:00/usr/local/mysql-proxy/bin/mysql-proxy--defaults-file=/usr/local/mysql-proxy/conf/test.cnf
  root   687568740 01:16 ?      00:00:00/usr/local/mysql-proxy/bin/mysql-proxy --defaults-file=/usr/local/mysql-proxy/conf/test.cnf
  root   688627140 01:16 pts/0    00:00:00 grep mysql-proxy
  5,进入管理界面:
  在主从服务器分别给atlas授权管理用户:

  grant all privileges on*.*to admin@172.31.38.150>  mysql -h127.0.0.1 -P2345 -uadmin -p123456
  四:atlas与直连db的性能比对测试
  此次测试设置了三组对照组:
  1,atlas转发sql到mater
  2, atlas转发sql到一主两从的mysql集群
  3,直连db
  测试工具为sysbench,使用oltp的测试脚本。
  执行下面的命令测试sysbench连接Atlas:
  ./bin/sysbench --test=/usr/sysbench/tests/db/oltp.lua \
  --oltp-skip-trx=on \
  --num-threads=1 \
  --max-requests=80000 \
  --oltp-test-mode=nontrx \
  --db-driver=mysql \
  --mysql-db=sbtest \
  --mysql-host=172.31.38.151 \
  --mysql-port=1234 \
  --mysql-user=user1 \
  --mysql-password=123456 \
  --oltp-nontrx-mode=select \
  --db-ps-mode=disable \
  --mysql-ignore-errors=1062prepare ( run cleanup )
  上述命令是sysbench执行80000次随机select操作,这80000次操作都是非事务的。 通过修改 --oltp-nontrx-mode 选项,可以执行update和insert操作。 通过修改 --num-threads 参数,可以调整并发测试线程的个数。
  执行下面的命令测试直连DB:
  ./bin/sysbench --test=/usr/sysbench/tests/db/oltp.lua \
  --oltp-skip-trx=on \
  --num-threads=1 \
  --max-requests=80000 \
  --oltp-test-mode=nontrx \
  --db-driver=mysql \
  --mysql-db=sbtest \
  --mysql-host=172.31.18.104\
  --mysql-port=3306 \
  --mysql-user=user1 \
  --mysql-password=123456 \
  --oltp-nontrx-mode=select \
  --db-ps-mode=disable \
  --mysql-ignore-errors=1062prepare ( run cleanup )
  利用sysbench测试了并发线程个数不同的情况下,分别执行80000次 select,update 和 insert 三种操作。每组测试重复三次取平均值。
  以下是三个场景下的qps对比:

  以上数据对应的折线图如下:

  同时测试了sysbench不同并发线程下,完成每个SQL操作平均时间(单位:ms,时间越短,系统性能越好)。具体数据对比如下所示:

  以上数据对应的折线图如下:

  由以上统计结果可知:
  (1)在只能主库的情况下,通过atlas转发sql要比直连db性能下降了大约40%-50%
  (2)通过atlas引入从库的负载均衡后,并发小的时候atlas并无优势,但是随着并发量的增大,atlas优势明显.
  (3)从每条sql的平均响应时间来看,引入从库的负载均衡后,在并发小时atlas的响应时间大概是直连db的1-1.5倍,但是当高并发时,atlas的响应时间明显比直连db的时候少。
  由以上测试结果可知atlas适用于一主多从的高并发场景。
  五:event-threads参数对atlas性能的影响
  event-threads 是 Atlas 工作时创建的工作线程个数,这个值设置的不同对 Atlas 性能也有比较明显的影响。 将event-threads 分别设置为1,4,8,16,24,32,40,48进行测试,Atlas转发select请求时的 QPS 和完成每条SQL操作时间对比。具体对比结果如下所述:
  qps数据:

  以上数据对应的拆线图为:

  平均响应时间:

  以上数据对应的拆线图为:

  测试的结果可知,并发量小的时候event-threads参数的影响不大,但是随着并发的增大,event-threads参数设置1,4时,atlas的qps明显低于event-threads设置成>=8的时候,同时平均响应时间也明显增长。但是当events-threads设置成与cpu核数相等和cpu的2-6倍时,qps和sql的平均响应时间都差别不大。由此可见,event-threads不能设置成小于cpu的核心数。
  参考:https://github.com/Qihoo360/Atlas/wiki/Atlas%E7%9A%84%E6%80%A7%E8%83%BD%E6%B5%8B%E8%AF%95

页: [1]
查看完整版本: mysql读写分离中间件atlas的性能测试