MyCat:取代Cobar数据库中间件
Cobar 是阿里巴巴开源的一个数据库中间件,为了解决类似proxy这类的问题。目前同类型的有奇虎360开源的Atlas。类似的有基本在线上用起来很不爽,问题多多的比如MySQL Proxy和SQL Relay,基本可以忽略。
Cobar 下载:https://github.com/alibaba/cobar
Atlas 下载:https://github.com/Qihoo360/Atlas
===============================================================
MyCat:取代Cobar数据库中间件
什么是MyCAT?简单的说,MyCAT就是: 一个彻底开源的,面向企业应用开发的“大数据库集群” 支持事务、ACID、可以替代Mysql的加强版数据库 ? 一个可以视为“Mysql”集群的企业级数据库,用来替代昂贵的Oracle集群 ? 一个融合内存缓存技术、Nosql技术、HDFS大数据的新型SQL Server ? 结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品 ? 一个新颖的数据库中间件产品。
目标
低成本的将现有的单机数据库和应用平滑迁移到“云”端,解决数据存储和业务规模迅速增长情况下的数据瓶颈问题。
关键特性
支持 SQL 92标准 支持Mysql集群,可以作为Proxy使用 支持JDBC连接ORACLE、DB2、SQL Server,将其模拟为MySQL Server使用 支持galera for mysql集群,percona-cluster或者mariadb cluster,提供高可用性数据分片集群,自动故障切换,高可用性 ,支持读写分离,支持Mysql双主多从,以及一主多从的模式 ,支持全局表,数据自动分片到多个节点,用于高效表关联查询 ,支持独有的基于E-R 关系的分片策略,实现了高效的表关联查询多平台支持,部署和实施简单。
优势
基于阿里开源的Cobar产品而研发,Cobar的稳定性、可靠性、优秀的架构和性能,以及众多成熟的使用案例使得MyCAT一开始就拥有一个很好的起点,站在巨人的肩膀上,我们能看到更远。广泛吸取业界优秀的开源项目和创新思路,将其融入到MyCAT的基因中,使得MyCAT在很多方面都领先于目前其他一些同类的开源项目,甚至超越某些商业产品。MyCAT背后有一只强大的技术团队,其参与者都是5年以上资深软件工程师、架构师、DBA等,优秀的技术团队保证了MyCAT的产品质量。 MyCAT并不依托于任何一个商业公司,因此不像某些开源项目,将一些重要的特性封闭在其商业产品中,使得开源项目成了一个摆设。
长期规划
在支持Mysql的基础上,后端增加更多的开源数据库和商业数据库的支持,包括原生支持PosteSQL、FireBird等开源数据库,以及通过JDBC等方式间接支持其他非开源的数据库如Oracle、DB2、SQL Server等实现更为智能的自我调节特性,如自动统计分析SQL,自动创建和调整索引,根据数据表的读写频率,自动优化缓存和备份策略等实现更全面的监控管理功能与HDFS集成,提供SQL命令,将数据库装入HDFS中并能够快速分析集成优秀的开源报表工具,使之具备一定的数据分析的能力。
MyCat架构
MyCat官网:http://mycat.org.cn/
MyCat 下载:https://github.com/MyCATApache/Mycat-Server
MyCat文档:https://github.com/MyCATApache/Mycat-doc
延伸阅读:
一步一步编写mysql中间件(学习Cobar和MyCat)
第一篇---初步了解和搭建AIO http://blog.csdn.net/crazy_hunter/article/details/41047215
第二篇--了解MySQL协议和分析方式 http://blog.csdn.net/crazy_hunter/article/details/41074939
第三篇----MySQL第一个包分析和处理HandshakePacket http://blog.csdn.net/crazy_hunter/article/details/41120381
第四篇----实现伪MySQL服务器,基于MySQL协议的HelloWorld http://blog.csdn.net/crazy_hunter/article/details/41309131
=========================================================
Alibaba的Cobar真是强大.
最近好不容易抽空研究了下Cobar,感觉这个产品确实很不错(在文档方面比Amoeba强多了),特此推荐给大家。Cobar是阿里巴巴研发的关系型数据的分布式处理系统,该产品成功替代了原先基于Oracle的数据存储方案,目前已经接管了3000+个MySQL数据库的schema,平均每天处理近50亿次的SQL执行请求。
首先,使用Cobar的核心功能如下:
分布式:
Cobar的分布式主要是通过将表放入不同的库来实现:
1. Cobar支持将一张表水平拆分成多份分别放入不同的库来实现表的水平拆分
2. Cobar也支持将不同的表放入不同的库
3. 多数情况下,用户会将以上两种方式混合使用
这里需要强调的是,Cobar不支持将一张表,例如test表拆分成test_1, test_2, test_3.....放在同一个库中,必须将拆分后的表分别放入不同的库来实现分布式。
HA:
在用户配置了MySQL心跳的情况下,Cobar可以自动向后端连接的MySQL发送心跳,判断MySQL运行状况,一旦运行出现异常,Cobar可以自动切换到备机工作。但需要强调的是:
1. Cobar的主备切换有两种触发方式,一种是用户手动触发,一种是Cobar的心跳语句检测到异常后自动触发。那么,当心跳检测到主机异常,切换到备机,如果主机恢复了,需要用户手动切回主机工作,Cobar不会在主机恢复时自动切换回主机,除非备机的心跳也返回异常。
2. Cobar只检查MySQL主备异常,不关心主备之间的数据同步,因此用户需要在使用Cobar之前在MySQL主备上配置双向同步,详情可以参阅MySQL参考手册。
其次,我们也需要注意Cobar的功能约束:
1) 不支持跨库情况下的join、分页、排序、子查询操作。
2) SET语句执行会被忽略,事务和字符集设置除外。
3) 分库情况下,insert语句必须包含拆分字段列名。
4) 分库情况下,update语句不能更新拆分字段的值。
5) 不支持SAVEPOINT操作。
6) 暂时只支持MySQL数据节点。
7) 使用JDBC时,不支持rewriteBatchedStatements=true参数设置(默认为false)。
8) 使用JDBC时,不支持useServerPrepStmts=true参数设置(默认为false)。
9) 使用JDBC时,BLOB, BINARY, VARBINARY字段不能使用setBlob()或setBinaryStream()方法设置参数。
然后,我们来分析一下Cobar逻辑层次图:
* dataSource:数据源,表示一个具体的数据库连接,与物理存在的数据库schema一一对应。
* dataNode:数据节点,由主、备数据源,数据源的HA以及连接池共同组成,可以将一个dataNode理解为一个分库。
* table:表,包括拆分表(如tb1,tb2)和非拆分表。
* tableRule:路由规则,用于判断SQL语句被路由到具体哪些datanode执行。
* schema:cobar可以定义包含拆分表的schema(如schema1),也可以定义无拆分表的schema(如schema2)。
Cobar支持的数据库结构(schema)的层次关系具有较强的灵活性,用户可以将表自由放置不同的datanode,也可将不同的datasource放置在同一MySQL实例上。在实际应用中,我们需要通过配置文件(schema.xml)来定义我们需要的数据库服务器和表的分布策略,这点我们将在后面的安装和配置部分中介绍到。
接着,我们来介绍Cobar的安装和配置步骤:
下面我们将使用一个最简单的分库分表的例子来说明Cobar的基本用法,数据库schema如下图(该实例也可参考: Cobar产品首页 )。
1) 系统对外提供的数据库名是dbtest,并且其中有两张表tb1和tb2。
2) tb1表的数据被映射到物理数据库dbtest1的tb1上。
3) tb2表的一部分数据被映射到物理数据库dbtest2的tb2上,另外一部分数据被映射到物理数据库dbtest3的tb2上。
1、环境准备
操作系统:Linux或者Windows (推荐在Linux环境下运行Cobar)
MySQL: http://www.mysql.com/downloads/ (推荐使用5.1以上版本)
JDK: http://www.oracle.com/technetwork/java/javase/downloads/ (推荐使用1.6以上版本)
Cobar: http://code.alibabatech.com/wiki/display/cobar/release/ (下载tar.gz或者zip文件)
2、数据准备
假设本文MySQL所在服务器IP为192.168.0.1,端口为3306,用户名为test,密码为空,我们需要创建schema:dbtest1、dbtest2、dbtest3,table:tb1、tb2,SQL如下:
- #创建dbtest1
- drop database if exists dbtest1;
- create database dbtest1;
- use dbtest1;
- #在dbtest1上创建tb1
- create table tb1(
- id int not null,
- gmt datetime);
- #创建dbtest2
- drop database if exists dbtest2;
- create database dbtest2;
- use dbtest2;
- #在dbtest2上创建tb2
- create table tb2(
- id int not null,
- val varchar(256));
- #创建dbtest3
- drop database if exists dbtest3;
- create database dbtest3;
- use dbtest3;
- #在dbtest3上创建tb2
- create table tb2(
- id int not null,
- val varchar(256));
3、配置Cobar
Cobar解压之后有四个目录:
bin/:可执行文件目录,包含启动(start)、关闭(shutdown)和重启(restart)脚本
lib/:逻辑类库目录,包含了Cobar所需的jar包
conf/:配置文件目录,下面会详细介绍
logs/:运行日志目录,最主要的log有两个:程序日志(stdout.log)和控制台输出(console.log)
配置文件的用法如下:
log4j.xml:日志配置,一般来说保持默认即可
schema.xml:定义了schema逻辑层次图中的所有元素,并利用这些元素以及rule.xml中定义的规则组建分布式数据库系统
rule.xml:定义了分库分表的规则
server.xml:系统配置文件
我们在schema.xml中配置数据库结构(schema)、数据节点(dataNode)、以及数据源(dataSource)。
- <?xml version="1.0" encoding="UTF-8"?>
- <!DOCTYPE cobar:schema SYSTEM "schema.dtd">
- <cobar:schema xmlns:cobar="http://cobar.alibaba.com/">
- <!-- schema定义 -->
- <schema name="dbtest" dataNode="dnTest1">
- <table name="tb2" dataNode="dnTest2,dnTest3" rule="rule1" />
- </schema>
- <!-- 数据节点定义,数据节点由数据源和其他一些参数组织而成。-->
- <dataNode name="dnTest1">
- <property name="dataSource">
- <dataSourceRef>dsTest[0]</dataSourceRef>
- </property>
- </dataNode>
- <dataNode name="dnTest2">
- <property name="dataSource">
- <dataSourceRef>dsTest[1]</dataSourceRef>
- </property>
- </dataNode>
- <dataNode name="dnTest3">
- <property name="dataSource">
- <dataSourceRef>dsTest[2]</dataSourceRef>
- </property>
- </dataNode>
- <!-- 数据源定义,数据源是一个具体的后端数据连接的表示。-->
- <dataSource name="dsTest" type="mysql">
- <property name="location">
- <location>192.168.0.1:3306/dbtest1</location> <!--注意:替换为您的MySQL IP和Port-->
- <location>192.168.0.1:3306/dbtest2</location> <!--注意:替换为您的MySQL IP和Port-->
- <location>192.168.0.1:3306/dbtest3</location> <!--注意:替换为您的MySQL IP和Port-->
- </property>
- <property name="user">test</property> <!--注意:替换为您的MySQL用户名-->
- <property name="password">test</property> <!--注意:替换为您的MySQL密码-->
- <property name="sqlMode">STRICT_TRANS_TABLES</property>
- </dataSource>
- </cobar:schema>
我们注意到,上述配置实际上已经把图2中的数据库结构配置好了。dbtest主要映射的是dnTest1库(即192.168.0.1:3306/dbtest1库),而其中的tb2表则是按照规则rule1,被分配到dnTest2库(即192.168.0.1:3306/dbtest2库)和dnTest3库(即192.168.0.1:3306/dbtest3库)中。此外,规则rule1的定义可以在rule.xml中找到,代码如下:
- <?xml version="1.0" encoding="UTF-8"?>
- <!DOCTYPE cobar:rule SYSTEM "rule.dtd">
- <cobar:rule xmlns:cobar="http://cobar.alibaba.com/">
- <!-- 路由规则定义,定义什么表,什么字段,采用什么路由算法。-->
- <tableRule name="rule1">
- <rule>
- <columns>id</columns>
- <algorithm><![CDATA[ func1(${id})]]></algorithm>
- </rule>
- </tableRule>
- <!-- 路由函数定义,应用在路由规则的算法定义中,路由函数可以自定义扩展。-->
- <function name="func1" class="com.alibaba.cobar.route.function.PartitionByLong">
- <property name="partitionCount">2</property>
- <property name="partitionLength">512</property>
- </function>
- </cobar:rule>
结合schema.xml中的内容,我们可以看出分表的规则是,按照id字段把tb2表中的数据分配到dnTest2和dnTest3两个分区中,其中id小于512的数据会被放到dnTest2库的分区中,而其余的会被放到dnTest3库的分区中,更多路由算法可以参考《 路由文档 》。最后,我们来看一下server.xml的配置,代码如下。
- <?xml version="1.0" encoding="UTF-8"?>
- <!DOCTYPE cobar:server SYSTEM "server.dtd">
- <cobar:server xmlns:cobar="http://cobar.alibaba.com/">
- <!--定义Cobar用户名,密码-->
- <user name="root">
- <property name="password">passwd</property>
- <property name="schemas">dbtest</property>
- </user>
- </cobar:server>
这里的server.xml配置比较简单,只配置了本地Cobar服务的数据库结构、用户名和密码。在启动Cobar服务之后,使用用户名root和密码passwd就可以登录Cobar服务。
4、运行Cobar
启动Cobar服务很简单,运用bin目录下的start.sh即可(停止使用shutdown.sh)。启动成功之后,可以在logs目录下的stdout.log中看到如下日志:
- 10:54:19,264 INFO ===============================================
- 10:54:19,265 INFO Cobar is ready to startup ...
- 10:54:19,265 INFO Startup processors ...
- 10:54:19,443 INFO Startup connector ...
- 10:54:19,446 INFO Initialize dataNodes ...
- 10:54:19,470 INFO dnTest1:0 init success
- 10:54:19,472 INFO dnTest3:0 init success
- 10:54:19,473 INFO dnTest2:0 init success
- 10:54:19,481 INFO CobarManager is started and listening on 9066
- 10:54:19,483 INFO CobarServer is started and listening on 8066
- 10:54:19,484 INFO ===============================================
接着,我们就可以使用“mysql -h127.0.0.1 -uroot -ppasswd -P8066 -Ddbtest”命令来登录Cobar服务了,再接下来的操作就和在其他MySQL Client中一样了。比如,我们可以使用“show databases”命令查看数据库,使用“show tables”命令查看数据表,如下图:
接着,我们按照下图中的SQL指定向数据表插入测试记录。
可以看到,这里的tb2中包含了id为1、2、513的3条记录。而实际上,这3条记录存储在不同的物理数据库上的,大家可以到物理库上验证一下。
至于Cobar的连接和使用方法和MySQL一样,Java程序中可以使用JDBC(建议5.1以上的版本),PHP中可以使用PDO。当然,Cobar还提供HA、集群等高级的功能,更多信息请参考其《 产品文档 》。此外,产品文档中还为我们提供了详细的PPT文档《Cobar原理及应用.ppt》来介绍Cobar在实际生产环境中的使用方法,真可谓之用心良苦啊!
此外,特别解释一下大家可能比较关心的心跳检测问题,Cobar的心跳检测主要用在以下两个地方。
1、在配置数据节点的时候,我们需要使用心跳检测来探测数据节点的运行状况。Cobar中使用执行SQL的方式来进行探测,简单且实用。例如,我们可以把前面实例中的schema.xml中的dataNode配置成下面的样子。
- ... ...
- <!-- 数据节点定义,数据节点由数据源和其他一些参数组织而成。-->
- <dataNode name="dnTest1">
- <property name="dataSource">
- <dataSourceRef>dsTest[0]</dataSourceRef>
- </property>
- <!--Cobar与后端数据源连接池大小设置-->
- <property name="poolSize">256</property>
- <!--Cobar通过心跳来实现后端数据源HA,一旦主数据源心跳失败,便切换到备数据源上工作-->
- <!--Cobar心跳是通过向后端数据源执行一条SQL语句,根据该语句的返回结果判断数据源的运行情况-->
- <property name="heartbeat">select user()<property>
- </dataNode>
- ... ...
2、当我们需要对Cobar作集群(cluster),进行负载均衡的时候,我们也需要用到心跳机制。不过此处的配置则是在server.xml中,代码如下:
- ... ...
- <!--组建一个Cobar集群,只需在cluster配置中把所有Cobar节点(注意:包括当前Cobar自身)都配置上便可-->
- <cluster>
- <!--node名称,一个node表示一个Cobar节点,一旦配置了node,当前Cobar便会向此节点定期发起心跳,探测节点的运行情况-->
- <node name="cobar1">
- <!--Cobar节点IP, 表示当前Cobar将会向192.168.0.1上部署的Cobar发送心跳-->
- <property name="host">192.168.0.1</property>
- <!--节点的权重,用于客户端的负载均衡,用户可以通过命令查询某个节点的运行情况以及权重-->
- <property name="weight">1</property>
- </node>
- <!--当前Cobar将会向192.168.0.2上部署的Cobar发送心跳-->
- <node name="cobar2">
- <property name="host">192.168.0.2</property>
- <property name="weight">2</property>
- </node>
- <!--当前Cobar将会向192.168.0.3上部署的Cobar发送心跳-->
- <node name="cobar3">
- <property name="host">192.168.0.3</property>
- <property name="weight">3</property>
- </node>
- <!--用户还可以将Cobar节点分组,以便实现schema级别的细粒度负载均衡-->
- <group name="group12">
- <property name="nodeList">cobar1,cobar2</property>
- </group>
- <group name="group23">
- <property name="nodeList">cobar2,cobar3</property>
- </group>
- </cluster>
- ... ...
最后,简单看一下Cobar的实现原理。
首先是系统模块架构。
从上图中可以看到,Cobar的前、后端模块都实现了MySQL协议;当接受到SQL请求时,会依次进行解释(SQL Parser)和路由(SQL Router)工作,然后使用SQL Executor去后端模块获取数据集(后端模块还负责心跳检测功能);如果数据集来自多个数据源,Cobar则需要把数据集进行组合(Result Merge),最后返回响应。整个过程应该比较容易理解,
下面是Cobar的网络通讯模块架构。
从上图中可以看出,Cobar采用了主流的Reactor设计模式来处理请求,并使用NIO进行底层的数据交换,这大大提升系统的负载能力。其中,NIOAcceptor用于处理前端请求,NIOConnector则用于管理后端的连接,NIOProcessor用于管理多线程事件处理,NIOReactor则用于完成底层的事件驱动机制,就是看起来和Mina和Netty的网络模型比较相似。如果有兴趣,大家还可以到Cobar站点的下载页面(http://code.alibabatech.com/wiki/display/cobar/release)获取该项目的源码,真是太周到了,让我们为富有开源精神的阿里人掌声鼓励一下!
https://my.oschina.net/u/222931/blog/507957
MyCat:取代Cobar数据库中间件相关推荐
- 安排,Mycat教程-分布式数据库中间件课程
来源:来自网络,如侵权请告知博主删除,感谢????.仅学习使用,请勿用于其他- 有粉丝问我要分布式数据库相关的东西,所以今天小编给大家安排一个. 有的时候后台可能会漏一些消息,然后你提的需求我没看见 ...
- MyCat:开源分布式数据库中间件之数据库分片和读写分离配置
mycat权威文档指南下载 1. MyCAT介绍 1.1. 什么是MyCAT? 简单的说,MyCAT就是: 一个彻底开源的,面向企业应用开发的"大数据库集群" 支持事务.ACI ...
- 开源的分布式数据库中间件系统Mycat和阿里巴巴Cobar的对比
mycat 不得不说的缘分 原创 2016年04月15日 15:48:17 27834 1,愕然回首,它在灯火阑珊处 关于mysql集群中间件,以前写在应用程序里面,由开发人员实现,在配置文件里面写多 ...
- MyCat —— 性能最好的数据库中间件
课程介绍 1. MyCat简介 1.1 MyCat 引入 如今随着互联网的发展,数据的量级也是成指数式的增长,从GB到TB到PB.对数据的各种操作也是愈 加的困难,传统的关系性数据库已经无法满足快速查 ...
- 分布式数据库中间件Mycat介绍
从Cobar到Mycat,从闭源到开源,作为一个开源的分布式数据库中间件,Mycat已经被众多开源项目使用.本文简要介绍下Mycat的特性.基本架构以及分库分表和读写分离的配置. 1.Mycat基本介 ...
- 主从复制MySQL的安装和用数据库中间件MyCat实现分库分表、读写分离
1.MySql主从复制 1.1.安装mysql 1.1.1.下载 下载地址:https://dev.mysql.com/downloads/mysql/ 1.1.2.卸载预装mysql #查看已安装: ...
- 原创 【ReactJs+springBoot项目——租房】第13章:MySQL主从复制+MyCat数据库中间件+HAProxy+PXC集群
分析目前系统架构中的数据库层存在的问题 分析MySQL数据库的集群方案 学习主从复制(读写分离)架构方案 掌握MyCat数据库中间件的使用 掌握HAProxy复制均衡的使用 掌握PXC集群的使用 多种 ...
- 分布式数据库中间件对比总结MyCat Cobar Sharding-jdbc
分布式数据库中间件对比总结(1) 目前数据库中间件有很多,基本这些中间件在下都有了解和使用,各种中间件优缺点及使用场景也都有些心的.所以总结一个关于中间件比较的系列,希望可以对大家有帮助. 1. 什么 ...
- 分布式数据库中间件Mycat百亿级数据存储(转)
此文转自: https://www.jianshu.com/p/9f1347ef75dd 2013年阿里的Cobar在社区使用过程中发现存在一些比较严重的问题,如高并发下的假死,心跳连接的故障,只实现 ...
最新文章
- linux内核链表使用例,linux内核链表的使用例子
- 有道概率题:一个有趣的抛硬币问题
- 第08次:升级《陋习手记》完善主从UI
- acwing算法题--看图做题
- 一个人最重要的是跌倒了爬起来的能力
- Knative 实践:从源代码到服务的自动化部署
- pytorch无法下载或下载缓慢问题
- 学习笔记(01):英特尔® OpenVINO™工具套件初级课程-如何加速视频处理进程?
- sap模块有哪些_SAP那些事-实战篇-21-关于COPA模块的总结
- wifi传输信息需要连接服务器,基于近场通信的WiFi传输连接方案.pdf
- 基于JAVA+SpringBoot+Mybatis+MYSQL的校园新闻管理系统
- java8 重复注解_Java8新特性_重复注解与类型注解
- 基于深度卷积神经网络的玉米病害实时识别检测系统
- html简易幻灯片,用html5实现的简单幻灯片实例
- 使用gogs搭建git私有仓库
- Tensorflow模型变量保存
- Leetcode 75. 颜色分类
- 【附源码】Python计算机毕业设计七七美食汇
- The transaction timeout is larger than the maximum value allowed by the broker
- 斐波那契查找(黄金分割法查找)Java实现。