加入收藏 | 设为首页 | 会员中心 | 我要投稿 汽车网 (https://www.0577qiche.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 服务器 > 搭建环境 > Linux > 正文

linux构建mycat

发布时间:2023-02-27 10:24:58 所属栏目:Linux 来源:
导读:前言
对于服务端开发的同学对MysqL应该不陌生,尽管MysqL5.7之后单表可存放的数据量超过千万都不是问题,但是单表的数据量一旦上去之后,带来的一个很明显的问题就是,在应用端,接口响应将会边长;

虽然可以通过
前言
对于服务端开发的同学对MysqL应该不陌生,尽管MysqL5.7之后单表可存放的数据量超过千万都不是问题,但是单表的数据量一旦上去之后,带来的一个很明显的问题就是,在应用端,接口响应将会边长;

虽然可以通过索引来解决一部分查询性能问题,但数据量继续增长的话,单表的查询性能始终是一个绕不开的问题;

如何解决mySQL查询性能的问题是困扰很多DBA或服务端开发的现状,从源头来看,最根本的还是要减少单表的数据量过大的问题;

常用的分库分表的形式,主要是两种:垂直拆分和水平拆分。

分库分表策略简述
一、垂直拆分
1、垂直分库

以表为依据,根据业务将原本单库中的多个表拆分到不同库下面去;
2、垂直分库特点

每个库的表结构都不一样;
每个库的数据也不一样;
所有库的并集是全量数据;
3、垂直分表特点

每个表的结构都不一样;
每个表的数据也不一样,一般通过一列(主键/外键)关联;
所有表的并集是全量数据;
二、水平拆分
1、水平分库

以字段为依据,按照一定策略,将一个库的数据拆分到多个库中;
2、水平分库特点

每个库的表结构都一样;
每个库的数据都不一样;
所有库的并集是全量数据;
3、水平分表

以字段为依据,按照一定策略,将一个表的数据拆分到多个表中去;
4、水平分表特点

每个表的表结构都一样;
每个表数据都不一样;
所有表的并集是全量数据;
分库分表常用解决方案
基于AOP实现,在应用程序中对本地执行的sql进行拦截,解析、改写、路由处
理。需要自行编码配置实现,只支持java语言,性能较高,支持多种分片策略,通常只需要在配置文件做相关的配置就可以使用,上手成本较低;
MyCat,数据库分库分表中间件,不用调整代码即可实现分库分表,支持多种语言,性能方面相对shardingJDBC弱一些;
关于shardingJdbc 的用法,可以参考:shardingJdbc使用

mycat简介
Mycat是开源的、活跃的、基于Java语言编写的MysqL数据库中间件,客户端可以像连接MysqL一样来使用mycat,就像感觉不到mycat的存在;

具体来说,客户端只需要连接MyCat即可,具体底层用到几台数据库,每台数据库服务器里面存储了什么数据,都无需关心,这个交由mycat来处理,实际业务中的分库分表策略,可以根据需要在相关的配置文件配置即可;

如下为mycat的一个原理简图;

mycat目前已经发展到mycat2了,整体来说,mycat作为一款优秀的数据库代理中间件,还是有诸多的优势的,总结如下:

性能可靠稳定(经过众多厂商的生产实践);
社区较为活跃;
体系比较完善,支持分库分表,可以根据业务需要,定制灵活的配置策略等;
服务规划
下面演示 基于centos7 快速搭建起mycat的使用环境,服务规划如下,3个MysqL实例将会使用docker安装,以端口号进行区分

IP    PORT    角色
101.34.33.77    8066    mycat访问端口
101.34.33.77    3306    MysqL实例1
101.34.33.77    3307    MysqL实例2
101.34.33.77    3308    MysqL实例3
MysqL 实例搭建
为了使用方便,使用docker 快速搭建起3个MysqL的实例,以不同的端口号做区分,搭建步骤如下:

1、创建目录

mkdir -p /usr/local/docker/MysqL/data   /usr/local/docker/MysqL/logs   /usr/local/docker/MysqL/conf  
2、启动 MysqL 实例

docker run -p 3306:3306 --name MysqL_1 -v /usr/local/docker/MysqL/conf:/etc/MysqL/conf.d -v /usr/local/docker/MysqL/logs:/logs -v /usr/local/docker/MysqL/data:/var/lib/MysqL -e MysqL_ROOT_PASSWORD=root -d MysqL:5.7
关于拉取MysqL 的镜像的步骤这里省略了,相信使用过docker的同学应该都会了,按照上面同样的方式,创建目录并且再启动另外2个MysqL的实例,效果如下,说明MysqL的准备工作完成

启动之后,使用navicat分别连接,并且在3个MysqL服务实例下创建名称为 “db01” 的数据库;

到这里,准备工作就初步完成

mycat 搭建过程
一、mycat下载地址
1、选择并下载选择合适的版本

本文使用的是 1.6.7.4的版本

2、上传下载包到指定目录并解压

tar -zxvf Mycat-server-1.6.7.4-release-20200105164103-linux.tar.gz

3、进入解压后的目录,修改配置文件

找到conf目录下的schema.xml文件和server.xml两个文件,接下来,重点对schema.xml文件进行配置说明(最好提前备份下这两个文件)

在正式对这两个配置文件进行配置之前,有必要了解下关于schema.xml配置文件中的目录结构;

schema.xml 配置文件说明
下面这张图是schema.xml配置文件中各个节点映射出的一个架构简图,对照这个图可以更好的理解该文件中各个配置参数的含义;

各个节点配置参数说明:

Schema:逻辑库(mycat虚拟的库),与MysqL中的Database(数据库)对应,一个逻辑库中定义了所包括的Table;
Table:逻辑表,即对应的是物理数据库中存储的某一张表,与传统数据库不同,这里的表需要声明其所存储的逻辑数据节点Datanode,在此可以指定表的分片规则;
Datanode:mycat 的逻辑数据节点,是存放table的具体物理节点,也称之为分片节点,通过DataSource来关联到后端某个具体数据库上 ;
DataSource:定义某个具体的物理库的访问地址,用于捆绑到Datanode上;
分片规则:

前面讲几种分库分表的概念时,一个大表被分成若干个分片表,就需要一定的规则,这样按照某种业务规则把数据分到某个分片的规则就是分片规则,数据切分选择合适的分片规则非常重要,将极大的避免后续数据处理的难题,分片规则在conf目录下由rule.xml配置文件统一管理,而在schema.xml文件中只需要指定即可;

以上了解了schema.xml配置文件中核心配置参数的概念后,接下来在结合真实的业务需求进行配置的时候就有了明确的方向,看下面这个需求:

有一个tb_order表,由于数据量膨胀的比较厉害,现在需要对该表进行数据分片,将分成3个数据节点进行存储,每个节点上存储一定量的数据;

5、配置schema.xml和server.xml文件

按照上面对schema.xml文件的配置参数的了解,schema.xml 文件最终得到下面的配置

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYstem "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
    <schema name="DB01" checksqlschema="true" sqlMaxLimit="100" randomDatanode="dn1">
        <table name="TB_ORDER" datanode="dn1,dn2,dn3" rule="auto-sharding-long" splitTableNames ="true"/>
    </schema>
    <datanode name="dn1" dataHost="dhost1" database="db01" />
    <datanode name="dn2" dataHost="dhost2" database="db01" />
    <datanode name="dn3" dataHost="dhost3" database="db01" />
    <dataHost name="dhost1" maxCon="1000" minCon="10" balance="0"
              writeType="0" dbType="MysqL" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <writeHost host="hostM1" url="101.34.33.77:3306" user="root"
                   password="123456">
        </writeHost>
    </dataHost>
    <dataHost name="dhost2" maxCon="1000" minCon="10" balance="0"
              writeType="0" dbType="MysqL" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <writeHost host="hostM1" url="101.34.33.77:3307" user="root"
                   password="123456">
        </writeHost>
    </dataHost>
    <dataHost name="dhost3" maxCon="1000" minCon="10" balance="0"
              writeType="0" dbType="MysqL" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <writeHost host="hostM1" url="101.34.33.77:3308" user="root"
                   password="123456">
        </writeHost>
    </dataHost>
</mycat:schema>
注意,这还没有完,就像我们访问MysqL时需要账户和密码,使用了mycay之后,客户端不再直接连接MysqL,而是连接mycat,所以还需要在server.xml配置文件中配置连接信息;

将该配置文件拉到最后,在下图的位置填写客户端连接信息,包括连接的账户和密码;

6、启动mycat

进入到bin目录下,使用下面的命令进行启动或停止

bin/mycat start(stop)

如何确认是否启动成功呢?可以在logs目录下检查下面的这个wrapper.log的l文件,出现下面的提示说明启动成功;

mycat 功能测试与验证
接下来测试下mycat配置是否生效,即是否能够按照预期的数据分片规则进行数据的分片;

1、使用navicat连接mycat

注意这里的端口号是:8066

连接上了之后,就可以看到里面给我们创建了一个DB01的逻辑库

2、在DB01下,创建一个表

执行下面的sql进行创建

CREATE TABLE TB_ORDER (
id BIGINT(20) NOT NULL,
title VARCHAR(100) NOT NULL ,
PRIMARY KEY (id)
)ENGINE=INNODB DEFAULT CHARSET=utf8 ;
创建成功之后,分别去3个数据库实例下,检查同样的表是否在3个db01的数据库下创建成功即可;

3、通过mycat的表,插入几条数据

INSERT INTO TB_ORDER(id,title) VALUES(1,'order01');
INSERT INTO TB_ORDER(id,title) VALUES(2,'order02');
INSERT INTO TB_ORDER(id,title) VALUES(3,'order03');

执行成功后,可以去3个库下检查下,最终发现在第一个MysqL的实例下的表中插入了数据,另外2个表未保存数据

为什么会出现上面的现象呢?还记得在上面的schema.xml文件中的下面这一处的配置吗?这就是mycat提供的配置规则,那就需要深入到 rule.xml配置文件中去深入探究,即在当前这种配置规则下,每个表只是分担了一定数量的数据,至于分片规则,后续将会继续深入探究。
 

(编辑:汽车网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章