牛逼!它比传统数据库快 100-1000,真不相信?
作者:起个帅的名链接:juejin.im/post/6863283398727860238
一、ClickHouse 是什么?
ClickHouse:是一个用于联机分析(OLAP)的列式数据库管理系统(DBMS)
通过ClickHouse实践,完美的解决了MySQL查询瓶颈,20亿行以下数据量级查询,90%都可以在1s内给到结果,随着数据量增加,ClickHouse同样也支持集群,大家如果感兴趣,可以积极尝试
我们首先理清一些基础概念
OLTP:是传统的关系型数据库,主要操作增删改查,强调事务一致性,比如银行系统、电商系统
OLAP:是仓库型数据库,主要是读取数据,做复杂数据分析,侧重技术决策支持,提供直观简单的结果
接着我们用图示,来理解一下列式数据库和行式数据库区别
在传统的行式数据库系统中(MySQL、Postgres和MS SQL Server),数据按如下顺序存储:
在列式数据库系统中(ClickHouse),数据按如下的顺序存储:
两者在存储方式上对比:
以上是ClickHouse基本介绍,更多可以查阅官方手册
二、业务问题
业务端现有存储在Mysql中,5000万数据量的大表及两个辅表,单次联表查询开销在3min+,执行效率极低。经过索引优化、水平分表、逻辑优化,成效较低,因此决定借助ClickHouse来解决此问题
最终通过优化,查询时间降低至1s内,查询效率提升200倍!
希望通过本文,可以帮助大家快速掌握这一利器,并能在实践中少走弯路。
三、ClickHouse实践
1.Mac下的Clickhouse安装
我是通过docker安装,也可以下载CK编译安装,相对麻烦一些。
docker安装
https://blog.csdn.net/qq_24993831/article/details/103715194
2.数据迁移:从Mysql到ClickHouse
ClickHouse支持Mysql大多数语法,迁移成本低,目前有五种迁移方案:
create table engin mysql,映射方案数据还是在Mysql
insert into select from,先建表,在导入
create table as select from,建表同时导入
csv离线导入
streamsets
选择第三种方案做数据迁移:
CREATE TABLE[IF NOT EXISTS][db.]table_name ENGINE=MergetreeAS SELECT*FROM mysql('host:port','db','database','user','password')
3.性能测试对比
类型 | 数据量 | 表大小 | 查询速度 |
---|---|---|---|
MySQL | 5000万 | 10G | 205s |
ClickHouse | 5000万 | 600MB | 1s内 |
4.数据同步方案
临时表
图片来源:携程 新建temp中间表,将Mysql数据全量同步到ClickHouse内temp表,再替换原ClickHouse中的表,适用数据量适度,增量和变量频繁的场景
synch
开源的同步软件推荐:synch 原理是通过Mysql的binlog日志,获取sql语句,再通过消息队列消费task
5.ClickHouse为什么快?
只需要读取要计算的列数据,而非行式的整行数据读取,降低IO cost
同列同类型,有十倍压缩提升,进一步降低IO
clickhouse根据不同存储场景,做个性化搜索算法
四、遇到的坑
1.ClickHouse与mysql数据类型差异性
用Mysql的语句查询,发现报错:
解决方案:LEFT JOIN B b ON toUInt32(h.id) = toUInt32(ec.post_id),中转一下,统一无符号类型关联
2.删除或更新是异步执行,只保证最终一致性
查询CK手册发现,即便对数据一致性支持最好的Mergetree,也只是保证最终一致性:
如果对数据一致性要求较高,推荐大家做全量同步来解决
五、总结
通过ClickHouse实践,完美的解决了Mysql查询瓶颈,20亿行以下数据量级查询,90%都可以在1s内给到结果,随着数据量增加,ClickHouse同样也支持集群,大家如果感兴趣,可以积极尝试 : )
关注微信公众号:互联网架构师,在后台回复:2T,可以获取我整理的教程,都是干货。
猜你喜欢
1、GitHub 标星 3.2w!史上最全技术人员面试手册!FackBoo发起和总结
2、如何才能成为优秀的架构师?
3、从零开始搭建创业公司后台技术栈
4、程序员一般可以从什么平台接私活?
5、37岁程序员被裁,120天没找到工作,无奈去小公司,结果懵了...
6、滴滴业务中台构建实践,首次曝光
7、不认命,从10年流水线工人,到谷歌上班的程序媛,一位湖南妹子的励志故事
8、15张图看懂瞎忙和高效的区别
9、2T架构师学习资料干货分享
牛逼!它比传统数据库快 100-1000,真不相信?相关推荐
- 为什么不用小驼峰也能查到数据库数据_牛逼!它比传统数据库快 100-1000,真不相信?...
一.ClickHouse 是什么?ClickHouse:是一个用于联机分析(OLAP)的列式数据库管理系统(DBMS) 通过ClickHouse实践,完美的解决了MySQL查询瓶颈,20亿行以下数据量 ...
- 比MySQL小的数据库_牛x!一个比传统数据库快 100-1000 倍的数据库!
原标题:牛x!一个比传统数据库快 100-1000 倍的数据库! 一.ClickHouse 是什么? 二.业务问题 三.ClickHouse实践 四.遇到的坑 五.总结 一.ClickHouse 是什 ...
- 超牛逼!这款开源性能监控系统真强大~
点击关注公众号,回复"1024"获取2TB学习资源! 当网站上线后,流量增加或短暂功能故障,都会造成使用者体验相当不好,而这时该怎么快速找到性能的瓶颈呢?通常 CPU 达到 100 ...
- 什么数据库比mysql效率高_牛x!一款比传统数据库快 100-1000 倍的数据库,来认识一下?...
一.ClickHouse 是什么? 二.业务问题 三.ClickHouse实践 四.遇到的坑 五.总结 一.ClickHouse 是什么?ClickHouse:是一个用于联机分析(OLAP)的列式数据 ...
- 牛X | 一款比传统数据库快100-1000倍的数据库,认识一下
这是小小本周的第五篇 核酸检测 小小马上都要回学校考英语四级了,学校要求考英语四级的时候,需要做核算检测,这不,小小从小窝出发去做核算检测了.到北京佑安医院做核酸检测. 规划路线 小小规划路线中 启程 ...
- 牛x!一款比传统数据库快 100-1000 倍的数据库,来认识一下?
一.ClickHouse 是什么? 二.业务问题 三.ClickHouse实践 四.遇到的坑 五.总结 一.ClickHouse 是什么? ClickHouse:是一个用于联机分析(OLAP)的列式数 ...
- 一个比传统数据库快 100-1000 倍的数据库
作者 | 起个帅的名 来源 | https://juejin.im/post/6863283398727860238 一.ClickHouse 是什么? ClickHouse:是一个用于联机分析(OL ...
- 真牛逼!玻璃大王曹德旺捐资100亿办大学!这才是人才!
导读 100亿投资,福建省迎来第一个"新型大学". 办学资金,来自生长于福建,在福建发家致富的"玻璃大王"曹德旺. 而且,这是一所瞄准国内新兴产业急缺人才的&q ...
- lsdyna如何设置set中的node_list_牛逼~新来的同事,100 页Word页眉页脚设置只需5秒!成功征服老板!...
老板让你设置文档的页眉页脚或删除页眉页脚,结果你花了半天时间才搞定,而且稍微有修改就需要重新来过,而新来的同事,却可以轻松搞定,怎么回事呢?那是因为你不知道这2个高效操作技巧,下面跟着Word妹一同来 ...
- 成都有哪些牛逼的互联网公司
以前 Java后端 收集过 武汉 上海的 今天是成都的 武汉有哪些牛逼的互联网公司? 上海有哪些牛逼的互联网公司? 天府三街与天府软件园A.B区交汇处 今天我们一起来看看成都有哪些互联网公司,如果有遗 ...
最新文章
- SQL Server日志清除的两种方法 .
- Maven使用笔记(四)pom.xml配置详解
- CCD和CMOS摄像头成像原理以及其他区别
- 吞吐性能翻倍!搭载了第三代Tensor Core的A100是怎么做到的?
- 发力金融市场,中兴通讯有何硬实力?
- 2022MathorCup高校数模挑战赛D题思路
- arcgis 实验教程 第二章 ArcCatalog 简单操作--创建自己独特的工具箱
- java中求平均数怎么写,java求平均数函数
- 最全SysML 教程
- ä¸æä¹±ç
- Java实现家庭收支记账软件
- canvas画圆和线条动画
- 我xp电脑桌面没有计算机图标不见了,XP电脑开机后桌面图标打开方式全部不见的恢复方法...
- Android 高斯模糊效果从319ms到3ms的优化实现
- linux shell tr命令,shell脚本中的tr用法
- SpringBoot——JPA的使用、构建restful风格的JPA
- 词霸天下---词根234【-zo(o)- 动 物】
- 金蝶首席用户体验官对“用户体验”的思考
- Rust中结构体的定义和实例化
- 文件加载时报错:ValueError
热门文章
- C# ref,out
- EH使用IPMI基础操作
- 狗汪汪玩转无线电 -- GPS Hacking (上)
- Debian 8 Jessie desktop on arm
- (宇哥云端)互联网+
- 控制器不存在CategoryController does not exist
- [FATAL] [DBT-10317] Specified SID Name (lhr122) already exists.
- Hyper-V -- Windows 2008r2虚拟化高可用群集
- django连接mysql自动同步生成数据表
- 【Nginx】上传文件的大小限制