阅识风云是华为云信息大咖,擅长将复杂信息多元化呈现,其出品的一张图(云图说)、深入浅出的博文(云小课)或短视频(云视厅)总有一款能让您快速上手华为云。更多精彩内容请单击此处。

摘要:在2016年开源的高性能、开源联机分析列式数据库管理系统。其数据压缩比高,基于多核并行计算、向量化执行与SIMD,在性能上表现卓越。当前ClickHouse被广泛的应用于互联网广告、App和Web流量、电信、金融、物联网等众多领域,非常适用于商业智能化应用场景,在国内外有大量的应用和实践。

本文分享自华为云社区《【云小课】EI第22课 MRS基础原理之ClickHouse组件介绍》,作者:阅识风云

ClickHouse是一款开源的面向联机分析处理的列式数据库,其独立于Hadoop大数据体系,最核心的特点是极致压缩率和极速查询性能。同时,ClickHouse支持SQL查询,且查询性能好,特别是基于大宽表的聚合分析查询性能非常优异,比其他分析型数据库速度快一个数量级。当前ClickHouse被广泛的应用于互联网广告、App和Web流量、电信、金融、物联网等众多领域,非常适用于商业智能化应用场景,在国内外有大量的应用和实践。

ClickHouse关键特性介绍

完备的DBMS功能

ClickHouse拥有完备的数据库管理功能,具备一个DBMS(Database Management System,数据库管理系统)基本的功能,如下所示:

DDL (数据定义语言):可以动态地创建、修改或删除数据库、表和视图,而无须重启服务。

DML(数据操作语言):可以动态查询、插入、修改或删除数据。

权限控制:可以按照用户粒度设置数据库或者表的操作权限,保障数据的安全性。

数据备份与恢复:提供了数据备份导出与导入恢复机制,满足生产环境的要求。

分布式管理:提供集群模式,能够自动管理多个数据库节点。

列式存储与数据压缩

ClickHouse是一款使用列式存储的数据库,数据按列进行组织,属于同一列的数据会被保存在一起,列与列之间也会由不同的文件分别保存。

在执行数据查询时,列式存储可以减少数据扫描范围和数据传输时的大小,提高了数据查询的效率。

向量化执行引擎

ClickHouse利用CPU的SIMD指令实现了向量化执行。SIMD的全称是Single Instruction Multiple Data,即用单条指令操作多条数据,通过数据并行以提高性能的一种实现方式 ( 其他的还有指令级并行和线程级并行 ),它的原理是在CPU寄存器层面实现数据的并行操作,相比同类OLAP产品执行效率更高。

副本机制

ClickHouse利用ZooKeeper,通过ReplicatedMergeTree引擎(Replicated 系列引擎)实现了副本机制。副本机制是多主架构,可以将INSERT语句发送给任意一个副本,其余副本会进行数据的异步复制。

副本机制功能优势如下:

ClickHouse副本机制的设计可以最大限度的减少网络数据传输,用以在不同的数据中心进行同步,可以用来建设多数据中心、异地多活的集群架构。

副本机制是实现高可用、负载均衡、迁移/升级功能的基础。

系统会监视副本数据的同步情况,识别故障节点,并在节点恢复正常时进行故障恢复,保证服务整体高可用。

数据分片与分布式查询

ClickHouse通过分片和分布式表机制提供了线性扩展的能力。

分片机制:用来解决单节点的性能瓶颈,通过将数据进行水平切分,将一张表中的数据拆分到多个节点,不同节点之间的数据没有重复,这样就可以通过增加分片对ClickHouse进行线性扩展。

分布式表:在查询分片的数据时,通过分布式表进行查询,分布式表引擎自身不存储任何数据,仅是一层代理,能够自动路由到集群中的各个分片节点获取数据,即分布式表需要和其他数据表一起协同工作。

如下图所示,在查询时,我们需要查询分布式表 table_distributed,分布式表会将查询请求自动路由到各个分片节点上,并进行结果的汇聚。

讲了这么多,具体怎么使用ClickHouse呢?别急,以下通过ClickHouse客户端使用和数据库基本操作带你快速上手。

操作前准备

  • 已创建ClickHouse集群。
  • 已安装ClickHouse客户端。

ClickHouse客户端使用

1. 以客户端安装用户,登录安装客户端的节点。

2. 执行以下命令,切换到客户端安装目录。以下目录为举例,具体客户端路径请以实际安装路径为准。

cd /opt/Bigdata/client

3. 执行以下命令配置环境变量。

source bigdata_env

4.执行ClickHouse组件的客户端命令。

clickhouse client --host ClickHouse的实例IP --user 登录名 --password 密码 --port ClickHouse的端口号

clickhouse client命令行参数说明如下表所示:

ClickHouse数据库基本操作

创建数据库:

基本语法

CREATE DATABASE [IF NOT EXISTS] database_name

使用示例

创建表:

基本语法

方法一:在指定的“database_name”数据库中创建一个名为“table_name ”的表。

如果建表语句中没有包含“database_name”,则默认使用客户端登录时选择的数据库作为database_name”。

CREATE TABLE [IF NOT EXISTS] [database_name.]table_name [ON CLUSTER Cluster名]

(

name1 [type1] [DEFAULT|materialized|ALIAS expr1],

name2 [type2] [DEFAULT|materialized|ALIAS expr2],

...

ENGINE = engine

方法二:创建一个与table_name2具有相同结构的表,同时可以对其指定不同的表引擎声明。

如果没有表引擎声明,则创建的表将与database_name2.table_name2使用相同的表引擎。

CREATE TABLE [IF NOT EXISTS] [database_name.]table_name AS [database_name2.]table_name2 [ENGINE = engine]

方法三:使用指定的引擎创建一个与SELECT子句的结果具有相同结构的表,并使用SELECT子句的结果填充它。

CREATE TABLE [IF NOT EXISTS] [database_name.]table_name ENGINE = engine AS SELECT ...

使用示例

插入表数据:

基本语法

方法一:标准格式插入数据。

INSERT INTO [database_name.]table [(c1, c2, c3)] VALUES (v11, v12, v13), (v21, v22, v23), ...

方法二:使用SELECT的结果写入。

INSERT INTO [database_name.]table [(c1, c2, c3)] SELECT ...

使用示例

查询表数据:

基本语法

SELECT [DISTINCT] expr_list

[FROM [database_name.]table | (subquery) | table_function] [FINAL]

[SAMPLE sample_coeff]

[ARRAY JOIN ...]

[GLOBAL] [ANY|ALL|ASOF] [INNER|LEFT|RIGHT|FULL|CROSS] [OUTER|SEMI|ANTI] JOIN (subquery)|table (ON <expr_list>)|(USING <column_list>)

[PREWHERE expr]

[WHERE expr]

[GROUP BY expr_list] [WITH TOTALS]

[HAVING expr]

[ORDER BY expr_list] [WITH FILL] [FROM expr] [TO expr] [STEP expr]

[LIMIT [offset_value, ]n BY columns]

[LIMIT [n, ]m] [WITH TIES]

[UNION ALL ...]

[INTO OUTFILE filename]

[FORMAT format]

使用示例

修改表结构:

基本语法

ALTER TABLE [database_name].name [ON CLUSTER cluster] ADD|DROP|CLEAR|COMMENT|MODIFY COLUMN ...

ALTER仅支持 *MergeTree ,Merge以及Distributed等引擎表。

使用示例

显示数据库和表信息

基本语法

show databases

show tables

使用示例

查询表结构

基本语法

DESC|DESCRIBE TABLE [database_name.]table [INTO OUTFILE filename] [FORMAT format]

使用示例

删除表:

基本语法

DROP [TEMPORARY] TABLE [IF EXISTS] [database_name.]name [ON CLUSTER cluster]

使用示例

好了,本期云小课就介绍到这里,快去体验MapReduce(MRS)更多功能吧!猛戳这里

点击关注,第一时间了解华为云新鲜技术~

云小课|MRS基础原理之ClickHouse组件介绍相关推荐

  1. 云小课 | MRS基础入门之HDFS组件介绍

    摘要:HDFS是MapReduce服务中的基础文件系统,全称为Hadoop的分布式文件系统(Hadoop Distributed File System),可支持实现大规模数据可靠的分布式读写. 本文 ...

  2. 云小课 | MRS和自建Hadoop相比,有哪些优势?

    大数据时代企业要发展就必须进行数字化转型,要完成转型,企业需要利用大数据技术打破现有数据孤岛,构建数据分析和运营能力,才能达到降本增效.企业构建大数据平台时会面临如下两种选择:一种是大量购买机器及Ha ...

  3. 【云小课】基础服务第25课 容灾演练:平时多练兵,急时保可用!

    摘要:在不影响业务的情况下,通过容灾演练,模拟真实故障恢复场景,制定应急恢复预案,检验容灾方案的适用性.有效性.当真实故障发生时,通过预案快速恢复,提高业务连续性. 在第十七课配置云服务器跨可用区容灾 ...

  4. 云小课|MRS基础原理之MapReduce介绍

    阅识风云是华为云信息大咖,擅长将复杂信息多元化呈现,其出品的一张图(云图说).深入浅出的博文(云小课)或短视频(云视厅)总有一款能让您快速上手华为云.更多精彩内容请单击此处. 摘要:MapReduce ...

  5. 云小课|MRS基础原理之Hudi介绍

    阅识风云是华为云信息大咖,擅长将复杂信息多元化呈现,其出品的一张图(云图说).深入浅出的博文(云小课)或短视频(云视厅)总有一款能让您快速上手华为云.更多精彩内容请单击此处. 摘要:Hudi是数据湖的 ...

  6. 云小课|MRS基础原理之CarbonData入门

    阅识风云是华为云信息大咖,擅长将复杂信息多元化呈现,其出品的一张图(云图说).深入浅出的博文(云小课)或短视频(云视厅)总有一款能让您快速上手华为云.更多精彩内容请单击此处. 摘要:CarbonDat ...

  7. 云小课|网络好不好,ping一下就知道

    摘要:在测试和部署网络通信应用时,我们经常会遇到网络不通的问题,一般都会想到ping一下.本文将带您了解ping命令的作用和原理~ 在测试和部署网络通信应用时,我们经常会遇到网络不通的问题.一般都会想 ...

  8. 【云小课合集】华为云小课最全合集来了,让您上云无忧

    [摘要] 云小课为您精挑华为云服务热门知识点,通过浅显易懂的图文描述,帮助您快速上手使用华为云. 类别 服务名 云小课链接 计算 弹性云服务器 [云小课]基础服务第1课   我该怎么选择云主机的规格? ...

  9. 云小课|VMware备份上云学习专列来了,快加入吧~

    阅识风云是华为云信息大咖,擅长将复杂信息多元化呈现,其出品的一张图(云图说).深入浅出的博文(云小课)或短视频(云视厅)总有一款能让您快速上手华为云.更多精彩内容请单击此处. 摘要:华为云云备份CBR ...

最新文章

  1. 推断股票强弱最有效的一个方法
  2. JZOJ 5379. 【NOIP2017提高A组模拟9.21】Victor爱数字
  3. Python Django 自定义Manager(重写父类方法实现自定义逻辑)
  4. mybatis配置文件不在resources目录下时需进行的额外配置方法
  5. 要成为年薪五十万的数据分析师,除了技术还需要什么?
  6. JS对象的属性名规则
  7. arcgis地图服务之 identify 服务
  8. 看到的一个很不错的分析LCA和RMQ的文章(转载,先收着)
  9. 清除zencart分类页多页后面的disp_order sort字符串的方法
  10. 产品原型工具 AXURE9 Mac汉化
  11. js分割字符串变成数组
  12. 3.25万颗!真正前装上车的激光雷达供应商有哪几家?
  13. 云原生GIS技术全解读
  14. Unity 登录Ios GameCenter
  15. JAVA JNI调用科大讯飞离线语音合成(Linux篇)
  16. Pycharm debug崩溃、长时间不响应 解决
  17. Colored Rectangles【简单DP】
  18. Android RxJava应用:优雅实现网络请求轮询(无条件)
  19. 关于5G无人机的最强科普
  20. DW卷积、PW卷积、转置卷积、膨胀卷积(空洞卷积)、可变形卷积一次看个够

热门文章

  1. 插槽的使用_思维导图
  2. 如何在java中实现线程_用代码说话:如何在Java中实现线程
  3. python创建多个文件_Python创建文件夹与文件的快捷方法
  4. 计算机网络常见的无线传输有,第八讲 计算机网络基础.doc
  5. 远程服务器登入信息,远程登录服务器查看信息
  6. DJango周总结二:模型层,单表,多表操作,连表操作,数据库操作,事务
  7. postgresql explain的初步分析
  8. python tab补全
  9. 【解决方案】Android图片加载中drawable等图片资源报错,提示找不到该资源
  10. java中throws和throw的区别和用法