RocketMQ(一)RocketMQ介绍及核心概念
目录
一、概述
二、核心概念
一、概述
消息中间件是分布式系统中重要的组件,主要解决应用解耦,异步消息,流量削锋等问题,实现高性能,高可用,可伸缩和最终一致性架构。目前使用较多的消息队列有ActiveMQ,RabbitMQ,Kafka,RocketMQ等。从这篇文章开始,将会通过几篇文章系统学习下RocketMQ。
笔者之前也对RabbitMQ有过一些总结,感兴趣的朋友可通过https://blog.csdn.net/weixiaohuai/category_9058461.html?spm=1001.2014.3001.5482进行扩展阅读。
RocketMQ是一个队列模型的消息中间件,具有高性能、高可靠、高实时、分布式特点。由阿里巴巴研发,借鉴参考了JMS规范的MQ实现,更参考了优秀的开源消息中间件Kafka,并且结合阿里实际业务需求,在天猫双十一的场景,实现业务削峰,分布式事务的优秀框架。
RocketMQ官网地址:https://github.com/apache/rocketmq
Producer 向一些队列轮流发送消息,队列集合称为 Topic,Consumer 如果做广播消费,则一个 consumer 实例消费这个 Topic 对应的所有队列,如果做集群消费,则多个 Consumer 实例平均消费这个 topic 对应的队列集合。
下面介绍一下RocketMQ的一些特性:
- 具有高性能、高可靠、高实时、分布式( Producer、Consumer、队列都可以分布式 )特点;
- 底层采用Netty NIO框架实现数据通信;
- 内部使用更轻量级的NameServer进行网络路由,提高服务性能,并支持消息失败重试机制;
- 支持集群模式、消费者负载均衡、水平扩展能力,支持广播模式;
- 采用零拷贝原理,顺序写盘、支持亿级消息堆积能力;
- 提供丰富的消息机制,比如顺序消息、事务消息;
二、核心概念
在正式进入RocketMQ的学习之前,有必要熟悉一下RocketMQ核心概念,为后面学习RocketMQ打下基础。
- (一)、消息模型(Message Model)
RocketMQ主要由 Producer、Broker、Consumer 三部分组成,其中Producer 负责生产消息,Consumer 负责消费消息,Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器,每个 Broker 可以存储多个Topic的消息,每个Topic的消息也可以分片存储于不同的 Broker。Message Queue 用于存储消息的物理地址,每个Topic中的消息地址存储于多个 Message Queue 中。ConsumerGroup 由多个Consumer 实例构成。
- (二)、消息生产者(Producer)
Producer负责生产消息,一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式,同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息,单向发送不需要。
- (三)、消息消费者(Consumer)
Consumer负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式:拉取式消费(Pull方式)、推动式消费(Push方式)。
- 拉取式消费:应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控制。一旦获取了批量消息,应用就会启动消费过程。
- 推动式消费:Broker收到数据后会主动推送给消费端,该消费模式一般实时性较高。
- (四)、消息(Message)
Message其实就是要发送的信息内容,生产和消费数据的最小单位,每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID,且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。
- (五)、主题(Topic)
表示一类消息的集合,每个主题包含若干条消息,每条消息只能属于一个主题,是RocketMQ进行消息订阅的基本单位。
Topic可以理解为对消息的分类,或者打标签。Topic与Message之间的关系是一对多的关系,即一个Topic可以有多个Message,但是一个Message只能属于一个Topic。
- (六)、标签(Tag)
为消息设置的标志,用于同一主题下区分不同类型的消息。来自同一业务单元的消息,可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性,并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑,实现更好的扩展性。
可以简单理解为:Topic主题是消息的大分类,而标签Tag则是大分类下的小分类。
- (七)、代理服务器(Broker Server)
消息存储服务器,同时也是消息中转角色,负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据,包括消费者组、消费进度偏移和主题和队列消息等。
Broker分为两种角色:Master与Slave。主服务Master承担读写操作,从服务器Slave作为一个备份。所有Broker,包含Slave服务器每隔30s会向Nameserver发送心跳包,心跳包中会包含存在于Broker上所有的topic的路由信息。
- (八)、名字服务(Name Server)
NameServer是Topic的路由注册中心,为客户端根据Topic提供路由服务,从而引导客户端向Broker发送消息。生产者或消费者能够通过NameServer查找各主题相应的Broker的IP列表。
多个NameServer实例组成集群,但相互独立,它们之间没有信息交换。
- (九)、生产者组(Producer Group)
同一类Producer的集合,这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃,则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。
- (十)、消费者组(Consumer Group)
同一类Consumer的集合,这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面,实现负载均衡和容错的目标变得非常容易。要注意的是,消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式:集群消费(Clustering)和广播消费(Broadcasting)。
- 集群消费(Clustering):集群消费模式下,相同Consumer Group的每个Consumer实例平均分摊消息。
例如某个Topic有10条消息,然后存在两个Consumer Group,其中一个Consumer Group有3个实例(可能是3个进程或3台机器),另外一个Consumer Group有2个实例(可能是2个进程或2台机器),那么MQ会将负载均衡分给两个Consumer Group,一个5条。那么Consumer Group A会有5条消息,B也有5条。A有三个Consumer,再进行负载均衡,那么可能会是2,2,1这样进行分配消费。B有两个Consumer,那么可能是3,2这样进行分配消费。
RocketMQ天然支持消费者负载均衡,并且负载均衡不仅仅局限于消费者,还有消费者组的负载均衡。集群模式是非常普遍的模式,符合分布式架构的基本理念,即横向扩容,当前消费者如果无法快速及时处理消息时,可以通过增加消费者的个数横向扩容,快速提高消费能力,及时处理挤压的消息。
- 广播消费(Broadcasting):广播消费模式下,相同Consumer Group的每个Consumer实例都接收全量的消息。
例如某个Topic有一条消息,其中一个Consumer Group有3个实例(可能是3个进程或3台机器),另外一个Consumer Group有2个实例(可能是2个进程或2台机器),广播消费的话,消息会被Consumer Group中的每个Consumer都消费一次,即每个实例都会消费这条消息。如下图所示:
生产者、消费者与Topic主题之间的关系是,一个Topic可以由多个生产者发送消息,反过来一个生产者也可以发送多个Topic消息。一个Topic可以由多个消费者消费,反过来一个消费者可以消费多个Topic消息。
面试被问为什么选择RocketMQ作为你们项目中的消息中间件?可以从下面几点进行回答:
- 1. RocketMQ集群无单点,可扩展,任意一点高可用,水平可扩展;
- 2. 支持海量消息堆积能力,消息堆积后,写入低延迟;
- 3. 支持上万个队列(与ActiveMQ进行对比);
- 4. 支持消息失败重试机制;
- 5. 消息可查询;
- 6. 开源社区活跃;
- 7. 成熟度(经过双十一考验);
RocketMQ(一)RocketMQ介绍及核心概念相关推荐
- ShardingSphere基本介绍及核心概念
文章目录 关于分库分表 背景描述 遇到的问题 如何解决 垂直拆分 水平拆分(数据分片) ShardingSphere介绍 Sharding-JDBC Sharding-JDBC主要功能: Shardi ...
- 从入门到入土(十)RocketMQ集群流程以及核心概念
精彩推荐 一百期Java面试题汇总 SpringBoot内容聚合 IntelliJ IDEA内容聚合 Mybatis内容聚合 接上一篇:从入门到入土(九)手摸手教你搭建RocketMQ双主双从同步集群 ...
- [k8s] 第一章 十分钟带你理解Kubernetes核心概念
本章节主要介绍应用程序在服务器上部署方式演变以及kubernetes的概念.组件和工作原理. 应用部署方式演变 在部署应用程序的方式上,主要经历了三个时代: 传统部署:互联网早期,会直接将应用程序部署 ...
- 十分钟带你理解Kubernetes核心概念
原文地址:http://www.dockone.io/article/932 十分钟带你理解Kubernetes核心概念 本文将会简单介绍Kubernetes的核心概念.因为这些定义可以在Kubern ...
- rocketmq 顺序消费_RocketMQ核心概念扫盲
在正式进入RocketMQ的学习之前,我觉得有必要梳理一下RocketMQ核心概念,为大家学习RocketMQ打下牢固的基础. 1.RocketMQ部署架构 在RocketMQ主要的组件如下: Nam ...
- RocketMQ简介及核心概念说明
1.1.RocketMQ简介 Apache RocketMQ是一个采用Java语言开发的分布式的消息系统,由阿里巴巴团队开发,与2016年底贡献给 Apache,成为了Apache的一个顶级项目. 在 ...
- RocketMQ_01 RocketMQ入门简介及核心概念
RocketMQ_01 RocketMQ入门简介及核心概念 伟大的事物不是一时冲动做起来的,而是由一系列小事共同造就的 一.RocketMQ简介 RocketMQ是一款分布式.列队模型的消息中间件,由 ...
- RocketMQ的组织架构和基本概念,Dledger高可用集群架构原理
文章目录 1. MQ产品介绍 2. rocketMQ组织架构 ①:NameServer ②:Broker ③:生产者(Producer) ④:消费者(Consumer) ⑤:主题(Topic) ⑥:消 ...
- rocketmq框架详细介绍
文章目录 消息队列 应用场景 rocketmq 为什么选择RocketMQ消息队列 RocketMQ所拥有的功能 rocketmq应用场景 应用解耦 流量削峰 数据分发 异步处理 日志处理 顺序消息 ...
- cocos2d-x一些核心概念介绍
cocos2d-x一些核心概念介绍 Cocos2d-x中有很多概念,这些概念很多来源于动画.动漫和电影等行业,例如:导演.场景和层等概念,当然也有些有传统的游戏的概念.Cocos2d-x中核心概念:导 ...
最新文章
- ceph 部署单机集群
- tensorflow的axis理解
- Java 理论与实践: 修复 Java 内存模型,第 2 部分 (VOLATILE, FINA...
- 字节博士搞的AI火了,一键完美分离人声和伴奏 | 在线可玩
- CUR分解算法及Python实现
- python暂停和恢复游戏_pygame游戏之旅 添加游戏暂停功能
- 随想录(学习消费类soc芯片)
- c 语言 循环判断语句,C值循环语句(七)
- linux命令界面输入不了密码,如何在 Linux 中不输入密码运行 sudo 命令
- 2013 Multi-University Training Contest 1
- 什么是AOP(通俗易懂)
- 财会法规与职业道德【8】
- 使用Android拨打电话功能
- 复无法自动修复此计算机,win10自动修复而且无法重置
- CPU、操作系统的32位与64位
- OA厂商在行业市场中如何“长生”?
- 11款最受欢迎的亚马逊卖家工具
- Axure RP使用攻略--入门级(二)线框图元件
- spring源码分析01-(前期准备)spring核心原理解析和手写简易spring
- DON'T MAKE THINK 点石成金 访客至上的Web和移动可用性设计秘笈
热门文章
- centos如何界面操作mysql_【mysql】centos7下mysql的安装以及基本操作
- 语言百马百担求马匹数_C语言经典编程题(下)
- DRL实战 : 强化学习在广告点击业务中的应用
- 307.区域和检索-数组可修改
- python实现连接池技术
- mysql恢复备份快照_MySQL备份恢复:磁盘LVM快照
- 译林 五年级上 单词_译林版小学英语五上Unit 4 HobbiesStory time公开课优质课件教案视频教案...
- 现代通信原理5.1:信号的希尔伯特变换
- -------------分割线-------
- android studio for android learning (十四) android的数据的存储sharedPreferences