目录

一、概述

二、核心概念

一、概述

消息中间件是分布式系统中重要的组件,主要解决应用解耦,异步消息,流量削锋等问题,实现高性能,高可用,可伸缩和最终一致性架构。目前使用较多的消息队列有ActiveMQ,RabbitMQ,Kafka,RocketMQ等。从这篇文章开始,将会通过几篇文章系统学习下RocketMQ。

笔者之前也对RabbitMQ有过一些总结,感兴趣的朋友可通过https://blog.csdn.net/weixiaohuai/category_9058461.html?spm=1001.2014.3001.5482进行扩展阅读。

RocketMQ是一个队列模型的消息中间件,具有高性能、高可靠、高实时、分布式特点。由阿里巴巴研发,借鉴参考了JMS规范的MQ实现,更参考了优秀的开源消息中间件Kafka,并且结合阿里实际业务需求,在天猫双十一的场景,实现业务削峰,分布式事务的优秀框架。

RocketMQ官网地址:https://github.com/apache/rocketmq

Producer 向一些队列轮流发送消息,队列集合称为 Topic,Consumer 如果做广播消费,则一个 consumer 实例消费这个 Topic 对应的所有队列,如果做集群消费,则多个 Consumer 实例平均消费这个 topic 对应的队列集合。

下面介绍一下RocketMQ的一些特性:

  • 具有高性能、高可靠、高实时、分布式( Producer、Consumer、队列都可以分布式 )特点;
  • 底层采用Netty NIO框架实现数据通信; 
  • 内部使用更轻量级的NameServer进行网络路由,提高服务性能,并支持消息失败重试机制;
  • 支持集群模式、消费者负载均衡、水平扩展能力,支持广播模式;
  • 采用零拷贝原理,顺序写盘、支持亿级消息堆积能力;
  • 提供丰富的消息机制,比如顺序消息、事务消息;

二、核心概念

在正式进入RocketMQ的学习之前,有必要熟悉一下RocketMQ核心概念,为后面学习RocketMQ打下基础。

  • (一)、消息模型(Message Model)

RocketMQ主要由 Producer、Broker、Consumer 三部分组成,其中Producer 负责生产消息,Consumer 负责消费消息,Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器,每个 Broker 可以存储多个Topic的消息,每个Topic的消息也可以分片存储于不同的 Broker。Message Queue 用于存储消息的物理地址,每个Topic中的消息地址存储于多个 Message Queue 中。ConsumerGroup 由多个Consumer 实例构成。

  • (二)、消息生产者(Producer)

Producer负责生产消息,一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式,同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息,单向发送不需要。

  • (三)、消息消费者(Consumer)

Consumer负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式:拉取式消费(Pull方式)、推动式消费(Push方式)。

  1. 拉取式消费:应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控制。一旦获取了批量消息,应用就会启动消费过程。
  2. 推动式消费:Broker收到数据后会主动推送给消费端,该消费模式一般实时性较高。
  • (四)、消息(Message)

Message其实就是要发送的信息内容,生产和消费数据的最小单位,每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID,且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。

  • (五)、主题(Topic)

表示一类消息的集合,每个主题包含若干条消息,每条消息只能属于一个主题,是RocketMQ进行消息订阅的基本单位。

Topic可以理解为对消息的分类,或者打标签。Topic与Message之间的关系是一对多的关系,即一个Topic可以有多个Message,但是一个Message只能属于一个Topic。

  • (六)、标签(Tag)

为消息设置的标志,用于同一主题下区分不同类型的消息。来自同一业务单元的消息,可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性,并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑,实现更好的扩展性。

可以简单理解为:Topic主题是消息的大分类,而标签Tag则是大分类下的小分类。

  • (七)、代理服务器(Broker Server)

消息存储服务器,同时也是消息中转角色,负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据,包括消费者组、消费进度偏移和主题和队列消息等。

Broker分为两种角色:Master与Slave。主服务Master承担读写操作,从服务器Slave作为一个备份。所有Broker,包含Slave服务器每隔30s会向Nameserver发送心跳包,心跳包中会包含存在于Broker上所有的topic的路由信息。

  • (八)、名字服务(Name Server)

NameServer是Topic的路由注册中心,为客户端根据Topic提供路由服务,从而引导客户端向Broker发送消息。生产者或消费者能够通过NameServer查找各主题相应的Broker的IP列表。

多个NameServer实例组成集群,但相互独立,它们之间没有信息交换。

  • (九)、生产者组(Producer Group)

同一类Producer的集合,这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃,则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。

  • (十)、消费者组(Consumer Group)

同一类Consumer的集合,这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面,实现负载均衡和容错的目标变得非常容易。要注意的是,消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式:集群消费(Clustering)和广播消费(Broadcasting)。

  • 集群消费(Clustering):集群消费模式下,相同Consumer Group的每个Consumer实例平均分摊消息。

例如某个Topic有10条消息,然后存在两个Consumer Group,其中一个Consumer Group有3个实例(可能是3个进程或3台机器),另外一个Consumer Group有2个实例(可能是2个进程或2台机器),那么MQ会将负载均衡分给两个Consumer Group,一个5条。那么Consumer Group A会有5条消息,B也有5条。A有三个Consumer,再进行负载均衡,那么可能会是2,2,1这样进行分配消费。B有两个Consumer,那么可能是3,2这样进行分配消费。

RocketMQ天然支持消费者负载均衡,并且负载均衡不仅仅局限于消费者,还有消费者组的负载均衡。集群模式是非常普遍的模式,符合分布式架构的基本理念,即横向扩容,当前消费者如果无法快速及时处理消息时,可以通过增加消费者的个数横向扩容,快速提高消费能力,及时处理挤压的消息。

  • 广播消费(Broadcasting):广播消费模式下,相同Consumer Group的每个Consumer实例都接收全量的消息。

例如某个Topic有一条消息,其中一个Consumer Group有3个实例(可能是3个进程或3台机器),另外一个Consumer Group有2个实例(可能是2个进程或2台机器),广播消费的话,消息会被Consumer Group中的每个Consumer都消费一次,即每个实例都会消费这条消息。如下图所示:

生产者、消费者与Topic主题之间的关系是,一个Topic可以由多个生产者发送消息,反过来一个生产者也可以发送多个Topic消息。一个Topic可以由多个消费者消费,反过来一个消费者可以消费多个Topic消息。

面试被问为什么选择RocketMQ作为你们项目中的消息中间件?可以从下面几点进行回答:

  • 1. RocketMQ集群无单点,可扩展,任意一点高可用,水平可扩展;
  • 2. 支持海量消息堆积能力,消息堆积后,写入低延迟;
  • 3. 支持上万个队列(与ActiveMQ进行对比);
  • 4. 支持消息失败重试机制;
  • 5. 消息可查询;
  • 6. 开源社区活跃;
  • 7. 成熟度(经过双十一考验);

RocketMQ(一)RocketMQ介绍及核心概念相关推荐

  1. ShardingSphere基本介绍及核心概念

    文章目录 关于分库分表 背景描述 遇到的问题 如何解决 垂直拆分 水平拆分(数据分片) ShardingSphere介绍 Sharding-JDBC Sharding-JDBC主要功能: Shardi ...

  2. 从入门到入土(十)RocketMQ集群流程以及核心概念

    精彩推荐 一百期Java面试题汇总 SpringBoot内容聚合 IntelliJ IDEA内容聚合 Mybatis内容聚合 接上一篇:从入门到入土(九)手摸手教你搭建RocketMQ双主双从同步集群 ...

  3. [k8s] 第一章 十分钟带你理解Kubernetes核心概念

    本章节主要介绍应用程序在服务器上部署方式演变以及kubernetes的概念.组件和工作原理. 应用部署方式演变 在部署应用程序的方式上,主要经历了三个时代: 传统部署:互联网早期,会直接将应用程序部署 ...

  4. 十分钟带你理解Kubernetes核心概念

    原文地址:http://www.dockone.io/article/932 十分钟带你理解Kubernetes核心概念 本文将会简单介绍Kubernetes的核心概念.因为这些定义可以在Kubern ...

  5. rocketmq 顺序消费_RocketMQ核心概念扫盲

    在正式进入RocketMQ的学习之前,我觉得有必要梳理一下RocketMQ核心概念,为大家学习RocketMQ打下牢固的基础. 1.RocketMQ部署架构 在RocketMQ主要的组件如下: Nam ...

  6. RocketMQ简介及核心概念说明

    1.1.RocketMQ简介 Apache RocketMQ是一个采用Java语言开发的分布式的消息系统,由阿里巴巴团队开发,与2016年底贡献给 Apache,成为了Apache的一个顶级项目. 在 ...

  7. RocketMQ_01 RocketMQ入门简介及核心概念

    RocketMQ_01 RocketMQ入门简介及核心概念 伟大的事物不是一时冲动做起来的,而是由一系列小事共同造就的 一.RocketMQ简介 RocketMQ是一款分布式.列队模型的消息中间件,由 ...

  8. RocketMQ的组织架构和基本概念,Dledger高可用集群架构原理

    文章目录 1. MQ产品介绍 2. rocketMQ组织架构 ①:NameServer ②:Broker ③:生产者(Producer) ④:消费者(Consumer) ⑤:主题(Topic) ⑥:消 ...

  9. rocketmq框架详细介绍

    文章目录 消息队列 应用场景 rocketmq 为什么选择RocketMQ消息队列 RocketMQ所拥有的功能 rocketmq应用场景 应用解耦 流量削峰 数据分发 异步处理 日志处理 顺序消息 ...

  10. cocos2d-x一些核心概念介绍

    cocos2d-x一些核心概念介绍 Cocos2d-x中有很多概念,这些概念很多来源于动画.动漫和电影等行业,例如:导演.场景和层等概念,当然也有些有传统的游戏的概念.Cocos2d-x中核心概念:导 ...

最新文章

  1. ceph 部署单机集群
  2. tensorflow的axis理解
  3. Java 理论与实践: 修复 Java 内存模型,第 2 部分 (VOLATILE, FINA...
  4. 字节博士搞的AI火了,一键完美分离人声和伴奏 | 在线可玩
  5. CUR分解算法及Python实现
  6. python暂停和恢复游戏_pygame游戏之旅 添加游戏暂停功能
  7. 随想录(学习消费类soc芯片)
  8. c 语言 循环判断语句,C值循环语句(七)
  9. linux命令界面输入不了密码,如何在 Linux 中不输入密码运行 sudo 命令
  10. 2013 Multi-University Training Contest 1
  11. 什么是AOP(通俗易懂)
  12. 财会法规与职业道德【8】
  13. 使用Android拨打电话功能
  14. 复无法自动修复此计算机,win10自动修复而且无法重置
  15. CPU、操作系统的32位与64位
  16. OA厂商在行业市场中如何“长生”?
  17. 11款最受欢迎的亚马逊卖家工具
  18. Axure RP使用攻略--入门级(二)线框图元件
  19. spring源码分析01-(前期准备)spring核心原理解析和手写简易spring
  20. DON'T MAKE THINK 点石成金 访客至上的Web和移动可用性设计秘笈

热门文章

  1. centos如何界面操作mysql_【mysql】centos7下mysql的安装以及基本操作
  2. 语言百马百担求马匹数_C语言经典编程题(下)
  3. DRL实战 : 强化学习在广告点击业务中的应用
  4. 307.区域和检索-数组可修改
  5. python实现连接池技术
  6. mysql恢复备份快照_MySQL备份恢复:磁盘LVM快照
  7. 译林 五年级上 单词_译林版小学英语五上Unit 4 HobbiesStory time公开课优质课件教案视频教案...
  8. 现代通信原理5.1:信号的希尔伯特变换
  9. -------------分割线-------
  10. android studio for android learning (十四) android的数据的存储sharedPreferences