RocketMq_02_消息队列及角色
文章目录
- RocketMq
- 消息队列介绍
- 消息中间件功能
- 应用解耦
- 流量削峰
- 大数据处理
- 异构系统
- RocketMQ的角色
- broker
- broker集群
- producer
- consumer
- nameserver
- 对比JSM中的Topic和Queue
RocketMq
主流的MQ有很多,比如ActiveMQ、RabbitMQ、RocketMQ、Kafka、ZeroMQ等。
之前阿里巴巴也是使用ActiveMQ,随着业务发展,ActiveMQ IO 模块出现瓶颈,后来阿里巴巴通过一系列优化但是还是不能很好的解决,之后阿里巴巴把注意力放到了主流消息中间件kafka上面,但是kafka并不能满足他们的要求,尤其是低延迟和高可靠性。
所以RocketMQ是站在巨人的肩膀上(kafka)MetaQ的内核,又对其进行了优化让其更满足互联网公司的特点。它是纯Java开发,具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。
RocketMQ目前在阿里集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、binglog分发等场景。目前主要多用于订单交易系统。
消息队列介绍
RocketMQ是消息中间件的其中一种,消息中间件也叫消息队列。
消息队列是《数据结构>中先进先出的一种数据结构,在当前的架构中,作为中间件提供服务。
消息中间件功能
应用解耦
AB应用不再互相依赖
假设一个程序,可以通过拆分模块(如A、B两个模块)的方式来进行解耦,虽然两个服务拆开,在不同的服务器运行,但是模块之间有联系,假设其中一个无法提供服务,会导致另外一个服务异常,那么两个模块之前就是强耦合。
如何解耦?可以在A、B之间可以建立一个第三方,A不直接给B发送请求,A可以帮想干的事放入到第三方,第三方直接返回成功,然后B可以从第三方中拿出请求执行。
流量削峰
流量达到高峰的时候,通常使用限流算法来控制流量涌入系统,避免系统被击瘫,但是这种方式损失了一部分请求
此时可以使用消息中间件来缓冲大量的请求,匀速消费,当消息队列中堆积消息过多时,我们可以动态上线增加消费端,来保证不丢失重要请求。
大数据处理
消息中间件可以把各个模块中产生的管理员操作日志、用户行为、系统状态等数据文件作为消息收集到主题中,数据使用方可以订阅自己感兴趣的数据内容互不影响,进行消费。
(要做大数据,需要提供海量数据堆积的支持,而RocketMQ具有低延迟,高并发,亿级消息堆积能力等特点)
异构系统
跨语言
RocketMQ的角色
broker
- Broker面向producer和consumer接受和发送消息
- 向nameserver提交自己的信息
- 是消息中间件的消息存储、转发服务器。
- 每个Broker节点,在启动时,都会遍历NameServer列表,与每个NameServer建立长连接,注册自己的信息,之后定时上报。
broker集群
- Broker高可用,可以配成Master/Slave结构,Master可写可读,Slave只可以读,Master将写入的数据同步给Slave。
- 一个Master可以对应多个Slave,但是一个Slave只能对应一个Master
- Master与Slave的对应关系通过指定相同的BrokerName,不同的BrokerId来定义BrokerId为0表示Master,非0表示Slave
- Master多机负载,可以部署多个broker
- 每个Broker与nameserver集群中的所有节点建立长连接,定时注册Topic信息到所有nameserver。
producer
- 消息的生产者
- 通过集群中的其中一个节点(随机选择)建立长连接,获得Topic的路由信息,包括Topic下面有哪些Queue,这些Queue分布在哪些Broker上等
- 接下来向提供Topic服务的Master建立长连接,且定时向Master发送心跳
consumer
消息的消费者,通过NameServer集群获得Topic的路由信息,连接到对应的Broker上消费消息。
注意,由于Master和Slave都可以读取消息,因此Consumer会与Master和Slave都建立连接。
nameserver
底层由netty实现,提供了路由管理、服务注册、服务发现的功能,是一个无状态节点
nameserver是服务发现者,集群中各个角色(producer、broker、consumer等)都需要定时想nameserver上报自己的状态,以便互相发现彼此,超时不上报的话,nameserver会把它从列表中剔除
nameserver可以部署多个,当多个nameserver存在的时候,其他角色同时向他们上报信息,以保证高可用,
NameServer集群间互不通信,没有主备的概念
nameserver内存式存储,nameserver中的broker、topic等信息默认不会持久化
为什么不用zookeeper?:rocketmq希望为了提高性能,CAP定理,客户端负载均衡
对比JSM中的Topic和Queue
- RocketMQ不遵循JSM标准
JSM:Java消息服务(Java Message Service,JMS)应用程序接口是一个Java平台中关于面向消息中间件(MOM)的API,用于在两个应用程序之间,或分布式系统中发送消息,进行异步通信。
JMS中的P2P和Pub/Sub消息模式:点对点(point to point, queue)与发布订阅(publish/subscribe,topic)最初是由JMS定义的。这两种模式主要区别或解决的问题就是发送到队列的消息能否重复消费(多订阅)。
它定义了2种消息类型,Queue和Topic,Queue只能被一个消费者消费,Topic可以广播被订阅它的消费者消费。
但是RocketMq没有JSM种传统意义上的Topic,
Topic是一个逻辑上的概念,实际上Message是在每个Broker上以Queue的形式记录。一个Topic可以存在多个Queue,多个Queue可以存放在多个Broker上。
RocketMQ对应到JMS中的topic实现是由客户端来完成的,需要在消费端进行设置。
consumer.setMessageModel(MessageModel.BROADCASTING);
RocketMq_02_消息队列及角色相关推荐
- 2021年大数据Kafka(一):❤️消息队列和Kafka的基本介绍❤️
全网最详细的大数据Kafka文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 消息队列和Kafka的基本介绍 一.什么是消息队列 二.消息队列的应用场景 ...
- linux进程间通信:POSIX 消息队列
文章目录 基本介绍 相关编程接口 编程实例 消息队列通信实例 消息队列属性设置实例 基本介绍 关于消息队列的基本介绍,前面在学习system V的消息队列时已经有过了解,linux进程间通信:syst ...
- linux进程间通信:system V消息队列
文章目录 基本介绍 编程接口 代码实例 消息队列的发送和接收 消息队列中的消息对象的属性控制 基本介绍 支持不同进程之间以消息(messages)的形式进行数据交换,消息能够拥有自己的标识,且内核使用 ...
- 大型网站系统架构系列:分布式消息队列(二)
四.JMS消息服务 讲消息队列就不得不提JMS .JMS(JAVA Message Service,java消息服务)API是一个消息服务的标准/规范,允许应用程序组件基于JavaEE平台创建.发送. ...
- 网易云音乐的消息队列改造之路
点击上方"方志朋",选择"设为星标" 做积极的人,而不是积极废人 十年文案老司机,不如网易评论区. 网易云音乐自2013年上线后,业务保持了高速增长.云音乐除了 ...
- 消息队列之 RabbitMQ
消息队列之 RabbitMQ 关于消息队列,从前年开始断断续续看了些资料,想写很久了,但一直没腾出空,近来分别碰到几个朋友聊这块的技术选型,是时候把这块的知识整理记录一下了. 市面上的消息队列产品有很 ...
- 梳理消息队列 MQ/JMS/Kafka
是不是平常听到说消息队列啊,JMS啊,MQ啊 .kafka啊巴啦啦的一堆术语,听不懂?关系混乱?今天就让我们来一起来看看他们都是什么吧. 1消息队列介绍 首先举个收快递的栗子,传统的收快递,快递小哥把 ...
- redis灵魂拷问:如何使用stream实现消息队列
redis在很早之前就支持消息队列了,使用的是PUB/SUB功能来实现的.PUB/SUB有一个缺点就是消息不能持久化,如果redis发生宕机,或者客户端发生网络断开,历史消息就丢失了. redis5. ...
- Spring Cloud Alibaba 消息队列:基于 RocketMQ 实现服务异步通信
本讲咱们将学习以下三方面内容: 介绍消息队列与 Alibaba RocketMQ: 掌握 RocketMQ 的部署方式: 讲解微服务接入 RocketMQ 的开发技巧: 首先咱们先来认识什么是消息队列 ...
最新文章
- BZOJ5329: [SDOI2018]战略游戏——题解
- SpringBoot 源码解析 —— SpringApplication 源码分析
- 性能测试之性能测试的基础理论
- 列表逆序排序_Python零基础入门学习05:容器数据类型:列表和元组
- hdu 3047 Zjnu Stadium(并查集)
- php 模数 指数 公钥生成_php实现JWT认证
- 数据库系统实训——实验五——存储过程
- 详解循环神经网络RNN(实践篇)
- 怎么向前撤回_延迟复工,工资到底怎么算?
- 如何让windows控制台程序运行时不显示黑色框,直接运行
- 使用wireshark分析tcp报文
- FFmpeg码率控制及内置编码参数介绍
- 解析微信小程序码的地址scene
- 文件 MD5 SHA1 SHA256 SHA512 校验码生成工具 V1.3
- linux时间时区和GPS/BD授时
- Python批量修改txt文件的某列数值
- Android隐藏录屏内容,原来手机内置的录屏功能这么强大,好多人都不会用,很可惜!...
- 炸弹小分队+蒲公英联机平台联机教程
- 97年时的计算机系统桌面,这些年电脑桌上的变迁 篇一:设备的更迭
- CryEngine技术