一 nameserver

相对来说,nameserver的稳定性非常高。原因有二:

1 nameserver互相独立,彼此没有通信关系,单台nameserver挂掉,不影响其他nameserver,即使全部挂掉,也不影响业务系统使用,这点类似于dubbo的zookeeper。

2 nameserver不会有频繁的读写,所以性能开销非常小,稳定性很高。

二 broker

1 与nameserver关系

  • 连接

单个broker和所有nameserver保持长连接

  • 心跳

心跳间隔:每隔30秒(此时间无法更改)向所有nameserver发送心跳,心跳包含了自身的topic配置信息。

心跳超时:nameserver每隔10秒钟(此时间无法更改),扫描所有还存活的broker连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则断开连接。

  • 断开

时机:broker挂掉;心跳超时导致nameserver主动关闭连接

动作:一旦连接断开,nameserver会立即感知,更新topic与队列的对应关系,但不会通知生产者和消费者

2 负载均衡

  • 一个topic分布在多个broker上,一个broker可以配置多个topic,它们是多对多的关系。
  • 如果某个topic消息量很大,应该给它多配置几个队列,并且尽量多分布在不同broker上,减轻某个broker的压力。
  • topic消息量都比较均匀的情况下,如果某个broker上的队列越多,则该broker压力越大。

3 可用性

由于消息分布在各个broker上,一旦某个broker宕机,则该broker上的消息读写都会受到影响。所以rocketmq提供了master/slave的结构,salve定时从master同步数据,如果master宕机,则slave提供消费服务,但是不能写入消息,此过程对应用透明,由rocketmq内部解决。

这里有两个关键点:

  • 一旦某个broker master宕机,生产者和消费者多久才能发现?受限于rocketmq的网络连接机制,默认情况下,最多需要30秒,但这个时间可由应用设定参数来缩短时间。这个时间段内,发往该broker的消息都是失败的,而且该broker的消息无法消费,因为此时消费者不知道该broker已经挂掉。
  • 消费者得到master宕机通知后,转向slave消费,但是slave不能保证master的消息100%都同步过来了,因此会有少量的消息丢失。但是消息最终不会丢的,一旦master恢复,未同步过去的消息会被消费掉。

4 可靠性

  • 所有发往broker的消息,有同步刷盘和异步刷盘机制,总的来说,可靠性非常高
  • 同步刷盘时,消息写入物理文件才会返回成功,因此非常可靠
  • 异步刷盘时,只有机器宕机,才会产生消息丢失,broker挂掉可能会发生,但是机器宕机崩溃是很少发生的,除非突然断电

5 消息清理

  • 扫描间隔

默认10秒,由broker配置参数cleanResourceInterval决定

  • 空间阈值

物理文件不能无限制的一直存储在磁盘,当磁盘空间达到阈值时,不再接受消息,broker打印出日志,消息发送失败,阈值为固定值85%

  • 清理时机

默认每天凌晨4点,由broker配置参数deleteWhen决定;或者磁盘空间达到阈值

  • 文件保留时长

默认72小时,由broker配置参数fileReservedTime决定

6 读写性能

  • 文件内存映射方式操作文件,避免read/write系统调用和实时文件读写,性能非常高
  • 永远一个文件在写,其他文件在读
  • 顺序写,随机读
  • 利用linux的sendfile机制,将消息内容直接输出到socket管道,避免系统调用

7 系统特性

  • 大内存,内存越大性能越高,否则系统swap会成为性能瓶颈
  • IO密集
  • cpu load高,使用率低,因为cpu占用后,大部分时间在IO WAIT
  • 磁盘可靠性要求高,为了兼顾安全和性能,采用RAID10阵列
  • 磁盘读取速度要求快,要求高转速大容量磁盘

三 消费者

1 与nameserver关系

  • 连接

单个消费者和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,消费者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。

  • 心跳

与nameserver没有心跳

  • 轮询时间

默认情况下,消费者每隔30秒从nameserver获取所有topic的最新队列情况,这意味着某个broker如果宕机,客户端最多要30秒才能感知。该时间由DefaultMQPushConsumer的pollNameServerInteval参数决定,可手动配置。

2 与broker关系

  • 连接

单个消费者和该消费者关联的所有broker保持长连接。

  • 心跳

默认情况下,消费者每隔30秒向所有broker发送心跳,该时间由DefaultMQPushConsumer的heartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费

  • 断开

时机:消费者挂掉;心跳超时导致broker主动关闭连接

动作:一旦连接断开,broker会立即感知到,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费

3 负载均衡

集群消费模式下,一个消费者集群多台机器共同消费一个topic的多个队列,一个队列只会被一个消费者消费。如果某个消费者挂掉,分组内其它消费者会接替挂掉的消费者继续消费。

4 消费机制

  • 本地队列

消费者不间断的从broker拉取消息,消息拉取到本地队列,然后本地消费线程消费本地消息队列,只是一个异步过程,拉取线程不会等待本地消费线程,这种模式实时性非常高。对消费者对本地队列有一个保护,因此本地消息队列不能无限大,否则可能会占用大量内存,本地队列大小由DefaultMQPushConsumer的pullThresholdForQueue属性控制,默认1000,可手动设置。

  • 轮询间隔

消息拉取线程每隔多久拉取一次?间隔时间由DefaultMQPushConsumer的pullInterval属性控制,默认为0,可手动设置。

  • 消息消费数量

监听器每次接受本地队列的消息是多少条?这个参数由DefaultMQPushConsumer的consumeMessageBatchMaxSize属性控制,默认为1,可手动设置。

5 消费进度存储

每隔一段时间将各个队列的消费进度存储到对应的broker上,该时间由DefaultMQPushConsumer的persistConsumerOffsetInterval属性控制,默认为5秒,可手动设置。

6 如果一个topic在某broker上有3个队列,一个消费者消费这3个队列,那么该消费者和这个broker有几个连接?

一个连接,消费单位与队列相关,消费连接只跟broker相关,事实上,消费者将所有队列的消息拉取任务放到本地的队列,挨个拉取,拉取完毕后,又将拉取任务放到队尾,然后执行下一个拉取任务

四 生产者

1 与nameserver关系

  • 连接

单个生产者者和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,生产者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。

  • 轮询时间

默认情况下,生产者每隔30秒从nameserver获取所有topic的最新队列情况,这意味着某个broker如果宕机,生产者最多要30秒才能感知,在此期间,发往该broker的消息发送失败。该时间由DefaultMQProducer的pollNameServerInteval参数决定,可手动配置。

  • 心跳

与nameserver没有心跳

2 与broker关系

  • 连接

单个生产者和该生产者关联的所有broker保持长连接。

  • 心跳

默认情况下,生产者每隔30秒向所有broker发送心跳,该时间由DefaultMQProducer的heartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接。

  • 连接断开

移除broker上的生产者信息

 

3 负载均衡

生产者时间没有关系,每个生产者向队列轮流发送消息

【转】RocketMQ的一些特性(生产者消费者配置参数的含义)相关推荐

  1. java+创建metaq生产者_微服务架构【技术点4】windows下rocketMQ配置及java端生产者消费者配置-Go语言中文社区...

    参考资料 windows下配置rocketMQ 解压缩 系统环境变量配置 变量名:ROCKETMQ_HOME 变量值:MQ解压路径MQ文件夹名 启动NAMESERVER Cmd命令框执行进入至'MQ文 ...

  2. FX3 DMA生产者消费者ID代表的含义

    在开发FX3的时候,觉得赛普拉斯的库注释太少,很多时候无法理解代码含义.由于使用DMA,需要理解DMA生产者消费者代表的含义,经过多方查找,决定记录下来. 在cyu3dma.h中对SocketID进行 ...

  3. RocketMQ(17)——Broker可配置参数

    Broker可配置参数 之前使用Broker都是通过mqbroker -n localhost:9876启动Broker,同时指定对应的Name Server地址是localhost:9876.mqb ...

  4. Dubbo生产者消费者配置

    引入jar包 生产者.消费者都需要引入jar包 <!-- 引入dubbo --> <dependency><groupId>com.alibaba</grou ...

  5. kafaka生产者消费者demo(简易上手demo)

    kafaka生产者消费者demo(简易上手demo) 文章目录 kafaka生产者消费者demo(简易上手demo) 导包 kafka官方client spring官方template spring官 ...

  6. springboot整合rocketmq,支持多连接生产者和消费者配置。不同topic适配不同业务处理类

    1.代码仓库 rocketmq版本4.5.2 直接上代码,下面再逐步讲解,仓库地址 本地启动后,访问swagger地址测试,http://127.0.0.1:8099/mq/swagger-ui/in ...

  7. kafka 服务端消费者和生产者的配置

    在kafka的安装目录下,config目录下有个名字叫做producer.properties的配置文件 #指定kafka节点列表,用于获取metadata,不必全部指定 #需要kafka的服务器地址 ...

  8. SpringBoot与ElasticSearch、ActiveMQ、RocketMQ的整合及多环境配置、响应式框架WebFlux、服务器端主动推送SSE技术、生产环境部署、Actuator监控平台

    1.SpringBoot 与 ElasticSearch 框架的整合 (1)主要的搜索框架:MySQL.Solr.ElasticSearch MySQL:使用 like 进行模糊查询,存在性能问题 S ...

  9. RabbitMQ消息队列讲解(涵盖生产者消费者以及Springboot整合)

    文章目录 什么是消息队列 为什么用消息队列 常见MQ产品 RabbitMQ 特性 下载与安装 erlang RabbitMQ 工作原理 工作流程 消息模型 基本消息模型 生产者 消费者 消息确认机制( ...

最新文章

  1. python 爬虫实例-python爬虫实例,一小时上手爬取淘宝评论(附代码)
  2. Codejock Xtreme Toolkit Pro v12.0.0 Full Release
  3. thymeleaf 学习笔记-基础篇(中文教程)
  4. JavaMonitor 监视器
  5. excel if函数 android,Excel函数公式:多条件判断你还在用If函数来实现,那就真的Out了...
  6. 09月28日 pytorch与resnet(三)预训练的Mask R-CNN 模型进行微调
  7. 编写一个简单的JavaScript模板引擎
  8. python如何下载包_怎么在python中下载包
  9. (转贴)联想员工亲历联想大裁员:公司不是家
  10. ArcGIS Runtime for Android天地图底图及TPK数据包放大后数据不显示问题
  11. cortex A73/A53/A57
  12. 环信服务器发送消息,环信服务器发送消息
  13. 使用maya.cmds加载和卸载插件
  14. 单臂路由之2,多网口软路由实现单臂路由功能,且其剩余网口及光猫剩余网口均实现上网功能
  15. 添加51la统计代码步骤
  16. 西门子s7300 C MATLAB,卡尔曼滤波器在s7-300系列plc中的实现方法
  17. 01 将狼才鲸的嵌入式开源项目仓库链接
  18. vue 显示更多,收起功能
  19. 26个工业废水处理工艺流程图!水处理从业人员必看
  20. FTPClient.listFiles() 获取目录里的文件为空的解决

热门文章

  1. 线程安全-常用的模式
  2. remove()方法
  3. java自学 day8
  4. 作业1#python用列表实现多用户登录,并有三次机会
  5. BZOJ2302 [HAOI2011]Problem c 【dp】
  6. PHP中的常用关键字
  7. 应用市场中包名(package name)的唯一性
  8. Linux下,C++编程论坛题目抽取
  9. 一起学windows phone7开发(二十一.二 Map控件的简单使用)
  10. 可以让你少奋斗10年的工作经验