RocketMQ单机支持1万以上的持久化队列,前提是足够的内存、硬盘空间,过期数据数据删除(RocketMQ中的消息队列长度不是无限的,只是足够大的内存+数据定时删除)

RocketMQ版本:3.1.4

一,部署NameServer:

1,安装JDK并设置JAVA_HOME环境变量(启动脚本依赖JAVA_HOME环境变量)

2,cd /alibaba-rocketmq/bin进入RocketMQ的bin目录

2,调用nohup sh mqnamesrv &启动NameServer

报错如下:

[plain] view plain copy  
  1. : command not found
  2. : command not found
  3. mqnamesrv: line 35: syntax error: unexpected end of file

在bin目录下调用dos2unix *将所有文件转化为unix格式,再次调用nohup sh mqnamesrv &

报错如下:

[plain] view plain copy  
  1. /home/hadoop/alibaba-rocketmq
  2. Invalid initial heap size: -Xms4g
  3. The specified size exceeds the maximum representable size.
  4. Could not create the Java virtual machine.

由于安装的JDK版本为32位,4g超过了JDK所支持的最大内存,不过32位JDK也无法发挥出RocketMQ的优势,换成64位JDK

这次启动成功

[plain] view plain copy  
  1. [hadoop@hadoop bin]$ nohup sh mqnamesrv &
  2. [1] 17676
  3. [hadoop@hadoop bin]$ nohup: appending output to “nohup.out”
  4. [hadoop@hadoop bin]$ cat nohup.out
  5. The Name Server boot success.
  6. [hadoop@hadoop bin]$ jps
  7. 17682 NamesrvStartup
  8. 17800 Jps

NameServer监听端口:9876

[java] view plain copy  
  1. nettyServerConfig.setListenPort(9876);

如果服务器内存不够,可以修改runserver.sh脚本(mqnamesrv文件中通过runserver.sh脚本调用Name Server的主函数com.alibaba.rocketmq.namesrv.NamesrvStartup启动Name Server)中的JAVA_OPT_1参数

[plain] view plain copy  
  1. JAVA_OPT_1="-server -Xms4g -Xmx4g -Xmn2g -XX:PermSize=128m -XX:MaxPermSize=320m"

二,部署Broker:消息中转角色,负责存储消息,转发消息

Broker集群有多种配置方式:

1,单Master

优点:除了配置简单没什么优点

缺点:不可靠,该机器重启或宕机,将导致整个服务不可用

2,多Master

优点:配置简单,性能最高

缺点:可能会有少量消息丢失(配置相关),单台机器重启或宕机期间,该机器下未被消费的消息在机器恢复前不可订阅,影响消息实时性

3,多Master多Slave,每个Master配一个Slave,有多对Master-Slave,集群采用异步复制方式,主备有短暂消息延迟,毫秒级

优点:性能同多Master几乎一样,实时性高,主备间切换对应用透明,不需人工干预

缺点:Master宕机或磁盘损坏时会有少量消息丢失

4,多Master多Slave,每个Master配一个Slave,有多对Master-Slave,集群采用同步双写方式,主备都写成功,向应用返回成功

优点:服务可用性与数据可用性非常高

缺点:性能比异步集群略低,当前版本主宕备不能自动切换为主

Master和Slave的配置文件参考conf目录下的配置文件

Master与Slave通过指定相同的brokerName参数来配对,Master的BrokerId必须是0,Slave的BrokerId必须是大于0的数

一个Master下面可以挂载多个Slave,同一Master下的多个Slave通过指定不同的BrokerId来区分

部署一Master一Slave,集群采用异步复制方式:

Master:

[plain] view plain copy  
  1. [hadoop@hadoop bin]$ nohup sh mqbroker -n "192.168.58.163:9876" -c ../conf/2m-2s-async/broker-a.properties &
  2. [2] 25493
  3. [hadoop@hadoop bin]$ nohup: appending output to “nohup.out”
  4. [hadoop@hadoop bin]$ cat nohup.out
  5. load config properties file OK, ../conf/2m-2s-async/broker-a.properties
  6. The broker[broker-a, 192.168.58.163:10911] boot success. and name server is 192.168.58.163:9876
  7. [hadoop@hadoop bin]$ jps
  8. 25500 BrokerStartup
  9. 25545 Jps
  10. 17682 NamesrvStartup

Slave:

[plain] view plain copy  
  1. [hadoop@hadoop bin]$ nohup sh mqbroker -n "192.168.58.163:9876" -c ../conf/2m-2s-async/broker-a-s.properties &
  2. [1] 1974
  3. [hadoop@hadoop bin]$ nohup: appending output to “nohup.out”
  4. [hadoop@hadoop bin]$ cat nohup.out
  5. load config properties file OK, ../conf/2m-2s-async/broker-a-s.properties
  6. The broker[broker-a, 192.168.58.164:10911] boot success. and name server is 192.168.58.163:9876
  7. [hadoop@hadoop bin]$ jps
  8. 2071 Jps
  9. 1981 BrokerStartup

Broker监听端口:10911

[java] view plain copy  
  1. nettyServerConfig.setListenPort(10911);

如果服务器内存不够,可以修改runbroker.sh脚本(mqbroker文件中通过runbroker.sh脚本调用Broker的主函数com.alibaba.rocketmq.broker.BrokerStartup启动Broker)的JAVA_OPT_1参数

[plain] view plain copy  
  1. JAVA_OPT_1="-server -Xms4g -Xmx4g -Xmn2g -XX:PermSize=128m -XX:MaxPermSize=320m"

三,Producer

必须要设置Name Server地址

[java] view plain copy  
  1. package com.sean;
  2. import com.alibaba.rocketmq.client.producer.DefaultMQProducer;
  3. import com.alibaba.rocketmq.client.producer.SendResult;
  4. import com.alibaba.rocketmq.common.message.Message;
  5. public class Producer {
  6. public static void main(String[] args){
  7. DefaultMQProducer producer = new DefaultMQProducer("Producer");
  8. producer.setNamesrvAddr("192.168.58.163:9876");
  9. try {
  10. producer.start();
  11. Message msg = new Message("PushTopic",
  12. "push",
  13. "1",
  14. "Just for test.".getBytes());
  15. SendResult result = producer.send(msg);
  16. System.out.println("id:" + result.getMsgId() +
  17. " result:" + result.getSendStatus());
  18. msg = new Message("PushTopic",
  19. "push",
  20. "2",
  21. "Just for test.".getBytes());
  22. result = producer.send(msg);
  23. System.out.println("id:" + result.getMsgId() +
  24. " result:" + result.getSendStatus());
  25. msg = new Message("PullTopic",
  26. "pull",
  27. "1",
  28. "Just for test.".getBytes());
  29. result = producer.send(msg);
  30. System.out.println("id:" + result.getMsgId() +
  31. " result:" + result.getSendStatus());
  32. } catch (Exception e) {
  33. e.printStackTrace();
  34. }finally{
  35. producer.shutdown();
  36. }
  37. }
  38. }

四,Consumer

必须要设置Name Server地址

[java] view plain copy  
  1. package com.sean;
  2. import java.util.List;
  3. import com.alibaba.rocketmq.client.consumer.DefaultMQPushConsumer;
  4. import com.alibaba.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
  5. import com.alibaba.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
  6. import com.alibaba.rocketmq.client.consumer.listener.MessageListenerConcurrently;
  7. import com.alibaba.rocketmq.common.consumer.ConsumeFromWhere;
  8. import com.alibaba.rocketmq.common.message.Message;
  9. import com.alibaba.rocketmq.common.message.MessageExt;
  10. public class Consumer {
  11. public static void main(String[] args){
  12. DefaultMQPushConsumer consumer =
  13. new DefaultMQPushConsumer("PushConsumer");
  14. consumer.setNamesrvAddr("192.168.58.163:9876");
  15. try {
  16. //订阅PushTopic下Tag为push的消息
  17. consumer.subscribe("PushTopic", "push");
  18. //程序第一次启动从消息队列头取数据
  19. consumer.setConsumeFromWhere(
  20. ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);
  21. consumer.registerMessageListener(
  22. new MessageListenerConcurrently() {
  23. public ConsumeConcurrentlyStatus consumeMessage(
  24. List<MessageExt> list,
  25. ConsumeConcurrentlyContext Context) {
  26. Message msg = list.get(0);
  27. System.out.println(msg.toString());
  28. return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  29. }
  30. }
  31. );
  32. consumer.start();
  33. } catch (Exception e) {
  34. e.printStackTrace();
  35. }
  36. }
  37. }

先运行Consumer,然后运行Producer

Producer运行结果:

[plain] view plain copy  
  1. id:C0A83AA300002A9F00000000000009EA result:SEND_OK
  2. id:C0A83AA300002A9F0000000000000A77 result:SEND_OK
  3. id:C0A83AA300002A9F0000000000000B04 result:SEND_OK

Consumer运行结果:

MessageExt [queueId=1, storeSize=141, queueOffset=6, sysFlag=0, bornTimestamp=1403765668792, bornHost=/192.168.31.130:60985, storeTimestamp=1403765527374, storeHost=/192.168.58.163:10911, msgId=C0A83AA300002A9F0000000000000A77, commitLogOffset=2679, bodyCRC=753746584, reconsumeTimes=0, preparedTransactionOffset=0, toString()=Message [topic=PushTopic, flag=0, properties={TAGS=push, KEYS=2, WAIT=true, MAX_OFFSET=7, MIN_OFFSET=0}, body=14]]
MessageExt [queueId=0, storeSize=141, queueOffset=6, sysFlag=0, bornTimestamp=1403765668698, bornHost=/192.168.31.130:60985, storeTimestamp=1403765527356, storeHost=/192.168.58.163:10911, msgId=C0A83AA300002A9F00000000000009EA, commitLogOffset=2538, bodyCRC=753746584, reconsumeTimes=0, preparedTransactionOffset=0, toString()=Message [topic=PushTopic, flag=0, properties={TAGS=push, KEYS=1, WAIT=true, MAX_OFFSET=7, MIN_OFFSET=0}, body=14]]  

阿里RocketMQ Quick Start相关推荐

  1. RabbitMQ,Apache的ActiveMQ,阿里RocketMQ,Kafka,ZeroMQ,MetaMQ,Redis也可实现消息队列,RabbitMQ的应用场景以及基本原理介绍,RabbitMQ

    RabbitMQ,Apache的ActiveMQ,阿里RocketMQ,Kafka,ZeroMQ,MetaMQ,Redis也可实现消息队列,RabbitMQ的应用场景以及基本原理介绍,RabbitMQ ...

  2. 阿里rocketmq与自建rocketmq

    一.搭环境 阿里rocketmq不用搭建,  https://help.aliyun.com/document_detail/34411.html?spm=a2c4g.11186623.6.546.1 ...

  3. 每日新闻 | Gartner分析和商业智能平台魔力象限公布,阿里云Quick BI入选

    | IDC:2020金融行业将在云.大数据.AI研发投入更多 IDC于近日发布<IDC FutureScape:2020年全球金融行业十大预测--中国启示>,报告包括:到2021年,中国3 ...

  4. 阿里RocketMq试用记录+简单的Spring集成

    CSDN学院招募微信小程序讲师啦      程序猿全指南,让[移动开发]更简单!        [观点]移动原生App开发 PK HTML 5开发     云端应用征文大赛,秀绝招,赢无人机! 阿里R ...

  5. 阿里 RocketMQ 如何让双十一峰值之下 0 故障?

    简介:2020 年双十一交易峰值达到 58.3 W 笔/秒,消息中间件 RocketMQ 继续数年 0 故障丝般顺滑地完美支持了整个集团大促的各类业务平稳. 作者 | 愈安 来源 | 阿里巴巴云原生公 ...

  6. 阿里RocketMQ是怎样孵化成Apache顶级项目的?

    写在前面 2016 年 11 月 11 号, 对阿里巴巴中间件消息团队来说,有着极其特殊的意义.这一天,在光明顶上奋战的小伙伴们见证了 RocketMQ 低延迟存储架构的成功试水,完成了保障双十一如丝 ...

  7. Apache基金会接收阿里RocketMQ为孵化项目

    继向Apache软件基金会捐赠JStorm后,阿里巴巴在开源界又有一大举动. 11月28日,阿里巴巴宣布将开源分布式消息中间件RocketMQ捐赠给Apache,成为Apache 孵化项目,孵化成功后 ...

  8. 阿里云Quick BI——让人人都成为分析师

    摘要: 在3月29日深圳云栖大会的数据分析与可视化专场中,阿里云产品专家潘炎峰(陌停)对大数据智能分析产品 Quick BI 进行了深入的剖析.大会现场的精彩分享也赢得观众们的一直认可和热烈的反响. ...

  9. 阿里RocketMQ如何解决消息的顺序和重复两大硬伤

    分布式消息系统作为实现分布式系统可扩展.可伸缩性的关键组件,需要具有高吞吐量.高可用等特点.而谈到消息系统的设计,就回避不了两个问题: 消息的顺序问题 消息的重复问题 RocketMQ作为阿里开源的一 ...

最新文章

  1. OpenGl的glMatrixMode()函数理解
  2. 用链表生成前序二叉树
  3. UVA - 11992 线段树
  4. 安卓系统挂载NTFS格式硬盘_苹果电脑挥之不去的烦恼!怎样兼容NTFS格式的U盘移动硬盘?...
  5. Servlet处理文件下载的编码问题,乱码。
  6. PyTorch:tensor-张量维度操作(拼接、维度扩展、压缩、转置、重复……)
  7. MATLAB (2014b) “doc” cannot load libxul.so from Java on Linux system解决办法
  8. 信息安全之程序实现简单替换加密,并用字母频率统计进行破解
  9. 解决android sdk manage打开闪退的解决方法
  10. Windows 10 Python 深度学习环境安装
  11. potplayer直播源模板
  12. (demo)springboot接口suger_整合_hbase+phoenix
  13. NLPCC tutorial
  14. git常用命令梳理及常见开发场景总结
  15. java软件工程师工作业绩_java软件工程师,工作总结
  16. 【224】基本功能计算器
  17. vue3 项目中如何输出webpack的config.js
  18. 对Jupyter Notebook进行文件夹的打包下载
  19. 固态硬盘win7优化指南:九个Win7固态硬盘优化方法
  20. 移植tcpdump到ARM嵌入式系统

热门文章

  1. python写进程_将数据作为后台进程在Python中写入磁盘
  2. [转载] python基础入门二
  3. ruby 集合 分组_在Ruby中打印集合的元素
  4. scala运算符_Scala的所有符号运算符是什么意思?
  5. python 示例_在Python中带有示例的while关键字
  6. 设置html按钮点击事件无效果,css怎么设置按钮不能点击?
  7. html怎样让列表向下移动,Html无序列表ul控件实现行上下移动.
  8. vue 修改div宽度_Vue 组件通信方式及其应用场景总结(1.5W字)
  9. mis dss gis_MIS中的决策支持系统(DSS)
  10. --c语言运算符_C按位运算符-能力问题和解答