作为消息队列来说,企业中选择mq的还是多数,因为像Rabbit,Rocket等mq中间件都属于很成熟的产品,性能一般但可靠性较强,

而kafka原本设计的初衷是日志统计分析,现在基于大数据的背景下也可以做运营数据的分析统计,而redis的主要场景是内存数据库,作为消息队列来说可靠性太差,而且速度太依赖网络IO,在服务器本机上的速度较快,且容易出现数据堆积的问题,在比较轻量的场合下能够适用。

RabbitMQ,遵循AMQP协议,由内在高并发的erlanng语言开发,用在实时的对可靠性要求比较高的消息传递上。

kafka是Linkedin于2010年12月份开源的消息发布订阅系统,它主要用于处理活跃的流式数据,大数据量的数据处理上。

在架构模型方面

RabbitMQ遵循AMQP协议,RabbitMQ的broker由Exchange,Binding,queue组成,其中exchange和binding组成了消息的路由键;客户端Producer通过连接channel和server进行通信,Consumer从queue获取消息进行消费(长连接,queue有消息会推送到consumer端,consumer循环从输入流读取数据)。rabbitMQ以broker为中心;有消息的确认机制。

kafka遵从一般的MQ结构,producer,broker,consumer,以consumer为中心,消息的消费信息保存的客户端consumer上,consumer根据消费的点,从broker上批量pull数据;无消息确认机制。

在吞吐量

rabbitMQ在吞吐量方面稍逊于kafka,他们的出发点不一样,rabbitMQ支持对消息的可靠的传递,支持事务,不支持批量的操作;基于存储的可靠性的要求存储可以采用内存或者硬盘。

kafka具有高的吞吐量,内部采用消息的批量处理,zero-copy机制,数据的存储和获取是本地磁盘顺序批量操作,具有O(1)的复杂度,消息处理的效率很高。

在可用性方面

rabbitMQ支持miror的queue,主queue失效,miror queue接管。

kafka的broker支持主备模式。

在集群负载均衡方面

rabbitMQ的负载均衡需要单独的loadbalancer进行支持。

kafka采用zookeeper对集群中的broker、consumer进行管理,可以注册topic到zookeeper上;通过zookeeper的协调机制,producer保存对应topic的broker信息,可以随机或者轮询发送到broker上;并且producer可以基于语义指定分片,消息发送到broker的某分片上。

kafka reassign 限速_简单明了,Kafka与MQ的区别相关推荐

  1. kafka reassign 限速_车主无忧:为什么放弃开源Kafka?

    简介:通过迁移到商业版本的 Kafka,车主无忧的系统稳定性得到了大幅提升,消息无丢失,生产与消费端的抖动明显好转,整个消息集群平稳运行,有效地支持了业务的快速发展. 车主无忧是属于广州小迈网络科技公 ...

  2. kafka reassign 限速_高速限速有了新规矩!公路限速标志设计规范即将施行

    重要通知 2020/10/11高速公路 国家交通运输部6月底发布<公路限速标志设计规范>,详细规定了公路限速路段划分.限速值论证.限速方式选取等内容,并将自2020年11月1日起施行. 当 ...

  3. kafka reassign 限速_为什么德国的高速就能不限速?

    很多朋友都听说过"德国高速不限速"这一说法,希望有朝一日去欧洲旅行时能够体验一下在高速公路上每小时狂飙200公里的刺激.那么德国的高速公路究竟是不是像传说中的那样不限速呢? 已经在 ...

  4. kafka reassign 限速_RabbitMQ 七战 Kafka,差异立现!

    Python实战社群 Java实战社群 长按识别下方二维码,按需求添加 扫码关注添加客服 进Python社群▲ 扫码关注添加客服 进Java社群▲ 作者丨王欢 链接丨分布式实验室(ID:dockero ...

  5. kafka mysql 迁移_一种Kafka与Elasticsearch数据库数据的互相迁移方法与流程

    本发明属于数据库迁移领域,具体地讲涉及一种kafka与elasticsearch数据库数据的互相迁移方法. 背景技术: 实现数据共享,可以使更多的人更充分地使用已有数据资源,减少资料收集.数据采集等重 ...

  6. kafka reassign 限速_RabbitMQ 与 Kafka 的技术差异以及使用注意点

    导言 作为一个有丰富经验的微服务系统架构师,经常有人问我,"应该选择RabbitMQ还是Kafka?".基于某些原因, 许多开发者会把这两种技术当做等价的来看待.的确,在一些案例场 ...

  7. kafka删除队列_没想到 Kafka 还会这样问,学会这些带你轻松搞定大厂面试!

    一.前言 自上次师兄遭受了面试官 「Kafka」 的暴击追问后,回来发奋图强,企图"「吊打面试官」",奈何还是面试官套路深啊,最近的面试,又被问到「知识盲点」了!让我们一起来看看, ...

  8. kafka是什么_终于知道Kafka为什么这么快了!

    Kafka 为什么能那么快 | Kafka高效读写数据的原因 无论 kafka 作为 MQ 也好,作为存储层也罢,无非就是两个功能(好简单的样子),一是 Producer 生产的数据存到 broker ...

  9. 修改kafka java环境_单节点Kafka、Zookeeper安装、启用过程(Windows OS环境)

    1 安装JDK 1.1 官网下载Java SE Runtime Environment: http://www.oracle.com/technetwork/java/javase/downloads ...

最新文章

  1. 小黑盒不显示服务器,steam上买的游戏小黑盒不显示 | 手游网游页游攻略大全
  2. “CoreCLR is now Open Source”阅读笔记
  3. Octave中无法使用rgb2gray()函数
  4. 武科大计算机网络课程设计,【川大】计算机网络课程设计9013,奥鹏2017
  5. CentOS 命令大全 (转)
  6. 深度解析DDD中台和微服务设计
  7. python的顶级库_三大用于数据科学的顶级Python库
  8. 【java】两个线程如何交替执行,一个输出偶数一个输出奇数?
  9. 俄罗斯套娃(JOISC 2016 Day 1)
  10. Qt4_Hello world
  11. 使用数据库引擎优化顾问添加建议索引
  12. 81_如何用eclipse反编译一个war包或者jar包
  13. AI智能视频分析系统提升水泥厂安全监管解决方案
  14. 怎样设置txt的默认打开方式(比如用nodePad++)
  15. 关于Mysql插入繁体字等特殊字符显示异常及查询异常
  16. 如何带好一个团队?团队管理的要点有哪些?
  17. Win7桌面显示音乐波动 - 音频频谱分析仪
  18. 一文带你吃透 strcpy 函数
  19. 最大似然估计(ML)和最小均方误差(LSE)
  20. 远程桌面连接后闪退的解决方法

热门文章

  1. PAJ7620u2手势模块
  2. python好学吗要有什么基础-Python好学吗难不难?0基础能学会吗?
  3. [原创] 仿滴滴出行打车APP定位导航,增加RFID认证、海外版、司机证件号码识别功能
  4. Install failed. Installation failed a href='rerun'Rerun/a
  5. 数字IC后端需要学习什么?需要具备哪些技能?
  6. Python案例笔记 | 用python制作二维码
  7. 大数据面试3分钟自我介绍_通用面试两分钟自我介绍范文5篇
  8. 编译程序与解释程序区别
  9. 数据科学家和人工智能职业生涯之外软件公司之外的热门市场
  10. Linux入门推荐书籍