1、Kafka是什么

 Apache Kafka是一个开源消息系统,由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。
 Kafka最初是由LinkedIn开发,并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。
 Kafka是一个分布式消息队列:生产者、消费者的功能。它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现。
 Kafka对消息保存时根据Topic进行归类,发送消息者称为Producer,消息接受者称为Consumer,此外kafka集群有多个kafka实例组成,每个实例(server)成为broker。
 无论是kafka集群,还是producer和consumer都依赖于zookeeper集群保存一些meta信息,来保证系统可用性

2、JMS是什么

2.1、JMS的基础

JMS是什么:JMS是Java提供的一套技术规范

JMS干什么用:用来异构系统 集成通信,缓解系统瓶颈,提高系统的伸缩性增强系统用户体验,使得系统模块化和组件化变得可行并更加灵活
通过什么方式:生产消费者模式(生产者、服务器、消费者)

jdk,kafka,activemq……

2.2、JMS消息传输模型

 点对点模式(一对一,消费者主动拉取数据,消息收到后消息清除)
点对点模型通常是一个基于拉取或者轮询的消息传送模型,这种模型从队列中请求信息,而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理,即使有多个消息监听者也是如此。
 发布/订阅模式(一对多,数据生产后,推送给所有订阅者)
发布订阅模型则是一个基于推送的消息传送模型。发布订阅模型可以有多种不同的订阅者,临时订阅者只在主动监听主题时才接收消息,而持久订阅者则监听主题的所有消息,即使当前订阅者不可用,处于离线状态。

queue.put(object) 数据生产
queue.take(object) 数据消费

2.3、JMS核心组件

 Destination:消息发送的目的地,也就是前面说的Queue和Topic。
 Message :从字面上就可以看出是被发送的消息。
 Producer: 消息的生产者,要发送一个消息,必须通过这个生产者来发送。
 MessageConsumer: 与生产者相对应,这是消息的消费者或接收者,通过它来接收一个消息。

通过与ConnectionFactory可以获得一个connection
通过connection可以获得一个session会话。

2.4、常见的类JMS消息服务器

2.4.1、JMS消息服务器 ActiveMQ

ActiveMQ 是Apache出品,最流行的,能力强劲的开源消息总线。ActiveMQ 是一个完全支持JMS1.1和J2EE 1.4规范的。
主要特点:
 多种语言和协议编写客户端。语言: Java, C, C++, C#, Ruby, Perl, Python, PHP。应用协议: OpenWire,Stomp REST,WS Notification,XMPP,AMQP
 完全支持JMS1.1和J2EE 1.4规范 (持久化,XA消息,事务)
 对Spring的支持,ActiveMQ可以很容易内嵌到使用Spring的系统里面去,而且也支持Spring2.0的特性
 通过了常见J2EE服务器(如 Geronimo,JBoss 4, GlassFish,WebLogic)的测试,其中通过JCA 1.5 resource adaptors的配置,可以让ActiveMQ可以自动的部署到任何兼容J2EE 1.4 商业服务器上
 支持多种传送协议:in-VM,TCP,SSL,NIO,UDP,JGroups,JXTA
 支持通过JDBC和journal提供高速的消息持久化
 从设计上保证了高性能的集群,客户端-服务器,点对点
 支持Ajax
 支持与Axis的整合
 可以很容易得调用内嵌JMS provider,进行测试

2.4.2、分布式消息中间件 Metamorphosis

Metamorphosis (MetaQ) 是一个高性能、高可用、可扩展的分布式消息中间件,类似于LinkedIn的Kafka,具有消息存储顺序写、吞吐量大和支持本地和XA事务等特性,适用于大吞吐量、顺序消息、广播和日志数据传输等场景,在淘宝和支付宝有着广泛的应用,现已开源。
主要特点:
 生产者、服务器和消费者都可分布
 消息存储顺序写
 性能极高,吞吐量大
 支持消息顺序
 支持本地和XA事务
 客户端pull,随机读,利用sendfile系统调用,zero-copy ,批量拉数据
 支持消费端事务
 支持消息广播模式
 支持异步发送消息
 支持http协议
 支持消息重试和recover
 数据迁移、扩容对用户透明
 消费状态保存在客户端
 支持同步和异步复制两种HA
 支持group commit

2.4.3、分布式消息中间件 RocketMQ

RocketMQ 是一款分布式、队列模型的消息中间件,具有以下特点:
 能够保证严格的消息顺序
 提供丰富的消息拉取模式
 高效的订阅者水平扩展能力
 实时的消息订阅机制
 亿级消息堆积能力
 Metaq3.0 版本改名,产品名称改为RocketMQ

2.4.4、其他MQ

 .NET消息中间件 DotNetMQ
 基于HBase的消息队列 HQueue
 Go 的 MQ 框架 KiteQ
 AMQP消息服务器 RabbitMQ
 MemcacheQ 是一个基于 MemcacheDB 的消息队列服务器。

3、为什么需要消息队列(重要)**

消息系统的核心作用就是三点:解耦,异步和并行
以用户注册的案列来说明消息系统的作用

3.1、用户注册的一般流程


问题:随着后端流程越来越多,每步流程都需要额外的耗费很多时间,从而会导致用户更长的等待延迟。

3.2、用户注册的并行执行


问题:系统并行的发起了4个请求,4个请求中,如果某一个环节执行1分钟,其他环节再快,用户也需要等待1分钟。如果其中一个环节异常之后,整个服务挂掉了。

3.3、用户注册的最终一致


1、 保证主流程的正常执行、执行成功之后,发送MQ消息出去。
2、 需要这个destination的其他系统通过消费数据再执行,最终一致。

Kafka是什么,JMS是什么,常见的类JMS消息服务器,为什么需要消息队列(来自学习笔记)相关推荐

  1. Kafka中topic的Partition,Kafka为什么这么快,Consumer的负载均衡及consumerGroup的概念(来自学习笔记)

    1.1. Kafka中topic的Partition  在Kafka文件存储中,同一个topic下有多个不同partition,每个partition为一个目录,partiton命名规则为topic ...

  2. 工作流调度系统介绍,常见工作流调度系统对比,azkaban与Oozie对比,Azkaban介绍与特性(来自学习笔记)

    1. 工作流调度器azkaban 1.1 概述 1.1.1为什么需要工作流调度系统 一个完整的数据分析系统通常都是由大量任务单元组成:shell脚本程序,java程序,mapreduce程序.hive ...

  3. JMS(Java消息服务)与消息队列ActiveMQ基本使用(一)

    最近的项目中用到了mq,之前自己一直在码农一样的照葫芦画瓢.最近几天研究了下,把自己所有看下来的文档和了解总结一下. 一. 认识JMS 1.概述 对于JMS,百度百科,是这样介绍的:JMS即Java消 ...

  4. 《Apache Kafka》学习笔记

    1.什么是Kafka Kafka是一个高通过率的分布式消息系统 2.消息队列(Message Queue)MQ的模型 消息队列的简单架构图 3个核心概念: Sender Application:消息队 ...

  5. Kafka学习笔记(一):Kafka基本概念理解

    ActiveMQ.RabbitMQ是用的比较多得消息队列,但是随着时间的推移,大数据的应运而生,这两种消息队列使用的也是越来越少了,Kafka渐渐进入开发人员的视线,再加上Kafka天生的集群运行.大 ...

  6. [Big Data - Kafka] kafka学习笔记:知识点整理

    一.为什么需要消息系统 1.解耦: 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束. 2.冗余:消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险.许 ...

  7. kafka学习笔记:知识点整理

    一.为什么需要消息系统 1.解耦: 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束. 2.冗余: 消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险. ...

  8. 大数据 -- kafka学习笔记:知识点整理(部分转载)

    一 为什么需要消息系统 1.解耦 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束. 2.冗余 消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险.许多 ...

  9. kafka学习_Kafka 学习笔记01

    Kafka概念和基本架构概述 以下内容来自拉勾课程学习拉勾教育 - 拉勾旗下教育平台 一.Kafka介绍 Kafka是最初由 Linkedin 公司开发,是一个 分布式.分区的.多副本的.多生产者.多 ...

最新文章

  1. 基于Hibernate的JPA2.0快速构建
  2. 使用DSX-5000 对已安装的电缆进行故障排除
  3. PS教程第二十三课:套索工具
  4. 学习记录 php,PHP进阶篇学习专用记录
  5. shell脚本参数中有空格
  6. 给我的Nokia3100
  7. python编程语言继承_Python面向对象程序设计类的封装与继承用法示例
  8. 单反相机的常用的几个参数之间的关系
  9. mysql sqlserver alter语句区别_SQL ALTER
  10. axure6.5汉化最新正式破解版本下载(有注册码)
  11. 【华为云技术分享】LwM2M协议的学习与分享
  12. 小葵花妈妈课堂开课了:《Runnable、Callable、Future、RunnableFuture、FutureTask 源码分析》
  13. IC卡和ID卡的区别。
  14. java pmt以及ipmt计算
  15. Office2016和Office365有什么区别
  16. win10提示无法打开这个应用怎么办
  17. DialogUtils 弹出窗工具类
  18. java毕业设计社区流浪猫狗救助网站源码+lw文档+mybatis+系统+mysql数据库+调试
  19. 397_压缩图片到一定大小(质量)
  20. 【LeetCode每日一题】810. 黑板异或游戏

热门文章

  1. 使用阿里云Python SDK管理ECS安全组
  2. Django框架深入了解_01(Django请求生命周期、开发模式、cbv源码分析、restful规范、跨域、drf的安装及源码初识)
  3. C++学习笔记1[数据类型]
  4. 安装labelImg(win10,macOS)
  5. VTK:图像梯度幅度用法实战
  6. wxWidgets:wxCheckBox类用法
  7. boost::mpl::min和boost::mpl::max相关的测试程序
  8. boost::math模块计算 Bessel 和 Neumann 函数的零点的测试程序
  9. boost::log模块实现宽字符日志记录示例
  10. Boost:bind绑定的转发测试