你好,欢迎来到第 23 课时,本课时主要讲解 Kafka 的一些核心概念,以及模拟消息并发送。

大数据消息中间件的王者——Kafka

在上一课时中提过在实时计算的场景下,我们绝大多数的数据源都是消息系统。所以,一个强大的消息中间件来支撑高达几十万的 QPS,以及海量数据存储就显得极其重要。

Kafka 从众多的消息中间件中脱颖而出,主要是因为高吞吐、低延迟的特点;另外基于 Kafka 的生态越来越完善,各个实时处理框架包括 Flink 在消息处理上都会优先进行支持。在第 14 课时“Flink Exactly-once 实现原理解析”中提到 Flink 和 Kafka 结合实现端到端精确一次语义的原理。

Kafka 从众多的消息中间件中脱颖而出,已经成为大数据生态系统中必不可少的一员,主要的特性包括:

  • 高吞吐
  • 低延迟
  • 高容错
  • 可靠性
  • 生态丰富
    为了接下来更好地理解和使用 Kafka,我们首先来看一下 Kafka 中的核心概念和基本入门。

Kafka 核心概念

Kafka 是一个消息队列,生产者向消息队列中写入数据,消费者从队列中获取数据并进行消费。作为一个企业级的消息中间件,Kafka 会支持庞大的业务,不同的业务会有多个队列,我们用 Topic 来给队列命名,在使用 Kafka 时必须指定 Topic。

我们可以认为一个 Topic 就是一个队列,每个 Topic 又会被分成多个 Partition,这样做是为了横向扩展,提高吞吐量。

Kafka 中每个 Partition 都对应一个 Broker,一个 Brok

第二十三篇:Mock Kafka 消息并发送相关推荐

  1. STM32F429第二十三篇之电容按键

    文章目录 前言 硬件分析 原理 源程序 主函数 TpadInit GetTimeUntoched GetTimeCharge TpadScan 前言 本文主要介绍电容按键的原理与使用方法,主要使用的A ...

  2. java kafka消息的发送与接收

    java kafka消息的发送与接收 消息队列在java EE级开发是很常用到的工具之一,在众多消息队列当中,active mq与kafka相对比较受开发者的喜爱,那么kafka是怎样实现消息的发送与 ...

  3. 九宫怎么排列和使用_广告视频配音剪映零基础入门教程第二十三篇:剪辑之九宫格教程...

    朋友圈最火九宫格视频你们知道是怎样制作的吗?我们常常在玩朋友圈的时候想用九宫格照片,但是你们有没有遇到这种情况,想玩九宫格却发现找不到那么多能用的照片,那这时候怎么办呢?玩腻了平常图片的发法,今天我们 ...

  4. 【第二十三篇】Spring Boot集成redis

    1.1 简介 REmote DIctionary Server(Redis)是一个由Salvatore Sanfilippo写的key-value存储系统. Redis是一个开源的使用ANSI C语言 ...

  5. Avalonia跨平台入门第二十三篇之滚动字幕

    在前面分享的几篇中咱已经玩耍了Popup.ListBox多选.Grid动态分.RadioButton模板.控件的拖放效果.控件的置顶和置底.控件的锁定.自定义Window样式.动画效果.Expande ...

  6. java向kafka推送数据_Java kafka消息的发送与接收

    一.项目工程结构 二.详细代码 KafkaUtils.java package com.bijian.study; import java.util.Arrays; import java.util. ...

  7. 【Java成王之路】EE初阶第二十三篇: HTTP协议和Tomcat

    目录 前言 HTTP 协议 什么是HTTP协议 回顾一下应用层协议 理解 HTTP 协议的工作过程 抓包工具的使用 HTTP协议的详细格式 + 信息 HTTP请求的格式 HTTP响应的格式 HTTP协 ...

  8. 【Linux从青铜到王者】第二十三篇:Linux网络基础第四篇之kcp协议

    系列文章目录 文章目录 系列文章目录 前言 一.kcp协议简介 二.kcp技术特性 1.RTO翻倍vs不翻倍 2.选择性重传 vs 全部重传 3.快速重传 4.延迟ACK vs 非延迟ACK 5.UN ...

  9. SpringBoot第二十三篇:安全性之Spring Security

    作者:追梦1819 原文:https://www.cnblogs.com/yanfei1819/p/11350255.html 版权声明:本文为博主原创文章,转载请附上博文链接! 引言   系统的安全 ...

最新文章

  1. Python设计模式-单例模式
  2. NC:多样性激发的确定性细菌装配过程限制了群落功能
  3. 华北科技学院计算机系综合性实验,华北科技学院计算机系综合性实验.doc
  4. 对HTTP/2 支持
  5. 微博VS微信,谁更有移动优势
  6. 定时备份为Sharepoint做网站备份,并删除指定日期的备份
  7. WCF 点滴启示录系列(一)
  8. 埃博拉疫情蔓延在进行中
  9. java文件编译为class文件需要键入什么命令_Day02:Java语言基础-第一个Java程序以及编译与运行机制...
  10. 从模板引擎到模板引擎-使用aspx页面作为模板引擎的一种实现
  11. 是时候让打字更“快舒”了-小鹤双拼
  12. MacBook没声音
  13. 无线模块的参数介绍和选型要点
  14. “辣条一哥”冲刺IPO,卫龙三年净赚近20亿,小辣条赚大钱
  15. Sass系统技术选型笔记(2)JBPM
  16. 电视机当计算机屏幕,电视机能当显示器吗?电视机是更大更便宜 但真的做不了显示器...
  17. System.currentTimeMillis()和System.nanoTime()的区别
  18. eth_clockgen.v
  19. 谷歌表格_如何使用Google表格跟踪库存
  20. Synchronize between MPOS and Backoffice (Dynamics 365 for Operation)

热门文章

  1. 腾讯内部转岗_如何一句话证明你在腾讯工作过
  2. (十四)懈寄生(3)
  3. 【企业】零和博弈:选择即博弈,审慎而行
  4. 第二证券|医药板块短期轮动加快 机构看好后市机会
  5. 一款免杀远控,马子体积小
  6. 鸿蒙os2.0第一批升级名单,首批升级鸿蒙OS名单终于来了!
  7. 成为一名高级软件工程师
  8. 关于DAO的反身性理论:贡献者不自知的互助性成长
  9. 如何脱壳:PECompact 1.68 - 1.84 - Jeremy Collake [Overlay]
  10. 数组去重newset