Kafka, 是一种高吞吐率, 多分区, 多副本, 基于发布订阅的分布式消息系统, 支持海量数据传递

  • 高吞吐量, 低延迟: 每秒可以处理几十万条消息, 延迟最低只有几毫秒, 每个主题可以分多个分区, 消费组可对不同分区进行操作
  • 可扩展性: 集群支持热扩展
  • 持久化, 可靠性: 消息被持久化到本地磁盘, 且支持数据备份防止丢失
  • 容错性: 允许集群中节点失败(若副本数量为n, 则允许n-1个节点失败)
  • 高并发: 支持数千个客户端同时读写

组成部分

  • Broker: 消息中间件处理节点, 一个 kafka 节点就是一个 broker, 一个或者多个 broker 可以组成 kafka 集群
  • Topic: 主题, 可以理解成是一个类别的名称, Kafka 根据 topic 对消息进行分类, 发布到 kafka 集群的每条消息都需要指定一个 topic, 不同的 topic 会被订阅该 topic 的消费者消费
  • Producer: 消息生产者, 向 broker 发送消息的客户端
  • Consumer: 消息消费者, 从 broker 读取消息的客户端
  • ConsumerGroup: 每个 Consumer 属于一个特定的 ConsumerGroup, 一个消息可以被多个不同的 ConsumerGroup 消费, 但是一个 ConsumerGroup 中只能有一个 Consumer 消费该消息
  • Partition: 物理上的概念, 就是一个一个的文件夹(文件夹下有数据文件,和相应的索引文件), 一个 topic 可以分为多个 partition, 分区的作用是做负载, 一个主题中的消息量是非常大的, 因此可以通过分区的设置, 来分布式存储这些消息, 分区存储, 可以解决统一存储文件过大的问题, 提高读写的吞吐量, 读和写可以同时在多个分区中进行, 同一个topic在不同的分区的数据是不重复的, 每个 partition 内部消息是有序的
  • Replication 副本: 为主题中的分区创建备份, 在集群中, 不同的副本会被部署在不同的 broker 上, 有一个作为 leader, 其他为 follower, 且副本的数量不能大于broker节点的数量

在windows本地通过sarama包连接阿里云部署的kafka时, 在发送消息时, 报错:

kafka send failed:  dial tcp: lookup Lily: no such host

其中Lily是我阿里云ECS的主机名
解决:

  1. 打开win本地的 hosts 文件
    通过 win+r 唤起运行, 输入 drivers, 进入 etc 中找到 hosts 文件, 记事本打开
  2. 将主机名和对应的IP填入
    192.168.1.122. Lily
  3. 重试

kafka send failed: dial tcp: lookup hostname: no such host相关推荐

  1. 解决执行go mod tidy时报错的问题:dial tcp: lookup xxx: no such host

    问题截图: 最近在执行go mod tidy更新依赖库时遇到如下问题:dial tcp: lookup xxx: no such host问题原因:Go 设置了默认的GOSUMDB=sum.golan ...

  2. msg=“Error sending alert“ err=“Post \“http://alertmanager:9093/api/v2/alerts\“: dial tcp: lookup ale

    报错 msg="Error sending alert" err="Post "http://alertmanager:9093/api/v2/alerts&q ...

  3. dial tcp: lookup kafka:Temporary failure in name resolution

    概述 在使用"github.com/Shopify/sarama"连接kafka发送测试消息的时候出现 dial tcp: lookup kafka:Temporary failu ...

  4. 解决执行go get时报错的问题:dial tcp: lookup xxx.com on 8.8.8.8:53: no such host

    go env -w GOPRIVATE=xxx.com 最近在执行go mod tidy更新依赖库时遇到如下问题:dial tcp: lookup xxx.com on 8.8.8.8:53: no ...

  5. docker下载出现异常 dial tcp: lookup ngc.download.nvidia.cn: no such host

    目录 报错 解决方案 查询域名对应的ip地址 修改host 报错 在用docker拉取tensorrt的镜像时,出现报错. 拉取命令,如下 docker pull nvcr.io/nvidia/ten ...

  6. 问题解决:Get “xxx“: dial tcp: lookup xxx on xxx: read udp xxx:xxx: i/o timeout

    问题描述 问题出现在对一个地址进行get请求的时候出现了这个问题,显示如下: 可以说是查遍了全网,最终终于找到了原因,并成功解决,遂记录这篇文章,让后来遇到这个问题的朋友可以少走弯路. 问题解决 首先 ...

  7. 三步解决,dial tcp: lookup production.cloudflare.docker.com on 114.114.114.114:53: read udp i/o timeout

    突然间,我的docker开始报类似这样的错误 dial tcp: lookup production.cloudflare.docker.com on 114.114.114.114:53: read ...

  8. Error response from daemon: Get “https://registry-1.docker.io/v2/“: dial tcp: lookup registry-1.dock

    今天使用docker以来第一次出问题(感觉问题出在虚拟机上)pull的时候报错 Error response from daemon: Get "https://registry-1.doc ...

  9. Docker问题解决:Error response from daemon: Get https://registry-1.docker.io/v2/: dial tcp: lookup regist

    转自https://www.cnblogs.com/hanfan/p/12403520.html Docker问题解决:Error response from daemon: Get https:// ...

最新文章

  1. C++运算符重载形式--成员函数or友元函数?
  2. 利用css3实现jQuery中的slideDown和slideUp效果
  3. 每日一皮:好像有个Bug... 你看到了吗?
  4. android中跨进程通讯的4种方式
  5. matlab中 三种方法计算 Ax b,在MATLAB中,方程Ax=B的解可以用哪个命令求得? matlab 求助 解方程组...
  6. 抓包及分析包的常用命令
  7. 广搜最短路径变形,(POJ3414)
  8. php实现access数据库连接,PHP实现Access数据库连接
  9. 使用HttpWebRequest方式访问外部接口
  10. OpenCV利用高斯模糊可以实现毛玻璃的特效
  11. 通用技术和信息技术合格考知识点_通用技术学考复习_重要知识点汇总
  12. kvm usb键盘 linux,KVM USB打印机共享器81UA连接使用教程
  13. 双粗虚线中间一条实线_一侧虚线一侧实线可以变道吗?双黄线中间是斜杠
  14. Mac版Lync无法登陆问题(登录设置)
  15. python 水晶报表_VS2010中水晶报表应用及实例
  16. 帝国cms没有标题图片就显示默认图片
  17. 如何把microsoft store里面的软件添加到桌面
  18. 跟艾文学编程《零基础入门学Python》(1)Python 基础入门
  19. Explain执行计划key_len详解
  20. var fd = new FormData();传不了数据解决方案

热门文章

  1. 【python种子项目ppc】保姆级别指导给项目添加测试
  2. JS对异步循环使用递归,分批进行大量异步请求
  3. 凑近一看是地推扫什么码
  4. 自然语言c,自然语言处理_自然语言处理常用方法举例说明 - 人工智能 - 电子发烧友网...
  5. 独立按键控制继电器开关
  6. OP-TEE 简易驱动编写:启动TZPC与TZPCDEP
  7. inventor导出tekla_Inventor iLogic - 批量导出PDF,DXF,DWF
  8. echarts图表宽度为百分比出现的问题
  9. 赋范线性空间上的有界线性泛函
  10. How Linux Boots