go 使用sarama写入kafka数据时间戳问题
查看消息时间戳的命令:
kafka-console-consumer --bootstrap-server localhost:9092 --property print.timestamp=true --topic test --from-beginning
发现sarama生产者推送到kafka的CreateTime均为-1。而命令行推送到kafka的时间戳正常。
原因:
sarama默认支持的是0.8.2的kafka版本,而timestamp的支持是从0.10版本开始的。因此需要初始化生产者配置时指定一下kafka的版本。
kfkConf := sarama.NewConfig()
kfkConf.Version = sarama.V0_10_0_0
go 使用sarama写入kafka数据时间戳问题相关推荐
- 《从0到1学习Flink》—— Flink 读取 Kafka 数据批量写入到 MySQL
<!-- more --> 前言 之前其实在 <从0到1学习Flink>-- 如何自定义 Data Sink ? 文章中其实已经写了点将数据写入到 MySQL,但是一些配置化的 ...
- kafka学习_《从0到1学习Flink》—— Flink 读取 Kafka 数据写入到 RabbitMQ
前言 之前有文章 <从0到1学习Flink>-- Flink 写入数据到 Kafka 写过 Flink 将处理后的数据后发到 Kafka 消息队列中去,当然我们常用的消息队列可不止这一种, ...
- kafka如何保证不重复消费又不丢失数据_Kafka写入的数据如何保证不丢失?
我们暂且不考虑写磁盘的具体过程,先大致看看下面的图,这代表了 Kafka 的核心架构原理. Kafka 分布式存储架构 那么现在问题来了,如果每天产生几十 TB 的数据,难道都写一台机器的磁盘上吗?这 ...
- 1.30.Flink SQL案例将Kafka数据写入hive
1.30.Flink SQL案例将Kafka数据写入hive 1.30.1.1.场景,环境,配置准备 1.30.1.2.案例代码 1.30.1.2.1.编写pom.xml文件 1.30.1.2.2.M ...
- logstash读取Elasticsearch数据保存为json,logstash接收log数据写入kafka生产者
[提前声明] 文章由作者:张耀峰 结合自己生产中的使用经验整理,最终形成简单易懂的文章 写作不易,转载请注明,谢谢! 代码案例地址: ?https://github.com/Mydreamandrea ...
- 写入mysql_《从0到1学习Flink》—— Flink 读取 Kafka 数据批量写入到 MySQL
前言 之前其实在 <从0到1学习Flink>-- 如何自定义 Data Sink ? 文章中其实已经写了点将数据写入到 MySQL,但是一些配置化的东西当时是写死的,不能够通用,最近知识星 ...
- java读写德卡数据_Spark Streaming 读取Kafka数据写入ES
简介: 目前项目中已有多个渠道到Kafka的数据处理,本文主要记录通过Spark Streaming 读取Kafka中的数据,写入到Elasticsearch,达到一个实时(严格来说,是近实时,刷新时 ...
- Greenplum【部署 04】GPSS扩展安装并使用GPKafka实现Kafka数据导入Greenplum数据库(安装包网盘分享)
链接:https://pan.baidu.com/s/1MO-qL0Pxe6PojfZKsw3_qA 提取码:o7fl Greenplum Stream Server (GPSS)是一个ETL(提取. ...
- kafka数据和日志目录迁移教程
简介 Kafka在运行的过程中,存储在磁盘上的数据会逐渐扩大,甚至会撑爆系统盘,在线上环境我们通常会把kafka的数据存储目录和日志存储目录迁移到磁盘中,或者扩容kafka的存储磁盘.本文将一站式解决 ...
最新文章
- 若显示器接口电路中的刷新存储器容量为1MB,当采用800*600的分辨率模式时,每个像素最多可以有多少()种颜色
- 苹果外包爆料:你手机里的Siri,听到了嘿嘿嘿的声音
- Android开发工具之Android Studio---版本控制SVN使用(二)
- 从服务器上传和下载文件方法
- 截获所有以太网帧数据并进行具体分析
- 学霸真的比学渣更讨女孩子欢心吗?
- (45)FPGA面试题格雷码特点及其应用
- atom 基础使用教程
- 616nyoj 新手dp
- 国科大学习资料--矩阵分析与应用(李保滨)--2016年期末考试试卷
- 扫盲 BT Sync——不仅是同步利器,而且是【分布式】网盘
- MSI文件无法安装问题
- 第二次作业:网易云音乐案例分析
- 如何快速实现公众号群发模板消息
- 【Echarts Gallery】简单使用
- 课程设计-智能星座系统
- Dagger2 依赖注入之@Provides 分析
- ES6—ES13总结
- 【MATLAB】判断语句和循环语句
- 推荐几款好用的Linux电子书阅读器(上)
热门文章
- 并发(Concurrency)和并行(Parallelism)
- mac下在eclipse中怎样清除/切换svn
- linq to object 、linq to sql 、linq to entity 批量 新增、更新、删除功能扩展
- 11月25日struts培训日记
- mysql5.7.11源码安装_MySQL5.7.10最新版本源代码安装详细过程_MySQL
- python输出重定向到窗口_[python]重定向输出
- Python中lambda表达式的优缺点及使用场景
- 2017年第八届蓝桥杯 - 国赛 - C/C++大学B组 - A. 36进制
- 2018年第九届省赛C/C++A组第2题——星期一
- 大数据互联网架构阶段 Java爬虫