????️阅读本文需 5 分钟

11 月 16 日,StreamNative 联合甜橙金融、涂鸦智能和智联招聘在上海虹口科技金融大厦举办了 Apache Pulsar 线下技术交流会。

众多 Pulsar 社区的技术爱好者们齐聚一堂,参与了此次分享,并与演讲嘉宾进行了热烈的讨论和互动,收获满满。

????本次分享的主要内容为:

  • 张璐波:甜橙金融使用 Apache Pulsar 实现批流融合的实践

  • Pulsar 2.5.0 功能介绍
    - 李鹏辉:Apache Pulsar 2.5.0 功能预览
    - 丛搏:Pulsar schema
    - 翟佳:Kafka on Pulsar (KoP)

  • 张永红:Apache Pulsar 在涂鸦智能的实践

  • 高冉:Pulsar SQL 在智联招聘搜索日志分析的应用

  • 俄广宁/冉小龙:使用 Pulsarctl 和 Pulsar Manager 管理 Pulsar 集群

在 Pulsar 介绍短片后,甜橙金融的谢巍盛院长做了欢迎致辞,简单介绍了甜橙金融的业务状况,并鼓励大家积极为 Pulsar 社区做贡献。

随后,StreamNative Growth 团队的 Jennifer 介绍了 Apache Pulsar 社区的组成、国内外的用户、社区的开发和运营等情况,从为什么加入 Pulsar 社区、如何加入,加入之后能做什么贡献等方面做了详细介绍,让大家从另一个角度更加了解 Pulsar,为本次大会拉开了序幕。


>>> 甜橙金融使用 Apache Pulsar 实现批流融合的实践

作为国内第二大个人移动支付 APP,翼支付拥有巨大的用户体量,每天会产生万亿条数据,如交易数据、行为数据以及系统日志数据等。如何快速有效地对海量数据进行实时同步和分析变得越来越重要。

甜橙金融的张璐波通过数据统计给大家展示了现代移动支付现状,并从公司之前面临的金融数据挑战角度,进一步强调了金融类行业对消息处理的需求:应对高并发、低延迟、大批量的流处理等。

接下来张璐波从 Apache Pulsar 的分层存储等特点切入,用实例展示了 Apache Pulsar 的基本特性和突出优势(如集群复杂度低、存储空间占用少等),并从甜橙业务的角度讲述了批流融合特性的实践和整个业务功能的架构演进,全面地为大家展现了 Apache Pulsar 在金融类行业的应用。

视频????????


>>> Apache Pulsar 2.5.0 功能介绍

Apache Pulsar 2.5.0 即将发布,在新版本中又添加了很多重要的特性。

智联招聘的消息系统负责人李鹏辉分析了 Pulsar 2.5.0 的以下四个基础功能:Transaction streaming、Sticky consumer、Batch receiving 与 Namespace change events。

从计算层和分析层进行了不同程度的描述,并为现场听众答疑解惑。同时丛搏也从 Pulsar schema 层面,对 2.5.0 版本的改动与更新进行了全面的讲解。

随后,StreamNative 的翟佳为大家介绍了即将开源的 KoP(Kafka on Pulsar)架构与实施情况。KoP 在 Pulsar 上原生支持 Kafka 协议,即用户可以使用 Pulsar 作为底层基础设施,而无需修改基于 Kafka 的各种应用和服务。可以说是为「使用 Kafka 而头疼 topic 数量」的用户带来了希望。


>>> Apache Pulsar 在涂鸦智能的实践

伴随着 5G 的到来,物联网 IoT 行业迎来了一系列挑战和机遇。涂鸦智能作为一个全球化智能平台,除了在链接各个销售平台厂商外,也与用户之间有着千丝万缕的联系功能。

在主打「万物智能」主题的背后,涂鸦也在寻找极高的性能与稳定性的消息系统。涂鸦智能的张永红为大家展示了之前涂鸦智能的消息系统架构:HTTP 投递方式不灵活、使用 Kafka 情况下 topic 的数量与日俱增、各租户之间相互影响。

而 Apache Pulsar 的运维难度小、多租户隔离等特性正好能解决这些痛点问题,促使涂鸦智能调整了架构。

当然,新消息系统架构在使用过程中也不是完美的,毕竟每个公司的业务需求不尽相同。张永红也列举了他们在使用新架构过程中遇到的 bug,比如消息堆积等状况,并分享了应对方案。

最后通过对不同的消息队列进行对比,进一步说明了 Apache Pulsar 在物联网行业的应用前景十分可观。

视频????????


>>> Pulsar SQL 在智联招聘搜索日志分析的应用

搜索在智联招聘扮演着重要的角色,而搜索日志的采集分析对提升搜索效率、排查问题有着非常重要的作用。

智联搜索团队的研发工程师高冉,为我们展示了智联在 C 端用户和 B 端的一些使用场景,并介绍了 Pulsar SQL 的功能。技术栈简单以及与智联无缝衔接的消息系统等特性,成为智联选择 Pulsar SQL 的关键原因。

另外,高冉还从 Pulsar SQL 的发送消息和查询数据层面进行了细致的讲解。使用 Pulsar SQL  提升了数据查询的效率,满足了一些数据排查和聚合等场景,但在某些应用场景也略显不足,例如,缺少索引策略。

最后,高冉对 Pulsar 提出了一些功能期望,例如,使用 Pulsar SQL 进行消息查询和增加更多使用场景等。这些功能将在日后逐步完善。

视频????????


>>> 使用 Pulsarctl 和 Pulsar Manager 管理 Pulsar 集群

最后,StreamNative 的两名工程师冉小龙和俄广宁详细介绍了自研开发的 Pulsarctl 和 Pulsar Manager ,包括开发缘由和构建实现,并进行了现场演示。

为了弥补 Pulsar Admin 在使用中的一些不足,如依赖多、描述信息不全等,冉小龙和其团队基于 Golang 开发了该集群管理工具,相比 Pulsar Admin 有着更好的执行效率。

Pulsar Manager 也是由 StreamNative 研发并开源的可视化 Pulsar 集群管理工具。相比于 Dashboard 的弱管理特点,使用 Pulsar Manager 可以更方便的管理 clusters、tenants、namespaces、topics、authentication 与 authorization。

以上两个工具都能帮助大家在使用 Pulsar 的过程中,更方便地管理集群。


>>> 总结

Apache Pulsar Meetup 上海站顺利结束,到场的小伙伴们认真聆听分享,Q&A 环节异常活跃。大家对 Pulsar 充满了好奇和期待,好奇它云原生的企业级特性,期待接下来新功能的发布。

希望大家通过此次线下技术分享会,能进一步加深对 Pulsar 的了解,使用 Pulsar,并积极参与 Pulsar 社区的开发。

PS:
????‍♂️关于本次分享的所有 Slides 文件,点击「阅读原文」即可直达。

????如果你想观看全部的现场分享视频,可复制 ????前往 B 站查看:
https://www.bilibili.com/video/av76210979。

Recap | Apache Pulsar Meetup 上海站相关推荐

  1. 邀请函|2021 Apache Pulsar Meetup - 北京站

    点击上方"开源社"关注我们 | 作者:Apache Pulsar | 转载自:ApachePulsar | 编辑:warrior_.钱英宇 | 设计:谭嘉露 | 责编:王玥敏 1 ...

  2. 高能预警!Apache Flink Meetup · 上海站返场啦

    精选30+云产品,助力企业轻松上云!>>> 近期,Flink 社区上线了一系列好玩有趣又干货十足的活动.错过的小伙伴可以看这里:如果您是 Flink 爱好者想快速上手入门,Flink ...

  3. 社区活动|Apache Hudi x Apache Pulsar Meetup 杭州站来啦!

    关于 Apache Pulsar Apache Pulsar 是 Apache 软件基金会顶级项目,是下一代云原生分布式消息流平台,集消息.存储.轻量化函数式计算为一体,采用计算与存储分离架构设计,支 ...

  4. 今日直播 | Apache Hudi x Apache Pulsar Meetup线上专场如期而至 大咖齐聚

    简介:Apache Hudi 与 Apache Pulsar 联合 Meetup 线上专场将于2021 年 8 月 30 日(今天) 14:00开启直播,你准备好了吗? Apache Hudi 与 A ...

  5. Apache Flink Meetup · 上海站,超强数据湖干货等你!

    简介:Apache Flink x Iceberg Meetup 上海站 你是否有过流批技术栈不统一的抓狂? 你是否有过流批数据对不上的烦恼? 你是否有过,海量数据更新时效性跟不上的无奈? Apach ...

  6. 腾讯技术直播间 | Apache IoTDB x Apache Pulsar Meetup

    点击下方图片 收看Apache软件基金会两大孵化器项目 Pulsar x IoTDB 分享会全程直播 ???? >>> 活动介绍 <<< Apache Pulsar ...

  7. 精彩回顾 | Apache Flink x Iceberg Meetup · 上海站

    简介:PPT下载链接来啦! 4 月 17 日,Apache Flink Meetup 上海站圆满结束!本次 Meetup,社区邀请了来自阿里巴巴.腾讯.Dell 科技集团.汽车之家的 4 位技术专家分 ...

  8. 技术探究|Apache Pulsar 认证与鉴权实践指南

    文章摘要 本文整理自 2022 年 8 月 Apache Pulsar Meetup 上傅腾题为<Apache Pulsar 企业级安全实践>的分享.数据安全已经成为企业的一项重要竞争优势 ...

  9. 参加Apache Pulsar官方文档的翻译工作

    从9月开始接触Pulsar,我进行了简单的了解后,便开始进行系统的学习.目前市面上没有任何中文的资料,当然学习新的知识,这也不算个问题.我从官方文档一点点读起,在读的过程中为了方便以后反复学习和对照, ...

  10. 案例推荐|服务 50+ 业务线,Apache Pulsar 在科大讯飞 SRE 的探索与实践

    本文整理自 8 月 Apache Pulsar Meetup 上的分享.科大讯飞是中国最大的智能语音技术提供商,在中文语音合成.语音识别.口语评测等多项技术上拥有国际领先的成果.2022 年 3 月, ...

最新文章

  1. request和response一览
  2. Stored Procedure 里的 WITH RECOMPILE 到底是干麻的?
  3. [CODEVS 1281] Xn数列
  4. 佳博热敏条码打印机修改ip_高赋码热转印打印和热敏打印区别
  5. LeetCode206:Reverse Linked List
  6. 阿里云杜欢:云上Serverless开发能力将成为前端的“金手指”
  7. 基于centos6.5安装ElasticSearch
  8. IC卡设备驱动模块的代码
  9. max日期最大值为0_C语言编写程序输出10个整数中最小值或最大值
  10. RequestContextHolder 获取 ServletRequest 和 ServletResponse,Spring MVC ModelAndView 数据响应 Response
  11. android最低版本+黑域,免root版黑域
  12. 微信emoji表情编码 、MySQL 存储 emoji 表情符号字符集
  13. SWUST OJ 69: 偷菜时间表
  14. dev-express更新数据
  15. 计算机公开课课前互动小游戏,幼儿园10个师幼互动小游戏 让你的课堂马上活跃嗨起来!...
  16. idea代码放大缩小方式
  17. 亚马逊测评自养号环境系统的介绍和用法
  18. Golang cron
  19. Fragment的懒加载与生命周期详解
  20. 《企业管理概论》在线平时作业2

热门文章

  1. mbit职业测试软件,MBTI职业性格测试(高考专业填报版)(手机版)
  2. Android性能测试初探,合集粘贴版,转自Testerhome,卡斯著
  3. git rebase origin/develop
  4. python和按键精灵自动化测试_IOS开发入门之iOS自动化测试需求实现(iOS按键精灵类似)...
  5. 我的世界神级种子Java_单机生存必备 我的世界神级种子推荐
  6. Python爬虫实战,采集高德地图信息
  7. Android系统教程PPT,Android教程之架构详解.ppt
  8. Java课程寒假之开发记账本软件(网页版)之一
  9. 大学生毕业后的档案问题如何处理
  10. 华硕路由域名访问_域名绑定ip怎么做?有什么方法?