PolarDB-X 开源分布式数据库在韵达科技的应用实践

本文整理自韵达科技业务中台总监李波涛，在 2022 阿里巴巴开源开放周上的分享。本篇内容主要分为三个部分： 1. 企业背景 2. 应用实践 3. 未来展望。

一、背景：企业介绍业务诉求

韵达主要面向国内外提供快递、快运、供应链、仓储服务等，目前拥有 4 万多家快递服务网点，3000 多家快运服务网点，200 多家加盟商，以及 100 多家分拣中心，其中包括 4200 条快递干线，1000 多条快运干线，150 家城市配送站，业务覆盖了 100 多家重点城市，遍布全球 30 万个国家和地区，拥有 200 万平米仓储面积，从业人员 30 多万。

韵达每日订单量高达几千万，每个订单有多种标签信息，因此数据量巨大。其中上游业务方有各大电商平台、订单中心、大客户、智橙网、财务中心、店配团、物流团等。

打标平台主要提供了订单标签基础服务、查询统计服务、消息推送、 CSV 文件推送、订单标签处理等。其中数据存储是核心业务，数据量较大，而且是高并发访问场景。数据存储涉及到 Kafka、 CSV、Redis、MySQL 分库分表。

下游主要为业务赋能，有韵图、智能外联、大掌柜、数据中台、结算团、韵达超市、揽派系统等一共 30 多个系统。

二、应用实践：架构升级核心能力

韵达原先的业务架构存在较多痛点：

数据无法充分发挥业务价值：传统的分库分表方案缺少数据全局视角，对复杂查询的限制较多，需要人工进行处理。
历史数据清理繁琐：数据并不需要长期存储，对于业务场景而言一般只需存储 1 年。但因为分表较多，数据清理较麻烦，同时为了避免对在线业务产生影响，经常需要在业务低峰期比如凌晨，与 DBA 团队合作对历史数据做手动清理。
随着业务上升导致性能衰减：数据增加以后查询能力下降。另外，计算存储资源固定，难以扩容。

因此，韵达采用了阿里云开源 PolarDB-X 云原生分布式数据库对业务架构进行了升级，使架构性能得到了极大的提升：

运营成本降低：支持灵活设置历史数据的存储周期，可以降低存储成本。透明分布式使得使用、运维方面的成本也得以下降。高兼容 MySQL 语法对开发团队而言，学习成本也得到了降低。
提高弹性扩展能力：计算存储分离架构提供了弹性能力，可随时扩缩容，资源可以按需分配，提高了资源利用率。
高可用能力提升：引入了强一致协议，克服了主备脑裂问题。另外，多副本技术的加持使得数据更加安全可靠。

上图为升级后的基于分布式数据库的业务架构。与老架构的主要差别在于，将原先基于 MySQL 的人工分库分表使用 PolarDB-X 进行了替换，架构上并未有大调整。

此外，开发团队并不需要理解 CN 节点，也不需要与 CN 节点打交道，他们看到的只是一个 PolarDB-X 数据库，可以理解为一个大型的 MySQL 实例，不存在额外的学习成本。

PolarDB-X 提供了两种数据库模式，分别是 Auto 模式和 DRDS 模式。官方推荐使用 Auto 模式，它具有较好的功能特性，我们也采用了该模式。

Auto 模式分区灵活，支持自动、手动分区，单机 DDL 语法无需改动，可以直接在 PolarDB-X 上使用。高度兼容了 MySQL ，无需额外的学习成本。支持分区级分裂合并，解决了数据热点问题。

Auto 模式下的数据库建表语法与 MySQL 的建表语法完全一致，无需指定分区定义，自动采用 Primary Key 做分区，非常方便。另外，PolarDB-X 支持多种表类型，比如传统单表、广播表、分区表，且可以通过简单 DDL 语句进行灵活的转换，比如分区表通过 partition-by 即可做哈希分区，可通过 pratition 参数指定分区数，可以创建 broadcast 广播表，也可以通过 outtable 将单表转换为分区表，非常方便快捷。

PolarDB-X 也提供了数据生命周期管理。

通过 Local Partition By Range(create_time)指定 TTL 表的物理时间分区列，在物理表上的数据会以此列做时间分区。可以通过 startwith 指定初始时间分区， intervial month 意为指定数据分区间隔为一个月，也可以按天或者按年进行分区。 Expire after 指每个分区 12 个月会自动清理，清理工作不再需要开发与运维在凌晨手动完成，Pre allocate 可以指定提前创建分区的数量。

TTL 在 PolarDB-X 后台通过定时任务来自动处理，节省了开发与运维的成本。

韵达订单打标项目为双活部署，每天订单打标数据量 2 亿+，接口查询量 8000 多万。目前标签分类有 80 多种，随着业务发展和用户需求，标签分类可轻松扩展。赋能 30+业务应用，提供了 API 查询、统计分析、消息推送、CSV 等。

数据进行了温热分级存储，其中 Redis 存储三个月数据量，PolarDB-X 存储一年的数据量。有些数据除了统计分析用途以外，还有财务对账等回溯需求，因此会被导入 PolarDB-X，以便进行方便快捷地查询。因为数据量较大，我们采用 ProtoBuf 对数据进行了压缩。

PolarDB-X 为韵达订单打标项目带来了诸多好处：

不再需要人工进行分库分表，可以通过创建来全局二级索引对打标数据进行灵活统计处理，快速满足业务方面的需求。
可以自动清理过期数据，释放空间，提高数据库操作效率，不再需要人工干预。
支持水平与纵向扩缩容，可以轻松应大促场景。
PolarDB-X 兼容 MySQL 协议，降低开发人员的学习曲线，可快速从此前的人工分库分表方案迁移到 PolarDB-X 数据库。
支持 online schema change ，添加二级索引不锁表。
多副本数据备份方案，保证了数据安全性。

三、未来展望：社区贡献领域探索

PolarDB-X 提供了很多优秀的功能特性，在韵达的很多场景里可以进行推广使用。韵达存在大量高并发、海量数据存储的业务场景，因此，后续会在韵达公司内部进一步做 PolarDB-X 的推广使用。

另外，也会进一步在 HTAP 领域进行探索。 PolarDB-X 提供了 TP 和 AP 的处理能力，因此我们计划使用 PolarDB-X 替换原先 MySQL +Elasticsearch 提供的能力。同时，也会将 PolarDB-X 与韵达已有的周边生态进行融合。

社区建设方面，PolarDB-X 官方推荐部署在 K8s 平台上，提供了开源的数据库，也提供了开源的监控能力。后续韵达将基于 Prometheus 与 Grafana 做监控能力的进一步提升，比如与公司金融平台、钉钉等打通，及时了解系统运行的健康状况。

最后，韵达科技将持续在社区分享基于 PolarDB-X 开源的实战经验。