点击关注公众号,实用技术文章及时了解

来源:blog.csdn.net/LZ15932161597/

article/details/113397226

文章目录

  • 全局唯一id介绍

    • 全局唯一id特点:

  • 常见全局唯一id生成策略

    • 数据库自增长序列或字段生成id

    • UUID

    • Redis生成ID

    • zookeeper生成ID

    • Twitter的snowflake算法

全局唯一id介绍

系统唯一id是我们在设计阶段常常遇到的问题。在复杂的分布式系统中,几乎都需要对大量的数据和消息进行唯一标识。在设计初期,我们需要考虑日后数据量的级别,如果可能会对数据进行分库分表,那么就需要有一个全局唯一id来标识一条数据或记录。生成唯一id的策略有多种,但是每种策略都有它的适用场景、优点以及局限性。

全局唯一id特点:

  • 全局唯一性:不能出现重复的ID号,既然是唯一标识,这是最基本的要求;

  • 趋势递增:在MySQL InnoDB引擎中使用的是聚集索引,由于多数RDBMS使用B-tree的数据结构来存储索引数据,在主键的选择上面我们应该尽量使用有序的主键保证写入性能;

  • 单调递增:保证下一个ID一定大于上一个ID,例如事务版本号、IM增量消息、排序等特殊需求;

  • 信息安全:如果ID是连续的,恶意用户的扒取工作就非常容易做了,直接按照顺序下载指定URL即可;如果是订单号就更危险了,竞对可以直接知道我们一天的单量。所以在一些应用场景下,会需要ID无规则、不规则;

  • 高可用性:同时除了对ID号码自身的要求,业务还对ID号生成系统的可用性要求极高,想象一下,如果ID生成系统瘫痪,这就会带来一场灾难。所以不能有单点故障;

  • 分片支持:可以控制ShardingId。比如某一个用户的文章要放在同一个分片内,这样查询效率高,修改也容易;

  • 长度适中

常见全局唯一id生成策略

1、数据库自增长序列或字段生成id

最常见的一种生成id方式。利用数据库本身来进行设置,在全数据库内保持唯一。

【优点】

非常简单。利用现有数据库系统的功能实现,成本小,代码简单,性能可以接受。ID号单调递增。可以实现一些对ID有特殊要求的业务,比如对分页或者排序结果这类需求有帮助。

【缺点】

  1. 强依赖DB。不同数据库语法和实现不同,数据库迁移的时候、多数据库版本支持的时候、或分表分库的时候需要处理,会比较麻烦。当DB异常时整个系统不可用,属于致命问题。

  2. 单点故障。在单个数据库或读写分离或一主多从的情况下,只有一个主库可以生成。有单点故障的风险。

  3. 数据一致性问题。配置主从复制可以尽可能的增加可用性,但是数据一致性在特殊情况下难以保证。主从切换时的不一致可能会导致重复发号。

  4. 难于扩展。在性能达不到要求的情况下,比较难于扩展。ID发号性能瓶颈限制在单台MySQL的读写性能。

【部分优化方案】

针对主库单点, 如果有多个Master库,则每个Master库设置的起始数字不一样,步长一样,可以是Master的个数。比如:Master1 生成的是 1,4,7,10,Master2生成的是2,5,8,11 Master3生成的是 3,6,9,12。这样就可以有效生成集群中的唯一ID,也可以大大降低ID生成数据库操作的负载。

2、UUID

常见的生成id方式,利用程序生成。

UUID (Universally Unique Identifier) 的目的,是让分布式系统中的所有元素,都能有唯一的辨识资讯,而不需要透过中央控制端来做辨识资讯的指定。如此一来,每个人都可以建立不与其它人冲突的 UUID。在这样的情况下,就不需考虑数据库建立时的名称重复问题。

UUID的标准形式包含32个16进制数字,以连字号分为五段,形式为8-4-4-4-12的36个字符,示例:550e8400-e29b-41d4-a716-446655440000,到目前为止业界一共有5种方式生成UUID。

另外,关注Java知音公众号,回复“后端面试”,送你一份面试题宝典!

在Java中我们可以直接使用下面的API生成UUID:

UUID uuid  =  UUID.randomUUID(); String s = UUID.randomUUID().toString();

【优点】

  • 非常简单,本地生成,代码方便,API调用方便。

  • 性能非高。生成的id性能非常好,没有网络消耗,基本不会有性能问题。

  • 全球唯一。在数据库迁移、系统数据合并、或者数据库变更的情况下,可以 从容应对。

【缺点】

  • 存储成本高。UUID太长,16字节128位,通常以36长度的字符串表示,很多场景不适用。如果是海量数据库,就需要考虑存储量的问题。

  • 信息不安全。基于MAC地址生成UUID的算法可能会造成MAC地址泄露,这个漏洞曾被用于寻找梅丽莎病毒的制作者位置。

  • 不适用作为主键,ID作为主键时在特定的环境会存在一些问题,比如做DB主键的场景下,UUID就非常不适用。UUID往往是使用字符串存储,查询的效率比较低。

  • UUID是无序的。不是单调递增的,而现阶段主流的数据库主键索引都是选用的B+树索引,对于无序长度过长的主键插入效率比较低。

  • 传输数据量大

  • 不可读

【部分优化方案】

  • 为了解决UUID不可读, 可以使用UUID to Int64的方法 。

  • 为了解决UUID无序的问题, NHibernate在其主键生成方式中提供了Comb算法(combined guid/timestamp)。保留GUID的10个字节,用另6个字节表示GUID生成的时间(DateTime)。

3、Redis生成ID

当使用数据库来生成ID性能不够要求的时候,我们可以尝试使用Redis来生成ID。这主要依赖于Redis是单线程的,所以也可以用生成全局唯一的ID。可以用Redis的原子操作 INCR和INCRBY来实现。

可以使用Redis集群来获取更高的吞吐量。假如一个集群中有5台Redis。可以初始化每台Redis的值分别是1,2,3,4,5,然后步长都是5。各个Redis生成的ID为:

  • A:1,6,11,16,21

  • B:2,7,12,17,22

  • C:3,8,13,18,23

  • D:4,9,14,19,24

  • E:5,10,15,20,25

这个负载到哪台机器上需要提前设定好,未来很难做修改。但是3-5台服务器基本能够满足,都可以获得不同的ID。步长和初始值一定需要事先设定好。使用Redis集群也可以防止单点故障的问题。

比较适合使用Redis来生成日切流水号。比如订单号=日期+当日自增长号。可以每天在Redis中生成一个Key,使用INCR进行累加。

【优点】

  • 不依赖于数据库,灵活方便,且性能优于数据库。。

  • 数字ID天然排序,对分页或者需要排序的结果很有帮助。

【缺点】

  • 如果系统中没有Redis,还需要引入新的组件,增加系统复杂度。。

  • 需要编码和配置的工作量比较大。

  • Redis单点故障,影响序列服务的可用性。

4、zookeeper生成ID

zookeeper主要通过其znode数据版本来生成序列号,可以生成32位和64位的数据版本号,客户端可以使用这个版本号来作为唯一的序列号。

很少会使用zookeeper来生成唯一ID。主要是由于需要依赖zookeeper,并且是多步调用API,如果在竞争较大的情况下,需要考虑使用分布式锁。因此,性能在高并发的分布式环境下,也不甚理想。

5、Twitter的snowflake算法

snowflake(雪花算法)是Twitter开源的分布式ID生成算法,结果是一个long型的ID。这种方案把64-bit分别划分成多段,分开来标示机器、时间等。如图:

其核心思想是:使用41bit作为毫秒数,10bit作为机器的ID(5个bit是数据中心,5个bit的机器ID),12bit作为毫秒内的流水号(意味着每个节点在每毫秒可以产生 4096 个 ID),最后还有一个符号位,永远是0。具体实现的代码可以参看github。

snowflake算法可以根据自身项目的需要进行一定的修改。比如估算未来的数据中心个数,每个数据中心的机器数以及统一毫秒可以能的并发数来调整在算法中所需要的bit数。

【优点】

  • 稳定性高,不依赖于数据库等第三方系统,以服务的方式部署,稳定性更高,生成ID的性能也是非常高的。

  • 灵活方便,可以根据自身业务特性分配bit位。

  • 单机上ID单调自增,毫秒数在高位,自增序列在低位,整个ID都是趋势递增的。

【缺点】

  • 强依赖机器时钟,如果机器上时钟回拨,会导致发号重复或者服务会处于不可用状态。

  • ID可能不是全局递增。在单机上是递增的,但是由于涉及到分布式环境,每台机器上的时钟不可能完全同步,也许有时候也会出现不是全局递增的情况。

●【练手项目】基于SpringBoot的ERP系统,自带进销存+财务+生产功能

●分享一套基于SpringBoot和Vue的企业级中后台开源项目,代码很规范!

●能挣钱的,开源 SpringBoot 商城系统,功能超全,超漂亮!

PS:因为公众号平台更改了推送规则,如果不想错过内容,记得读完点一下“在看”,加个“星标”,这样每次新文章推送才会第一时间出现在你的订阅列表里。点“在看”支持我们吧!

5种全局ID生成方式、优缺点及改进方案相关推荐

  1. 5 种全局 ID 生成方式、优缺点及改进方案

    来源:blog.csdn.net/LZ15932161597/ article/details/113397226 文章目录 全局唯一id介绍 全局唯一id特点: 常见全局唯一id生成策略 数据库自增 ...

  2. 5种全局ID生成方式的优缺点及改进方案

    一.全局唯一id介绍 系统唯一id是我们在设计阶段常常遇到的问题.在复杂的分布式系统中,几乎都需要对大量的数据和消息进行唯一标识.在设计初期,我们需要考虑日后数据量的级别,如果可能会对数据进行分库分表 ...

  3. 一口气说出 9种 分布式ID生成方式,面试官有点懵了

    写在前边 前两天公众号有个粉丝给我留言吐槽最近面试:"四哥,年前我在公司受点委屈一冲动就裸辞了,然后现在疫情严重两个多月还没找到工作,接了几个视频面试也都没下文.好多面试官问完一个问题,紧接 ...

  4. 九种分布式ID生成方式

    一.为什么要用分布式ID? 在说分布式ID的具体实现之前,我们来简单分析一下为什么用分布式ID?分布式ID应该满足哪些特征? 1.什么是分布式ID? 拿MySQL数据库举个栗子:在我们业务数据量不大的 ...

  5. 分布式全局ID生成器设计

    项目是分布式的架构,需要设计一款分布式全局ID,参照了多种方案,博主最后基于snowflake的算法设计了一款自用ID生成器.具有以下优势: 保证分布式场景下生成的ID是全局唯一的 生成的全局ID整体 ...

  6. 美团分布式mysql_9种分布式ID生成之美团(Leaf)实战

    整理了一些Java方面的架构.面试资料(微服务.集群.分布式.中间件等),有须要的小伙伴能够关注公众号[程序员内点事],无套路自行领取javascript 更多优选java 引言 前几天写过一篇< ...

  7. 7 种分布式全局 ID 生成策略,你更爱哪种?

    上了微服务之后,很多原本很简单的问题现在都变复杂了,例如全局 ID 这事! 最近工作中刚好用到这块内容,于是调研了市面上几种常见的全局 ID 生成策略,稍微做了一下对比,供小伙伴们参考. 当数据库分库 ...

  8. 七种分布式全局 ID 生成策略,你更爱哪种?

    上了微服务之后,很多原本很简单的问题现在都变复杂了,例如全局 ID 这事! 最近工作中刚好用到这块内容,于是调研了市面上几种常见的全局 ID 生成策略,稍微做了一下对比,供小伙伴们参考. 当数据库分库 ...

  9. VR有五种全局光照渲染引擎和各自的优缺点

    来自: 喜欢(有些日子总是令人无法淡忘) 2008-10-20 15:53:26 VR有五种全局光照渲染引擎:  Irradiance map(发光帖图)  Photon map(光子帖图)  QMC ...

最新文章

  1. 为什么“我”只给iOS做了应用?
  2. ESB与可插拨系统的思考
  3. ant app 心电监测_医疗级心电健康手表,随时随地监测你的健康,心电手表H1手表评测...
  4. Error dialog box generic entry point
  5. java项目:永和大王项目_Java项目:书评
  6. LeetCode 158. 用 Read4 读取 N 个字符 II
  7. mysql独立开发_nacos的mysql独立部署
  8. BZOJ3437:小P的牧场(斜率优化DP)
  9. php preg_match 只匹配第一个字符_PHP正则表达式核心技术完全详解 第3节
  10. 如何做好一个流量站?
  11. Ubuntu /CentOS 设置开机启动,添加自定义系统服务,自定义开机启动
  12. python和java那个更难_python难还是java难
  13. Java中日期格式化yyyyMMdd和YYYYMMdd的区别
  14. 神经网络的原理和应用,神经网络理论及应用
  15. 「ZigBee模块」基础实验(4)定时器T1的简单应用
  16. 如何用计算机算标准偏差,标准差计算器怎样安装使用?标准差计算器使用教程介绍...
  17. 响应式美容美发形象设计艺术教育学校网站织梦模板源码
  18. PS2 键盘 变 USB 键盘 设计图
  19. matlab trapz二重积分函数_「matlab 积分」使用Matlab求解定积分/不定积分 - seo实验室...
  20. 【论文阅读】TimbreTron : A WaveNet (Cycle GAN(CQT(audio ))) pipeline for musical timbre transfer

热门文章

  1. 华为畅享10评测:4800万超清夜景 多方全能的千元实力派手机
  2. 真香!第一批国产人造肉亮相阿里食堂 员工表示味道很不错
  3. 安卓依然是华为手机首选,鸿蒙系统或许不用于手机
  4. iQOO骑士黑版本四月亮相:搭载骁龙855+12G运存
  5. 大众点评被合并至美团? 官方回应:不存在这种可能性
  6. 获取Linux命令源代码的方法【ZT】
  7. 最有效的七大性能测试技术
  8. 使用js脚本的好处以及其本身的特点
  9. 简单java面试题(带答案)
  10. 语言谓词函数isprime_G?del完备性定理 —— 一阶谓词逻辑演绎系统 Part II