[转]【分布式系统】唯一ID生成策略总结
文章目录
- 全局唯一id介绍
- 全局唯一id特点:
- 常见全局唯一id生成策略
- 1、数据库自增长序列或字段生成id
- 2、UUID
- 3、Redis生成ID
- 4、zookeeper生成ID
- 5、Twitter的snowflake算法
全局唯一id介绍
全局唯一id特点:
- 全局唯一性:不能出现重复的ID号,既然是唯一标识,这是最基本的要求;
- 趋势递增:在MySQL InnoDB引擎中使用的是聚集索引,由于多数RDBMS使用B-tree的数据结构来存储索引数据,在主键的选择上面我们应该尽量使用有序的主键保证写入性能;
- 单调递增:保证下一个ID一定大于上一个ID,例如事务版本号、IM增量消息、排序等特殊需求;
- 信息安全:如果ID是连续的,恶意用户的扒取工作就非常容易做了,直接按照顺序下载指定URL即可;如果是订单号就更危险了,竞对可以直接知道我们一天的单量。所以在一些应用场景下,会需要ID无规则、不规则;
- 高可用性:同时除了对ID号码自身的要求,业务还对ID号生成系统的可用性要求极高,想象一下,如果ID生成系统瘫痪,这就会带来一场灾难。所以不能有单点故障;
- 分片支持:可以控制ShardingId。比如某一个用户的文章要放在同一个分片内,这样查询效率高,修改也容易;
- 长度适中。
常见全局唯一id生成策略
1、数据库自增长序列或字段生成id
最常见的一种生成id方式。利用数据库本身来进行设置,在全数据库内保持唯一。
1. 强依赖DB。不同数据库语法和实现不同,数据库迁移的时候、多数据库版本支持的时候、或分表分库的时候需要处理,会比较麻烦。当DB异常时整个系统不可用,属于致命问题。
2. 单点故障。在单个数据库或读写分离或一主多从的情况下,只有一个主库可以生成。有单点故障的风险。
3. 数据一致性问题。配置主从复制可以尽可能的增加可用性,但是数据一致性在特殊情况下难以保证。主从切换时的不一致可能会导致重复发号。
4. 难于扩展。在性能达不到要求的情况下,比较难于扩展。ID发号性能瓶颈限制在单台MySQL的读写性能。
2、UUID
UUID uuid = UUID.randomUUID(); String s = UUID.randomUUID().toString();
- 存储成本高。UUID太长,16字节128位,通常以36长度的字符串表示,很多场景不适用。如果是海量数据库,就需要考虑存储量的问题。
- 信息不安全。基于MAC地址生成UUID的算法可能会造成MAC地址泄露,这个漏洞曾被用于寻找梅丽莎病毒的制作者位置。
- 不适用作为主键,ID作为主键时在特定的环境会存在一些问题,比如做DB主键的场景下,UUID就非常不适用。UUID往往是使用字符串存储,查询的效率比较低。
- UUID是无序的。不是单调递增的,而现阶段主流的数据库主键索引都是选用的B+树索引,对于无序长度过长的主键插入效率比较低。
- 传输数据量大。
- 不可读。
为了解决UUID不可读, 可以使用UUID to Int64的方法 。
3、Redis生成ID
可以使用Redis集群来获取更高的吞吐量。假如一个集群中有5台Redis。可以初始化每台Redis的值分别是1,2,3,4,5,然后步长都是5。各个Redis生成的ID为:
这个负载到哪台机器上需要提前设定好,未来很难做修改。但是3-5台服务器基本能够满足,都可以获得不同的ID。步长和初始值一定需要事先设定好。使用Redis集群也可以防止单点故障的问题。
比较适合使用Redis来生成日切流水号。比如订单号=日期+当日自增长号。可以每天在Redis中生成一个Key,使用INCR进行累加。
如果系统中没有Redis,还需要引入新的组件,增加系统复杂度。。
需要编码和配置的工作量比较大。
Redis单点故障,影响序列服务的可用性。
4、zookeeper生成ID
zookeeper主要通过其znode数据版本来生成序列号,可以生成32位和64位的数据版本号,客户端可以使用这个版本号来作为唯一的序列号。
很少会使用zookeeper来生成唯一ID。主要是由于需要依赖zookeeper,并且是多步调用API,如果在竞争较大的情况下,需要考虑使用分布式锁。因此,性能在高并发的分布式环境下,也不甚理想。
5、Twitter的snowflake算法
snowflake(雪花算法)是Twitter开源的分布式ID生成算法,结果是一个long型的ID。这种方案把64-bit分别划分成多段,分开来标示机器、时间等。如图:
snowflake算法可以根据自身项目的需要进行一定的修改。比如估算未来的数据中心个数,每个数据中心的机器数以及统一毫秒可以能的并发数来调整在算法中所需要的bit数。
- 稳定性高,不依赖于数据库等第三方系统,以服务的方式部署,稳定性更高,生成ID的性能也是非常高的。
- 灵活方便,可以根据自身业务特性分配bit位。
- 单机上ID单调自增,毫秒数在高位,自增序列在低位,整个ID都是趋势递增的。
强依赖机器时钟,如果机器上时钟回拨,会导致发号重复或者服务会处于不可用状态。
ID可能不是全局递增。在单机上是递增的,但是由于涉及到分布式环境,每台机器上的时钟不可能完全同步,也许有时候也会出现不是全局递增的情况。
---------------------
作者:梦 * 蝶
来源:CSDN
原文:https://blog.csdn.net/LZ15932161597/article/details/113397226
版权声明:本文为作者原创文章,转载请附上博文链接!
内容解析By:CSDN,CNBLOG博客文章一键转载插件
[转]【分布式系统】唯一ID生成策略总结相关推荐
- 【分布式系统】唯一ID生成策略总结
文章目录 全局唯一id介绍 全局唯一id特点: 常见全局唯一id生成策略 1.数据库自增长序列或字段生成id 2.UUID 3.Redis生成ID 4.zookeeper生成ID 5.Twitter的 ...
- Reids实战——优惠券秒杀(全局唯一ID生成策略)
1 全局唯一ID生成策略 每个店铺都可以发布优惠券: 当用户抢购时,就会生成订单并保存到tb_voucher_order这张表中,而订单表如果使用数据库自增ID就存在一些问题: 1. id的规律性太明 ...
- 分布式系统唯一ID生成方案浅析
有情怀,有干货,微信搜索[荒古传说]关注这个不一样的程序员. 分布式系统唯一ID生成方案浅析 在复杂分布式系统中,往往需要对大量的数据和消息进行唯一标识.业务ID需要满足的要求如下 全局唯一性:不能出 ...
- 分布式系统唯一ID生成方案汇总【转】
转自:http://www.cnblogs.com/haoxinyue/p/5208136.html 系统唯一ID是我们在设计一个系统的时候常常会遇见的问题,也常常为这个问题而纠结.生成ID的方法有很 ...
- 微服务架构分布式全局唯一ID生成策略及算法
全局唯一的 ID 几乎是所有系统都会遇到的刚需.这个 id 在搜索, 存储数据, 加快检索速度 等等很多方面都有着重要的意义.工业上有多种策略来获取这个全局唯一的id,针对常见的几种场景,我在这里进行 ...
- 分布式系统唯一ID生成方案汇总
系统唯一ID是我们在设计一个系统的时候常常会遇见的问题,也常常为这个问题而纠结.生成ID的方法有很多,适应不同的场景.需求以及性能要求.所以有些比较复杂的系统会有多个ID生成的策略.下面就介绍一些常见 ...
- android唯一机器码生成方案_分布式系统唯一ID生成方案汇总
系统唯一ID是我们在设计一个系统的时候常常会遇见的问题,也常常为这个问题而纠结.生成ID的方法有很多,适应不同的场景.需求以及性能要求.所以有些比较复杂的系统会有多个ID生成的策略.下面就介绍一些常见 ...
- node 生成随机头像_唯一ID生成算法剖析
引在业务开发中,大量场景需要唯一ID来进行标识:用户需要唯一身份标识:商品需要唯一标识:消息需要唯一标识:事件需要唯一标识-等等,都需要全局唯一ID,尤其是分布式场景下.唯一ID有哪些特性或者说要求呢 ...
- 6位顺序号生成_分布式id生成策略,我和面试官扯了一个半小时
一.分布式系统带来ID生成挑战 在分布式系统中,往往需要对大量的数据如订单.账户进行标识,以一个有意义的有序的序列号来作为全局唯一的ID. 而分布式系统中我们对ID生成器要求又有哪些呢? 全局唯一性: ...
最新文章
- 好用到爆的 Java 技巧
- linkedlist 置顶
- pytorch attention
- SQL 基础之用户角色日常操作(十六)
- boost::fusion::iterator_range用法的测试程序
- cmos和ttl_【转】CMOS与TTL电路的区别
- redhat和ubuntu系统下挂载ntfs文件系统的方法(转载)
- SAE J1939 协议源代码分析(二)-程序移植
- windows安装ssh服务
- spring整合WebService入门详解
- EAS的各种日志说明 (转载)
- Orinda无线ap
- u大师装iso系统linux,u大师教你iso文件系统的安装
- svn导出历史版本、指定版本
- 聚类分析在SPSS、Matlab与R中的实现(转载: Liu Xuhua 机会的数学 )
- Oracle和Mysql的区别
- 红米 android8 刷机,小米红米5 plus(安卓8.0)手机刷机图文教程工具分享,快速一键刷机...
- WiFi 4/5/6的差别(3)
- 微软 MSR Image Recognition Challenge 2016(IRC@ICME) 测试demo
- 多功能计算器1.0.5