背景

在复杂分布式系统中,往往需要对大量的数据和消息进行唯一标识。如在支付流水号、订单号等,随者业务数据日渐增长,对数据分库分表后需要有一个唯一ID来标识一条数据或消息,数据库的自增ID显然不能满足需求,此时一个能够生成全局唯一ID的系统是非常必要的。

生成的唯一id需要具备哪些条件

全局唯一性:不能出现重复的ID号,既然是唯一标识,这是最基本的要求。

趋势递增:在MySQL InnoDB引擎中使用的是聚集索引,由于多数RDBMS使用B-tree的数据结构来存储索引数据,在主键的选择上面我们应该尽量使用有序的主键保证写入性能。

单调递增:保证下一个ID一定大于上一个ID,例如事务版本号、IM增量消息、排序等特殊需求。

信息安全:如果ID是连续的,恶意用户的扒取工作就非常容易做了,直接按照顺序下载指定URL即可;如果是订单号就更危险了,竞对可以直接知道我们一天的单量。所以在一些应用场景下,会需要ID无规则、不规则。

UUID

关于分布式id,很多人会想到使用UUID,UUID在唯一性上确实可以达到这个目的,但它也存在很大的缺陷

优点:

性能非常高:本地生成,没有网络消耗。

缺点:

不易于存储:UUID太长,16字节128位,通常以36长度的字符串表示,很多场景不适用。

信息不安全:基于MAC地址生成UUID的算法可能会造成MAC地址泄露,这个漏洞曾被用于寻找梅丽莎病毒的制作者位置。

ID作为主键时在特定的环境会存在一些问题,比如做DB主键的场景下,UUID就非常不适用。(MySQL官方有明确的建议主键要尽量越短越好,36个字符长度的UUID不符合要求。对MySQL索引不利:如果作为数据库主键,在InnoDB引擎下,UUID的无序性可能会引起数据位置频繁变动,严重影响性能。)

snowflake

"世界上没有一片雪花是相同的",这大概是snowflake名字的由来吧。

SnowFlake算法是Twitter设计的一个可以在分布式系统中生成唯一的ID的算法,它可以满足Twitter每秒上万条消息ID分配的请求,这些消息ID是唯一的且有大致的递增顺序。

snowflake算法的原理

SnowFlake算法产生的ID是一个64位的整型,结构如下(每一部分用“-”符号分隔):

snowflake.png

需要注意的是64位是二进制,2的64次方 = 18446744073709551616,这就是能表示的id的范围,范围可以通过扩展序列号或则工作机器id来增加id的上限。

1位标识部分

在java中由于long的最高位是符号位,正数是0,负数是1,一般生成的ID为正数,所以为0;

41位时间戳部分

这个是毫秒级的时间,一般实现上不会存储当前的时间戳,而是时间戳的差值(当前时间-固定的开始时间),这样可以使产生的ID从更小值开始;41位的时间戳可以使用69年,(1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69年;

10位节点部分

Twitter实现中使用前5位作为数据中心标识,后5位作为机器标识,可以部署1024个节点,在Spring Cloud中可以为每一个实例生成唯一的机器识别码,这样就能保证每个实例中生成的id都不一样。

12位序列号部分

支持同一毫秒内同一个节点可以生成4096(2的12次方)个ID,这个同样可以扩展,但其实每毫秒生成4096个id已经能满足大部分场景了。

算法的java代码

/**

* twitter的snowflake算法 -- java实现

*

* @author beyond

* @date 2016/11/26

*/

public class SnowFlake {

/**

* 起始的时间戳(最后的时间 = 当前时间戳 - 起始的时间戳)

*/

private final static long START_STMP = 1480166465631L;

/**

* 每一部分占用的位数

*/

private final static long SEQUENCE_BIT = 12; //序列号占用的位数

private final static long MACHINE_BIT = 5; //机器标识占用的位数

private final static long DATACENTER_BIT = 5;//数据中心占用的位数

/**

* 每一部分的最大值

*/

private final static long MAX_DATACENTER_NUM = -1L ^ (-1L << DATACENTER_BIT);

private final static long MAX_MACHINE_NUM = -1L ^ (-1L << MACHINE_BIT);

private final static long MAX_SEQUENCE = -1L ^ (-1L << SEQUENCE_BIT);

/**

* 每一部分向左的位移

*/

private final static long MACHINE_LEFT = SEQUENCE_BIT;

private final static long DATACENTER_LEFT = SEQUENCE_BIT + MACHINE_BIT;

private final static long TIMESTMP_LEFT = DATACENTER_LEFT + DATACENTER_BIT;

private long datacenterId; //数据中心

private long machineId; //机器标识

private long sequence = 0L; //序列号

private long lastStmp = -1L;//上一次时间戳

public SnowFlake(long datacenterId, long machineId) {

// 校验datacenterId长度超过范围就抛异常

if (datacenterId > MAX_DATACENTER_NUM || datacenterId < 0) {

throw new IllegalArgumentException("datacenterId can't be greater than MAX_DATACENTER_NUM or less than 0");

}

// 校验machineId长度超过范围就抛异常

if (machineId > MAX_MACHINE_NUM || machineId < 0) {

throw new IllegalArgumentException("machineId can't be greater than MAX_MACHINE_NUM or less than 0");

}

this.datacenterId = datacenterId;

this.machineId = machineId;

}

/**

* 产生下一个ID

*

* @return

*/

public synchronized long nextId() {

long currStmp = getNewstmp();

if (currStmp < lastStmp) {

throw new RuntimeException("Clock moved backwards. Refusing to generate id");

}

if (currStmp == lastStmp) {

//相同毫秒内,序列号自增

sequence = (sequence + 1) & MAX_SEQUENCE;

//同一毫秒的序列数已经达到最大

if (sequence == 0L) {

currStmp = getNextMill();

}

} else {

//不同毫秒内,序列号置为0

sequence = 0L;

}

lastStmp = currStmp;

//使用二进制的"|"运算符将4部分的值整合成我们需要的id

return (currStmp - START_STMP) << TIMESTMP_LEFT //时间戳部分

| datacenterId << DATACENTER_LEFT //数据中心部分

| machineId << MACHINE_LEFT //机器标识部分

| sequence; //序列号部分

}

//如果当前毫秒值下的序列号用完,就循环获取下个毫秒值,如果没有获取到下个毫秒值就

//一直循环下去

private long getNextMill() {

long mill = getNewstmp();

while (mill <= lastStmp) {

mill = getNewstmp();

}

return mill;

}

private long getNewstmp() {

return System.currentTimeMillis();

}

public static void main(String[] args) {

SnowFlake snowFlake = new SnowFlake(2, 3);

for (int i = 0; i < (1 << 12); i++) {

System.out.println(snowFlake.nextId());

}

}

}

总结

10位节点部分在代码中分成了两个5位节点,看具体需求,也可以用一个10位节点代替。snowflake更多的是提供一种算法思想,具体的id生成逻辑可以在此基础上进一步的优化。

java不规则算法_分布式id生成算法 snowflake 详解相关推荐

  1. java 唯一id生成算法_唯一ID生成算法剖析

    在业务开发中,大量场景需要唯一ID来进行标识:用户需要唯一身份标识:商品需要唯一标识:消息需要唯一标识:事件需要唯一标识-等等,都需要全局唯一ID,尤其是分布式场景下. 唯一ID有哪些特性或者说要求呢 ...

  2. python雪花算法生成id_理解分布式id生成算法SnowFlake

    分布式id生成算法的有很多种,Twitter的SnowFlake就是其中经典的一种. 概述 SnowFlake算法生成id的结果是一个64bit大小的整数,它的结构如下图: 1位,不用.二进制中最高位 ...

  3. 美团技术分享:深度解密美团的分布式ID生成算法

    本文来自美团技术团队"照东"的分享,原题<Leaf--美团点评分布式ID生成系统>,收录时有勘误.修订并重新排版,感谢原作者的分享. 1.引言 鉴于IM系统中聊天消息I ...

  4. 分布式ID生成算法——leaf算法

    leaf是美团在雪花算法的基础上提出的一种分布式ID生成算法,它具有全局唯一.高可用.高并发.低延迟.接入简单(http或公司内rpc)的优点. Twitter:世界上不存在两片一样的雪花. 美团:世 ...

  5. 理解分布式id生成算法--雪花算法(SnowFlake)

    分布式ID生成算法的有很多种,Twitter的SnowFlake就是其中经典的一种. 注: 1B就是1个字节. Byte.KB.B.MB.GB之间的关系是: Bit--比特 : B --字节:KB-- ...

  6. mysql 主键设计 雪花算法_数据库 ID 生成方案:雪花算法

    今天介绍的雪花算法:Snowflake,可以让负责生成分布式 ID 的每台机器在每毫秒内生成不一样的 ID.Snowflake 是 Twitter 开源的分布式 ID 生成算法,它不依赖数据库. 核心 ...

  7. java怎样生成32位全是整形的主键_你肯定会需要的分布式Id生成算法雪花算法(Java)...

    最近公司正好在做数据库迁移从oracle到mysql,因为之前oracle主键是使用的 SYS_GUID() 这个oracle提供的函数来生成全球唯一的标识符(原始值)由16个字节组成. 不过由于my ...

  8. 九种分布式ID生成算法详解

    一.分布式ID简介 1.什么是分布式ID? 在我们业务数据量不大的时候,单库单表完全可以支撑现有业务,数据再大一点搞个MySQL主从同步读写分离也能对付. 但随着数据日渐增长,主从同步也扛不住了,就需 ...

  9. node 生成随机头像_唯一ID生成算法剖析

    引在业务开发中,大量场景需要唯一ID来进行标识:用户需要唯一身份标识:商品需要唯一标识:消息需要唯一标识:事件需要唯一标识-等等,都需要全局唯一ID,尤其是分布式场景下.唯一ID有哪些特性或者说要求呢 ...

最新文章

  1. 按照文字内容动态设置TableViewCell的高度
  2. 大脑的学习方式如何,机器学习与生物学习的联系将提供「答案」
  3. Windows 下使用 工具修改文件的 时间
  4. extern用法详解(转)
  5. 自定义View 进度条
  6. opencv 图像 抠图 算法_图像抠图算法学习 - Shared Sampling for Real-Time Alpha Matting
  7. 如何学习机器学习、看待算法竞赛?粉丝精选留言
  8. php和c语言那个竞争大,【后端开发】php和c语言哪个难
  9. Oracle--plsql之控制结构
  10. c语言求个十百千万大写,大写数字一到十百千万怎么写?大写数字0到十百千万图片...
  11. 27个懒人正规快速赚钱项目
  12. Android中onTouch方法的执行过程以及和onClick执行发生冲突的解决办法
  13. [概率论]艾波寧捎信(poisson分布)
  14. oracle 12c基本管理,oracle 基本管理
  15. OpenStack技术峰会前瞻,含全球前五用户带来的顶级实践分享
  16. MySQL基础知识——ALTER TABLE
  17. 海思android随笔之hippo数据交互
  18. Get图谱 50个技能领域一键直达
  19. 招生简章 | 欢迎报考中科院空天院网络信息体系技术重点实验室(七室)
  20. SAP模块介绍及概念介绍

热门文章

  1. 通过IDE生成和手动call调用webservice
  2. CVPR2014: DeepID解读
  3. selenium操作浏览器的前进和后退
  4. 爬虫二(urllib模块)
  5. ASP.NET MVC中controller和view相互传值的方式
  6. 用int还是用Integer?
  7. Opencv与dlib联合进行人脸关键点检测与识别
  8. PHP配置,php.ini以及覆盖问题
  9. 老陈学 C++ 序列之二: 友元函数
  10. 窗体中实现按 回车键 跳到下一个可选的TabIndex控件