全局ID通常要满足分片的一些要求:

1 不能有单点故障。

2 以时间为序,或者ID里包含时间。这样一是可以少一个索引,二是冷热数据容易分离。

3 可以控制ShardingId。比如某一个用户的文章要放在同一个分片内,这样查询效率高,修改也容易。

4 不要太长,最好64bit。使用long比较好操作,如果是96bit,那就要各种移位相当的不方便,还有可能有些组件不能支持这么大的ID。

一、UUID

UUID生成的是length=32的16进制格式的字符串,如果回退为byte数组共16个byte元素,即UUID是一个128bit长的数字,

一般用16进制表示。

算法的核心思想是结合机器的网卡、当地时间、一个随即数来生成UUID。

从理论上讲,如果一台机器每秒产生10000000个GUID,则可以保证(概率意义上)3240年不重复

优点:

(1)本地生成ID,不需要进行远程调用,时延低

(2)扩展性好,基本可以认为没有性能上限

缺点:

(1)无法保证趋势递增

(2)uuid过长,往往用字符串表示,作为主键建立索引查询效率低,常见优化方案为“转化为两个uint64整数存储”或者“折半存储”(折半后不能保证唯一性)

二、基于redis的分布式ID生成器

原理

利用redis的lua脚本执行功能,在每个节点上通过lua脚本生成唯一ID。

生成的ID是64位的:

使用41 bit来存放时间,精确到毫秒,可以使用41年。

使用12 bit来存放逻辑分片ID,最大分片ID是4095

使用10 bit来存放自增长ID,意味着每个节点,每毫秒最多可以生成1024个ID

比如GTM时间 Fri Mar 13 10:00:00 CST 2015 ,它的距1970年的毫秒数是 1426212000000,假定分片ID是53,自增长序列是4,则生成的ID是:

5981966696448054276 = 1426212000000 << 22 + 53 << 10 + 41

redis提供了TIME命令,可以取得redis服务器上的秒数和微秒数。因些lua脚本返回的是一个四元组。

second, microSecond, partition, seq

客户端要自己处理,生成最终ID。

((second * 1000 + microSecond / 1000) << (12 + 10)) + (shardId << 10) + seq;

三、MongoDB文档(Document)全局唯一ID

为了考虑分布式,“_id”要求不同的机器都能用全局唯一的同种方法方便的生成它。因此不能使用自增主键(需要多台服务器进行同步,既费时又费力),

因此选用了生成ObjectId对象的方法。

ObjectId使用12字节的存储空间,其生成方式如下:

|0|1|2|3|4|5|6 |7|8|9|10|11|

|时间戳 |机器ID|PID|计数器 |

前四个字节时间戳是从标准纪元开始的时间戳,单位为秒,有如下特性:

1)时间戳与后边5个字节一块,保证秒级别的唯一性;

2)保证插入顺序大致按时间排序;

3)隐含了文档创建时间;

4)时间戳的实际值并不重要,不需要对服务器之间的时间进行同步(因为加上机器ID和进程ID已保证此值唯一,唯一性是ObjectId的最终诉求)。

机器ID是服务器主机标识,通常是机器主机名的散列值。

同一台机器上可以运行多个mongod实例,因此也需要加入进程标识符PID。

前9个字节保证了同一秒钟不同机器不同进程产生的ObjectId的唯一性。后三个字节是一个自动增加的计数器(一个mongod进程需要一个全局的计数器),保证同一秒的ObjectId是唯一的。同一秒钟最多允许每个进程拥有(256^3 = 16777216)个不同的ObjectId。

总结一下:时间戳保证秒级唯一,机器ID保证设计时考虑分布式,避免时钟同步,PID保证同一台服务器运行多个mongod实例时的唯一性,最后的计数器保证同一秒内的唯一性(选用几个字节既要考虑存储的经济性,也要考虑并发性能的上限)。

"_id"既可以在服务器端生成也可以在客户端生成,在客户端生成可以降低服务器端的压力。

四、自定义32位GUID

原理:14位的当前系统时间(格式为:yyyyMMddHHmmss) + 当前电脑的IP地址的最后两位 + 当前线程的hashCode的前9位 + 7位的随机数

/*** GUID构造器

* 32位:14位当前系统时间(yyyyMMddHHmmss) + 当前电脑的IP地址的最后两位 + 当前线程的hashCode的前9位 + 7位的随机数

* 19位:12位当前系统时间(yyMMddHHmmss) + 当前线程的hashCode的前3位 + 4位的随机数

*@authorAdministrator

* @create 2018-03-17 14:35*/

public classUniqId {private static UniqId me = newUniqId();privateString hostAddr;private final Random random = newSecureRandom();private final UniqTimer timer = newUniqTimer();private boolean isOutputInfo = false;privateUniqId() {try{final InetAddress addr =InetAddress.getLocalHost();

hostAddr=addr.getHostAddress();

}catch (finalIOException e) {

System.err.println("[UniqID] Get HostAddr Error"+e);

hostAddr=String.valueOf(System.currentTimeMillis());

}if (null == hostAddr || hostAddr.trim().length() == 0 || "127.0.0.1".equals(hostAddr)) {

hostAddr=String.valueOf(System.currentTimeMillis());

}

hostAddr= hostAddr.substring(hostAddr.length()-2).replace(".", "0");if(isOutputInfo){

System.out.println("[UniqID]hostAddr is:" + hostAddr + "----length:"+hostAddr.length());

}

}/*** 获取UniqID实例

*@returnUniqId*/

public staticUniqId getInstance() {

me.isOutputInfo= false;returnme;

}/*** 获取UniqID实例

*@returnUniqId*/

public staticUniqId getInstanceWithLog() {

me.isOutputInfo= true;returnme;

}/*** 获得不会重复的毫秒数

*

*@return不会重复的时间*/

publicString getUniqTime() {

String time=timer.getCurrentTime();if(isOutputInfo){

System.out.println("[UniqID.getUniqTime]" + time +"----length:"+time.length());

}returntime;

}publicString getUniqTime2() {

String time=timer.getCurrentTime2();if(isOutputInfo){

System.out.println("[UniqID.getUniqTime]" + time +"----length:"+time.length());

}returntime;

}/*** 获得UniqId

*

*@returnuniqTime-randomNum-hostAddr-threadId*/

publicString get32UniqID() {final StringBuffer sb = newStringBuffer();final String t =getUniqTime();int randomNumber = random.nextInt(8999999) + 1000000;

sb.append(t);

sb.append(hostAddr);

sb.append(getUniqThreadCode());

sb.append(randomNumber);if(isOutputInfo) {

System.out.println("[UniqID.randomNumber]" + randomNumber+"----length:"+String.valueOf(randomNumber).length());

System.out.println("[UniqID.getUniqID]" + sb.toString()+"----length:"+String.valueOf(sb).length());

}returnsb.toString();

}/*** 获取19位GUID 不考虑分布式

*@return

*/

publicLong get19UniqID() {final StringBuffer sb = newStringBuffer();final String t =getUniqTime2();int randomNumber = random.nextInt(8999) + 1000;

sb.append(t);

sb.append(getUniqThreadCode2());

sb.append(randomNumber);returnLong.parseLong(sb.toString());

}publicString getUniqThreadCode(){

String threadCode= StringUtils.left(String.valueOf(Thread.currentThread().hashCode()),9);if(isOutputInfo) {

System.out.println("[UniqID.getUniqThreadCode]" +threadCode+"----length:"+threadCode.length());

}return StringUtils.leftPad(threadCode, 9, "0");

}publicString getUniqThreadCode2(){

String threadCode= StringUtils.left(String.valueOf(Thread.currentThread().hashCode()),9);if(isOutputInfo) {

System.out.println("[UniqID.getUniqThreadCode]" +threadCode+"----length:"+threadCode.length());

}return StringUtils.leftPad(threadCode, 9, "0").substring(6);

}/*** 实现不重复的时间*/

private classUniqTimer {private final AtomicLong lastTime = newAtomicLong(System.currentTimeMillis());publicString getCurrentTime() {if(!timestamp2Date(this.lastTime.incrementAndGet()).equals(timestamp2Date(System.currentTimeMillis()))){

lastTime.set(System.currentTimeMillis()+random.nextInt(10000));

}return timestamp2Datetimes(this.lastTime.incrementAndGet());

}publicString getCurrentTime2() {if(!timestamp2Date(this.lastTime.incrementAndGet()).equals(timestamp2Date(System.currentTimeMillis()))){

lastTime.set(System.currentTimeMillis()+random.nextInt(10000));

}return timestamp2Datetimes2(this.lastTime.incrementAndGet());

}

}/*** 规范化日期,规范成yyyy-MM-dd

*@paramtimestamp

*@return

*/

public static String timestamp2Date(longtimestamp){

SimpleDateFormat dateFormat= new SimpleDateFormat("yyyy-MM-dd");return dateFormat.format(new Date(timestamp * 1000));

}private static String timestamp2Datetimes(longtimestamp){

SimpleDateFormat dateFormat= new SimpleDateFormat("yyyyMMddHHmmss");return dateFormat.format(newDate(timestamp));

}private static String timestamp2Datetimes2(longtimestamp){

SimpleDateFormat dateFormat= new SimpleDateFormat("yyMMddHHmmss");return dateFormat.format(newDate(timestamp));

}

}

全局唯一递增的id_全局唯一性ID生成方法小结相关推荐

  1. 全局唯一递增的id_分布式ID生成方法-趋势有序的全局唯一ID

    一.需求缘起 几乎所有的业务系统,都有生成一个记录标识的需求,例如: (1)消息标识:message-id (2)订单标识:order-id (3)帖子标识:tiezi-id 这个记录标识往往就是数据 ...

  2. 全局唯一递增的id_分布式系统全局唯一ID简介、特点、生成

    一.什么是分布式系统唯一ID 在复杂分布式系统中,往往需要对大量的数据和消息进行唯一标识. 如在金融.电商.支付.等产品的系统中,数据日渐增长,对数据分库分表后需要有一个唯一ID来标识一条数据或消息, ...

  3. 全局唯一递增的id_生成全局唯一id的几种方式

    生成全局唯一id的几种方式: 1.uuid生成全球唯一id,生成方式简单粗暴,本地生成,没有网络开销,效率高:缺点长度较长,没有递增趋势性,不易维护,常用于生成token令牌. 2.mysql自带自增 ...

  4. mysql自动生成id方式_Mysql全局ID生成方法

    本文给大家介绍mysql全局id生成方法,涉及到mysql全局id相关知识,感兴趣的朋友一起学习吧 生产系统随着业务增长总会经历一个业务量由小变大的过程,可扩展性是考量数据库系统高可用性的一个重要指标 ...

  5. 细聊分布式ID生成方法

    2019独角兽企业重金招聘Python工程师标准>>> 一.需求缘起 几乎所有的业务系统,都有生成一个记录标识的需求,例如: (1)消息标识:message-id (2)订单标识:o ...

  6. 细聊分布式ID生成方法-1

    一.需求缘起 几乎所有的业务系统,都有生成一个记录标识的需求,例如: (1)消息标识:message-id (2)订单标识:order-id (3)帖子标识:tiezi-id 这个记录标识往往就是数据 ...

  7. .Net 互联网技术(一)分布式ID生成方法生成演变

    .Net 互联网技术(一)分布式ID生成方法生成演变 一.需求缘起转载至 几乎所有的业务系统,都有生成一个记录标识的需求,例如: (1)消息标识:message-id (2)订单标识:order-id ...

  8. java生成一条唯一的邀请码_根据用户id生成一个唯一邀请码

    需求描述:根据用户id生成与之对应的唯一邀请码,范围为'0-9A-Z'. 这个需求的重点在于加粗的部分,也就是要能够根据邀请码反推出用户ID,这样邀请码就不用入库了,在用户量很大的情况下,性能可以得到 ...

  9. python雪花算法生成id_理解分布式id生成算法SnowFlake

    分布式id生成算法的有很多种,Twitter的SnowFlake就是其中经典的一种. 概述 SnowFlake算法生成id的结果是一个64bit大小的整数,它的结构如下图: 1位,不用.二进制中最高位 ...

最新文章

  1. 如果你也时常想要上进,我们可以相互鼓励,相互促进
  2. H3C交换机引发的奇葩故障
  3. 微信小程序发布后,真机调用接口失败:ERR_CERT_AUTHORITY_INVALID
  4. c语言for循环运行格式,关于for循环的格式
  5. [蓝桥杯][算法训练VIP]王、后传说(深搜+回溯)
  6. 2019-06-02 Java学习日记之多线程上
  7. java模拟浏览器htmlunit,Java版本的浏览器HtmlUnit入门示例
  8. cocos2d-x内存自动释放机制
  9. STM32-DMA控制器
  10. 软件测试工程师自我介绍范文_软件测试工程师面试英文自我介绍范文
  11. 如何在Mac Finder中查找/Usr 路径?
  12. uniapp的editor编辑器
  13. android绘制view的撤销,DrawingView android 上的一个涂鸦控件。可以设置画笔的粗细,颜色,撤销上一笔涂鸦,提供保存图片的接口。 @codeKK Android开源站...
  14. 在QQ音乐巅峰榜年度榜单中,听懂国人2022年的音乐记忆!
  15. XML Publisher 模板设计技巧
  16. Collection集合
  17. 20.深度解密二十:通过搜索引擎进行淘宝客营销玩法
  18. 第四章 文件的基本管理和XFS文件系统备份恢复 随堂笔记
  19. 网狐大联盟创建房间游戏组件列表为空问题解决
  20. 使用轻量应用服务器部署Docsify在线文档平台

热门文章

  1. 2021年初级会计实务考试真题,判断题
  2. Linux下Firefox不能播放视频问题
  3. 常用金属材料 铝及铝合金的特性识别符号
  4. U盘 Windows XP SP3制作
  5. bxslider 旋转
  6. 计算机对语文教学的影响,【计算机应用论文】计算机情景创设对小学语文教学质量影响(共3742字)...
  7. PCL点云处理之平均点间距计算(九十九)
  8. GDC翻译:Far Cry 5 的程序化世界生成(第四部分:总结和QA)
  9. 1+X大数据应用开发(java)理论题库/初级测验一(全图片记录 )
  10. 腾讯前端暑期实习一面