全局唯一Id:雪花算法

摘要:
在分布式系统中,有些场景需要使用全局唯一ID。为了防止ID冲突,可以使用36位UUID。然而,UUID有一些缺点。首先,它们比较长。此外,UUID通常是无序的。有时我们希望使用一个更简单的ID,并且希望根据时间按顺序生成ID。Twitter的SnowFlake解决了这一需求。最初,Twitter将存储系统从MySQL迁移到Cassandra。因为Cassandra没有顺序ID生成机制,所以它开发了这样一组全球唯一的ID生成服务。Principle Twitter的SnowFlake算法是用Java语言实现的。

分布式系统中,有一些需要使用全局唯一ID的场景,这种时候为了防止ID冲突可以使用36位的UUID,但是UUID有一些缺点,首先他相对比较长,另外UUID一般是无序的。

有些时候我们希望能使用一种简单一些的ID,并且希望ID能够按照时间有序生成。

而twitter的SnowFlake解决了这种需求,最初Twitter把存储系统从MySQL迁移到Cassandra,因为Cassandra没有顺序ID生成机制,所以开发了这样一套全局唯一ID生成服务。

原理

Twitter的雪花算法SnowFlake,使用Java语言实现。

SnowFlake算法产生的ID是一个64位的整型,结构如下(每一部分用“-”符号分隔):

0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000

1位标识部分,在java中由于long的最高位是符号位,正数是0,负数是1,一般生成的ID为正数,所以为0;

41位时间戳部分,这个是毫秒级的时间,一般实现上不会存储当前的时间戳,而是时间戳的差值(当前时间-固定的开始时间),这样可以使产生的ID从更小值开始;41位的时间戳可以使用69年,(1L << 41) / (1000L 60 60 24 365) = 69年;

10位节点部分,Twitter实现中使用前5位作为数据中心标识,后5位作为机器标识,可以部署1024个节点;

12位序列号部分,支持同一毫秒内同一个节点可以生成4096个ID;

SnowFlake算法生成的ID大致上是按照时间递增的,用在分布式系统中时,需要注意数据中心标识和机器标识必须唯一,这样就能保证每个节点生成的ID都是唯一的。或许我们不一定都需要像上面那样使用5位作为数据中心标识,5位作为机器标识,可以根据我们业务的需要,灵活分配节点部分,如:若不需要数据中心,完全可以使用全部10位作为机器标识;若数据中心不多,也可以只使用3位作为数据中心,7位作为机器标识。

snowflake生成的ID整体上按照时间自增排序,并且整个分布式系统内不会产生ID碰撞(由datacenter和workerId作区分),并且效率较高。据说:snowflake每秒能够产生26万个ID。

源码
  1 package com.hjp.labs;
  2 
  3 /**
  4  * Twitter的分布式自增ID雪花算法snowflake
  5  * @auther huang jianping
  6  * @date 2019/6/19 10:36
  7  */
  8 public class SnowFlake {
  9 
 10     /**
 11      * 起始的时间戳
 12      */
 13     private final static long START_STMP = 1480166465631L;
 14 
 15     /**
 16      * 每一部分占用的位数
 17      */
 18     private final static long SEQUENCE_BIT = 12; //序列号占用的位数
 19     private final static long MACHINE_BIT = 5;   //机器标识占用的位数
 20     private final static long DATACENTER_BIT = 5;//数据中心占用的位数
 21 
 22     /**
 23      * 每一部分的最大值
 24      */
 25     private final static long MAX_DATACENTER_NUM = -1L ^ (-1L << DATACENTER_BIT);
 26     private final static long MAX_MACHINE_NUM = -1L ^ (-1L << MACHINE_BIT);
 27     private final static long MAX_SEQUENCE = -1L ^ (-1L << SEQUENCE_BIT);
 28 
 29     /**
 30      * 每一部分向左的位移
 31      */
 32     private final static long MACHINE_LEFT = SEQUENCE_BIT;
 33     private final static long DATACENTER_LEFT = SEQUENCE_BIT + MACHINE_BIT;
 34     private final static long TIMESTMP_LEFT = DATACENTER_LEFT + DATACENTER_BIT;
 35 
 36     private long datacenterId;  //数据中心
 37     private long machineId;     //机器标识
 38     private long sequence = 0L; //序列号
 39     private long lastStmp = -1L;//上一次时间戳
 40 
 41     public SnowFlake(long datacenterId, long machineId) {
 42         if (datacenterId > MAX_DATACENTER_NUM || datacenterId < 0) {
 43             throw new IllegalArgumentException("datacenterId can't be greater than MAX_DATACENTER_NUM or less than 0");
 44         }
 45         if (machineId > MAX_MACHINE_NUM || machineId < 0) {
 46             throw new IllegalArgumentException("machineId can't be greater than MAX_MACHINE_NUM or less than 0");
 47         }
 48         this.datacenterId = datacenterId;
 49         this.machineId = machineId;
 50     }
 51 
 52     /**
 53      * 产生下一个ID
 54      *
 55      * @return
 56      */
 57     public synchronized long nextId() {
 58         long currStmp = getNewstmp();
 59         if (currStmp < lastStmp) {
 60             throw new RuntimeException("Clock moved backwards.  Refusing to generate id");
 61         }
 62 
 63         if (currStmp == lastStmp) {
 64             //相同毫秒内,序列号自增
 65             sequence = (sequence + 1) & MAX_SEQUENCE;
 66             //同一毫秒的序列数已经达到最大
 67             if (sequence == 0L) {
 68                 currStmp = getNextMill();
 69             }
 70         } else {
 71             //不同毫秒内,序列号置为0
 72             sequence = 0L;
 73         }
 74 
 75         lastStmp = currStmp;
 76 
 77         return (currStmp - START_STMP) << TIMESTMP_LEFT //时间戳部分
 78                 | datacenterId << DATACENTER_LEFT       //数据中心部分
 79                 | machineId << MACHINE_LEFT             //机器标识部分
 80                 | sequence;                             //序列号部分
 81     }
 82 
 83     private long getNextMill() {
 84         long mill = getNewstmp();
 85         while (mill <= lastStmp) {
 86             mill = getNewstmp();
 87         }
 88         return mill;
 89     }
 90 
 91     private long getNewstmp() {
 92         return System.currentTimeMillis();
 93     }
 94 
 95     public static void main(String[] args) {
 96         SnowFlake snowFlake = new SnowFlake(1, 1);
 97 
 98         long start = System.currentTimeMillis();
 99         for (int i = 0; i < 1000000; i++) {
100             System.out.println(snowFlake.nextId());
101         }
102 
103         System.out.println(System.currentTimeMillis() - start);
104 
105 
106     }
107 }

 全局唯一Id:雪花算法第1张

免责声明:文章转载自《全局唯一Id:雪花算法》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇data文件夹权限修改从零开始部署小型企业级虚拟桌面 -- Vmware Horizon View 6 For Linux VDI下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

Hadoop中TeraSort算法分析

1、概述 1TB排序通常用于衡量分布式数据处理框架的数据处理能力。Terasort是Hadoop中的的一个排序作业,在2008年,Hadoop在1TB排序基准评估中赢得第一名,耗时209秒。那么Terasort在Hadoop中是怎样实现的呢?本文主要从算法设计角度分析Terasort作业。 2、算法思想 实际上,当我们要把传统的串行排序算法设计成并行的排序...

C# 实现 Snowflake算法 ID生成

http://blog.csdn.net/w200221626/article/details/52064976 C# 实现 Snowflake算法 /// <summary> /// 动态生产有规律的ID Snowflake算法是Twitter的工程师为实现递增而不重复的ID实现的 /// http://blog....

新东方人工智能中台实践和AI部门管理经验分享

文章作者:张建鑫 前言 新东方人工智能开放平台 ( https://ai.xdf.cn/ ) 致力于教育+AI创新,以行业最低价格,提供智能语音、文字识别、人脸人体、自然语言理解等优质AI开放能力,助力中小公司快速低成本创新,全面赋能教育事业。欢迎访问网站,并留下宝贵意见。 与AI同行相比,新东方以少得多的人力和低得多的研发投入,从2020年8月,仅用一年...

人脸识别评价算法指标

首先了解相关指标名称 误识率FAR false acceptance rate FAR=NFA/NIRA NIRA是类间测试次数(假冒者尝试的总次数),NFA是错误接收次数 FAR越低,假冒者被接受的可能性越低,系统安全性越高 误拒绿FRR false rejection rate FRR=NFR/NGRA NGRA是类内测试次数(合法用户尝试的总次数),...

[原创]Java项目统一UTC时间方案

Java项目统一UTC时间方案 作者:Gods_巨蚁 引言 近期团队的个别项目在进行框架升级后,部分时间值存在8小时误差,原因是错误的将数据库中的时间数据理解成了UTC时间(旧版本认为是北京时间) 考虑到未来项目对于时间理解的一致性,我决定将项目统一为使用UTC时间,经调研,形成本文 mysql数据库时区及时间时间类型说明 数据库时区 mysql数据库...

TCP 的那些事儿(下)

本文转载自TCP 的那些事儿(下) 导语 这篇文章是下篇,所以如果你对TCP不熟悉的话,还请你先看看上篇《TCP的那些事儿(上)》 上篇中,我们介绍了TCP的协议头、状态机、数据重传中的东西。但是TCP要解决一个很大的事,那就是要在一个网络根据不同的情况来动态调整自己的发包的速度,小则让自己的连接更稳定,大则让整个网络更稳定。在你阅读下篇之前,你需要做好准...