高并发下ID生成方案

需求
- 生成全局唯一的ID
- 趋近有序(例如：1 3 4 6 9 18)
解决方案(涉及到数据以MySql为例)
- 方案一：使用原生数据库的 auto_increment 来生成全局唯一ID
  - 优点：
    - 原生数据库简单快捷
    - 保证可靠唯一性
    - 步长有序固定
  - 缺点：
    - 不能保证高可用性，数据库常见的架构：一主多从(master+slave),本问题写居多，master库挂了就玩完了
    - 扩展性差，性能依赖master库写入的性能
  - 优化方案：
    - 新增master、避免单点写入
    - 数据水平切分，保证每个库生成的ID 不重复
    - 见下图：
    - 1库平行扩展为4个库，分摊了写入的压力
    - Mysql 这边需要自行设置auto_increment_offset 确定AUTO_INCREMENT列值的起点，也就是初始值。auto_increment_increment控制列中的值的增量值，也就是步长。
    - root@localhost[kevin]> set session auto_increment_offset=1;
    - root@localhost[kevin]> set session auto_increment_increment=4;
    - 不足之处：相对保持ID递增，不过一般项目足矣
- 方案二：单点生成ID服务,预生成id
  - 详解：数据库里记录最后一次分配的最大id，初始为max_id=1,假如第一生成 6个ID，第一步：generate-server 先获取数据库的max-id=0,第二步：然后更新 max_id=（0+6），generate-server 拿到初始max-id和本次拉取id个数生成ID,max_id < 生成ID集合 < (max_id+N)
  - 示意图：
  - 单点服务+shadow 服务保证高可用性
  - 批量生成ID大大降低了数据库压力，且能保证ID 相对递增
  - 每秒生成10W级的ID
- 方案三：本地生成 ID策略，依赖算法
  - 下面讲解snowflake算法，下面提供 PHP snowflake 的扩展
    - snowflake github
  - Twitter-Snowflake算法产生的背景相当简单，为了满足Twitter每秒上万条消息的请求，每条消息都必须分配一条唯一的id，这些id还需要一些大致的顺序（方便客户端排序），并且在分布式系统中不同机器产生的id必须不同。
  - Snowflake算法核心,把时间戳，工作机器id，序列号组合在一起。
  - 除了最高位bit标记为不可用以外，其余三组bit占位均可浮动，看具体的业务需求而定。默认情况下41bit的时间戳可以支持该算法使用到2082年，10bit的工作机器id可以支持1023台机器，序列号支持1毫秒产生4095个自增序列id。下文会具体分析。
  - Snowflake – 时间戳
    这里时间戳的细度是毫秒级，具体代码如下，建议使用64位linux系统机器，因为有vdso，gettimeofday()在用户态就可以完成操作，减少了进入内核态的损耗。
```
uint64_t generateStamp()
{
    timeval tv;
    gettimeofday(&tv, 0);
    return (uint64_t)tv.tv_sec * 1000 + (uint64_t)tv.tv_usec / 1000;
}
```
    默认情况下有41个bit可以供使用，那么一共有T（1llu << 41）毫秒供你使用分配，年份 = T / (3600 * 24 * 365 * 1000) = 69.7年。如果你只给时间戳分配39个bit使用，那么根据同样的算法最后年份 = 17.4年。
  - Snowflake – 工作机器id
    严格意义上来说这个bit段的使用可以是进程级，机器级的话你可以使用MAC地址来唯一标示工作机器，工作进程级可以使用IP+Path来区分工作进程。如果工作机器比较少，可以使用配置文件来设置这个id是一个不错的选择，如果机器过多配置文件的维护是一个灾难性的事情。
    这里的解决方案是需要一个工作id分配的进程，可以使用自己编写一个简单进程来记录分配id，或者利用Mysql auto_increment机制也可以达到效果。
  - snowflake - 工作id
    工作进程与工作id分配器只是在工作进程启动的时候交互一次，然后工作进程可以自行将分配的id数据落文件，下一次启动直接读取文件里的id使用。
    
    PS：这个工作机器id的bit段也可以进一步拆分，比如用前5个bit标记进程id，后5个bit标记线程id之类:D
  - Snowflake – 序列号
    序列号就是一系列的自增id（多线程建议使用atomic），为了处理在同一毫秒内需要给多条消息分配id，若同一毫秒把序列号用完了，则“等待至下一毫秒”。
```
uint64_t waitNextMs(uint64_t lastStamp)
{
    uint64_t cur = 0;
do {
        cur = generateStamp();
    } while (cur <= lastStamp);
return cur;
}
```
    总体来说，是一个很高效很方便的GUID产生算法，一个int64_t字段就可以胜任，不像现在主流128bit的GUID算法，即使无法保证严格的id序列性，但是对于特定的业务，比如用做游戏服务器端的GUID产生会很方便。另外，在多线程的环境下，序列号使用atomic可以在代码实现上有效减少锁的密度。

秒客网

高并发下ID生成方案

相关文章