.NETCore中实现ObjectId反解

前言

在设计数据库的时候,我们通常需要给业务数据表分配主键,很多时候,为了省事,我都是直接使用 GUID/UUID 的方式,但是在 MonggoDB 中,其内部实现了 ObjectId(以下统称为Oid)。并且在.NETCore 的驱动中给出了源代码的实现。

经过仔细研读官方的源码后发现,其实现原理非常的简单易学,在最新的版本中,阉割了 UnPack 函数,可能是官方觉得解包是没什么太多的使用场景的,但是我们认为,对于数据溯源来说,解包的操作实在是非常有必要,特别是在目前的微服务大流行的背景下。

为此,在参考官方代码的基础上进行了部分改进,增加了一下自己的需求。本示例代码增加了解包的操作、对 string 的隐式转换、提供读取解包后数据的公开属性。

ObjectId 的数据结构

首先,我们来看 Oid 的数据结构的设计。

.NETCore中实现ObjectId反解

从上图可以看出,Oid 的数据结构主要由四个部分组成,分别是:Unix时间戳、机器名称、进程编号、自增编号。Oid 实际上是总长度为12个字节24的字符串,易记口诀为:4323,时间4字节,机器名3字节,进程编号2字节,自增编号3字节。

1、Unix时间戳:Unix时间戳以秒为记录单位,即从1970/1/1 00:00:00 开始到当前时间的总秒数。
2、机器名称:记录当前生产Oid的设备号
3、进程编号:当前运行Oid程序的编号
4、自增编号:在当前秒内,每次调用都将自动增长(已实现线程安全)

根据算法可知,当前一秒内产生的最大 id 数量为 2^24=16777216 条记录,所以无需过多担心 id 碰撞的问题。

实现思路

先来看一下代码实现后的类结构图。

.NETCore中实现ObjectId反解

通过上图可以发现,类图主要由两部分组成,ObjectId/ObjectIdFactory,在类 ObjectId 中,主要实现了生产、解包、计算、转换、公开数据结构等操作,而 ObjectIdFactory 只有一个功能,就是生产 Oid。

所以,我们知道,类 ObjectId 中的 NewId 实际是调用了 ObjectIdFactory 的 NewId 方法。

为了生产效率的问题,在 ObjectId 中声明了静态的 ObjectIdFactory 对象,有一些初始化的工作需要在程序启动的时候在 ObjectIdFactory 的构造函数内部完成,比如获取机器名称和进程编号,这些都是一次性的工作。

类 ObjectIdFactory 的代码实现

public class ObjectIdFactory
{
    private int increment;
    private readonly byte[] pidHex;
    private readonly byte[] machineHash;
    private readonly UTF8Encoding utf8 = new UTF8Encoding(false);
    private readonly DateTime unixEpoch = new DateTime(1970, 1, 1, 0, 0, 0, DateTimeKind.Utc);

    public ObjectIdFactory()
    {
        MD5 md5 = MD5.Create();
        machineHash = md5.ComputeHash(utf8.GetBytes(Dns.GetHostName()));
        pidHex = BitConverter.GetBytes(Process.GetCurrentProcess().Id);
        Array.Reverse(pidHex);
    }

    /// <summary>
    ///  产生一个新的 24 位唯一编号
    /// </summary>
    /// <returns></returns>
    public ObjectId NewId()
    {
        int copyIdx = 0;
        byte[] hex = new byte[12];
        byte[] time = BitConverter.GetBytes(GetTimestamp());
        Array.Reverse(time);
        Array.Copy(time, 0, hex, copyIdx, 4);
        copyIdx += 4;

        Array.Copy(machineHash, 0, hex, copyIdx, 3);
        copyIdx += 3;

        Array.Copy(pidHex, 2, hex, copyIdx, 2);
        copyIdx += 2;

        byte[] inc = BitConverter.GetBytes(GetIncrement());
        Array.Reverse(inc);
        Array.Copy(inc, 1, hex, copyIdx, 3);

        return new ObjectId(hex);
    }

    private int GetIncrement() => System.Threading.Interlocked.Increment(ref increment);
    private int GetTimestamp() => Convert.ToInt32(Math.Floor((DateTime.UtcNow - unixEpoch).TotalSeconds));
}

ObjectIdFactory 的内部实现非常的简单,但是也是整个 Oid 程序的核心,在构造函数中获取机器名称和进程编号以备后续生产使用,在核心方法 NewId 中,依次将 Timestamp、machineHash、pidHex、increment 写入数组中,最后调用 new ObjectId(hex) 返回生产好的 Oid。

类 ObjectId 的代码实现

public class ObjectId
{
    private readonly static ObjectIdFactory factory = new ObjectIdFactory();

    public ObjectId(byte[] hexData)
    {
        this.Hex = hexData;
        ReverseHex();
    }
    
    public override string ToString()
    {
        if (Hex == null)
            Hex = new byte[12];
        StringBuilder hexText = new StringBuilder();
        for (int i = 0; i < this.Hex.Length; i++)
        {
            hexText.Append(this.Hex[i].ToString("x2"));
        }
        return hexText.ToString();
    }

    public override int GetHashCode() => ToString().GetHashCode();

    public ObjectId(string value)
    {
        if (string.IsNullOrEmpty(value)) throw new ArgumentNullException("value");
        if (value.Length != 24) throw new ArgumentOutOfRangeException("value should be 24 characters");
        Hex = new byte[12];
        for (int i = 0; i < value.Length; i += 2)
        {
            try
            {
                Hex[i / 2] = Convert.ToByte(value.Substring(i, 2), 16);
            }
            catch
            {
                Hex[i / 2] = 0;
            }
        }
        ReverseHex();
    }

    private void ReverseHex()
    {
        int copyIdx = 0;
        byte[] time = new byte[4];
        Array.Copy(Hex, copyIdx, time, 0, 4);
        Array.Reverse(time);
        this.Timestamp = BitConverter.ToInt32(time, 0);
        copyIdx += 4;
        byte[] mid = new byte[4];
        Array.Copy(Hex, copyIdx, mid, 0, 3);
        this.Machine = BitConverter.ToInt32(mid, 0);
        copyIdx += 3;
        byte[] pids = new byte[4];
        Array.Copy(Hex, copyIdx, pids, 0, 2);
        Array.Reverse(pids);
        this.ProcessId = BitConverter.ToInt32(pids, 0);
        copyIdx += 2;
        byte[] inc = new byte[4];
        Array.Copy(Hex, copyIdx, inc, 0, 3);
        Array.Reverse(inc);
        this.Increment = BitConverter.ToInt32(inc, 0);
    }

    public static ObjectId NewId() => factory.NewId();

    public int CompareTo(ObjectId other)
    {
        if (other is null)
            return 1;
        for (int i = 0; i < Hex.Length; i++)
        {
            if (Hex[i] < other.Hex[i])
                return -1;
            else if (Hex[i] > other.Hex[i])
                return 1;
        }
        return 0;
    }

    public bool Equals(ObjectId other) => CompareTo(other) == 0;
    public static bool operator <(ObjectId a, ObjectId b) => a.CompareTo(b) < 0;
    public static bool operator <=(ObjectId a, ObjectId b) => a.CompareTo(b) <= 0;
    public static bool operator ==(ObjectId a, ObjectId b) => a.Equals(b);
    public override bool Equals(object obj) => base.Equals(obj);
    public static bool operator !=(ObjectId a, ObjectId b) => !(a == b);
    public static bool operator >=(ObjectId a, ObjectId b) => a.CompareTo(b) >= 0;
    public static bool operator >(ObjectId a, ObjectId b) => a.CompareTo(b) > 0;
    public static implicit operator string(ObjectId objectId) => objectId.ToString();
    public static implicit operator ObjectId(string objectId) => new ObjectId(objectId);
    public static ObjectId Empty { get { return new ObjectId("000000000000000000000000"); } }
    public byte[] Hex { get; private set; }
    public int Timestamp { get; private set; }
    public int Machine { get; private set; }
    public int ProcessId { get; private set; }
    public int Increment { get; private set; }
}

ObjectId 的代码量看起来稍微多一些,但是实际上,核心的实现方法就只有 ReverseHex() 方法,该方法在内部反向了 ObjectIdFactory.NewId() 的过程,使得调用者可以通过调用 ObjectId.Timestamp 等公开属性反向追溯 Oid 的生产过程。

其它的对象比较、到 string/ObjectId 的隐式转换,则是一些语法糖式的工作,都是为了提高编码效率的。

需要注意的是,在类 ObjectId 的内部,创建了静态对象 ObjectIdFactory,我们还记得在 ObjectIdFactory 的构造函数内部的初始化工作,这里创建的静态对象,也是为了提高生产效率的设计。

调用示例

在完成了代码改造后,我们就可以对改造后的代码进行调用测试,以验证程序的正确性。

NewId

我们尝试生产一组 Oid 看看效果。

for (int i = 0; i < 100; i++)
{
    var oid = ObjectId.NewId();
    Console.WriteLine(oid);
}

输出

.NETCore中实现ObjectId反解

通过上图可以看到,输出的这部分 Oid 都是有序的,这应该也可以成为替换 GUID/UUID 的一个理由。

生产/解包

var sourceId = ObjectId.NewId();
var reverseId = new ObjectId(sourceId);

.NETCore中实现ObjectId反解

通过解包可以看出,上图两个红框内的值是一致的,解包成功!

隐式转换

var sourceId = ObjectId.NewId();

// 转换为 string
var stringId = sourceId;
string userId= ObjectId.NewId();

// 转换为 ObjectId
ObjectId id = stringId;

隐式转换可以提高编码效率哟!

结束语

通过上面的代码实现,融入了一些自己的需求。现在,可以通过解包来实现业务的追踪和日志的排查,在某些场景下,是非常有帮助的,增加的隐式转换语法糖,也可以让编码效率得到提高;同时将代码优化到 .NETCore 3.1,也使用了一些 C# 的语法糖。

上一篇:CSReid库在NetCore工作场景中的使用


下一篇:.NetCore实践篇:分布式监控Zipkin持久化之殇