1. 综述
随着1970年代关系模型被提出，数据库进入了一个飞速发展的时期。整个80年代和90年代，各类关系数据库层出不穷，这些产品到现在依然占据着数据库市场的主流。然而到了2000年以后，互联网产业的崛起，使得传统的关系数据库在面对海量请求和数据的时候有些力不从心。在这一时期，解决可扩展问题的主流方案是拆分数据库(分库分表)，诞生了众多的数据库中间层(中间件)；同时，业界也诞生了众多的K-V数据库，如BigTable，MongoDB，Cassandra等，解决了半结构化数据的计算和存储的可扩展问题，然而业界对于可扩展的关系数据库的诉求一直存在。
2012年Google的论文《 Spanner: Google’s Globally-Distributed Database》为业界提供了一个分布式数据库的非常好的参考，此后，各类参考Spanner架构的分布式数据库系统层出不穷。其中国内厂商在自身用户数，以及去IOE动力的驱使下，诞生了包括OceanBase和TiDB在内的几款非常优秀的分布式数据库，在技术上的差距和国外巨头已经拉平，但是市场开拓上还需要继续努力。
同时，众多的云计算厂商基于自身的云基础设施为其客户提供的数据库解决方案也为数据库的扩展性提供了新的思路。代表性的产品是亚马逊的Aurora，其上层100 %兼容开源数据库(MySQL, PostgreSQL)，下层依托自身云厂商存储技术设施，计算与存储分离的架构，成为了众多云厂商参考的对象。
数据库是一个庞大而复杂的系统，其各个子系统，如SQL，事务，存储，日志等，每一个都是既有一定的理论理解门槛，又有非常高的实现难度，分布式数据库还会涉及更多晦涩的理论，如CAP理论，2/3阶段提交协议，Paxos协议，Raft协议等。本系列通过三篇文章尝试从存储和索引的角度和大家共同学习和了解数据库在存储领域的一些技术，希望这样浮光掠影的文章能给大家留下些许印象，拓宽一些思路，在以后的工作中能有所帮助（ 注：本系列参考的资料均系本人搜集自互联网公开的论文和博客文章，以及开源的代码和文档等，并经本人理解和整理。文章中的一些技术观点仅代表个人观点，如有描述偏差烦请指正）。
2. 传统单机数据库存储与索引技术
2.1. 存储模型介绍
为了保证在系统发生故障时的数据持久化，数据库使用非易失的磁盘作为主存储介质。传统数据库的在磁盘上的数据组织方式为页面行存，即数据库将磁盘空间划分为多个页面，每个页面的大小一般是4K的整数倍，数据在页面内以行为单位存储在一起。数据库读写IO的基本单位都是页面。
由于 系统不能直接操作磁盘上的数据，因此还需使用内存作为缓存。通常数据库在内存中会维护一个Buffer Pool的数据结构，用于缓存从磁盘中读取的页面。数据库上层子系统对于数据的读写，都经过Buffer Pool进行。数据库在进行事务操作时，先将redo log顺序写入日志文件，然后再将修改应用到Buffer Pool中的目标页面。通常这一过程 只有一次日志文件的顺序IO操作，没有磁盘的随机IO 。Buffer Pool会在系统空闲或者内存到达一定阈值的时候异步将某些页面回刷到磁盘并回收内存。Buffer Pool页面回刷会 产生随机IO ，页面的替换策略也会影响系统整体的缓存命中率，因此页面回刷策略也是很多研究的热点。
数据库的数据存储在页面上，通常以行为单位存储。页面一般会有一个固定大小的页头(Page Header)，用于存储页面的一些meta信息，如页面类型，记录条数，同一张表下一个页面的地址等。如果页面存储的行记录是定长的，那么从Page Header开始依次存储记录就行了。如果是变长记录，即每一行数据的大小都可能不一样，一般的做法是从Page Header后开始存储数据，再从页面的末尾开始反向分配也目录(Row Offset)空间，Row Offset记录行在页面内的偏移。这样可以在不确定一个页面可以存储多少行数据的情况下，尽量提高页面空间的利用率。
2.2 数据文件组织方式
前面我们讲到数据表的存储方式是以页面为单位进行存储的，但是页面与页面之间如何组织，也由不同的方式。常见的方式有两种。一种叫做 堆文件(Heap File)，另外一种叫做 索引组织表(IOT，Index Organized Table)。
2.2.1 堆文件
堆文件是数据库中最简单， 最基本的文件结构，新数据插入优先使用文件末尾的空闲页面，每行数据都会被分配一个 rowid 作为行的唯 一标识。rowid通常包含其所在的文件ID，页面ID，以及页面内的行序号ID。
堆文件有以下一些使用场景：
- 数据量很小的表，如数据只有几个页面，此时通过索引访问和直接进行全表扫描相比没太大差别。
- 数据表有一次性的大量数据插入的场景，如数据迁移。此时，使用对文件进行数据插入，效率会比通过索引组织表的方式插入会高非常多。
- 在堆文件上建立索引后，也可以用于数据量大的场景。
堆文件的各种操作如下如下。
- 插入：插入优先使用文件末尾的空闲页面空间，只有当空闲空间不足时，才考虑复用被删除的记录的空间。
- 删除：删除数据需要将页面上的物理记录标记为删除，并删除索引中对rowid的引用。
- 查询：根据索引(B+Tree)进行点查询或者范围查询，查询索引得到rowid之后，再通过rowid得到对应的数据。如果没有建立索引的话，无论点查询或者范围查询，都需要全表扫描。
2.2.2 索引组织表
我们可以看到，堆文件的索引只能索引到对应的rowid，如果需要获取数据的话，还需要一次间接引用(如果页面不在内存中，则是一次额外的IO)才能获取到数据。如果一张表主要的查询场景都是通过主键进行查询的话，我们可以选择另外一种索引文件的组织方式，即索引组织表。 索引组织表最大的特点就是，通过在主键上建立索引(B+Tree)，并在索引叶子页面上直接存储数据，而非rowid，融主键索引和表数据为一体。索引组织表支持其他二级索引(Secondary Index)，只不过与堆文件不同的是，二级索引中存储的不是rowid，而是 行的主键。二级索引通过查询到记录的主键之后再访问主索引获取行记录。
索引组织表的各项操作均通过主索引进行，查询或者插入数据均需要从B+树的根节点开始，一直到叶节点的数据页面上，然后再进行对应的操作。
2.2. 索引
我们常见的内存索引有很多种，如HashTable, SkipList, BinaryTree, B+Tree等，但是在传统数据库领域，基本上 只有B+树一种，B+树可以说是页面为单位组织数据的数据库架构的基石。究其原因，主要还是因为B+树各项操作的均衡性，无论是点查询，范围查询，还是插入，删除等，B+树均能在可接受的IO代价内完成。
与之相比，以HashTable为例，HashTable支持很高效的点查询，但是对范围查询则只能全表扫描；对插入操作来说，HashTable最大的问题是，Hash桶难以动态扩张。当插入数据量大的时候，如果对Hash桶的设置不合适，则将导致读取操作IO数急剧增加；如果进行rehash，则代价巨大，难以接受。
2.2.1 B+树基本性质
B+树由叶结点和非叶节点组成。数据库中使用到的B+树，叶结点和非叶节点一般都是以一页为单位，二者结构类似，只不过存放的信息略微有所不同。
对于非叶节点，一个页面大小的空间中，会存放一些控制信息，通常放在Page Header中，剩下则是Payload信息。Payload信息中存放着K个KEY和K+1个子节点的指针(PID, page_id)。有些实现为了方便，会额外增加一个INVALID_KEY，这样非叶节点的KEY和指针个数可以一一对应。
对于叶结点，其Page Header中除了一些控制信息之外，还会存放其左右兄弟的指针，这样整个B+树的叶结点可以通过左右兄弟指针进行遍历。如果该B+树是我们前文讲的索引组织表的话，那么叶结点中存放的是真实的 行数据。如果是Secondary Index的话，存放的是索引的KEY和表的 主键值(如果是Heap File的索引的话，是 rowid)。
B+树的KEY可以是一行的某一列，也可以是多个列。B+树要求所有节点中存放的KEY都必须是 有序的。对于非叶节点中的某个，其左子树的任一KEY为，右子树的任一KEY为，那么满足：
2.2.2 B+树基本操作
2.2.2.1 查找
B+树的查找从根节点开始，逐层往下查找直到叶结点。根据每一层的KEY都是有序的特点，可以选择进行二分查找(KEY较少的情况下也可以直接遍历)。找到第一个大于查找元素的KEY，其左子树即是下一层要搜索的节点。
2.2.2.2 插入
B+树的插入也需要先通过查找找到元素需要被插入的叶结点。如下图，我们插入25，通过逐层二分查找之后，找到31这个值的为位置。如果叶结点有空闲空间可以插入，那么只需要把插入元素放进合适插入位置就行了。如果叶节点已经满了的话，需要对该节点进行分裂。
分裂方法是将当前已满的叶结点一分为二，然后在合适的位置放置待插入的元素。最后像父节点插入新分裂出来的叶结点的第一个KEY。如果父节点也是满的，那么需要递归对父节点进行分裂，这一过程有可能持续到根节点也被分裂，此时B+树的高度被升高了一级。
2.2.2.3 删除
B+树的删除操作一样也需要先通过查找找到待删除元素所在的叶结点，然后进行删除操作。如果待删除元素不是叶结点中唯 一的元素，那么直接删除待删除元素即可。
如果待删除元素是该叶结点中的唯 一元素，则需要将该叶结点也删除掉，回收空间用于后续再次利用。此时我们需要将该元素的父节点对应的KEY也删除掉。对父节点的删除也可能引发对父节点的删除操作，这一过程可能递归一直到根节点。如果根节点调整后只剩下一个子节点，那么我们可以将根节点也摘除掉，并将根节点的唯 一子节点提升为根节点。此时B+树的高度被降低了一级。
2.2.3 B+树并发策略
我们前面讲B+树的基本操作都是在没有考虑并发的情况下，在真实的数据库实现中，B+树往往是被并发读取的。一张表会被多个请求同时读写，对应数据库中多个线程同时在并发读取整棵B+树。无论读还是写操作，我们都需要适当的加锁(latch)才能保证并发读写的安全。
最直接的想法当然是对整棵树加读写锁，读加读锁( RL)，写加写锁( WL)。这种做法读写虽然都安全了，但是并发都太低，性能不好，我们需要更细致的枷锁方案以得到更好的并发。
我们来分析B+树的写操作(插入和删除)：
- 大多数情况下，写操作不引发分裂或者节点摘除的情况下，只需要操作目标元素所在的叶结点即可，此时我们只需要对该叶结点加写锁就可以了。
- 随机情况下，一个叶结点平均插入或者删除N次，才会引发一次分裂或者摘除。此时我们需要对当前叶结点的父节点也进行写操作，此时我们需要对父节点也加写锁。即父节点被加写锁的概率是子节点的1/N。
有了上述观察，我们来看常用的B+树并发策略(Crabbing协议)。
2.2.3.1 读操作(查找)
读操作从根节点开始，逐个节点进行加读锁，进行元素查找，获取子节点读锁，然后释放读锁的过程。如一开始获取根节点读锁，查找到KEY出现的子节点，然后获取子节点的读锁，再释放根节点的读锁。
2.2.3.2 写操作(插入或删除)
对于写操作，也是从根节点开始，先获取根节点的写锁，进行元素查找，找到子节点后获取子节点写锁。获取到子节点写锁之后，需要检查父节点是否 安全，如果安全则可以释放所有父节点的写锁。 所谓安全，即子节点的操作是否会引起父节点的写入。如某个节点X可以容纳的最大元素(叶结点为KEY个数，非叶节点为子节点个数)是N，当前元素个数为K， 1 < K + 1 < N，那么我们知道，无论X的子节点如何分裂或者摘除，X的父节点都不会受影响，因此我们可以安全的释放X的所有父节点的写锁。
3. 数据库扩展技术
随着互联网时代数据量的增大以及对并发读写事务需求量的增加，传统的单机数据库已经难以满足互联网时代应用对数据库的需求。底层数据库的瓶颈可能来自 存储，即单机无法存储下应用所需要的数据量；也可能来自 计算，即大量的读或者写QPS，让数据库难以负担。由此产生了各类数据库扩展技术，在不同程度上部分解决了以上两个问题。
3.1. Sharding
Sharding技术在PC互联网时代使用较多，常见的各类数据库中间件，如淘宝的TDDL等，就采用的这种方案。这种方案本质是由应用层去感知底层数据库的分库分表信息，然后在应用层确定查询的路由，并合并查询的结果。写入数据时也由应用层自己来保证涉及到多个分库时的事务的成功。Sharding方案一定程度上解决了数据库存储的瓶颈，但是对于数据计算的瓶颈，仍然未能解决。
3.2. Share-Storage
目前这种方案几乎是有自研数据库(微软/Google)的云服务厂商之外的其他厂商的标配，典型代表有 Amazon Aurora，腾讯云TDSQL-C，以及阿里云的PolarDB-1.0。这种方案的特点是 一写多读， 多个计算层实例共享底层存储服务，且由底层存储服务来解决数据的一致性，从而简化计算层的逻辑。以已公开论文的Aurora为例，其实现有如下特点：
- 充分利用云服务厂商的基础设施，共享存储层几乎都是建立在云服务厂商提供的云存储之上。
- 充分利用开源代码，云服务厂商可以将开源数据库(MySQL，PostgreSQL)代码与自己研发的存储层充分结合。在一套存储层基础设施的基础上，通过替换MySQL, PostgreSQL的存储层，从而可以在一套存储上支持多种数据库，且能做到100 %兼容。
- 由于对SQL和事务层代码未做大调整，这种方案都 只支持单节点写入。通过底层存储服务解决数据存储的可靠性和可扩展的问题，通过增加多个只读副本来解决读QPS可扩展的问题。写入节点与只读节点之间，写入节点与存储层之间，通过事务的原始redo log进行同步，效率比MySQL多副本之间通过bin log进行同步高了非常多。
Share Storage的方案解决了存储和读的可扩展，但依然存在单点写入瓶颈。云服务厂商采用这种方案有着自己非常现实的考虑：
- 这种方案可以复用开源数据库大部分代码，且能做到100 %兼容(不仅SQL兼容，行为也兼容)，充分降低了开发难度，属于一个非常合适的折中。
- 100 %兼容多种开源数据库，对于以MySQL, PostgreSQL等为主的互联网中小企业而言，几乎可以做到无感迁移。
- 对存储和读请求做了充分的扩展，单点写入，也是考虑到实现难度，兼容性，以及客户特性的折中。使用云服务的多数都是互联网中小客户，相对写入扩展，对读和存储扩展的需求更大一些。
3.3. Share-Nothing
目前主流的分布式数据库，即所谓"NewSQL"数据库的实现，多采用了Share Nothing的架构。这类架构数据库实例之间不共享存储，自己管理自己分区的数据。这是一种完全不同于过去的全新的关系数据库架构，需要从SQL，事务，存储等各个子系统都考虑到扩展性。这类系统的第一个实现是Google的Spanner( Spanner2012)，但Spanner支持的存储模型并不是关系模型，因此Google F1( F12013)又在Spanner的基础上实现了对SQL的支持，成为了一个完整的分布式关系数据库。
受此启发，国内互联网企业受制于传统数据库Oracle的限制，也纷纷开始了自己的研发计划。目前国内已经商用的分布式数据库主要有三个实现，即阿里系蚂蚁集团的OceanBase和阿里云的PloarDB-X(即PolarDB-2.0)，以及独立数据库开发商PingCAP的TiDB。
这类分布式数据库都采用了 LSM树用于构建底层的存储系统，上层通过Paxos或者Raft协议来保证多个副本之间的一致性，通过自动的数据分区(可类比MySQL的分表)来解决不同分区数据的并行写入，同时通过 两阶段提交协议来支持跨分区的多机事务。
这类实现对存储和读写请求的扩展都有了非常好的支持，可以说 从根本上解决了数据库可扩展的问题。以 TPCC Benchmark的结果看，排在榜单第一的OceanBase的的事务(写操作)处理能力，已经是传统数据库Oracle的20倍。
OceanBase能取的这样的TPCC榜单成绩，正是得益于分布式数据库的可扩展能力。整个系统的事务处理能力可以随着部署实例的增加线性扩展，而传统的数据库则做不到这一点。
但这类数据库研发门槛高，同时，LSM树自身的Compaction机制，会导致在Compaction时，会占用非常大的CPU和IO，因此这类数据库需要对Compaction的时机和策略有非常细致的设计，否则会显著影响到系统的稳定性。
关于LSM树的原理及各类操作，会在本系列的第二篇文章《数据库存储与索引技术（二） 分布式数据库基石——LSM树》中进行详细介绍。
参考文献
1. 传统数据库
- 《数据库管理系统实现基础讲义》:
- PostgreSQL物理存储介绍：
- 《MySQL技术内幕》：
- 《MySQL B+树并发控制机制前世今生》：
- 《Coarse-Gr Coarse-Grained, Fine-Gr ained, Fine-Grained, and Lock-F ained, and Lock-Free Concurr ee Concurrency Approaches for Self-Balancing B-Tree》 :
2. Share Disk架构
- Aurora原始论文:
- Amazon Aurora解读：
- Amazon Aurora解读2: https://blog.acolyer.org/2019/03/25/amazon-aurora-design-considerations-for-high-throughput-cloud-native-relational-databases/
- 腾讯云TDSQL-C架构解析:
3. OceanBase TPCC测试
- OceanBase TPCC结果：
- OceanBase TPCC测试细节： https://developer.aliyun.com/article/761887