如何规划、建设你的数据库架构

时间:2021-10-10 01:23:56

引言

  昨天和刚入行就带我的老领导相约北京酒吧,4年师徒情,7年未见,从老公司境况到老熟人的现状,到现在的工作,未来的发展。从当下的技术到新技术的展望,聊到数据库架构,我说我现在还是在做传统的数据库架构,而老领导满心的分布式,好像不是分布式都是比较LOW了,这里面依然存在着这样一个问题,什么是“分布式”,因为每个人说的都不一样,理解的也都不一样。

   而分布式又是怎样一步一步演变的,不同情况下又该如何设计规划自己的架构,文章篇幅有限内容太多,这里只能粗浅的说一说啦。

------------------本文纯属个人观点,如有错误、不足望指教----------------

 

架构的演变

  架构演变一定是根据当时要求的场景、压力下性能的需要、安全性、连续性的要求、技术的发展.....

  我把架构的发展分为大概4个阶段:

  1.单机模式

  如何规划、建设你的数据库架构

   IT建设初期,高速建设阶段,大家要做的只有一件事,我需要什么构建什么,我需要ERP我买软件,需要HIS买HIS,这个时期按需构建大量的系统基本在这个时期产生,当然那个时候也没什么高可用的要求。

  2.双机热备 和 镜像

  如何规划、建设你的数据库架构  如何规划、建设你的数据库架构

  基本是20年前的技术了,在高速构建后,一堆的系统运行中,用户发现我们的核心业务如果坏掉业务受影响,停机几个小时做恢复 这是无法接受的,那么双机热备或镜像,Active-Standby的模式出现,这样一台机器工作,一台备用坏了在短时间可以接管业务,造成的损失会低很多!

  那么问题也很明显,备机资源浪费,依赖存储,数据还是单点,成本较高。产品也很多:RoseHA/RoseMirrorHA、NEC ExpressCluster、微软MSCS、Symantec VCS、Legato、RHCS 太多太多了。

  随后为了解决数据单点的问题有出现了 存储的主备,存储的双活这厂商也太多了,这里就不介绍了

  如何规划、建设你的数据库架构  如何规划、建设你的数据库架构

 

  基本上传统企业依然停留在第一和第二阶段,也就是要么单机,要么双机热备

 

  3.节点多活 

  如何规划、建设你的数据库架构     如何规划、建设你的数据库架构

  随着业务量越来越大,数据量不断飚升,系统高效性的矛盾显现出来,系统卡慢、报表、接口业务无法分离OLAP OLTP业务混合导致系统锁情况严重,资源消耗极其庞大,光靠升级硬件已经无法满足要求,横向扩展已经成为大势所趋。

  同时切换时间、备机无法启动的问题也困扰着用户。

  那么节点多活,多台机器同时对外提供访问的技术登上舞台,代表的ORACLE RAC、微软ALWAYSON 、MOEBIUS集群

  多活的两种模式也是从第二带架构的演变

  oracle rac 把双机热备的辅助节点变的可以访问,关键点数据在多节点内存中的调配

  Microsoft awo、Moebius 则是把镜像的辅助节点变的可以访问,关键点数据多节点同步

  这样横向扩展来分担压力,并且可以在业务上进行分离。

   4.分布式架构 

   如何规划、建设你的数据库架构

   分布式架构真的不知道从何说起,概念太大,每个人理解的都不一样,只能意会不能言传:

  比如说一份数据分开存成多份

  比如说拆分,水平拆分、垂直拆分、分库、分表、分业务

  比如说....

  其实说到底就是在第三代横向扩展也无法满足的情况下,继续“拆”,根据不同需求各种“拆”,拆到什么样呢? 大家都知道可以说最慢的环节在数据库,传统的做法复杂语句,大存储过程运行非常慢,那我们就把这些拆到表数据量足够小、语句足够简单、业务粒度小、访问压力尽量的小!

  这样细化的设计一切为业务服务,也是精细化设计产物,但这也存在一个问题,传统企业在缺少高端人才,人力的情况下根本无法做到。现在的互联网公司为业务的需要同时对IT团队的大力建设,这是传统企业根本无法达到的。

  

  当然如果有第五代那也许可以说是云,未来业务一切的技术都是云端,云端看不见摸不到,传统行业人回归业务,而IT 建设与管理也必然由专业的人做专业的事儿。

 

  个人总结的架构演变,主架构演变不包含其他辅助技术,仅供参考

  如何规划、建设你的数据库架构

其他技术漫谈

   在这四代架构之间也有很多技术出现,主要以数据复制、存储同步为代表,如DG、OGG、LOGSHIPPING、Replication等等,这些都是不同场景下的数据复制,让一个副本变成多个,基本目的在于副本读或者本/异灾备,而这些技术也在不同的场景中扮演这重要的角色,每种技术都有自己的优缺点,不能一概而论。

  如何规划、建设你的数据库架构

 

  当然这里面还包含现在所谓的虚拟化、超融合、存储双活,这些技术首先不是数据库本身技术,在很多企业所谓数据库的高可用中扮演着擦边球的角色,虚拟化、超融合、存储双活都有自己适用的场景,而说到数据库的架构,这些方案只是基础架构层面。

  如何规划、建设你的数据库架构

如何选架构

  •   选架构

  首先你该选的是几代架构?

  四代架构是按照业务不断细分,以冗余 和 拆分、细化为主线大体过程

  二代冗余

  如何规划、建设你的数据库架构

  三代粗拆分

  如何规划、建设你的数据库架构

  四代细拆分

  如何规划、建设你的数据库架构

 

 

 

  当然这是只是大概的意思,实际中拆分的场景,条件,扩展性一系列复杂的过程。

 

   我曾经无数次遇到几十G的库 几百并发的应用就要规划分片,领导最求高大上,底下技术人员叫苦。

  •   构建

  构建中主要是对建构的细节了解和熟练,这和企业的人员配置有很大的关系,传统企业中很多在架构方案中选择第三方产品?这是为什么,构建需要专业的人,而企业最少的就是这部分人,而维护管理,责任划分也是不得不考虑的事情。

  当然架构越复杂投入的经历也就越大,这也不是一个架构师可以主导的事情。

  •   维护

  维护才是关键,业务变动后的灵活性、压力下的扩展性、出问题的排查、技术力量的支持,一系列漫长的过程开始了.....

 

题外篇

  自己在传统行业玩的太久了,写这片文章的过程中也和PingCAP 联合创始人& CTO 黄东旭,聊了一些未来技术的发展,tidb做的风声水起,对未来数据库大家都是未知,但随着技术的不断涌现更牛的架构,更牛的理念也必将一一实现。

  比如依靠智能化的机制集群自我修复,性能自提升,架构自适应等等

总结

   架构方案是几代不重要,重要的是适合自己的业务,保证稳定、安全、高效、持续,单机适合简单业务,没有那么高的安全性、连续性依然可以,双机热备可以保障基本的高可用,节点多活的集群适合业务压力较大简单粗暴的分离和压力分担,至于分布式如果企业有能力有资源,业务压力庞大自然会考虑,但在我接触的客户中太多认为自己业务只能通过分布式方案构建,但是其实只是简单优化+三代多活,读写分离负载均衡即可满足。

  所以根据自己业务评估最为重要,一个好的架构规划,不但解决现有问题节省成本,更会避免步子太大激进带来的不必要损失。