有人能说清分库分表、MPP和分布式数据库的区别

首页 / 常见问题 / 低代码开发 / 有人能说清分库分表、MPP和分布式数据库的区别
作者:低代码开发工具 发布时间:10-25 13:58 浏览量:7258
logo
织信企业级低代码开发平台
提供表单、流程、仪表盘、API等功能,非IT用户可通过设计表单来收集数据,设计流程来进行业务协作,使用仪表盘来进行数据分析与展示,IT用户可通过API集成第三方系统平台数据。
免费试用

分库分表做法,主要是因为早期单机数据库(主要还是MySQL这种低成本场景)下无法在一个库一张表来承载同一业务表下所有的数据,因而将数据划分到不同的物理库表中去,从业务视角来形成一个大的逻辑表。

一、分库分表、MPP和分布式数据库的区别

1)分库分表做法,主要是因为早期单机数据库(主要还是MySQL这种低成本场景)下无法在一个库一张表来承载同一业务表下所有的数据,因而将数据划分到不同的物理库表中去,从业务视角来形成一个大的逻辑表。这样的话能够充分利用水平拆分能力,来存储超大的数据集。一般拆分逻辑依赖业务给出相关的字段,配合分表规则,来做hash、range的拆分。这种方式一般通过一些富客户端来支持用户sql,好处很直观,针对点查询效率很高,插入数据效率高,但问题点很多,也不太好解决,主要在于涉及到不同分库的sql操作,比如怎么支持跨库表join,怎么支持分布式事务来更新,如果sql中不带分区键导致全逻辑表查询等等。另外,数据量越来越大时有热点问题怎么办,数据怎么重分布,宕机怎么恢复,路由表变更怎么办,怎么做多个实例的服务发现,怎么做读写分离,等等。最终就是让业务上做妥协,最终一致性,不支持join,允许局部节点故障,等等。

2)本质上,分库分表中间件相当于把数据库解决不了的问题推到业务侧,让业务参与解决或者妥协。随着云计算平台分布式数据库越来越强大,分库分表的技术会慢慢的退出历史舞台。简单来说,分布式数据库把上面的问题尽量的在数据系统内部解决掉,给客户的接口非常简单,统一的endpoint,标准的数据库协议,完整的sql支持能力,等等,但内部一样有各种数据分区逻辑。分布式数据库从广义上来说,就是实现数据库语义的分布式架构下的系统,像云上各种OLTP和OLAP产品,应该都可以称之为分布式数据库。分布式数据库中最重要的就是数据怎么摆放,数据在多个机器上平均分摊持有一份数据做sharding,还是多个节点相互复制一份数据做主备,还是利用底层共享存储共享一份完整数据集,衍生出不一样的系统架构和能力。

3)mpp数据库主要区别于smp数据库。后者一般是单机架构,而单机能力毕竟有限,在OLAP计算数据量非常大的时候,单机数据库的分析能力非常有限。mpp数据库构建一套分布式计算集群(mpp数据库肯定是分布式系统,但狭义上应该不算那些只考虑数据切片的分布式数据库),增强计算能力,在计算中再针对数据集做切片调度执行等,最终希望能实现计算力的水平扩展。

总结一下,这些概念本身不是完全无关的,相互有关系。我接触过的发展过程:

单机数据库,到主备分布式数据库(解决高可用和数据高可靠),到分库分表(sharding解决横向扩展)+主备分布式数据库(解决部分数据的可用和数据可靠性,全局数据无强一致保障),再到主备+内部自动分区和复杂分布式计算的分布式数据库(数据,语义,能力,免运维都很强),再到数据层共享存储、计算层横向弹性扩缩容的分布式数据库架构(能力越来越强,成本、弹性、故障恢复速度、灾备等),等等。

无论上单机还是分布式数据库,针对单个sql,最终只会在一个节点上执行完成,而mpp数据库会对这个sql执行计算任务分解,靠整个集群的算力分布式调度计算,最后整体完成sql。这个可能是与分布式数据库的差异。但分布式数据库与mpp数据库不是一个差异化很大的概念,技术实现上也会有很多重叠的。

延伸阅读:

二、全文索引

FULLTEXT(全文)索引,仅可用于MyISAM和InnoDB,针对较大的数据,生成全文索引非常的消耗时间和空间。对于文本的大对象,或者较大的CHAR类型的数据,如果使用普通索引,那么匹配文本前几个字符还是可行的,但是想要匹配文本中间的几个单词,那么就要使用LIKE %word%来匹配,这样需要很长的时间来处理,响应时间会大大增加,这种情况,就可使用时FULLTEXT索引了,在生成FULLTEXT索引时,会为文本生成一份单词的清单,在索引时及根据这个单词的清单来索引。FULLTEXT可以在创建表的时候创建,也可以在需要的时候用ALTER或者CREATE INDEX来添加。

最后建议,企业在引入信息化系统初期,切记要合理有效地运用好工具,这样一来不仅可以让公司业务高效地运行,还能最大程度保证团队目标的达成。同时还能大幅缩短系统开发和部署的时间成本。特别是有特定需求功能需要定制化的企业,可以采用我们公司自研的企业级低代码平台织信Informat。 织信平台基于数据模型优先的设计理念,提供大量标准化的组件,内置AI助手、组件设计器、自动化(图形化编程)、脚本、工作流引擎(BPMN2.0)、自定义API、表单设计器、权限、仪表盘等功能,能帮助企业构建高度复杂核心的数字化系统。如ERP、MES、CRM、PLM、SCM、WMS、项目管理、流程管理等多个应用场景,全面助力企业落地国产化/信息化/数字化转型战略目标。 版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们微信:Informat_5 处理,核实后本网站将在24小时内删除。

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系邮箱:hopper@cornerstone365.cn 处理,核实后本网站将在24小时内删除。

最近更新

什么是外向潜在客户开发
10-30 10:47
产品开发过程的阶段有哪些
10-30 10:47
敏捷软件开发如何运作?
10-30 10:47
门禁系统开发厂家有哪些
10-30 10:47
销售系统开发平台有哪些
10-30 10:47
OSS系统开发商有哪些
10-30 10:47
云系统开发注意哪些方面
10-30 10:47
印度棋牌系统开发商有哪些
10-30 10:47
高压系统开发部是什么公司
10-30 10:47

立即开启你的数字化管理

用心为每一位用户提供专业的数字化解决方案及业务咨询

  • 深圳市基石协作科技有限公司
  • 地址:深圳市南山区科技中一路大族激光科技中心909室
  • 座机:400-185-5850
  • 手机:137-1379-6908
  • 邮箱:sales@cornerstone365.cn
  • 微信公众号二维码

© copyright 2019-2024. 织信INFORMAT 深圳市基石协作科技有限公司 版权所有 | 粤ICP备15078182号

前往Gitee仓库
微信公众号二维码
咨询织信数字化顾问获取最新资料
数字化咨询热线
400-185-5850
申请预约演示
立即与行业专家交流