如何实现丝滑般的数据库扩容

沙海 2021年6月2日12:24:46Java评论60字数 1528阅读5分5秒阅读模式
摘要

智能摘要

智能摘要文章源自JAVA秀-https://www.javaxiu.com/28195.html

随着数据量的不断增大,一般我们要对数据进行水平切分,水平切分的规则你可以简单根据用户id或者用户IP对数据进行取模,实现路由功能。停止当前服务,然后写个数据迁移程序,实现把老库数据全部迁移到新库中。写个数据迁移程序,实现旧库中的历史数据迁移到新库中。如果新表有数据并没有我们要迁移的数据新的话,我们就更新为当前数据,只能允许新的数据覆盖旧的数据,推荐使用Canal这样到中间件。服务层reload配置,可以重启服务,也可以CLoud那样配置中心发送信号来实现重读配置文件。文章源自JAVA秀-https://www.javaxiu.com/28195.html

原文约 1350 | 图片 18 | 建议阅读 3 分钟 | 评价反馈文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容

小黑格子屋 文章源自JAVA秀-https://www.javaxiu.com/28195.html

以下文章来源于sowhat1412,作者sowhat1412文章源自JAVA秀-https://www.javaxiu.com/28195.html

文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

sowhat1412文章源自JAVA秀-https://www.javaxiu.com/28195.html

吾生也有涯,而知也无涯,一个IT从业人员的点滴分享。文章源自JAVA秀-https://www.javaxiu.com/28195.html

文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

来源:sowhat1412文章源自JAVA秀-https://www.javaxiu.com/28195.html

作者:sowhat1412文章源自JAVA秀-https://www.javaxiu.com/28195.html

引言文章源自JAVA秀-https://www.javaxiu.com/28195.html

初版

如果我们的线上服务不重要,一般来个单体的数据库DB来存储数据即可来。文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

单体应用文章源自JAVA秀-https://www.javaxiu.com/28195.html

优点:简单,省事,方便。文章源自JAVA秀-https://www.javaxiu.com/28195.html

缺点:数据并发性,稳定性都有问题。文章源自JAVA秀-https://www.javaxiu.com/28195.html

进阶

随着数据量的不断增大,一般我们要对数据进行水平切分,水平切分的规则你可以简单根据用户id或者用户IP对数据进行取模,实现路由功能。当然也可以增加Slave跟KeepAlived来实现高可用。文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

主从+路由文章源自JAVA秀-https://www.javaxiu.com/28195.html

但问题是,如果随着业务发展,目前我们2个库的性能扛不住了,还要继续水平拆分,造出更多库咋办?你一般是如何实现丝滑扩容的呢?文章源自JAVA秀-https://www.javaxiu.com/28195.html

扩容

第一版:停机扩容

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

停机扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

简单直接暴力的方法。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  1. APP通知用户在某个时间段停机维护升级。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  2. 新建若干个具有高可用的库。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  3. 停止当前服务,然后写个数据迁移程序,实现把老库数据全部迁移到新库中。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  4. 修改代码路由规则后重新对外提供服务。文章源自JAVA秀-https://www.javaxiu.com/28195.html

优点:简单缺点:中间停服务了,无法保证高可用。数据切换前跟切换过程中需确保无任何出错。文章源自JAVA秀-https://www.javaxiu.com/28195.html

第二版:在线双写

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

在线双写文章源自JAVA秀-https://www.javaxiu.com/28195.html

  1. 建立好新到数据库,然后接下来用户在写原有数据库到同时也写一份数据到我们的新库中。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  2. 写个数据迁移程序,实现旧库中的历史数据迁移到新库中。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  3. 迁移过程中,每次插入数据时,需检测数据的更新情况。比如,如果新的表中没有当前的数据,则直接新增;如果新表有数据并没有我们要迁移的数据新的话,我们就更新为当前数据,只能允许新的数据覆盖旧的数据,推荐使用Canal这样到中间件。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  4. 经过一段时间后需要校验新库跟旧库两边数据是否一样。如果检查到一样了,则直接切换即可。文章源自JAVA秀-https://www.javaxiu.com/28195.html

优点:高可用了。缺点:不够丝滑,来回挪动数据较大。文章源自JAVA秀-https://www.javaxiu.com/28195.html

第三版:丝滑般扩容

目标:打算将原来到两个数据库扩容到4个。文章源自JAVA秀-https://www.javaxiu.com/28195.html

第一步:修改配置

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

修改配置文章源自JAVA秀-https://www.javaxiu.com/28195.html

  1. 修改配置信息,注意旧库跟新库之间到映射关系。确保扩容后数据可以正确路由到服务器。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  • Id % 2 = 0 的库变为了  id % 4 = 0 或   id % 4 = 2文章源自JAVA秀-https://www.javaxiu.com/28195.html

  • Id % 2 = 1 的库变为了  id % 4 = 1 或   id % 4 = 3文章源自JAVA秀-https://www.javaxiu.com/28195.html

第二步:reload配置

服务层reload配置,可以重启服务,也可以CLoud那样配置中心发送信号来实现重读配置文件。文章源自JAVA秀-https://www.javaxiu.com/28195.html

至此,数据库的2 --> 4 扩容完成,原来是2个数据库实例提供服务,现在变为4个数据库实例提供服务。文章源自JAVA秀-https://www.javaxiu.com/28195.html

第三步:收缩数据

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

丝滑扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

此时  id % 4 = 0 跟  id % 4 = 2 的两个DB 还在同步数据。id % 4 = 1 跟 id % 4 = 3的两个DB还在同步数据。需做一些收尾操作。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  1. 接触上面的两个同步操作。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  2. 对新库新建高可用。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  3. 删除冗余数据,比如id % 4 = 0的机器中删除id % 4 = 2的冗余数据,只为id % 4 = 0的数据提供服务,其余三个类似操作。文章源自JAVA秀-https://www.javaxiu.com/28195.html

  4. 至此实现成倍扩容,还避免来数据迁移。文章源自JAVA秀-https://www.javaxiu.com/28195.html

-End-

文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

什么是树状数组?让这个12岁年轻人为你讲解文章源自JAVA秀-https://www.javaxiu.com/28195.html

文章源自JAVA秀-https://www.javaxiu.com/28195.html

文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

2020 华为|字节|腾讯|京东|网易|滴滴面经分享(6 个 offer)文章源自JAVA秀-https://www.javaxiu.com/28195.html

文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

史记 · 码农列传文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容 可乐记得加冰,爱我就要置顶 如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

如何实现丝滑般的数据库扩容素质三连biubiubiu~如何实现丝滑般的数据库扩容文章源自JAVA秀-https://www.javaxiu.com/28195.html

继续阅读
速蛙云 - 极致体验,强烈推荐!!!购买套餐就免费送各大视频网站会员!快速稳定、独家福利社、流媒体稳定解锁!速度快,全球上网、视频、游戏加速、独立IP均支持!基础套餐性价比很高!这里不多说,我一直正在使用,推荐购买:https://www.javaxiu.com/59919.html
weinxin
资源分享QQ群
本站是JAVA秀团队的技术分享社区, 会经常分享资源和教程; 分享的时代, 请别再沉默!
沙海
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定