实现数据库水平切分的两个思路

引言

随着互联网应用的广泛普及，海量数据的存储和访问成为了系统设计的瓶颈问题。对于一个大型的互联网应用，每天几十亿的PV无疑对数据库造成了相当高的负载。对于系统的稳定性和扩展性造成了极大的问题。通过数据切分来提高网站性能，横向扩展数据层已经成为架构研发人员首选的方式。

• 水平切分数据库：可以降低单台机器的负载，同时最大限度的降低了宕机造成的损失；
• 负载均衡策略：可以降低单台机器的访问负载，降低宕机的可能性；
• 集群方案：解决了数据库宕机带来的单点数据库不能访问的问题；
• 读写分离策略：最大限度了提高了应用中读取数据的速度和并发量；

为什么要数据切分

上面对什么是数据切分做了个概要的描述和解释，读者可能会疑问，为什么需要数据切分呢？像Oracle这样成熟稳定的数据库，足以支撑海量数据的存储与查询了？为什么还需要数据切片呢？

的确，Oracle的DB确实很成熟很稳定，但是高昂的使用费用和高端的硬件支撑不是每一个公司能支付的起的。试想一下一年几千万的使用费用和动辄上千万元的小型机作为硬件支撑，这是一般公司能支付的起的吗？即使就是能支付的起，假如有更好的方案，有更廉价且水平扩展性能更好的方案，我们为什么不选择呢？

我们知道每台机器无论配置多么好它都有自身的物理上限，所以当我们应用已经能触及或远远超出单台机器的某个上限的时候，我们惟有寻找别的机器的帮助或者继续升级的我们的硬件，但常见的方案还是横向扩展，通过添加更多的机器来共同承担压力。我们还得考虑当我们的业务逻辑不断增长，我们的机器能不能通过线性增长就能满足需求？Sharding可以轻松的将计算，存储，I/O并行分发到多台机器上，这样可以充分利用多台机器各种处理能力，同时可以避免单点失败，提供系统的可用性，进行很好的错误隔离。

综合以上因素，数据切分是很有必要的。 我们用免费的MySQL和廉价的Server甚至是PC做集群，达到小型机+大型商业DB的效果，减少大量的资金投入，降低运营成本，何乐而不为呢？

在大中型项目中，在数据库设计的时候，考虑到数据库最大承受数据量，通常会把数据库或者数据表水平切分，以降低单个库，单个表的压力。这里介绍两个项目中常用的数据表切分方法。当然这些方法都是在程序中?使用一定的技巧来路由到具体的表的。首先我们要确认根据什么来水平切分？在我们的系统（SNS）中，用户的UID贯穿系统，唯一自增长，根据这个字段分表，再好不过。

方法一：使用MD5哈希

做法是对UID进行md5加密，然后取前几位（我们这里取前两位），然后就可以将不同的UID哈希到不同的用户表（user_xx）中了。

function getTable( $uid ){
 $ext = substr ( md5($uid) ,0 ,2 );
 return "user_".$ext;
}

猜你喜欢

AI推送时光机

实现数据库水平切分的两个思路

数据库2024-04-02

MySQL数据库中怎么实现水平切分

数据库2024-04-02

数据库水平分割：实现数据存储与计算分离的法宝

数据库2024-02-24

如何在AmazonAurora中实现数据库的水平扩展

数据库2024-04-02

数据库水平分割与垂直分割的区别：深入解析两种分区分区策略

数据库2024-02-23

数据库水平分割的最佳实践：避免常见陷阱

数据库2024-02-17

数据库水平分割详解：理解概念、实现方法和应用场景

数据库2024-02-24

thinkphp如何实现两个数据库之间的查询

数据库2023-07-05

数据库水平分割实战指南：从入门到精通的完整教程

数据库2024-02-24

如何实现MySQL底层优化：数据表的水平和垂直分割策略

数据库2023-11-08

shell实现自动备份mysql、整站数据的两个脚本分享

数据库2022-06-04

如何用两台服务器实现数据库的主从同步与分离

数据库2024-04-02

【android】SQLiteOpenHelper实现数据库的增删改查(封装的思想，一个小框架)

数据库2022-06-06

Python实现一个转存纯真IP数据库的脚本分享

数据库2022-06-04

SQL、Pandas和Spark：这个库，实现了三大数据分析工具的大一统

数据库SQL数据分析2024-12-03