怎么做mysql性能 mysql写性能测试

MySQL性能优化之索引设计上一篇给小伙伴们讲了关于SQL查询性能优化的相关技巧,一个好的查询SQL离不开合理的索引设计 。这篇小二就来唠一唠怎么合理的设计一个索引来优化我们的查询速度,要是有不合理的地方...嗯..
当然啦,开个玩笑,欢迎小伙伴们指正!
通常情况下,字段类型的选择是需要根据业务来判断的,通常需要遵循以下几点 。
下列各种类型表格内容来自菜鸟教程,权当备忘 。
优化建议:
注意:INT(2)设置的为显示宽度,而不是整数的长度,需要配合ZEROFILL使用。
【怎么做mysql性能 mysql写性能测试】例如id设置为TINYINT(2) UNSIGNED,表示无符号 , 可以存储的最大数值为255,其中TINYINT(2)没有配合ZEROFILL实际没有任何意义,例如插入数字200,长度虽然超过了两位,但是这个时候是可以插入成功的 , 查询结果同样为200;插入数字5时,同样查询结果为5 。
而TINYINT(2)配合ZEROFILL后,当插入数字5时 , 实际存储的还是5,不过在查询是MySQL会在前面补上一个0,即查询出来的实际为05。
优化建议:
优化建议:
通常来说 , 考虑好表中每个字段应该使用什么类型和长度,建完表需要做的事情不是马上建立索引 , 而是先把相关主体业务开发完毕,然后把涉及该表的SQL都拿出来分析之后再建立索引 。
尽量少建立单值索引(唯一索引除外),应当设计一个或者两三个联合索引,让每一个联合索引都尽量去包含SQL语句中的where、order by、group by的字段,同时确保联合索引的字段顺序尽量满足SQL查询的最左前缀原则 。
索引基数是指这个字段在表里总共有多少个不同的值,比如一张表总共100万行记录,其中有个性别字段,性别一共有三个值:男、女、保密 , 那么该字段的基数就是3 。
如果对这种小基数字段建立索引的话,因为索引树中只有男、女、保密三个值,根本没法进行快速的二分查找,同时还需要回表查询 , 还不如全表扫描嘞 。
一般建立索引,尽量使用那些基数比较大的字段,那么才能发挥出B 树快速二分查找的优势来 。
在where和order by出现索引设计冲突时,是优先针对where去设计索引?还是优先针对order by设计索引?
通常情况下都是优先针对where来设计索引,因为通常情况下都是先where条件使用索引快速筛选出来符合条件的数据,然后对进行筛选出来的数据进行排序和分组 , 而where条件快速筛选出来的的数据往往不会很多 。
对生产实际运行过程中,或者测试环境大数据量测试过程中发现的慢查询SQL进行特定的索引优化、代码优化等策略 。
终于轮到实战了,小二最喜欢实战了 。
写到这里不得不吐槽一下,这个金三银四的跳槽季节,年前提离职了,结果离职还没办完就封村整整两个礼拜了,呜呜呜...
上节小二就提到会有个很有意思的小案例 , 那么在疫情当下,门都出不去的日子,感觉这个例子更有意思了,咱们来讨论一下各种社交平台怎么做的用户信息搜索呢 。
社交平台有一个小伙伴们都喜欢的功能,搜索好友信息,比如小二熟练的点开省份...城市..性别..年龄..身高...
咳咳咳...小二怎么可能干这种事情,小二的心里只有代码,嗯...没错 , 就是这样 。
这个就可以说是对于用户信息的查询筛选了,通常这种表都是非常大数据量的,在不考虑分库分表的情况下,怎么通过索引配合SQL来优化呢?
通常我们在编写SQL是会写出类似如下的SQL来执行,有where、order by、limit等条件来查询 。
那么接下来小二一个一个慢慢增加字段来分析分析,怎么根据业务场景来设计索引 。
针对这种情况,很简单,设计一个联合索引(provice, city, sex)就完事了 。
那么这时候有小伙伴就会说了,很简单?。?范围字段放最后咱还是知道的,联合索引改成(provice, city, sex, age)不就可以了 。
嗯 , 是的,这么干没毛病,但是小伙伴们有没有想过有些人万一既喜欢帅哥又喜欢美女 , 别想歪了哈...,挺多小姐姐就既喜欢帅哥又喜欢美女的 。
那么这个时候小姐姐就不搜索性别了 , 那么这个时候联合索引只能用到前两个字段了,那么不符合咱们的专业标准啊,咋办呢?这时候还是有办法的,咱们只需要动动小脑袋改改SQL就行了,在没有选择性别时判断一下,改成下面这样就可以了 。
咋办嘞,同样往联合索引里面塞 , 例如(provice, city, sex, hobby, xx, age)。
针对这种多个范围查询的话,为了比较好的利用索引,在业务允许的情况下可以使用固定范围,然后数据库字段存储范围标识就可以了,这样就转化为了等值匹配 , 就可以很好地利用索引了 。
例如最后登录时间字段不记录最后登录时间,而是记录设置字段is_login_within_seven_days在7天内有登录则为1,否则为0,最后索引设计成(provice, city, sex, hobby, xx, is_login_within_seven_days, age)。
那么根据场景最后设计出来的这个索引可能已经可以覆盖大部分的查询流量了,那么如果还有其他一部分热度比较高的查询怎么办呢,办法也很简单?。?再加一两个索引即可 。
例如通常会查询这个城市比较受欢迎(评分:score)的小姐姐,这时候添加一个联合索引(provice, city, sex, score)那么就可以了 。
可以看出,索引时必须结合场景来设计的,思路就是尽量用不超过3个复杂的联合索引来抗住大部分的80%以上的常用查询流量 , 然后再用一两个二级索引来抗下一些非常用查询流量 。
以上就是小二要给大家分享的索引设计,如果能动动你发财的小手给小二点个免费的赞就更好啦~
下篇小二就来讲讲MySQL事务和锁机制 。
MySQL性能调优 – 你必须了解的15个重要变量前言:
MYSQL 应该是最流行了 WEB 后端数据库 。虽然 NOSQL 最近越来越多的被提到,但是相信大部分架构师还是会选择 MYSQL 来做数据存储 。本文作者总结梳理MySQL性能调优的15个重要变量,又不足需要补充的还望大佬指出 。
1.DEFAULT_STORAGE_ENGINE
如果你已经在用MySQL 5.6或者5.7,并且你的数据表都是InnoDB,那么表示你已经设置好了 。如果没有,确保把你的表转换为InnoDB并且设置default_storage_engine为InnoDB 。
为什么?简而言之,因为InnoDB是MySQL(包括Percona Server和MariaDB)最好的存储引擎 – 它支持事务 , 高并发,有着非常好的性能表现(当配置正确时) 。这里有详细的版本介绍为什么
2.INNODB_BUFFER_POOL_SIZE
这个是InnoDB最重要变量 。实际上,如果你的主要存储引擎是InnoDB,那么对于你,这个变量对于MySQL是最重要的 。
基本上,innodb_buffer_pool_size指定了MySQL应该分配给InnoDB缓冲池多少内存,InnoDB缓冲池用来存储缓存的数据,二级索引,脏数据(已经被更改但没有刷新到硬盘的数据)以及各种内部结构如自适应哈希索引 。
根据经验,在一个独立的MySQL服务器应该分配给MySQL整个机器总内存的80% 。如果你的MySQL运行在一个共享服务器,或者你想知道InnoDB缓冲池大小是否正确设置 , 详细请看这里 。
3.INNODB_LOG_FILE_SIZE
InnoDB重做日志文件的设置在MySQL社区也叫做事务日志 。直到MySQL 5.6.8事务日志默认值innodb_log_file_size=5M是唯一最大的InnoDB性能杀手 。从MySQL 5.6.8开始,默认值提升到48M,但对于许多稍繁忙的系统 , 还远远要低 。
根据经验,你应该设置的日志大小能在你服务器繁忙时能存储1-2小时的写入量 。如果不想这么麻烦,那么设置1-2G的大小会让你的性能有一个不错的表现 。这个变量也相当重要,更详细的介绍请看这里 。
当然 , 如果你有大量的大事务更改,那么,更改比默认innodb日志缓冲大小更大的值会对你的性能有一定的提高,但是你使用的是autocommit,或者你的事务更改小于几k,那还是保持默认的值吧 。
4.INNODB_FLUSH_LOG_AT_TRX_COMMIT
默认下,innodb_flush_log_at_trx_commit设置为1表示InnoDB在每次事务提交后立即刷新同步数据到硬盘 。如果你使用autocommit,那么你的每一个INSERT, UPDATE或DELETE语句都是一个事务提交 。
同步是一个昂贵的操作(特别是当你没有写回缓存时),因为它涉及对硬盘的实际同步物理写入 。所以如果可能,并不建议使用默认值 。
两个可选的值是0和2:
* 0表示刷新到硬盘,但不同步(提交事务时没有实际的IO操作)
* 2表示不刷新和不同步(也没有实际的IO操作)
所以你如果设置它为0或2,则同步操作每秒执行一次 。所以明显的缺点是你可能会丢失上一秒的提交数据 。具体来说,你的事务已经提交了,但服务器马上断电了,那么你的提交相当于没有发生过 。
显示的,对于金融机构,如银行,这是无法忍受的 。不过对于大多数网站,可以设置为innodb_flush_log_at_trx_commit=0|2,即使服务器最终崩溃也没有什么大问题 。毕竟,仅仅在几年前有许多网站还是用MyISAM,当崩溃时会丢失30s的数据(更不要提那令人抓狂的慢修复进程) 。
那么,0和2之间的实际区别是什么?性能明显的差异是可以忽略不计,因为刷新到操作系统缓存的操作是非常快的 。所以很明显应该设置为0 , 万一MySQL崩溃(不是整个机器) , 你不会丢失任何数据,因为数据已经在OS缓存,最终还是会同步到硬盘的 。
5.SYNC_BINLOG
已经有大量的文档写到sync_binlog,以及它和innodb_flush_log_at_trx_commit的关系,下面我们来简单的介绍下:
a) 如果你的服务器没有设置从服务器,而且你不做备份,那么设置sync_binlog=0将对性能有好处 。
b) 如果你有从服务器并且做备份,但你不介意当主服务器崩溃时在二进制日志丢失一些事件,那么为了更好的性能还是设置为sync_binlog=0.
c) 如果你有从服务器并且备份,你非常在意从服务器的一致性,以及能及时恢复到一个时间点(通过使用最新的一致性备份和二进制日志将数据库恢复到特定时间点的能力),那么你应该设置innodb_flush_log_at_trx_commit=1,并且需要认真考虑使用sync_binlog=1 。
问题是sync_binlog=1代价比较高 – 现在每个事务也要同步一次到硬盘 。你可能会想为什么不把两次同步合并成一次,想法正确 – 新版本的MySQL(5.6和5.7,MariaDB和Percona Server)已经能合并提交 , 那么在这种情况下sync_binlog=1的操作也不是这么昂贵了,但在旧的mysql版本中仍然会对性能有很大影响 。
6.INNODB_FLUSH_METHOD
将innodb_flush_method设置为O_DIRECT以避免双重缓冲.唯一一种情况你不应该使用O_DIRECT是当你操作系统不支持时 。但如果你运行的是Linux,使用O_DIRECT来激活直接IO 。
不用直接IO , 双重缓冲将会发生,因为所有的数据库更改首先会写入到OS缓存然后才同步到硬盘 – 所以InnoDB缓冲池和OS缓存会同时持有一份相同的数据 。特别是如果你的缓冲池限制为总内存的50% , 那意味着在写密集的环境中你可能会浪费高达50%的内存 。如果没有限制为50%,服务器可能由于OS缓存的高压力会使用到swap 。
简单地说 , 设置为innodb_flush_method=O_DIRECT 。
7.INNODB_BUFFER_POOL_INSTANCES
MySQL 5.5引入了缓冲实例作为减小内部锁争用来提高MySQL吞吐量的手段 。
在5.5版本这个对提升吞吐量帮助很?。?然后在MySQL 5.6版本这个提升就非常大了,所以在MySQL5.5中你可能会保守地设置innodb_buffer_pool_instances=4,在MySQL 5.6和5.7中你可以设置为8-16个缓冲池实例 。
你设置后观察会觉得性能提高不大 , 但在大多数高负载情况下,它应该会有不错的表现 。
对了,不要指望这个设置能减少你单个查询的响应时间 。这个是在高并发负载的服务器上才看得出区别 。比如多个线程同时做许多事情 。
8.INNODB_THREAD_CONCURRENCY
InnoDB有一种方法来控制并行执行的线程数 – 我们称为并发控制机制 。大部分是由innodb_thread_concurrency值来控制的 。如果设置为0 , 并发控制就关闭了,因此InnoDB会立即处理所有进来的请求(尽可能多的) 。
在你有32CPU核心且只有4个请求时会没什么问题 。不过想像下你只有4CPU核心和32个请求时 – 如果你让32个请求同时处理,你这个自找麻烦 。因为这些32个请求只有4 CPU核心,显然地会比平常慢至少8倍(实际上是大于8倍),而然这些请求每个都有自己的外部和内部锁,这有很大可能堆积请求 。
下面介绍如何更改这个变量,在mysql命令行提示符执行:
对于大多数工作负载和服务器,设置为8是一个好开端,然后你可以根据服务器达到了这个限制而资源使用率利用不足时逐渐增加 。可以通过show engine innodb status\G来查看目前查询处理情况 , 查找类似如下行:
9.SKIP_NAME_RESOLVE
这一项不得不提及,因为仍然有很多人没有添加这一项 。你应该添加skip_name_resolve来避免连接时DNS解析 。
大多数情况下你更改这个会没有什么感觉,因为大多数情况下DNS服务器解析会非常快 。不过当DNS服务器失败时,它会出现在你服务器上出现“unauthenticated connections”,而就是为什么所有的请求都突然开始慢下来了 。
所以不要等到这种事情发生才更改 。现在添加这个变量并且避免基于主机名的授权 。
10.INNODB_IO_CAPACITY, INNODB_IO_CAPACITY_MAX
* innodb_io_capacity:用来当刷新脏数据时 , 控制MySQL每秒执行的写IO量 。
* innodb_io_capacity_max: 在压力下,控制当刷新脏数据时MySQL每秒执行的写IO量
首先,这与读取无关 – SELECT查询执行的操作 。对于读操作,MySQL会尽最大可能处理并返回结果 。至于写操作 , MySQL在后台会循环刷新 , 在每一个循环会检查有多少数据需要刷新,并且不会用超过innodb_io_capacity指定的数来做刷新操作 。这也包括更改缓冲区合并(在它们刷新到磁盘之前,更改缓冲区是辅助脏页存储的关键) 。
第二,我需要解释一下什么叫“在压力下”,MySQL中称为”紧急情况”,是当MySQL在后台刷新时,它需要刷新一些数据为了让新的写操作进来 。然后,MySQL会用到innodb_io_capacity_max 。
那么 , 应该设置innodb_io_capacity和innodb_io_capacity_max为什么呢?
最好的方法是测量你的存储设置的随机写吞吐量,然后给innodb_io_capacity_max设置为你的设备能达到的最大IOPS 。innodb_io_capacity就设置为它的50-75% , 特别是你的系统主要是写操作时 。
通常你可以预测你的系统的IOPS是多少 。例如由8 15k硬盘组成的RAID10能做大约每秒1000随机写操作 , 所以你可以设置innodb_io_capacity=600和innodb_io_capacity_max=1000 。许多廉价企业SSD可以做4,000-10,000 IOPS等 。
这个值设置得不完美问题不大 。但是,要注意默认的200和400会限制你的写吞吐量,因此你可能偶尔会捕捉到刷新进程 。如果出现这种情况,可能是已经达到你硬盘的写IO吞吐量,或者这个值设置得太小限制了吞吐量 。
11.INNODB_STATS_ON_METADATA
如果你跑的是MySQL 5.6或5.7 , 你不需要更改innodb_stats_on_metadata的默认值,因为它已经设置正确了 。
不过在MySQL 5.5或5.1,强烈建议关闭这个变量 – 如果是开启,像命令show table status会立即查询INFORMATION_SCHEMA而不是等几秒再执行 , 这会使用到额外的IO操作 。
从5.1.32版本开始,这个是动态变量,意味着你不需要重启MySQL服务器来关闭它 。
12.INNODB_BUFFER_POOL_DUMP_AT_SHUTDOWNINNODB_BUFFER_POOL_LOAD_AT_STARTUP
innodb_buffer_pool_dump_at_shutdown和innodb_buffer_pool_load_at_startup这两个变量与性能无关,不过如果你偶尔重启mysql服务器(如生效配置),那么就有关 。当两个都激活时,MySQL缓冲池的内容(更具体地说 , 是缓存页)在停止MySQL时存储到一个文件 。当你下次启动MySQL时,它会在后台启动一个线程来加载缓冲池的内容以提高预热速度到3-5倍 。
两件事:
第一,它实际上没有在关闭时复制缓冲池内容到文件 , 仅仅是复制表空间ID和页面ID – 足够的信息来定位硬盘上的页面了 。然后它就能以大量的顺序读非常快速的加载那些页面 , 而不是需要成千上万的小随机读 。
第二,启动时是在后台加载内容,因为MySQL不需要等到缓冲池内容加载完成再开始接受请求(所以看起来不会有什么影响) 。
从MySQL 5.7.7开始,默认只有25%的缓冲池页面在mysql关闭时存储到文件,但是你可以控制这个值 – 使用innodb_buffer_pool_dump_pct,建议75-100 。
这个特性从MySQL 5.6才开始支持 。
13.INNODB_ADAPTIVE_HASH_INDEX_PARTS
如果你运行着一个大量SELECT查询的MySQL服务器(并且已经尽可能优化) , 那么自适应哈希索引将下你的下一个瓶颈 。自适应哈希索引是InnoDB内部维护的动态索引,可以提高最常用的查询模式的性能 。这个特性可以重启服务器关闭,不过默认下在mysql的所有版本开启 。
这个技术非常复杂,在大多数情况下它会对大多数类型的查询直到加速的作用 。不过,当你有太多的查询往数据库,在某一个点上它会花过多的时间等待AHI锁和闩锁 。
如果你的是MySQL 5.7,没有这个问题 – innodb_adaptive_hash_index_parts默认设置为8,所以自适应哈希索引被切割为8个分区,因为不存在全局互斥 。
不过在mysql 5.7前的版本,没有AHI分区数量的控制 。换句话说,有一个全局互斥锁来保护AHI,可能导致你的select查询经常撞墙 。
所以如果你运行的是5.1或5.6 , 并且有大量的select查询,最简单的方案就是切换成同一版本的Percona Server来激活AHI分区 。
14.QUERY_CACHE_TYPE
如果人认为查询缓存效果很好,肯定应该使用它 。好吧 , 有时候是有用的 。不过这个只在你在低负载时有用,特别是在低负载下大多数是读取,小量写或者没有 。
如果是那样的情况 , 设置query_cache_type=ON和query_cache_size=256M就好了 。不过记住不能把256M设置更高的值了,否则会由于查询缓存失效时,导致引起严重的服务器停顿 。
如果你的MySQL服务器高负载动作,建议设置query_cache_size=0和query_cache_type=OFF,并重启服务器生效 。那样Mysql就会停止在所有的查询使用查询缓存互斥锁 。
15.TABLE_OPEN_CACHE_INSTANCES
从MySQL 5.6.6开始,表缓存能分割到多个分区 。
表缓存用来存放目前已打开表的列表,当每一个表打开或关闭互斥体就被锁定 – 即使这是一个隐式临时表 。使用多个分区绝对减少了潜在的争用 。
从MySQL 5.7.8开始,table_open_cache_instances=16是默认的配置 。
欢迎做Java的工程师朋友们私信我资料免费获取免费的Java架构学习资料(里面有高可用、高并发、高性能及分布式、Jvm性能调优、Spring源码,MyBatis,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多个知识点的架构资料)
其中覆盖了互联网的方方面面,期间碰到各种产品各种场景下的各种问题,很值得大家借鉴和学习,扩展自己的技术广度和知识面 。
MySQL数据库性能优化之分区分表分库分表是分散数据库压力的好方法 。
分表,最直白的意思,就是将一个表结构分为多个表,然后,可以再同一个库里,也可以放到不同的库 。
当然,首先要知道什么情况下,才需要分表 。个人觉得单表记录条数达到百万到千万级别时就要使用分表了 。
分表的分类
**1、纵向分表**
将本来可以在同一个表的内容 , 人为划分为多个表 。(所谓的本来,是指按照关系型数据库的第三范式要求 , 是应该在同一个表的 。)
分表理由:根据数据的活跃度进行分离,(因为不同活跃的数据,处理方式是不同的)
案例:
对于一个博客系统,文章标题,作者 , 分类,创建时间等,是变化频率慢,查询次数多,而且最好有很好的实时性的数据,我们把它叫做冷数据 。而博客的浏览量,回复数等,类似的统计信息,或者别的变化频率比较高的数据,我们把它叫做活跃数据 。所以 , 在进行数据库结构设计的时候,就应该考虑分表,首先是纵向分表的处理 。
这样纵向分表后:
首先存储引擎的使用不同,冷数据使用MyIsam 可以有更好的查询数据 。活跃数据,可以使用Innodb ,可以有更好的更新速度 。
其次,对冷数据进行更多的从库配置,因为更多的操作时查询 , 这样来加快查询速度 。对热数据,可以相对有更多的主库的横向分表处理 。
其实,对于一些特殊的活跃数据 , 也可以考虑使用memcache ,redis之类的缓存 , 等累计到一定量再去更新数据库 。或者mongodb 一类的nosql 数据库,这里只是举例,就先不说这个 。
**2、横向分表**
字面意思,就可以看出来,是把大的表结构,横向切割为同样结构的不同表,如,用户信息表,user_1,user_2等 。表结构是完全一样 , 但是,根据某些特定的规则来划分的表,如根据用户ID来取模划分 。
分表理由:根据数据量的规模来划分,保证单表的容量不会太大,从而来保证单表的查询等处理能力 。
案例:同上面的例子 , 博客系统 。当博客的量达到很大时候,就应该采取横向分割来降低每个单表的压力,来提升性能 。例如博客的冷数据表,假如分为100个表,当同时有100万个用户在浏览时 , 如果是单表的话,会进行100万次请求,而现在分表后,就可能是每个表进行1万个数据的请求(因为,不可能绝对的平均,只是假设) , 这样压力就降低了很多很多 。
延伸:为什么要分表和分区?
日常开发中我们经常会遇到大表的情况,所谓的大表是指存储了百万级乃至千万级条记录的表 。这样的表过于庞大,导致数据库在查询和插入的时候耗时太长,性能低下,如果涉及联合查询的情况,性能会更加糟糕 。分表和表分区的目的就是减少数据库的负担,提高数据库的效率,通常点来讲就是提高表的增删改查效率 。
什么是分表?
分表是将一个大表按照一定的规则分解成多张具有独立存储空间的实体表,我们可以称为子表,每个表都对应三个文件 , MYD数据文件,.MYI索引文件,.frm表结构文件 。这些子表可以分布在同一块磁盘上,也可以在不同的机器上 。app读写的时候根据事先定义好的规则得到对应的子表名,然后去操作它 。
什么是分区?
分区和分表相似 , 都是按照规则分解表 。不同在于分表将大表分解为若干个独立的实体表,而分区是将数据分段划分在多个位置存放,可以是同一块磁盘也可以在不同的机器 。分区后,表面上还是一张表 , 但数据散列到多个位置了 。app读写的时候操作的还是大表名字,db自动去组织分区的数据 。
**MySQL分表和分区有什么联系呢?**
1、都能提高mysql的性高,在高并发状态下都有一个良好的表现 。
2、分表和分区不矛盾 , 可以相互配合的,对于那些大访问量,并且表数据比较多的表 , 我们可以采取分表和分区结合的方式(如果merge这种分表方式 , 不能和分区配合的话,可以用其他的分表试),访问量不大,但是表数据很多的表,我们可以采取分区的方式等 。
3、分表技术是比较麻烦的,需要手动去创建子表,app服务端读写时候需要计算子表名 。采用merge好一些 , 但也要创建子表和配置子表间的union关系 。
4、表分区相对于分表,操作方便,不需要创建子表 。
我们知道对于大型的互联网应用,数据库单表的数据量可能达到千万甚至上亿级别 , 同时面临这高并发的压力 。Master-Slave结构只能对数据库的读能力进行扩展,写操作还是集中在Master中,Master并不能无限制的挂接Slave库,如果需要对数据库的吞吐能力进行进一步的扩展,可以考虑采用分库分表的策略 。
**1、分表**
在分表之前,首先要选中合适的分表策略(以哪个字典为分表字段,需要将数据分为多少张表),使数据能够均衡的分布在多张表中 , 并且不影响正常的查询 。在企业级应用中,往往使用org_id(组织主键)做为分表字段,在互联网应用中往往是userid 。在确定分表策略后 , 当数据进行存储及查询时,需要确定到哪张表里去查找数据,
数据存放的数据表 = 分表字段的内容 % 分表数量
**2、分库**
分表能够解决单表数据量过大带来的查询效率下降的问题,但是不能给数据库的并发访问带来质的提升,面对高并发的写访问,当Master无法承担高并发的写入请求时,不管如何扩展Slave服务器,都没有意义了 。我们通过对数据库进行拆分,来提高数据库的写入能力,即所谓的分库 。分库采用对关键字取模的方式,对数据库进行路由 。
数据存放的数据库=分库字段的内容%数据库的数量
**3、即分表又分库**
数据库分表可以解决单表海量数据的查询性能问题,分库可以解决单台数据库的并发访问压力问题 。
当数据库同时面临海量数据存储和高并发访问的时候,需要同时采取分表和分库策略 。一般分表分库策略如下:
中间变量 = 关键字%(数据库数量*单库数据表数量)
库 = 取整(中间变量/单库数据表数量)
表 = (中间变量%单库数据表数量)
实例:
1、分库分表
很明显,一个主表(也就是很重要的表,例如用户表)无限制的增长势必严重影响性能,分库与分表是一个很不错的解决途径,也就是性能优化途径,现在的案例是我们有一个1000多万条记录的用户表members,查询起来非常之慢,同事的做法是将其散列到100个表中,分别从members0到members99,然后根据mid分发记录到这些表中 , 牛逼的代码大概是这样子:
复制代码 代码如下:
?php
for($i=0;$i 100; $i){
//echo "CREATE TABLE db2.members{$i} LIKE db1.members
";
echo "INSERT INTO members{$i} SELECT * FROM members WHERE mid0={$i}
";
}
?
2、不停机修改mysql表结构
同样还是members表,前期设计的表结构不尽合理,随着数据库不断运行,其冗余数据也是增长巨大,同事使用了下面的方法来处理:
先创建一个临时表:
/*创建临时表*/
CREATE TABLE members_tmp LIKE members
然后修改members_tmp的表结构为新结构,接着使用上面那个for循环来导出数据,因为1000万的数据一次性导出是不对的 , mid是主键,一个区间一个区间的导,基本是一次导出5万条吧 , 这里略去了
接着重命名将新表替换上去:
/*这是个颇为经典的语句哈*/
RENAME TABLE members TO members_bak,members_tmp TO members;
就是这样,基本可以做到无损失,无需停机更新表结构,但实际上RENAME期间表是被锁死的,所以选择在线少的时候操作是一个技巧 。经过这个操作,使得原先8G多的表,一下子变成了2G多 。
关于怎么做mysql性能和mysql写性能测试的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站 。

    推荐阅读