锐客网

  1. 首页 > 睿知 > it技术 > >

php数据库查询优化 php数据库查询系统

索引IT技术

php mysql优化，百万至千万级快速分页mysql性能到底能有多高php Mysql 优化，百万至千万级快速分页
MySql 性能到底能有多高？用了php半年多，真正如此深入的去思考这个问题还是从前天开始 。有过痛苦有过绝望，到现在充满信心！MySql 这个数据库绝对是适合dba级的高手去玩的，一般做一点1万篇新闻的小型系统怎么写都可以，用xx框架可以实现快速开发 。可是数据量到了10万，百万至千万 ， 他的性能还能那么高吗？一点小小的失误，可能造成整个系统的改写 ， 甚至更本系统无法正常运行！好了 ， 不那么多废话了 。用事实说话，看例子：
数据表 collect ( id, title ,info ,vtype) 就这4个字段 ， 其中 title 用定长，info 用text, id 是逐渐，vtype是tinyint，vtype是索引 。这是一个基本的新闻系统的简单模型 。现在往里面填充数据，填充10万篇新闻 。
最后collect 为 10万条记录，数据库表占用硬盘1.6G 。OK ,看下面这条sql语句：
select id,title from collect limit 1000,10; 很快；基本上0.01秒就OK，再看下面的
select id,title from collect limit 90000,10; 从9万条开始分页，结果？
8-9秒完成，my god 哪出问题了？？？？其实要优化这条数据，网上找得到答案 。看下面一条语句:
select id from collect order by id limit 90000,10; 很快，0.04秒就OK 。为什么？因为用了id主键做索引当然快 。网上的改法是：
select id,title from collect where id=(select id from collect order by id limit 90000,1) limit 10;
这就是用了id做索引的结果 。可是问题复杂那么一点点 ， 就完了 。看下面的语句
select id from collect where vtype=1 order by id limit 90000,10; 很慢，用了8-9秒！
到了这里我相信很多人会和我一样，有崩溃感觉！vtype 做了索引了?。吭趺椿崧兀縱type做了索引是不错，你直接 select id from collect where vtype=1 limit 1000,10; 是很快的 ， 基本上0.05秒，可是提高90倍，从9万开始，那就是0.05*90=4.5秒的速度了 。和测试结果8-9秒到了一个数量级 。从这里开始有人提出了分表的思路 ， 这个和discuz 论坛是一样的思路 。思路如下：
建一个索引表： t (id,title,vtype) 并设置成定长，然后做分页，分页出结果再到 collect 里面去找info。是否可行呢？实验下就知道了 。
10万条记录到 t(id,title,vtype) 里 ， 数据表大小20M左右 。用
select id from t where vtype=1 order by id limit 90000,10; 很快了 。基本上0.1-0.2秒可以跑完 。为什么会这样呢？我猜想是因为collect 数据太多，所以分页要跑很长的路 。limit 完全和数据表的大小有关的 。其实这样做还是全表扫描，只是因为数据量小，只有10万才快 。OK，来个疯狂的实验，加到100万条，测试性能 。
加了10倍的数据，马上t表就到了200多M，而且是定长 。还是刚才的查询语句，时间是0.1-0.2秒完成！分表性能没问题？错！因为我们的limit还是9万 ， 所以快 。给个大的，90万开始
select id from t where vtype=1 order by id limit 900000,10; 看看结果，时间是1-2秒！
why分表了时间还是这么长 ， 非常之郁闷！有人说定长会提高limit的性能，开始我也以为，因为一条记录的长度是固定的，mysql 应该可以算出90万的位置才对?。?可是我们高估了mysql 的智能，他不是商务数据库，事实证明定长和非定长对limit影响不大？怪不得有人说 discuz到了100万条记录就会很慢，我相信这是真的 ， 这个和数据库设计有关！
难道MySQL 无法突破100万的限制吗？？？到了100万的分页就真的到了极限？？？
答案是： NO !!!! 为什么突破不了100万是因为不会设计mysql造成的 。下面介绍非分表法，来个疯狂的测试！一张表搞定100万记录，并且10G 数据库，如何快速分页！
好了，我们的测试又回到 collect表，开始测试结论是： 30万数据，用分表法可行，超过30万他的速度会慢道你无法忍受！当然如果用分表 我这种方法，那是绝对完美的 。但是用了我这种方法后，不用分表也可以完美解决！
答案就是：复合索引！有一次设计mysql索引的时候，无意中发现索引名字可以任?。梢匝≡窦父鲎侄谓矗庥惺裁从媚兀靠嫉膕elect id from collect order by id limit 90000,10; 这么快就是因为走了索引，可是如果加了where 就不走索引了 。抱着试试看的想法加了 search(vtype,id) 这样的索引 。然后测试
select id from collect where vtype=1 limit 90000,10; 非常快！0.04秒完成！
再测试: select id ,title from collect where vtype=1 limit 90000,10; 非常遗憾 ， 8-9秒，没走search索引！
再测试：search(id,vtype)，还是select id 这个语句，也非常遗憾，0.5秒 。
综上：如果对于有where 条件，又想走索引用limit的，必须设计一个索引，将where 放第一位，limit用到的主键放第2位，而且只能select 主键！
完美解决了分页问题了 。可以快速返回id就有希望优化limit ， 按这样的逻辑，百万级的limit 应该在0.0x秒就可以分完 。看来mysql 语句的优化和索引时非常重要的！
好了，回到原题，如何将上面的研究成功快速应用于开发呢？如果用复合查询，我的轻量级框架就没的用了 。分页字符串还得自己写，那多麻烦？这里再看一个例子，思路就出来了：
select * from collect where id in (9000,12,50,7000); 竟然 0秒就可以查完！
mygod ，mysql 的索引竟然对于in语句同样有效！看来网上说in无法用索引是错误的！
有了这个结论，就可以很简单的应用于轻量级框架了：
代码如下：
$db=dblink();
$db-pagesize=20;
$sql="select id from collect where vtype=$vtype";
$db-execute($sql);
$strpage=$db-strpage(); //将分页字符串保存在临时变量，方便输出
while($rs=$db-fetch_array()){
$strid.=$rs['id'].',';
}
$strid=substr($strid,0,strlen($strid)-1); //构造出id字符串
$db-pagesize=0; //很关键，在不注销类的情况下，将分页清空，这样只需要用一次数据库连接，不需要再开；
$db-execute("select id,title,url,sTime,gTime,vtype,tag from collect where id in ($strid)");
php while($rs=$db-fetch_array()):
tr
td$amp;amp;$amp;nbsp; php echo $rs['id']; $amp;amp;$lt;/td
td$amp;amp;$amp;nbsp; php echo $rs['url']; $amp;amp;$lt;/td
td$amp;amp;$amp;nbsp; php echo $rs['sTime']; $amp;amp;$lt;/td
td$amp;amp;$amp;nbsp; php echo $rs['gTime']; $amp;amp;$lt;/td
td$amp;amp;$amp;nbsp; php echo $rs['vtype']; $amp;amp;$lt;/td
td$amp;amp;$amp;nbsp;a act=showid= php echo $rs['id']; $amp;quot;$ target="_blank"$amp;amp;$lt; php echo $rs['title']; $amp;amp;$lt;/a$amp;amp;$lt;/td
td$amp;amp;$amp;nbsp; php echo $rs['tag']; $amp;amp;$lt;/td
/tr
php endwhile;
/table
php
echo $strpage;
通过简单的变换，其实思路很简单：1）通过优化索引，找出id，并拼成 "123,90000,12000" 这样的字符串 。2）第2次查询找出结果 。
小小的索引 一点点的改动就使mysql 可以支持百万甚至千万级的高效分页！
通过这里的例子，我反思了一点：对于大型系统，PHP千万不能用框架，尤其是那种连sql语句都看不到的框架！因为开始对于我的轻量级框架都差点崩溃！只适合小型应用的快速开发，对于ERP,OA，大型网站，数据层包括逻辑层的东西都不能用框架 。如果程序员失去了对sql语句的把控，那项目的风险将会成几何级数增加！尤其是用mysql 的时候，mysql 一定需要专业的dba 才可以发挥他的最佳性能 。一个索引所造成的性能差别可能是上千倍！
PS: 经过实际测试，到了100万的数据 ， 160万数据，15G表，190M索引，就算走索引，limit都得0.49秒 。所以分页最好别让别人看到10万条以后的数据，要不然会很慢！就算用索引 。经过这样的优化，mysql到了百万级分页是个极限！但有这样的成绩已经很不错，如果你是用sqlserver肯定卡死！而 160万的数据用 id in (str) 很快，基本还是0秒 。如果这样，千万级的数据 ， mysql应该也很容易应付 。
php php for循环查询数据库效率低，该如何优化mysql mysql那就用sphinx 技术，目前这个是最好的，没有之一 。
下面是我百度百科弄过来的，怎么使用还得你自己看白皮书了 。
Sphinx的主要特性包括：
高速索引 (在新款CPU上,近10 MB/秒);
高速搜索 (2-4G的文本量中平均查询速度不到0.1秒);
高可用性 (单CPU上最大可支持100 GB的文本,100M文档);
提供良好的相关性排名
支持分布式搜索;
提供文档摘要生成;
提供从MySQL内部的插件式存储引擎上搜索
支持布尔,短语, 和近义词查询;
支持每个文档多个全文检索域(默认最大32个);
支持每个文档多属性;
支持断词;
支持单字节编码与UTF-8编码 。[1]
php mysql 如何优化千万级数据模糊查询加快关于mysql处理百万级以上的数据时如何提高其查询速度的方法
最近一段时间由于工作需要，开始关注针对Mysql数据库的select查询语句的相关优化方法 。
由于在参与的实际项目中发现当mysql表的数据量达到百万级时，普通SQL查询效率呈直线下降，而且如果where中的查询条件较多时，其查询速度简直无法容忍 。曾经测试对一个包含400多万条记录（有索引）的表执行一条条件查询，其查询时间竟然高达40几秒，相信这么高的查询延时，任何用户都会抓狂 。因此如何提高sql语句查询效率 ， 显得十分重要 。以下是网上流传比较广泛的30种SQL查询语句优化方法：
1、应尽量避免在 where 子句中使用!=或操作符，否则将引擎放弃使用索引而进行全表扫描 。
2、对查询进行优化，应尽量避免全表扫描 ， 首先应考虑在 where 及 order by 涉及的列上建立索引 。
3、应尽量避免在 where 子句中对字段进行 null 值判断，否则将导致引擎放弃使用索引而进行全表扫描，如：
select id from t where num is null
可以在num上设置默认值0，确保表中num列没有null值，然后这样查询：
select id from t where num=0
4、尽量避免在 where 子句中使用 or 来连接条件，否则将导致引擎放弃使用索引而进行全表扫描，如：
select id from t where num=10 or num=20
可以这样查询：
select id from t where num=10
union all
select id from t where num=20
5、下面的查询也将导致全表扫描：(不能前置百分号)
select id from t where name like ‘%c%’
若要提高效率，可以考虑全文检索 。
6、in 和 not in 也要慎用，否则会导致全表扫描 ， 如：
select id from t where num in(1,2,3)
对于连续的数值，能用 between 就不要用 in 了：
select id from t where num between 1 and 3
7、如果在 where 子句中使用参数 ， 也会导致全表扫描 。因为SQL只有在运行时才会解析局部变量，但优化程序不能将访问计划的选择推迟到运行时；它必须在编译时进行选择 。然 而，如果在编译时建立访问计划 ， 变量的值还是未知的，因而无法作为索引选择的输入项 。如下面语句将进行全表扫描：
select id from t where num=@num
可以改为强制查询使用索引：
select id from t with(index(索引名)) where num=@num
8、应尽量避免在 where 子句中对字段进行表达式操作，这将导致引擎放弃使用索引而进行全表扫描 。如：
select id from t where num/2=100
应改为:
select id from t where num=100*2
9、应尽量避免在where子句中对字段进行函数操作，这将导致引擎放弃使用索引而进行全表扫描 。如：
select id from t where substring(name,1,3)=’abc’–name以abc开头的id
select id from t where datediff(day,createdate,’2005-11-30′)=0–’2005-11-30′生成的id
应改为:
select id from t where name like ‘abc%’
select id from t where createdate=’2005-11-30′ and createdate’2005-12-1′
10、不要在 where 子句中的“=”左边进行函数、算术运算或其他表达式运算，否则系统将可能无法正确使用索引 。
11、在使用索引字段作为条件时，如果该索引是复合索引，那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引，否则该索引将不会被使 用，并且应尽可能的让字段顺序与索引顺序相一致 。
12、不要写一些没有意义的查询，如需要生成一个空表结构：
select col1,col2 into #t from t where 1=0
这类代码不会返回任何结果集，但是会消耗系统资源的，应改成这样：
create table #t(…)
13、很多时候用 exists 代替 in 是一个好的选择：
select num from a where num in(select num from b)
用下面的语句替换：
select num from a where exists(select 1 from b where num=a.num)
14、并不是所有索引对查询都有效，SQL是根据表中数据来进行查询优化的，当索引列有大量数据重复时，SQL查询可能不会去利用索引，如一表中有字段 sex ， male、female几乎各一半，那么即使在sex上建了索引也对查询效率起不了作用 。
15、索引并不是越多越好，索引固然可以提高相应的 select 的效率 ， 但同时也降低了 insert 及 update 的效率，因为 insert 或 update 时有可能会重建索引，所以怎样建索引需要慎重考虑，视具体情况而定 。一个表的索引数最好不要超过6个，若太多则应考虑一些不常使用到的列上建的索引是否有 必要 。
16.应尽可能的避免更新 clustered 索引数据列，因为 clustered 索引数据列的顺序就是表记录的物理存储顺序，一旦该列值改变将导致整个表记录的顺序的调整，会耗费相当大的资源 。若应用系统需要频繁更新 clustered 索引数据列，那么需要考虑是否应将该索引建为 clustered 索引 。
17、尽量使用数字型字段，若只含数值信息的字段尽量不要设计为字符型，这会降低查询和连接的性能，并会增加存储开销 。这是因为引擎在处理查询和连接时会 逐个比较字符串中每一个字符，而对于数字型而言只需要比较一次就够了 。
18、尽可能的使用 varchar/nvarchar 代替 char/nchar ， 因为首先变长字段存储空间小，可以节省存储空间 ， 其次对于查询来说，在一个相对较小的字段内搜索效率显然要高些 。
19、任何地方都不要使用 select * from t ，用具体的字段列表代替“*” ， 不要返回用不到的任何字段 。
20、尽量使用表变量来代替临时表 。如果表变量包含大量数据，请注意索引非常有限（只有主键索引） 。
21、避免频繁创建和删除临时表，以减少系统表资源的消耗 。
22、临时表并不是不可使用，适当地使用它们可以使某些例程更有效 ， 例如，当需要重复引用大型表或常用表中的某个数据集时 。但是 ， 对于一次性事件 ， 最好使 用导出表 。
23、在新建临时表时，如果一次性插入数据量很大 ， 那么可以使用 select into 代替 create table，避免造成大量 log ，以提高速度；如果数据量不大，为了缓和系统表的资源，应先create table，然后insert 。
24、如果使用到了临时表 ， 在存储过程的最后务必将所有的临时表显式删除，先 truncate table ，然后 drop table ，这样可以避免系统表的较长时间锁定 。
25、尽量避免使用游标，因为游标的效率较差 ， 如果游标操作的数据超过1万行，那么就应该考虑改写 。
26、使用基于游标的方法或临时表方法之前，应先寻找基于集的解决方案来解决问题，基于集的方法通常更有效 。
27、与临时表一样，游标并不是不可使用 。对小型数据集使用 FAST_FORWARD 游标通常要优于其他逐行处理方法，尤其是在必须引用几个表才能获得所需的数据时 。在结果集中包括“合计”的例程通常要比使用游标执行的速度快 。如果开发时 间允许，基于游标的方法和基于集的方法都可以尝试一下 ， 看哪一种方法的效果更好 。
28、在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ，在结束时设置 SET NOCOUNT OFF。无需在执行存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC 消息 。
29、尽量避免向客户端返回大数据量，若数据量过大 ， 应该考虑相应需求是否合理 。
30、尽量避免大事务操作，提高系统并发能力 。
php 如何避免在循环体里查询数据库 ， 优化方法？？办法就是一次性全查询出来，然后用PHP程序来处理，优点是减少数据库连接查询次数 ， 提高效率 ， 缺点就是，有可能会多写一部分php代码 。总的来说php的处理速度要比循环查询要效率高 。
PHP-大数据量怎么处理优化大数据的话可以进行以下操作：
减少对数据库的读取 ， 也就是减少调用数据库，
进行数据缓存 ，
利用数据库的自身优化技术，如索引等
精确查询条件 ， 有利于提高查找速度
php MySQL 很多用户频繁读写操作怎么优化【php数据库查询优化 php数据库查询系统】有很多种方法可以优化:
数据库设置主从php数据库查询优化，进行读写分离php数据库查询优化；
数据分表，如按月份分表，需要统计数据就查总表；
优化查询语句，适当增加索引；
字段优化 ， 对不常用或者没有必要php数据库查询优化的字段可以考虑放在另外一张表里，避免单表数据过大，字段过多 。
关于php数据库查询优化和php数据库查询系统的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息 ， 记得收藏关注本站 。

    推荐阅读


    上一篇：固态硬盘删除不了怎么回事，固态硬盘删不掉

    下一篇：如何找到交易所的服务器？ 怎么查交易所服务器