锐客网

  1. 首页 > 睿知 > it技术 > >

php大数据检索 php处理大数据量数据的思路( 六 )

IT技术完毕


17、尽量使用数字型字段，若只含数值信息的字段尽量不要设计为字符型，这会降低查询和连接的性能，并会增加存储开销 。这是因为引擎在处理查询和连接时会 逐个比较字符串中每一个字符，而对于数字型而言只需要比较一次就够了 。
18、尽可能的使用 varchar/nvarchar 代替 char/nchar ，因为首先变长字段存储空间?。?可以节省存储空间 ， 其次对于查询来说，在一个相对较小的字段内搜索效率显然要高些 。
19、任何地方都不要使用 select * from t，用具体的字段列表代替“*”，不要返回用不到的任何字段 。
20、尽量使用表变量来代替临时表 。如果表变量包含大量数据，请注意索引非常有限（只有主键索引） 。
21、避免频繁创建和删除临时表 ， 以减少系统表资源的消耗 。
22、临时表并不是不可使用 ， 适当地使用它们可以使某些例程更有效，例如，当需要重复引用大型表或常用表中的某个数据集时 。但是，对于一次性事件 ， 最好使 用导出表 。
23、在新建临时表时 ， 如果一次性插入数据量很大，那么可以使用 select into 代替 create table，避免造成大量 log  ， 以提高速度；如果数据量不大，为了缓和系统表的资源，应先create table，然后insert 。
24、如果使用到了临时表，在存储过程的最后务必将所有的临时表显式删除，先 truncate table  ， 然后 drop table ，这样可以避免系统表的较长时间锁定 。
25、尽量避免使用游标，因为游标的效率较差，如果游标操作的数据超过1万行，那么就应该考虑改写 。
26、使用基于游标的方法或临时表方法之前，应先寻找基于集的解决方案来解决问题，基于集的方法通常更有效 。
27、与临时表一样，游标并不是不可使用 。对小型数据集使用 FAST_FORWARD 游标通常要优于其他逐行处理方法，尤其是在必须引用几个表才能获得所需的数据时 。在结果集中包括“合计”的例程通常要比使用游标执行的速度快 。如果开发时 间允许，基于游标的方法和基于集的方法都可以尝试一下，看哪一种方法的效果更好 。
28、在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ，在结束时设置 SET NOCOUNT OFF。无需在执行存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC 消息 。
29、尽量避免向客户端返回大数据量，若数据量过大 ， 应该考虑相应需求是否合理 。
30、尽量避免大事务操作，提高系统并发能力 。
php采集大数据的方案1、建议你读写数据和下载图片分开，各用不同的进程完成 。
比如说，取数据用get-data.php ， 下载图片用get-image.php 。
2、多进程的话 ， php可以简单的用pcntl_fork() 。这样可以并发多个子进程 。
但是php大数据检索我不建议你用fork，我建议你安装一个gearman worker 。这样你要并发几个，就启几个worker ， 写代码简单，根本不用在代码里考虑thread?。琾rocess等等 。
3、综上，解决方案这样：
（1）安装gearman worker 。
（2）写一个get-data.php，在crontab里设置它每5分钟执行一次，只负责读数据，然后把读回来的数据一条一条的扔到 gearman worker的队列里；
然后再写一个处理数据的脚本作为worker，例如叫process-data.php，这个脚本常驻内存 。它作为worker从geraman 队列里读出一条一条的数据，然后跟你的数据库老数据比较，进行你的业务逻辑 。如果你要10个并发，那就启动10个process-data.php好php大数据检索了 。处理完后，如果图片地址有变动需要下载图片，就把图片地址扔到 gearman worker的另一个队列里 。

推荐阅读


上一篇：c语言输入x按公式计算y，c语言编写公式计算

下一篇：怎么把显卡的视频剪出来，怎么把显卡的视频剪出来保存