php接口数据量过大 php接口数据量过大怎么处理

如何解决PHP查询大量数据内存耗尽的问题这个问题在PHP的官方网站上叫缓冲查询和非缓冲查询(Buffered and Unbuffered queries) 。PHP的查询缺省模式是缓冲模式 。也就是说,查询数据结果会一次全部提取到内存里供PHP程序处理 。这样给了PHP程序额外的功能,比如说,计算行数 , 将指针指向某一行等 。更重要的是程序可以对数据集反复进行二次查询和过滤等操作 。但这种缓冲查询模式的缺陷就是消耗内存 , 也就是用空间换速度 。
相对的,另外一种PHP查询模式是非缓冲查询,数据库服务器会一条一条的返回数据 , 而不是一次全部返回,这样的结果就是PHP程序消耗较少的内存,但却增加了数据库服务器的压力,因为数据库会一直等待PHP来取数据,一直到数据全部取完 。
很显然,缓冲查询模式适用于小数据量查询,而非缓冲查询适应于大数据量查询 。
PHP-大数据量怎么处理优化大数据的话可以进行以下操作:
减少对数据库的读取,也就是减少调用数据库,
进行数据缓存,
利用数据库的自身优化技术 , 如索引等
精确查询条件 , 有利于提高查找速度
为什么我用php的curl获取到的数据不完整,无法获取列表全部数据你好 , 一般有俩原因:
①接口本身数据不完整;
②接口中数据量过大 , 可以调整一下服务器配置,PHP配置文件:memory_limit 每个PHP页面所吃掉的最大内存
在PHP中怎么解决大量数据处理的问题mysql_query函数查询的方式是查询出全部结果后缓存到内存中 , 这样就会出现超内存的现象,使用另外一个函数mysql_unbuffered_query可以解决这个问题,mysql_unbuffered_query不会缓存结果集 , 而是查询出来数据后立马对结果集进行操作,也就是便查询边返回,这样就不会出现超出内存的现象 , 但是使用mysql_unbuffered_query的是时候不能使用 mysql_num_rows() 和 mysql_data_seek() 。并且向 MySQL 发送一条新的 SQL 查询之前,必须提取掉所有未缓存的 SQL 查询所产生的结果行 。例如:
使用缓存结果集的代码:
function selecttest()
{
try {
$pdo = new PDO("mysql:host=localhost;dbname=test", 'root', '123456');
//不使用缓存结果集方式
//$pdo-setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);
$sth = $pdo-prepare('select * from test');
$sth-execute();
echo '最初占用内存大?。? . memory_get_usage() . "\n";
$i = 0;
while ($result = $sth-fetch(PDO::FETCH_ASSOC)) {
$i= 1;
if ($i10) {
break;
}
sleep(1);
print_r($result);
echo '占用内存大?。? . memory_get_usage() . "\n";
}
} catch (Exception $e) {
echo $e-getMessage();
}
}
执行时将会报超出内存的错误:
Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 204800000 bytes) in E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php on line 56
Call Stack:
0.00051353921. {main}() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:0
0.00051355682. test-selecttest() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:85
0.00501425283. PDOStatement-execute() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:56
将上面代码中的$pdo-setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);一行的注释去掉后将不在缓存结果集,这时运行该函数的结果如下:
最初占用内存大?。?44808
Array
(
[id] = 1
[a] = v
[b] = w
【php接口数据量过大 php接口数据量过大怎么处理】[c] = i
)
占用内存大?。?45544
Array
(
[id] = 2
[a] = b
[b] = l
[c] = q
)
占用内存大?。?45544
Array
(
[id] = 3
[a] = m
[b] = p
[c] = h
)
占用内存大?。?45536
Array
(
[id] = 4
[a] = j
[b] = i
[c] = b
)
占用内存大?。?45536
可以看到,这时返回一条数据内存占用非常的小 , 也就700多字节,这样就不会出现超出内存的错误了 。
php接口数据量过大的介绍就聊到这里吧 , 感谢你花时间阅读本站内容,更多关于php接口数据量过大怎么处理、php接口数据量过大的信息别忘了在本站进行查找喔 。

    推荐阅读