锐客网

  1. 首页 > 生活百科 > it技术 > >

php爬虫直接获取数据 php爬取网页数据

IT技术爬虫

如何爬虫网页数据爬取网页数据原理如下：
如果把互联网比作蜘蛛网 ， 爬虫就是蜘蛛网上爬行的蜘蛛，网络节点则代表网页 。当通过客户端发出任务需求命令时，ip将通过互联网到达终端服务器，找到客户端交代的任务 。一个节点是一个网页 。蜘蛛通过一个节点后，可以沿着几点连线继续爬行到达下一个节点 。
简而言之，爬虫首先需要获得终端服务器的网页 ， 从那里获得网页的源代码，若是源代码中有有用的信息，就在源代码中提取任务所需的信息 。然后ip就会将获得的有用信息送回客户端存储，然后再返回，反复频繁访问网页获取信息，直到任务完成 。
如何用PHP做网络爬虫其实用PHP来爬会非常方便 ， 主要是PHP的正则表达式功能在搜集页面连接方面很方便，另外PHP的fopen、file_get_contents以及libcur的函数非常方便的下载网页内容 。
具体处理方式就是建立就一个任务队列，往队列里面插入一些种子任务和可以开始爬行 ， 爬行的过程就是循环的从队列里面提取一个URL ， 打开后获取连接插入队列中 ， 进行相关的保存 。队列可以使用数组实现 。
当然PHP作为但线程的东西，慢慢爬还是可以，怕的就是有的URL打不开，会死在那里 。
php如何爬取天猫和淘宝商品数据直接用Curl就行，具体爬取的数据可以穿参查看结果，方法不区分淘宝和天猫链接，但是前提是必须是PC端链接 ， 另外正则写的不规范 ， 所以可以自己重写正则来匹配数据 。
php中curl爬虫 怎么样通过网页获取所有链接本文承接上面两篇php爬虫直接获取数据，本篇中的示例要调用到前两篇中的函数php爬虫直接获取数据，做一个简单的URL采集 。一般php采集网络数据会用file_get_contents、file和cURL 。不过据说cURL会比file_get_contents、file更快更专业php爬虫直接获取数据，更适合采集 。今天就试试用cURL来获取网页上的所有链接 。示例如下php爬虫直接获取数据：
?php
/*
* 使用curl 采集hao123.com下的所有链接 。
*/
include_once('function.php');
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, '');
【php爬虫直接获取数据 php爬取网页数据】// 只需返回HTTP header
curl_setopt($ch, CURLOPT_HEADER, 1);
// 页面内容我们并不需要
// curl_setopt($ch, CURLOPT_NOBODY, 1);
// 返回结果，而不是输出它
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
$html = curl_exec($ch);
$info = curl_getinfo($ch);
if ($html === false) {
echo "cURL Error: " . curl_error($ch);
}
curl_close($ch);
$linkarr = _striplinks($html);
// 主机部分，补全用
$host = '';
if (is_array($linkarr)) {
foreach ($linkarr as $k = $v) {
$linkresult[$k] = _expandlinks($v, $host);
}
}
printf("p此页面的所有链接为php爬虫直接获取数据：/ppre%s/pren", var_export($linkresult , true));
?
function.php内容如下（即为上两篇中两个函数的合集）：
?php
function _striplinks($document) {
preg_match_all("'s*as.*?hrefs*=s*(["'])?(?(1) (.*?)\1 | ([^s] ))'isx", $document, $links);
// catenate the non-empty matches from the conditional subpattern
while (list($key, $val) = each($links[2])) {
if (!empty($val))
$match[] = $val;
} while (list($key, $val) = each($links[3])) {
if (!empty($val))
$match[] = $val;
}
// return the links
return $match;
}
/*===================================================================*
Function: _expandlinks
Purpose: expand each link into a fully qualified URL
Input:$linksthe links to qualify
$URIthe full URI to get the base from
Output:$expandedLinks the expanded links
*===================================================================*/
function _expandlinks($links,$URI)
{
$URI_PARTS = parse_url($URI);
$host = $URI_PARTS["host"];
preg_match("/^[^?] /",$URI,$match);
$match = preg_replace("|/[^/.] .[^/.] $|","",$match[0]);
$match = preg_replace("|/$|","",$match);
$match_part = parse_url($match);
$match_root =
$match_part["scheme"]."://".$match_part["host"];
$search = array("|^http://".preg_quote($host)."|i",
"|^(/)|i",
"|^(?!http://)(?!mailto:)|i",
"|/./|",
"|/[^/] /../|"
);
$replace = array( "",
$match_root."/",
$match."/",
"/",
"/"
);
$expandedLinks = preg_replace($search,$replace,$links);
return $expandedLinks;
}
?
php爬虫直接获取数据的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于php爬取网页数据、php爬虫直接获取数据的信息别忘了在本站进行查找喔 。

    推荐阅读


    上一篇：步道乐跑设备异常怎么回事 步道乐跑服务器繁忙怎么办

    下一篇：u盘怎么传文件视频文件怎么打开，怎样将u盘视频发到手机上