通过前几节课的学习 。我们大概了解了通过urllib模块怎么样获取数据、解析数据、保存数据得到我们想要的数据了 。今天呢 。就给大家介绍一个Python爬虫获取数据的另外一个方法requests库 。那么urllib和requests哪个好?urllib和requests有什么区别呢?
1.requests库怎么安装我们已经讲解了Python内置的urllib模块 。用于访问网络资源 。但是 。它用起来比较麻烦 。而且 。缺少很多实用的高级功能 。
更好的方案是使用requests 。它是一个Python第三方库 。处理URL资源特别方便 。
requests库的安装与安装其他第三方应用一样(如下图):
文章插图
文章插图
文章插图
文章插图
2.requests库怎么使用 。我们以简单的抓取百度网页(https://www.baidu.com/)为例进行操作:
第一步 。导入requests库【怎么安装requests requests的安装方式规则】
文章插图
文章插图
第二步 。发起请求 。首先我们需要判断请求类型 。最常见的请求方式为 GET 和POST 。我们可以通过右击检查-network-headers-Request Method可以看到该页面的请求方式为get
文章插图
文章插图
因此我们发起请求的格式为:
requests.get(网页地址)
第三步 。获取网页内容 。首先我们需要判断我们获取到的网页是什么类型 。同样可通过右击检查-network-headers-Content-Type可以看到该网页的内容为text类型
文章插图
文章插图
因此我们获取网页的基本格式为:
response.text
如下图即可输出网页内容:
文章插图
文章插图
第四步 。存储网页信息 。基本格式为:
with open(保存的文件名,读写模式,encoding=”utf-8″) as 变量:变量.write(网页内容)
文章插图
文章插图
推荐阅读
- 有没有什么可以开房间的推理游戏推荐?
- 王者荣耀怎么改很酷的名字?
- 初二8门课,哪几门课最难?应该怎样学才能进前10?
- 《王者荣耀》最“贵”ID强势出炉,喊价3000,却让无数土豪争抢购买,你觉得值吗?
- 万科物业怎么样 万科物业真的那么好吗
- 遴选考试遴选难还是公务员考试难?为何?
- 《我的世界》里的深海遗迹哪里最值钱?
- 轻松搞笑的小说 轻松搞笑的小说推荐
- 大江为什么特别听李成阳的话?他知道李成阳之前是警察吗?