文章目录
- 什么是爬虫
- 爬取网页图片实现步骤
-
- 第一步:打开所操作的网站(任意一个网站)
- 第二步:通过python访问这个网站
- 第三步:点击F12查询相关信息
- 第四步:爬取图片,下载到本地
- 第五步:显示测试
- 核心代码
什么是爬虫 网络爬虫(又被称为网页蜘蛛,网络机器人)就是模拟浏览器发送网络请求,接收请求响应,一种按照一定的规则,自动地抓取互联网信息的程序。
原则上,只要是浏览器(客户端)能做的事情,爬虫都能够做。
爬取网页图片实现步骤 第一步:打开所操作的网站(任意一个网站) 【人生苦短-我用Python|python爬取网页图片详解】http://github.com/
第二步:通过python访问这个网站
headers = {'User-Agent': 'python-requests/2.25.1', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}
response = requests.get('http://github.com/',headers=headers)
print(response.request.headers)
文章图片
{'User-Agent': 'python-requests/2.25.1', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}
第三步:点击F12查询相关信息
文章图片
查找到图片信息
文章图片
获取headers:
文章图片
第四步:爬取图片,下载到本地
headers = {'User-Agent': 'python-requests/2.25.1', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}
response = requests.get('https://avatars.githubusercontent.com/nplasterer?s=64&v=4',headers=headers)
print(response.request.headers)
with open('icon.ico', 'wb') as f:
f.write(response.content)
print("爬取图片成功")
第五步:显示测试
img = cv2.imread("icon.ico")
cv2.imshow('icon',img)
cv2.waitKey(0)
文章图片
核心代码
import requests
importcv2headers = {'User-Agent': 'python-requests/2.25.1', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}
response = requests.get('https://avatars.githubusercontent.com/nplasterer?s=64&v=4',headers=headers)
print(response.request.headers)
with open('icon.ico', 'wb') as f:
f.write(response.content)
print("爬取图片成功")
img = cv2.imread("icon.ico")
cv2.imshow('icon',img)
cv2.waitKey(0)
推荐阅读
- python|python爬虫入门教程(爬取网页图片)
- 测试|UI自动化
- python 修改python插件包的默认安装路径
- 数学建模|matlab层次分析法
- 机器学习|【进阶版】机器学习之贝叶斯分类器细节回顾及原理完善(10)
- 机器学习|【进阶版】机器学习之线性模型介绍及过拟合欠拟合解决方法岭回归、loss回归、elasticnet回归(05)
- 机器学习|机器学习之EM算法的原理及推导(三硬币模型)及Python实现
- 机器学习|【进阶版】机器学习之特征降维、超参数调优及检验方法(04)
- Java|2.5万字详解23种设计模式—创建型模式(简单工厂、工厂方法、抽象工厂、单例-多线程安全详解、建造者、原型)的详细解读、UML类图