用Python爬取618当天某东热门商品销量数据|用Python爬取618当天某东热门商品销量数据,看看大家喜欢什么!
前言
本文结构如下：
1、爬取某东畅销商品数据
2、清洗数据并并进行简单分析
3、将数据进行可视化展示
数据的字段如下：
文章图片
一共爬取了243条某东畅销商品数据
一、获取数据
【用Python爬取618当天某东热门商品销量数据|用Python爬取618当天某东热门商品销量数据,看看大家喜欢什么!】1. 分析网页
在编写代码之前，先来分析一波网页。
文章图片
上面是某东的畅销商品，通过辰哥分析分析，该网页有异步加载（前面10个商品是静态加载，剩下的是动态异步加载），因此我们需要写了个请求去获取数据。
2. 获取静态网页商品链接
商品的销售、评论等数据在商品详情页，这里先获取商品详情页链接
文章图片
结果如下：
文章图片
3. 获取动态网页商品链接
通过抓包可以获取到动态加载链接，并获取到商品标题和商品id（这里的商品id可以用于后面拼接商品详情页链接）
文章图片
文章图片
获取json数据后，提取出商品标题和商品ID
文章图片
4. 获取打折、原价、秒杀价
通过商品ID可以获取到商品打折、原价、秒杀价（这里有接口，接口是通过抓包获取的，感兴趣的可以去自己去尝试，不明白的可以直接使用）
文章图片
这里将该功能封装成函数，通过传入商品ID就可以获取该商品的商品打折、原价、秒杀价
结果如下：
文章图片
5. 获取评论数、好评数、中评数、差评数、好评率
通过商品ID可以获取到评论数、好评数、中评数、差评数、好评率（同样这里有接口，接口是通过抓包获取的，感兴趣的可以去自己去尝试，不明白的可以直接使用）
文章图片
结果如下：
文章图片
6. 保存到excel
接着开始遍历商品，并通过ID去获取商品的销售情况（步骤4和步骤5的函数），最后把数据保存到execl
定义表头
文章图片
写入数据
文章图片
其中的get_price和CommentCount是步骤4和步骤5的函数。count是excel中行数，因此在循环中count+1，依次写入下一行。
最终保存结果
文章图片
一共爬取了243条某东畅销商品数据
二、数据分析&可视化
1.数据清洗
文章图片
需要清洗的内容，主要有图中这三列（标题、打折、好评数）。
清洗目标：
标题过长（长度控制在10内），不方便后面的画图
打折字段中含有折字，在进行排序时不能直接转数值型。
好评数中的万，转为具体数值，如1.2万转为12000
文章图片
清洗结果：
文章图片
2.可视化-商品打折力度
从清洗后数据中取出：商品名称和打折这两列，进行【排序】从打折最大到打折最小。最后取出前15名进行可视化
核心代码****如下:
文章图片
可视化效果：
文章图片
3.可视化-好评率统计
从数据中取出：好评率这列，对不同的好评率进行统计，如好评率是100%（1）的商品多少件，好评率99%（0.99）的商品多少件等。
文章图片
核心代码****如下:
文章图片
可视化效果：
文章图片
3.可视化-畅销商品销量排行
从数据中取出：商品名称和评论数这两列，这里根据评论数去作为销售依据，对商品的销量进行排序（高到低），并取出前15名进行可视化。
核心代码****如下:
文章图片
可视化效果：
文章图片
4.可视化-畅销商品前15名原价与秒杀价对比
在上面的分析中可以知道畅销商品的销量前15名，这里将这15件商品的原价和秒杀价进行可视化对比。
核心代码****如下:
文章图片
可视化效果：
文章图片
到此这篇关于用Python爬取618当天某东热门商品销量数据,看看大家喜欢什么!的文章就介绍到这了,更多相关Python爬取商品销量数据内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
推荐阅读
- Docker应用:容器间通信与Mariadb数据库主从复制
- JS中的各种宽高度定义及其应用
- 由浅入深理解AOP
- 【译】20个更有效地使用谷歌搜索的技巧
- 涉毒患者(新诗)
- 参保人员因患病来不及到指定的医疗机构就医，能否报销医疗费用（）
- mybatisplus如何在xml的连表查询中使用queryWrapper
- MybatisPlus|MybatisPlus LambdaQueryWrapper使用int默认值的坑及解决
- MybatisPlus使用queryWrapper如何实现复杂查询
- python学习之|python学习之 实现QQ自动发送消息