使用Pandas|使用Pandas melt()重塑DataFrame
重塑 DataFrame 是数据科学中一项重要且必不可少的技能。在本文中,我们将探讨 Pandas Melt() 以及如何使用它进行数据处理。
最简单的melt
最简单的melt()不需要任何参数,它将所有列变成行(显示为列变量)并在新列值中列出所有关联值。
df_wide.melt()
文章图片
这个输出通常没有多大意义,所以一般用例至少指定了 id_vars 参数。例如, id_vars = 'Country' 会告诉 pandas 将 Country 保留为一列,并将所有其他列转换为行。
df_wide.melt(
id_vars='Country',
)
文章图片
现在行数为 15,因为 Country 列中的每个值都有 5 个值(3 X 5 = 15)。
显示自定义名称 “变量”和“值”是列名。我们可以通过 var_name 和 value_name 参数指定自定义名称:
df_wide.melt(
id_vars='Country',
var_name='Date',
value_name='Cases'
)
文章图片
指定多个 ID Melt() 最有用的特性之一是我们可以指定多个 id 以将它们保留为列。例如,如果我们想保留 Country、Lat 和 Long 作为列以便更好地参考:
df_wide.melt(
id_vars=['Country', 'Lat', 'Long'],
var_name='Date',
value_name='Cases'
)
文章图片
指定melt的列 Pandas的melt() 函数默认情况下会将所有其他列(除了 id_vars 中指定的列)转换为行。在实际项目中可能只关心某些列,例如,如果我们只想查看“24/01/2020”和“25/01/2020”上的值:
df_wide.melt(
id_vars=['Country', 'Lat', 'Long'],
value_vars=["24/01//2020", "25/01//2020"],
var_name='Date',
value_name='Cases'
)
文章图片
Pandas melt 我们也可以直接从 Pandas 模块而不是从 DataFrame 调用melt()。但是,这些是相同的。
文章图片
重塑 COVID-19 时间序列数据 有了到目前为止我们学到的知识,让我们来看看一个现实世界的问题:约翰霍普金斯大学 CSSE Github 提供的 COVID-19 时间序列数据。
文章图片
有两个问题:
- 确认、死亡和恢复保存在不同的 CSV 文件中。将它们绘制在一张图中并不简单。
- 日期显示为列名,它们很难执行逐日计算,例如计算每日新病例、新死亡人数和新康复人数。
读取数据集
confirmed_df = pd
.read_csv('time_series_covid19_confirmed_global.csv')
deaths_df = pd
.read_csv('time_series_covid19_deaths_global.csv')
recovered_df = pd
.read_csv('time_series_covid19_recovered_global.csv')
将它们从宽格式改造成长格式
通过运行confirmed_df.columns、deaths_df.columns 和recovered_df.columns,它们都应该输出如下相同的结果:
文章图片
请注意,列都是从第 4 列开始的日期,并获取确认的日期列表 df.columns [4:]
文章图片
在合并之前,我们需要使用melt() 将DataFrames 从当前的宽格式逆透视为长格式。换句话说,我们将所有日期列转换为值。使用“省/州”、“国家/地区”、“纬度”、“经度”作为标识符变量。我们稍后将它们进行合并。
confirmed_df_long = confirmed_df.melt(
id_vars=['Province/State', 'Country/Region', 'Lat', 'Long'],
value_vars=dates,
var_name='Date',
value_name='Confirmed'
)
deaths_df_long = deaths_df.melt(
id_vars=['Province/State', 'Country/Region', 'Lat', 'Long'],
value_vars=dates,
var_name='Date',
value_name='Deaths'
)
recovered_df_long = recovered_df.melt(
id_vars=['Province/State', 'Country/Region', 'Lat', 'Long'],
value_vars=dates,
var_name='Date',
value_name='Recovered'
)
【使用Pandas|使用Pandas melt()重塑DataFrame】所有结果都是新的长格式。所有这些都按日期和国家/地区排序,因为原始数据已经按国家/地区排序,并且日期列已经按 ASC 顺序排列。
这是confirmed_df_long的例子
文章图片
最后,我们使用merge()将3个DataFrame一个接一个合并:
full_table = confirmed_df_long.merge(
right=deaths_df_long,
how='left',
on=['Province/State', 'Country/Region', 'Date', 'Lat', 'Long']
)full_table = full_table.merge(
right=recovered_df_long,
how='left',
on=['Province/State', 'Country/Region', 'Date', 'Lat', 'Long']
)
现在,我们得到一个包含 Confirmed、Deaths 和 Recovered 列的完整表格:
文章图片
总结 在本文中,我们介绍了 5 个用例和 1 个实际示例,这些示例使用 Pandas 的melt() 方法将 DataFrame 从宽格式重塑为长格式。它非常方便,是数据预处理和探索性数据分析过程中最受欢迎的方法之一。
重塑数据是数据科学中一项重要且必不可少的技能。我希望你喜欢这篇文章并学到一些新的有用的东西。
本文代码:https://github.com/BindiChen/...
作者:B。Chen
推荐阅读
- 由浅入深理解AOP
- 【译】20个更有效地使用谷歌搜索的技巧
- mybatisplus如何在xml的连表查询中使用queryWrapper
- MybatisPlus|MybatisPlus LambdaQueryWrapper使用int默认值的坑及解决
- MybatisPlus使用queryWrapper如何实现复杂查询
- iOS中的Block
- Linux下面如何查看tomcat已经使用多少线程
- 使用composer自动加载类文件
- android|android studio中ndk的使用
- 使用协程爬取网页,计算网页数据大小