锐客网

  1. 首页 > 睿知 > it技术 > >

python函数去重 python可以去重的数据类型

IT技术方法

python 数组去重的方法如：arr =['a','d','e','a']
用： arr= sorted(set(arr), key=arr.index)
同： arr = list(set(arr))
arr.sort(key=arr.index)
??直接set(arr)也可以去除重复元素，只是新数组的顺序就不是原来的顺序了 。
如：arr=[{'text':wuyuan,'value':1},{'text':默认,'value':2},{'text':默认,'value':2},
{'text':wyy,'value':4}]
用： f = lambda x,y:x if y in x else x + [y]
arr = reduce(f, [[], ] + arr)
??这里去除的字典里面的键值对必须是完全一样的 。
python删除重复数据利用集合的不重复属性，可以先转换至集合，再用list()函数转换回来即可 。
比如，a是一个列表，a=list(set(a))，即可完成列表去重 。
Python实现对列表中重复元素进行去重的方法小结1、运用新建字典python函数去重的方式python函数去重，去除重复python函数去重的键
2、利用集合python函数去重 ， 直接将列表转化为集合，自动去重后转回列表 。有一个问题，转换为集合的同时，数据无序python函数去重了 。
3、用列表的推导式
Python常用的几种去重方法case1:用集合的特性set()，去重后顺序会改变
case1.1：可以通过列表中索引（index）的方法保证去重后的顺序不变
case2:使用循环查找的方式，不改变顺序
case3:通过删除索引
case4:itertools.groupby
case5:fromkeys
case6:reduce方法
python用drop_duplicates()函数保留数据集的重复行前两天处理数据python函数去重的时候python函数去重 ， 需要得到两个数据的交集数据，所以要去除数据中非重复部分，只保留数据中的重复部分 。
网上看了一下大家的教程，大部分都是教去除重复行 ， 很少有说到仅保留重复行的 。所以在这里用drop_duplicates这个去重函数来实现这个功能 。
drop_duplicates函数介绍 ：
data.drop_duplicates(subset=[‘A’,‘B’],keep=‘first’,inplace=True)
#subset对应的值是列名，表示只考虑这两列，将这两列对应值相同的行进行去重 。
默认值为subset=None表示考虑所有列 。
keep='first’表示保留第一次出现的重复行，是默认值 。
keep另外两个取值为"last"和False ， 分别表示保留最后一次出现的重复行和去除所有重复行 。
inplace=True表示直接在原来的DataFrame上删除重复项，而默认值False表示生成一个副本 。
要用函数取得数据集data中的重复列，分三个步骤 ：
（提前导入pandas模块）
data0_1 = data.drop_duplicates() #保留第一个重复行
data0_2 = data.drop_duplicates(keep=False) #去除所有重复行
data0_3=pd.concat([data0_1,data0_2]).drop_duplicates(keep=False)
#合并起来再去重，只剩下真的重复行 。
举例：data中wangwu行和tony行重复，需要把它们两行取出 。
第一步：#保留第一个重复行
第二步：#去除所有重复行
第三步：#合并起来再去重
通过以上步骤实现取出数据中的重复行 。
Python 去重，统计，lambda函数df.drop_duplicates('item_name')
方法一：
df.drop_duplicates('item_name').count()
方法二：
df['item_name'].nunique()
结果：50
附：nunique()和unique()的区别：
unique()是以 数组形式（numpy.ndarray）返回列的所有唯一值（特征的所有唯一值）
nunique()即返回的是唯一值的个数
比如：df['item_name'].unique()
要求：将下表中经验列将按周统计的转换为经验不限 ， 保留学历
df1['经验'] = df1['经验'].apply(lambda x: '经验不限'+ x[-2:] if '周' in x else x)
#解释：将‘5天/周6个月’变成‘经验不限’，然后保留学历‘本科’

推荐阅读


上一篇：go语言定义二进制数，go 编译二进制

下一篇：八十岁奶奶直播带货，西安80岁奶奶直播带货