聊聊python中令人迷惑的duplicated和drop_duplicates()用法

更新时间：2021年05月21日 11:07:32 作者：石小秀1995

这篇文章主要介绍了聊聊python中令人迷惑的duplicated和drop_duplicates()用法，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教

前言

在算face_track_id map有感：

开始验证

data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}
frame=pd.DataFrame(data)  
frame

在这里插入图片描述

frame.shape
$ (8,2)

# 说明duplicated()是对整行进行查重，return 重复了的数据，且只现实n-1条重复的数据（n是重复的次数）
frame[frame.duplicated() == True]

一开始还很疑惑，明明（1，b）只出现了1次，哪里duplicate了。其实，人家return的结果是去掉已经出现过一次的行数据了。所以看起来有点confuse，感觉（1，b）并没有重复，但其实人家的函数很简洁呢，返回了重复值而且不冗余。

在这里插入图片描述

# 说明drop_duplicates()函数是将所有重复的数据都去掉了，且默认保留重复数据的第一条。
# 比如（2，d）出现了3次，在duplicated（）中显示了2次，在drop_dupicates（）后保留了一个
frame.drop_duplicates().shape
$ (4,2)

# 留下了完全唯一的数据行
frame.drop_duplicates()

在这里插入图片描述

补充：python的pandas重复值处理（duplicated()和drop_duplicates())

一、生成重复记录数据

import numpy as np
import pandas as pd
 
#生成重复数据
df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2'])
df['col3']=['a','b','a','c','d']
df['col4']=[3,2,3,2,2]
df=df.reindex(columns=['col3','col4','col1','col2'])  #将新增的一列排在第一列
df

输出：

二、判断重复记录（行）

#判断重复数据
isDplicated=df.duplicated()   #判断重复数据记录
isDplicated

输出：

三、删除重复值

#删除重复值
new_df1=df.drop_duplicates() #删除数据记录中所有列值相同的记录
new_df2=df.drop_duplicates(['col3']) #删除数据记录中col3列值相同的记录
new_df3=df.drop_duplicates(['col4']) #删除数据记录中col4列值相同的记录
new_df4=df.drop_duplicates(['col3','col4']) #删除数据记录中(col3和col4)列值相同的记录
new_df1
new_df2
new_df3
new_df4

输出：

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

Python生成随机数详解流程
生成随机数一般使用的就是random模块下的函数，生成的随机数并不是真正意义上的随机数,而是对随机数的一种模拟。random模块包含各种伪随机数生成函数，以及各种根据概率分布生成随机数的函数。今天我们的目标就是摸清随机数有几种生成方式
2022-03-03
Python去除字符串两端空格的方法
这篇文章主要介绍了Python去除字符串两端空格的方法,本文主要讲解了string.lstrip、string.rstrip、string.strip等函数的运用,需要的朋友可以参考下
2015-05-05
使用pandas计算环比和同比的方法实例
同比和环比都是为了显示数据的变化速度,但是基数不同,同比侧重长期数据趋势变化,环比侧重于短期内数据趋势变化,下面这篇文章主要给大家介绍了关于如何使用pandas计算环比和同比的相关资料,需要的朋友可以参考下
2022-03-03
简单的连接MySQL与Python的Bottle框架的方法
这篇文章主要介绍了简单的连接MySQL与Python的Bottle框架的方法,主要基于mysql-connector插件,需要的朋友可以参考下
2015-04-04
Python简单获取二维数组行列数的方法示例
这篇文章主要介绍了Python简单获取二维数组行列数的方法,结合实例形式分析了Python基于numpy模块的二维数组相关运算技巧,需要的朋友可以参考下
2018-12-12
基于 Django 的手机管理系统实现过程详解
这篇文章主要介绍了基于 Django 的手机管理系统过程详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
2019-08-08
Python单元测试unittest模块使用终极指南
本文将详细介绍unittest模块的各个方面，包括测试用例、断言、测试套件、setUp和tearDown方法、跳过和期望异常、测试覆盖率、持续集成等内容，我们将提供丰富的示例代码，以便读者更好地理解如何使用unittest进行单元测试
2023-12-12
python选择排序算法的实现代码
这篇文章主要介绍了python选择排序算法的实现代码,大家参考
2013-11-11
浅谈Python响应式类库RxPy
RxPy是非常流行的响应式框架Reactive X的Python版本，其实这些版本都是一样的，只不过是各个语言的实现不同而已。因此，如果学会了其中一种，那么使用其他的响应式版本也是轻而易举的
2021-06-06
Python执行时间计算方法以及优化总结
python脚本运行时间远远大于python脚本中统计的计算时间，所以本文将为大家分享就几个Python执行时间计算方法以及优化，感兴趣的可以了解一下
2022-08-08