Python 数据清洗删除缺失值替换缺失值详情

 更新时间:2022年09月29日 14:42:21   作者:正在学习中的李斌  
这篇文章主要介绍了Python 数据清洗删除缺失值替换缺失值详情,文章围绕主题展开详细的内容介绍,具有一定的参考价值,需要的小伙伴可以参考一下

一、缺失数据剔除

1. python 方式

获取所有的缺失值,返回一个 true 和 false 的表

df.isnull()

统计缺失值,按照每一列统计

df.isnull().sum()

统计缺失值 按行

df.isnull().sum(axis='columns')

查看列 是否全部缺失

df.isnull().all()

剔除 植物园 这一列 2种方式

df1 = df.drop(columns='植物园')
df1 = df.drop('植物园', axis=1)

通过数据索引的方式来剔除掉缺测数据。

列:

df1 = df.loc[:, ~(df.isnull().all())]

删除所有 有缺失的行

df1[~(df1.isnull().any('columns'))]

这种方式看起来明显比drop()的方式要复杂一点,那么是不是意味着我们就学drop()就行了,不用再去记住索引方式。

当然不是!drop()看起来简单只是因为刚好只有一列需要剔除,加入我们需要剔除很多数据,那使用drop()就不足以完成任务,还是要配合索引的方式。

下面我们来看一下剔除行里的缺测值,上面的数据有很多行都有缺测值,如果在drop函数中一个一个填是很不现实的,那么我们看一下合理的解决方案应该是什么样的。

2. DataFrame 方式

剔除列的缺失值

df.dropna(axis='columns', how='all', inplace=True)

剔除行的缺失值

df.dropna(axis='index', how='any', inplace=True)

二、缺失值补全

用前一行的数据填充

df.fillna(method='bfill')

用后一行的数据填充

df.fillna(method='bfill')

三、重复值剔除(按照行和列)

返回的是 True 和 False 的 列表

df.duplicated()

剔除重复行

df.drop_duplicates()

返回的是 True 和 False 的 列表

df.duplicated(subset=['天坛'], keep=False)

剔除 天坛 这列里面的所有重复值

df.drop_duplicates(subset=['天坛'], keep=False)

四、数值转换

1. replace

单值转换,将Nan 替换成 -9999

df.replace(np.nan, -9999)

多值转化,将想替换的元素放在一个 [ ] 里就行

df.replace([np.nan, 0], -9999)

2. apply

replace可以进行简单的数据替换,但如果想进行更为复杂的操作replace是无法完成的。
然而对DataFrame而言,apply是非常重要的数据处理方法,它可以接收各种各样的函数(Python内置的或自定义的),处理方式很灵活,完成各种复杂的需求。他的实际作用是将函数作为一个对象,通过apply的调用对DataFrame里的数组元素应用这个函数。

只关注和设置这个规则,循环这种事情交给编程语言去处理

def aqi_level(aqi):
    if aqi>0 and aqi<=50:
        level = '优'
    elif aqi>50 and aqi<=100:
        level = '良'
    elif aqi>100 and aqi<=150:
        level = '轻度污染'
    elif aqi>150 and aqi<=200:
        level = '中度污染'
    elif aqi>200 and aqi<=300:
        level = '重度污染'
    else:
        level = '严重污染'
    return level

# 数据预处理一下  将所有的类型都转为 AQI
aqi = df[df['type']=='AQI']

aqi['东四'].apply(aqi_level)

3.applymap

apply()可以实现对某一行或某一列的函数应用,如果想对DataFrame中的全部数值都使用这个函数来进行转化我们就需要用到applymap()

#~aqi.columns.isin(['date', 'hour', 'type']) 取非这三列的所有列

aqi.loc[:, ~aqi.columns.isin(['date', 'hour', 'type'])].apply(np.mean, axis=0)
aqi.loc[:, ~aqi.columns.isin(['date', 'hour', 'type'])].applymap(aqi_level)

到此这篇关于Python 数据清洗删除缺失值替换缺失值详情的文章就介绍到这了,更多相关Python数据清洗 内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Python函数式编程之返回函数实例详解

    Python函数式编程之返回函数实例详解

    函数式编程的一个特点就是,允许把函数本身作为参数传入另一个函数,还允许返回一个函数,下面这篇文章主要给大家介绍了关于Python函数式编程之返回函数的相关资料,需要的朋友可以参考下
    2022-09-09
  • 只需要100行Python代码就可以实现的贪吃蛇小游戏

    只需要100行Python代码就可以实现的贪吃蛇小游戏

    贪吃蛇小游戏相信80、90后小时候肯定都玩过,那么你知道如果通过Python来实现吗?今天就来教大家,文中有非常详细的代码示例,对正在学习python的小伙伴们很有帮助,需要的朋友可以参考下
    2021-05-05
  • pycharm如何中导入本地下载好的库

    pycharm如何中导入本地下载好的库

    这篇文章主要介绍了pycharm如何中导入本地下载好的库问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-08-08
  • Python中None的实现方法详解

    Python中None的实现方法详解

    在 Python 中,None 是一个常见且重要的对象,它通常用于表示“没有值”或“空值”,尽管经常使用 None,但很多人并不清楚 None 的底层实现原理,本文将深入探讨 Python 中的 None,包括其定义、实现细节、使用场景及其在 Python 内部的工作机制,需要的朋友可以参考下
    2025-03-03
  • K最近邻算法(KNN)---sklearn+python实现方式

    K最近邻算法(KNN)---sklearn+python实现方式

    今天小编就为大家分享一篇K最近邻算法(KNN)---sklearn+python实现方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • Python实现的远程登录windows系统功能示例

    Python实现的远程登录windows系统功能示例

    这篇文章主要介绍了Python实现的远程登录windows系统功能,结合实例形式分析了Python基于wmi模块的远程连接与进程操作相关实现技巧,需要的朋友可以参考下
    2018-06-06
  • python-3.5.3安装及一些库安装教程详解

    python-3.5.3安装及一些库安装教程详解

    这篇文章主要介绍了python-3.5.3安装及一些库安装教程,本文通过图文并茂的形式给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-03-03
  • 13个Pandas实用技巧,助你提高开发效率

    13个Pandas实用技巧,助你提高开发效率

    这篇文章主要介绍了13个Pandas实用技巧,帮助你提高python开发的效率,感兴趣的朋友可以了解下
    2020-08-08
  • Python真题案例之最长回文子串 周期串详解

    Python真题案例之最长回文子串 周期串详解

    今天来记录一下字符串处理中常见到的回文子串与周期串问题。使用的语言是Python优雅的处理字符串是程序员不可或缺的技能,快来一起学习吧
    2022-03-03
  • 详解Python中的List 2

    详解Python中的List 2

    这篇文章主要为大家介绍了Python中的List,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2021-12-12

最新评论