Pandas数据清洗的实现
在处理数据的时候,需要对数据进行一个清洗过程。清洗操作包括:空白行的删除、数据完整性检验、数据填充、插值等内容。
下面是数据清洗过程中使用的具体方法
删除缺失值
DataFrame.dropna 方法用于删除含有缺失值的行或列,关键参数:axis 和how。
axis表示轴向,0 为行,1 为列,默认 0。
how表示删除形式,how = 'any' 表示只要有缺失值就删除;how='all' 表示全为缺失值才删除。
检测缺失值
DataFrame.isnull() 识别缺失值,返回包含True和False的 DataFrame。DataFrame.notnull() 方法识别非缺失值,返回包含True和False的 DataFrame。
上述两方法结合sum函数可用于检测数据序列中缺失值的分布情况。
填充缺失值
DataFrame.fillna 方法能用指定值替换缺失值。关键参数:value、method和axis。
value表示指定的填充值。
methodmethod = 'bfill'后向填充,用后面的非缺失值填充;method = 'ffill'前向填充,用前面的非缺失值填充。
axis表示操作轴向,默认1(列)。
拉格朗日插值
from scipy.interpolate import lagrange formula = lagrange(x,y)#formula是通过lagrange方法生成的公式,x和y为数据序列 ins_y = formula(ins_x)#ins_x为缺失值所在位置,ins_y为插值结果。
线性插值
from scipy.interpolate import interp1d#1是数字一 formula = interp1d(x,y,kind = 'linear')#formula是通过linear方法生成的公式,x和y为数据序列 ins_y = formula(ins_x)#ins_x为缺失值所在位置,ins_y为插值结果。
到此这篇关于Pandas数据清洗的实现的文章就介绍到这了,更多相关Pandas数据清洗内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
相关文章
python 字符串转列表 list 出现\ufeff的解决方法
下面小编就为大家带来一篇python 字符串转列表 list 出现\ufeff的解决方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧2017-06-06
使用python搭建Django应用程序步骤及版本冲突问题解决
这篇文章主要介绍了使用python搭建Django应用程序的步骤,最近还解决了因版本冲突出现的错误2013-11-11


最新评论