Python DataFrame实现固定周期内统计每列的非零值

 更新时间:2024年09月12日 07:37:09   作者:南洲.  
在数据处理中,使用DataFrame统计固定周期内每列的非零值数量是一种常见需求,通过将数据分组并使用计数函数,可以方便地实现此目标,具体方法包括首先计算每列的0值个数,然后通过总数减去0值个数得到非零值的数量

DataFrame实现固定周期内统计每列的非零值

1、概述

最近做一个数值统计,统计固定周期内(比如100行统一次)每列的非零值,实现不难,先统计0值个数,再计算非零值个数,主要是有些关于dataframe的操作技巧可以作为以后的参考。

data.csv文件数据示例格式如下:

想要得到的结果为:

2、代码

import pandas as pd

def non_zeros_count(df):
    s = 0
    calc_interval = 5   # 统计周期数
    new_columns = []
    for i in range(len(df.columns)):
        new_columns.append(df.columns[i]+'_non_zero_count') # 重新组织列名
    non_zeros_count = pd.DataFrame(columns=df.columns[1:])  # 新建dataframe 储存最后统计结果(没有计算第一列“时间”)

    # 对所有数据按照每 “calc_interval” 计算每个字段中的非0个数
    while s + calc_interval <= df.shape[0]:
        data_piece = df.iloc[s:s + calc_interval, 1:]
        count_zero = data_piece.apply(lambda x: x.value_counts().get(0.0, 0.0))  # 0值个数
        # np.count_nonzero(data_piece,axis = 0)   #这种方法也可以得到,但是得到的是类型是ndarray
        non_zeros = calc_interval - count_zero  # 非零值个数(每列计算周期内的总数-每列的0值数)
        non_zeros_to_frame = non_zeros.to_frame()  # series转dataframe
        non_zeros_transp = pd.DataFrame(non_zeros_to_frame.values.T,
                                        index=non_zeros_to_frame.columns,
                                        columns=non_zeros_to_frame.index)  # 取转置
        non_zeros_count = pd.concat([non_zeros_count, non_zeros_transp])  # 数据合并
        s = s + calc_interval

    non_zeros_count.index = [i for i in range(non_zeros_count.shape[0])]
    # non_zeros_count.values.reshape(30,24) # dataframe
    non_zeros_count.columns = new_columns[1:] # 重新修改列名
    non_zeros_count.to_csv('./non_zeros_count.csv',encoding= 'utf-8')

if __name__=='__main__':

    sv_data = pd.read_csv('data.csv',encoding='utf-8')
    non_zeros_count(sv_data)

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 对python 中re.sub,replace(),strip()的区别详解

    对python 中re.sub,replace(),strip()的区别详解

    今天小编就为大家分享一篇对python 中re.sub,replace(),strip()的区别详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-07-07
  • 使用Python实现 学生学籍管理系统

    使用Python实现 学生学籍管理系统

    这篇文章主要介绍了使用Python实现 学生学籍管理系统,代码大致分为五个函数组成,具体内容详情本文给大家介绍的非常详细,需要的朋友可以参考下
    2019-11-11
  • python中常用的各种数据库操作模块和连接实例

    python中常用的各种数据库操作模块和连接实例

    这篇文章主要介绍了python中常用的各种数据库操作模块和连接实例,包括sqlite3、oracle、mysql、excel,需要的朋友可以参考下
    2014-05-05
  • Python 获取div标签中的文字实例

    Python 获取div标签中的文字实例

    今天小编就为大家分享一篇Python 获取div标签中的文字实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-12-12
  • Python+Turtle制作海龟迷宫小游戏

    Python+Turtle制作海龟迷宫小游戏

    这篇文章主要是带大家写一个利用Turtle库制作的一款海龟闯关的三大迷宫,文中的示例代码讲解详细,对我们学习Python有一定帮助,感兴趣的可以了解一下
    2022-04-04
  • 图像检索之基于vlfeat实现SIFT特征

    图像检索之基于vlfeat实现SIFT特征

    SIFT特征的讲解已经很多了,本文就借助vlfeat对SIFT特征的提取过程做一个总结。接下来通过本文给大家介绍图像检索之基于vlfeat实现SIFT,感兴趣的朋友跟随小编一起看看吧
    2021-12-12
  • pytorch torchvision.ImageFolder的用法介绍

    pytorch torchvision.ImageFolder的用法介绍

    今天小编就为大家分享一篇pytorch torchvision.ImageFolder的用法介绍,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • Python中解决浮点数精度问题的常见方法

    Python中解决浮点数精度问题的常见方法

    在Python中,浮点数是以双精度(64位)存储的,这种表示方式虽然能够表示非常广泛的数值范围,但并不能精确表示所有的小数,下面我们来看看Python是如何解决浮点数精度问题的吧
    2025-08-08
  • PyTorch简单手写数字识别的实现过程

    PyTorch简单手写数字识别的实现过程

    Pytorch是热门的深度学习框架之一,通过经典的MNIST数据集进行快速的pytorch入门,这篇文章主要给大家介绍了关于PyTorch简单手写数字识别的相关资料,需要的朋友可以参考下
    2021-11-11
  • Python ZipFile模块详解

    Python ZipFile模块详解

    Python压缩和解压缩的使用方法详解,zipfile里有两个非常重要的class, 分别是ZipFile和ZipInfo。
    2013-11-11

最新评论