Python通过四大 AutoEDA 工具包快速产出完美数据报告

 更新时间:2021年11月03日 16:25:53   作者:Python学习与数据挖掘  
在三年前,我们做数据竞赛或者数据建模类的项目时,前期我们会耗费较多的时间去分析数据,但现在非常多擅长数据分析的大师们已经将我们平时常看的数据方式进行了集成,开发了很多AutoEDA的工具包。可以帮助我们节省大量时间

AutoEDA工具包对于刚刚学习数据分析的小伙伴可以带来非常大的帮助。

本篇文章我们介绍目前最流行的四大AutoEDA工具包。

  • D-tale
  • Pandas-Profiling
  • Sweetviz
  • AutoViz

这几个工具包可以以短短三五行代码帮新手节省将近一天时间去写代码分析,非常建议大家收藏学习,喜欢点赞支持,文末提供技术交流群,尽情畅聊。

介绍

01 D-Tale

图片

D-Tale是Flask后端和React前端组合的产物,也是一个开源的Python自动可视化库,可以为我们提供查看和分析Pandas DataFrame的方法,帮助我们获得非常数据的详细EDA。

目前D-Tale支持DataFrame、Series、MultiIndex、DatetimeIndex 和 RangeIndex 等 Pandas 对象。

Github 链接

https://github.com/man-group/dtale

# pip install dtale
import dtale
import pandas as pd
df = pd.read_csv('./data/titanic.csv')
d = dtale.show(df)
d.open_browser()

图片

02 Pandas-Profiling

图片

Pandas-Profiling可以对Pandas DataFrame生成report报告。其中:

  • pandas_profiling的df.profile_report()扩展了pandas DataFrame以方便进行快速数据分析。

Pandas-Profiling对于每一列特征,特征的统计信息(如果与列类型相关)会显示在交互式 HTML的report中:

  • Type:检测数据列类型;
  • Essentials:类型、unique值、缺失值
  • 分位数统计,如最小值、Q1、中位数、Q3、最大值、范围、四分位距
  • 描述性统计数据,如均值、众数、标准差、总和、中值绝对偏差、变异系数、峰态、偏度
  • 出现最多的值
  • 直方图
  • 高度相关变量、Spearman、Pearson 和 Kendall 矩阵的相关性突出显示
  • 缺失值矩阵、计数、热图和缺失值树状图

Github 链接

https://github.com/pandas-profiling/pandas-profiling/

from pandas_profiling import ProfileReport
profile = ProfileReport(df, title="Pandas Profiling Report")
profile

2021-10-30 22:50:43,584 - INFO - Pandas backend loaded 1.2.5
2021-10-30 22:50:43,597 - INFO - Numpy backend loaded 1.19.2
2021-10-30 22:50:43,599 - INFO - Pyspark backend NOT loaded
2021-10-30 22:50:43,600 - INFO - Python backend loaded

一个特征的案例

图片

03 Sweetviz

图片

Sweetviz也是一个开源Python库,Sweetviz可以用简短几行代码生成美观、高密度的可视化文件,只需两行代码即可开启探索性数据分析并输出一个完全独立的 HTML 应用程序。Sweetviz主要包含下面的分析:

  • 数据集概述
  • 变量属性
  • 类别的关联性
  • 数值关联性
  • 数值特征最频繁值、最小、最大值

Github 链接

https://github.com/fbdesignpro/sweetviz

# pip install sweetviz
import sweetviz as sv 
sweetviz_report = sv.analyze(df)
sweetviz_report.show_html() 

04 AutoViz

图片

AutoViz可以使用一行自动显示任何数据集。给出任何输入文件(CSV、txt或json),AutoViz都可以对其进行可视化。AutoViz的结果会以非常多的图片都形式存在文件夹下方。

Github 链接

https://github.com/AutoViML/AutoViz

# pip install autoviz
from autoviz.AutoViz_Class import AutoViz_Class
AV = AutoViz_Class()

sep = ';'
dft = AV.AutoViz(filename="",sep=sep, depVar='Pclass', dfte=df, header=0, verbose=2, 
                 lowess=False, chart_format='png', max_rows_analyzed=150000, max_cols_analyzed=30)

诸多文件全都在当前文件夹下方

图片

我们打开其中一个效果如下:

图片

适用问题

适用于所有的数据分析问题。

技术交流

欢迎转载、收藏、有所收获点赞支持一下!

在这里插入图片描述

到此这篇关于Python通过四大 AutoEDA 工具包快速产出完美数据报告的文章就介绍到这了,更多相关Python AutoEDA工具包内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python基于物品协同过滤算法实现代码

    python基于物品协同过滤算法实现代码

    这篇文章主要为大家详细介绍了python基于物品协同过滤算法实现代码,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-05-05
  • Python中的map()、apply()、applymap()的区别小结

    Python中的map()、apply()、applymap()的区别小结

    map()、apply()和applymap()方法是Python中常用的转换方法,,输出的结果及类型完全取决于作为给定方法的参数的函数,本文就来介绍一下这三种方法的区别,具有一定的参考价值,感兴趣的可以了解一下
    2023-10-10
  • python如何判断IP地址合法性

    python如何判断IP地址合法性

    这篇文章主要为大家详细介绍了python如何判断IP地址合法性,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2020-04-04
  • Python使用Quart作为web服务器的代码实现

    Python使用Quart作为web服务器的代码实现

    Quart 是一个异步的 Web 框架,它使用 ASGI 接口(Asynchronous Server Gateway Interface)而不是传统的 WSGI,这使得 Quart 特别适合用于构建需要处理大量并发连接的高性能 Web 应用程序,本文给大家介绍了Python使用Quart作为web服务器的代码实现
    2024-06-06
  • Python简单计算文件MD5值的方法示例

    Python简单计算文件MD5值的方法示例

    这篇文章主要介绍了Python简单计算文件MD5值的方法,涉及Python文件读取、hash运算及md5加密等相关操作技巧,需要的朋友可以参考下
    2018-04-04
  • Django之创建引擎索引报错及解决详解

    Django之创建引擎索引报错及解决详解

    这篇文章主要介绍了Django之创建引擎索引报错及解决详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-07-07
  • 一篇文章带你入门python之推导式

    一篇文章带你入门python之推导式

    这篇文章主要为大家详细介绍了python的推导式,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2022-02-02
  • django实现类似触发器的功能

    django实现类似触发器的功能

    今天小编就为大家分享一篇django实现类似触发器的功能,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-11-11
  • Python基于递归算法实现的汉诺塔与Fibonacci数列示例

    Python基于递归算法实现的汉诺塔与Fibonacci数列示例

    这篇文章主要介绍了Python基于递归算法实现的汉诺塔与Fibonacci数列,结合实例形式分析了汉诺塔与Fibonacci数列的递归实现技巧,需要的朋友可以参考下
    2018-04-04
  • python递归函数绘制分形树的方法

    python递归函数绘制分形树的方法

    这篇文章主要为大家详细介绍了python递归函数绘制分形树的方法,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-06-06

最新评论