Python中寻找数据异常值的3种方法
1. 引言
在数据处理、机器学习等领域，我们经常需要对各式各样的数据进行处理，本文重点介绍三种非常简单的方法来检测数据集中的异常值。
2. 举个栗子
为了方便介绍，这里给出我们的测试数据集，如下：
data = pd.DataFrame([ [87, 82, 85], [81, 89, 75], [86, 87, 69], [91, 79, 86], [88, 89, 82], [0, 0, 0], # this guy missed the exam [100, 100, 100], ], columns=["math", "science", "english"])
图示如下：
假设这里我们有一堆学生的三门科目的考试成绩——英语、数学和科学。这些学生通常表现很好，但其中一人错过了所有考试，三门科目都得了0分。在我们的分析中包括这个家伙可能会把事情搞砸，所以我们需要将他视为异常。
3. 孤立森林
使用孤立森林算法来求解上述异常值分析非常简单，代码如下：
from sklearn.ensemble import IsolationForest predictions = IsolationForest().fit(data).predict(data) # predictions = array([ 1, 1, 1, 1, 1, -1, -1])
这里预测值针对每一行进行预测，预测结果为1或者-1；其中1表示该行不是异常值，而-1表示该行是异常值。在上述例子中，我们的孤立森林算法将数据中的最后2行都预测为异常值。
4. 椭圆模型拟合
使用孤椭圆模型拟合算法来求解上述异常值同样非常方便，代码如下：
from sklearn.covariance import EllipticEnvelope predictions = EllipticEnvelope().fit(data).predict(data) # predictions = array([ 1, 1, 1, 1, 1, -1, 1])
在上述代码中，我们使用了另外一种异常值检测算法来代替孤立森林算法，但是代码保持不变。相似地，在预测值中，1表示非异常值，-1表示异常值。在上述情况下，我们的椭圆模型拟合算法只将倒数第二个学生作为异常值，即所有成绩都为零的考生。
5. 局部异常因子算法
类似地，我们可以非常方便地使用局部异常因子算法来对上述数据进行分析，样例代码如下：
from sklearn.neighbors import LocalOutlierFactor predictions = LocalOutlierFactor(n_neighbors=5, novelty=True).fit(data).predict(data) # array([ 1, 1, 1, 1, 1, -1, 1])
局部异常因子算法是sklearn上可用的另一种异常检测算法，我们可以简单地在这里随插随用。同样地，这里该算法仅将最后第二个数据行预测为异常值。
6. 挑选异常值检测方法
那么，我们如何决定哪种异常检测算法更好呢？ 简而言之，没有“最佳”的异常值检测算法——我们可以将它们视为做相同事情的不同方式（并获得略有不同的结果）
7. 异常值消除
在我们从上述三种异常检测算法中的任何一种获得异常预测后，我们现在可以执行异常值的删除。 这里我们只需保留异常预测为1的所有数据行，
代码如下：
# predictions = array([ 1, 1, 1, 1, 1, -1, 1]) data2 = data[predictions==1]
结果如下：
8. 总结
本文重点介绍了在Python中使用sklearn机器学习库来进行异常值检测的三种方法，并给出了相应的代码示例。
到此这篇关于Python中寻找数据异常值的3种方法的文章就介绍到这了,更多相关Python寻找数据异常值内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
下面小编就为大家分享一篇python按行读取文件,去掉每行的换行符\n的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-04-04
这篇文章主要介绍了python中hashlib模块用法示例，具有一定参考价值，需要的朋友可以了解下。2017-10-10
这篇文章主要介绍了Python直接赋值、浅拷贝与深度拷贝,结合实例形式分析了Python直接赋值、浅拷贝与深度拷贝的概念、原理、用法及相关操作注意事项,需要的朋友可以参考下2019-06-06
这篇文章主要介绍了Python中的urllib库高级用法教程,想要请求需要设置一些请求头,如果要在请求的时候增加一些请求头,那么就必须使用request.Request类来实现了,比如要增加一个 User-Agent ,增加一个 Referer 头信息等,需要的朋友可以参考下2023-10-10
这篇文章主要介绍了Python 列表的索引取值,本节重点掌握多次索引取值的语法：列表[索引][索引]，结合示例代码给大家介绍的非常详细，需要的朋友可以参考下2022-09-09
基于tensorflow __init__、build 和call的使用小结
这篇文章主要介绍了基于tensorflow __init__、build 和call的使用小结，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-02-02
Python中的多线程和线程池是其强大的功能之一，可以让我们更加高效地利用CPU资源，提高程序的运行速度。本文将介绍Python中多线程和线程池的使用方法，并提供一些实用的案例供读者参考2023-04-04
链式调用是一种编程风格，它允许将多个方法调用连接在一起，形成一个连贯的操作链，在Python中，链式调用常常用于使代码更简洁、易读，尤其在处理数据处理和函数式编程中应用广泛2024-01-01
Requests是一个很实用的Python HTTP客户端库，编写爬虫和测试服务器响应数据时经常会用到，本文主要介绍了Python中requests做接口测试的方法，感兴趣的可以了解一下2021-05-05
这篇文章主要介绍了python opencv实现gif图片分解的示例代码，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-12-12
最新评论