Python错误提示:[Errno 24] Too many open files的分析与解决

 更新时间:2017年02月16日 09:16:33   作者:一只猿  
这篇文章主要给大家介绍了Python中出现错误提示:[Errno 24] Too many open files的分析与解决,需要的朋友可以参考借鉴,下面来一起看看吧。

背景

最近在工作中发现了一个错误,在执行多线程扫描脚本的时候频繁出现下面这个错误

HTTPConnectionPool(host=‘t.tips', port=80): Max retries exceeded with url: /index.php (Caused by NewConnectionError('<requests.packages.urllib3.connection.HTTPConnection object at 0x7f29d4081150>: Failed to establish a new connection: [Errno 24] Too many open files',))

比较诡异...

分析

博主自己手上的一些小项目经常需要进行多线程的批量扫描来采集数据,像采集数据这种功能当然是线程越多越好了,所以通常情况下我都是使用 3000 个线程进行扫描,在确定带宽充足,系统硬件配置够高的情况下依然会出现上述问题,这就让我想到是不是因为系统的限制问题。

通过搜索引擎我找到了关于系统限制的介绍,执行

$ ulimit -n
1024

得到的结果是1024,系统限制为同时打开1024个文件,这显然是太少了。

解决

这个问题的解决方法很简单,直接修改下面的文件

sudo vim /etc/security/limits.conf

最这个文件的最后添加两行代码

* soft nofile 10240
* hard nofile 10240

当然这个数字根据自己的需要进行修改即可,保存后注销重新登录就好了。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

相关文章

  • keras:model.compile损失函数的用法

    keras:model.compile损失函数的用法

    这篇文章主要介绍了keras:model.compile损失函数的用法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-07-07
  • Windows自动执行python脚本操作步骤

    Windows自动执行python脚本操作步骤

    我们想在Windows中运行一个Python脚本,我们可以通过CMD,首先进入python文件所在的目录,之后运行。但是这样很麻烦,跟着本文操作就可以解决啦
    2021-09-09
  • python 实现返回一个列表中出现次数最多的元素方法

    python 实现返回一个列表中出现次数最多的元素方法

    今天小编就为大家分享一篇python 实现返回一个列表中出现次数最多的元素方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-06-06
  • Python二元算术运算常用方法解析

    Python二元算术运算常用方法解析

    这篇文章主要介绍了Python二元算术运算常用方法解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-09-09
  • Python获取"3年前的今天"的日期时间问题

    Python获取"3年前的今天"的日期时间问题

    在Python中,如何获取" 3年前的今天"的datetime对象,本文通过实例代码给大家详细讲解,代码简单易懂对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧
    2023-01-01
  • Python3 多线程(连接池)操作MySQL插入数据

    Python3 多线程(连接池)操作MySQL插入数据

    本文将结合实例代码,介绍Python3 多线程(连接池)操作MySQL插入数据,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-06-06
  • Python 迭代器工具包【推荐】

    Python 迭代器工具包【推荐】

    迭代器工具在产生数据的时候将会显得非常便捷、高效,掌握了这些基本的方法之后,通过简单的组合就可以获得更多迭代器工具。
    2016-05-05
  • Python+OpenCV图像处理——实现直线检测

    Python+OpenCV图像处理——实现直线检测

    这篇文章主要介绍了Python+OpenCV如何实现直线检测,帮助大家更好的利用python处理图片,感兴趣的朋友可以了解下
    2020-10-10
  • python shell根据ip获取主机名代码示例

    python shell根据ip获取主机名代码示例

    这篇文章主要介绍了python shell根据ip获取主机名代码示例,涉及用socket模块和shell中hostname命令获取等相关内容,具有一定参考价值,需要的朋友可以了解下。
    2017-11-11
  • Python之reload流程实例代码解析

    Python之reload流程实例代码解析

    这篇文章主要介绍了Python之reload流程实例代码解析,分享了相关代码示例,小编觉得还是挺不错的,具有一定借鉴价值,需要的朋友可以参考下
    2018-01-01

最新评论