Python numpy大矩阵运算内存不足如何解决

 更新时间:2020年11月19日 08:33:58   作者:Gelthin  
这篇文章主要介绍了Python numpy大矩阵运算内存不足如何解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

程序运行,产生如下结果,然后进程终止,导致这一结果的原因很有可能是内存爆炸。

当两个较大的 (e.g., 10000*10000 维)ndarray 做运算(加法,or 乘法)时,很容易出现这样的结果.
解决办法:

  • 大多数情况下,这种大矩阵都是稀疏的。尽可能地利用稀疏计算的方式,例如稀疏矩阵,或者只计算非 0 位置的值。
  • 如果都是整数运算,可以设置 dtype=int,而非 dtype=float, 可以省下不少空间。

linux 系统下,使用 top 命令,可以很容易地看到内存(%MEM) 的使用情况。

# 代码段 1, true_similarity_matrix 是 int, similarity_matrix 是 float
tmp_matrix = similarity_matrix * true_similarity_matrix  # 内存会炸掉,两个 10000*10000 维 float array
num_correct_edge = sum(sum(tmp_matrix))

# 代码段 2
for i in range():
  for j in range():
    set_true_ij.append(i,j)

num_correct_edge = 0
for i, j in set_true_ij:
  num_correct_edge += similarity_matrix[i,j]

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • Tensorflow卷积神经网络实例

    Tensorflow卷积神经网络实例

    这篇文章主要为大家详细介绍了Tensorflow卷积神经网络实例,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-05-05
  • Python基于staticmethod装饰器标示静态方法

    Python基于staticmethod装饰器标示静态方法

    这篇文章主要介绍了Python基于staticmethod装饰器标示静态方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-10-10
  • python如何为list实现find方法

    python如何为list实现find方法

    这篇文章主要介绍了python如何为list实现find方法,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-05-05
  • Python根据文件后缀实现文件夹整理

    Python根据文件后缀实现文件夹整理

    这篇文章主要为大家详细介绍了Python如何根据文件后缀实现文件夹整理,文中的示例代码讲解详细,具有一定的借鉴价值,有需要的可以参考下
    2024-02-02
  • Python 装饰器深入理解

    Python 装饰器深入理解

    这篇文章主要介绍了Python 装饰器深入理解的相关资料,需要的朋友可以参考下
    2017-03-03
  • Python如何操作office实现自动化及win32com.client的运用

    Python如何操作office实现自动化及win32com.client的运用

    这篇文章主要介绍了Python如何操作office实现自动化及win32com.client的运用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-04-04
  • 使用Python简单的实现树莓派的WEB控制

    使用Python简单的实现树莓派的WEB控制

    这篇文章主要介绍了使用Python简单的实现树莓派的WEB控制的相关资料,需要的朋友可以参考下
    2016-02-02
  • python3.7 的新特性详解

    python3.7 的新特性详解

    这篇文章主要介绍了python3.7 的新特性详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-07-07
  • 通过实例解析Python调用json模块

    通过实例解析Python调用json模块

    这篇文章主要介绍了通过实例解析Python调用json模块,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-12-12
  • 利用python开发app实战的方法

    利用python开发app实战的方法

    这篇文章主要介绍了利用python开发app实战的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-07-07

最新评论