Python numpy大矩阵运算内存不足如何解决
更新时间：2020年11月19日 08:33:58 作者：Gelthin
这篇文章主要介绍了Python numpy大矩阵运算内存不足如何解决,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
程序运行，产生如下结果，然后进程终止，导致这一结果的原因很有可能是内存爆炸。
当两个较大的 (e.g., 10000*10000 维）ndarray 做运算(加法，or 乘法）时，很容易出现这样的结果.
解决办法：
- 大多数情况下，这种大矩阵都是稀疏的。尽可能地利用稀疏计算的方式，例如稀疏矩阵，或者只计算非 0 位置的值。
- 如果都是整数运算，可以设置 dtype=int，而非 dtype=float, 可以省下不少空间。
linux 系统下，使用 top 命令，可以很容易地看到内存（%MEM) 的使用情况。
# 代码段 1， true_similarity_matrix 是 int, similarity_matrix 是 float
tmp_matrix = similarity_matrix * true_similarity_matrix # 内存会炸掉，两个 10000*10000 维 float array
num_correct_edge = sum(sum(tmp_matrix))
# 代码段 2
for i in range():
for j in range():
set_true_ij.append(i,j)
num_correct_edge = 0
for i, j in set_true_ij:
num_correct_edge += similarity_matrix[i,j]
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。
相关文章
Pycharm及python安装详细步骤及PyCharm配置整理(推荐)
这篇文章主要介绍了Pycharm及python安装详细步骤以及PyCharm配置整理,本文通过图文并茂的形式给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-04-04
这篇文章主要介绍了Python函数使用的相关练习题分享，文章基于python函数内容展开其相关例题，具有一定的参考价值，需要的小伙伴可以参考一下2022-05-05
这篇文章主要为大家介绍了Tensorflow2.1 MNIST图像分类实现思路分析，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-11-11
这篇文章主要介绍了Django 自定义分页器的实现代码，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-11-11
这篇文章主要介绍了Python装饰器实现方法及应用场景详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-03-03
这篇文章主要介绍了python 19个值得学习的编程技巧，帮助大家更好的理解和学习python，感兴趣的朋友可以了解下2020-08-08
使用Python通过win32 COM打开Excel并添加Sheet的方法
今天小编就为大家分享一篇使用Python通过win32 COM打开Excel并添加Sheet的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-05-05
这篇文章主要介绍了Opencv 图片的OCR识别，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-03-03
Python利用matplotlib绘制圆环图(环形图)的实战案例
环形图也被称为圆环图,它在功能上与饼图相同,只是中间有一个空白,并且能够同时支持多个统计数据,下面这篇文章主要给大家介绍了关于Python利用matplotlib绘制圆环图的实战案例,文中通过实例代码介绍的非常详细,需要的朋友可以参考下2022-08-08
这篇文章主要介绍了Python对列表排序的方法,实例分析了Python列表排序函数的相关使用技巧,非常简单实用,需要的朋友可以参考下2015-05-05
最新评论