python中的Numpy二维数组遍历与二维数组切片后遍历效率比较

 更新时间:2022年03月01日 11:23:54   作者:大DDDDD  
这篇文章主要介绍了python中的Numpy二维数组遍历与二维数组切片后遍历效率比较,在python-numpy使用中,可以用双层 for循环对数组元素进行访问,也可以切片成每一行后进行一维数组的遍历,下面小编击来举例介绍吧,需要的朋友可以参考一下

python-numpy使用中,可以用双层 for循环对数组元素进行访问,也可以切片成每一行后进行一维数组的遍历。

代码如下:

import numpy as np
import time
NUM = 160


a=np.random.random((NUM,NUM))
start = time.time()
for i in range(NUM):
    for j in range(NUM):
        if a[i][j] == 1.0:
            pass
end1 =  time.time()

for ii in range(NUM):
    b = a[ii,:]
    for jj in range(NUM):
        if b[jj] == 1.0:
            pass 
end2 =  time.time()
print("end1",end1-start)
print("end2",end2-end1)

由于生成的是[0,1)中的数,因此两种操作会遍历所有的元素。多轮测试后,耗时如下:

当NUM为160时:

end1 0.006983518600463867
end2 0.003988742828369141

当NUM为1600时:

end1 0.71415114402771
end2 0.45178747177124023

结论:切片后遍历更快
原因:
楼主还暂不明确

一个想法:

b=a[ii,:]

在numpy中,为了提高效率,这种切片出来的子矩阵其实都是原矩阵的引用而已,所以改变子矩阵,原矩阵还是会变的
所以在内层循环中,第二种方法是在那一行元素所在的内存进行寻找。而第一种方法是先定位到行,再定位到列,所以比较慢?
大家是怎么想的呢?

关于numba在小数据量下的速度慢于普通操作

什么是numba?

numba

实验比较:

import numpy as np
import time
NUM = 160
from numba import jit
a=np.random.random((NUM,NUM))

@jit(nopython=True)
def fun1(a):
    for i in range(NUM):
        for j in range(NUM):
            if a[i][j] == 1.0:
                pass

def fun2(a):
    for i in range(NUM):
        for j in range(NUM):
            if a[i][j] == 1.0:
                pass
    
@jit(nopython=True)
def fun3(a):
    for ii in range(NUM):
        b = a[ii,:]
        for jj in range(NUM):
            if b[jj] == 1.0:
                pass 


def fun4(a):
    for iii in range(NUM):
        b = a[iii,:]
        for jjj in range(NUM):
            if b[jjj] == 1.0:
                pass 

start = time.time()
fun1(a)
end1 =  time.time()
fun2(a)
end2 =  time.time()
fun3(a)
end3 =  time.time()
fun4(a)
end4 =  time.time()
print("end1",end1-start)
print("end2",end2-end1)
print("end3",end3-end2)
print("end4",end4-end3)

首先,当NUM为1600时,结果如下:

end1 0.2991981506347656 #无切片,有加速
end2 0.6372940540313721 #无切片,无加速
end3 0.08377814292907715 #有切片,有加速
end4 0.358079195022583   #有切片,无加速

其他条件相同的情况下,有切片的速度更快。同样,有numba加速的也比没加速的快。
但当NUM =160时,结果如下:

end1 0.29620814323425293   #无切片,有加速
end2 0.006980180740356445  #无切片,无加速
end3 0.08580684661865234   #有切片,有加速
end4 0.0029993057250976562 #有切片,无加速

有切片依旧比无切片的快。但是有numba加速的却比没有numba加速的慢。
原来@jit(nopython=True)只是对函数进行修饰,第一次调用会进行编译,编译成机器码,之后速度就会很快。

实验代码如下:

import numpy as np
import time
NUM = 160
from numba import jit
a=np.random.random((NUM,NUM))

@jit(nopython=True)
def fun1(a):
    for i in range(NUM):
        for j in range(NUM):
            if a[i][j] == 1.0:
                pass

def fun2(a):
    for i in range(NUM):
        for j in range(NUM):
            if a[i][j] == 1.0:
                pass
    
@jit(nopython=True)
def fun3(a):
    for ii in range(NUM):
        b = a[ii,:]
        for jj in range(NUM):
            if b[jj] == 1.0:
                pass 


def fun4(a):
    for iii in range(NUM):
        b = a[iii,:]
        for jjj in range(NUM):
            if b[jjj] == 1.0:
                pass 

for b in range(4):
    start = time.time()
    fun1(a)
    end1 =  time.time()
    fun2(a)
    end2 =  time.time()
    fun3(a)
    end3 =  time.time()
    fun4(a)
    end4 =  time.time()
    print("end1",end1-start)
    print("end2",end2-end1)
    print("end3",end3-end2)
    print("end4",end4-end3)
    print("---")

结果如下:

end1 0.29421305656433105
end2 0.0059833526611328125
end3 0.08181905746459961
end4 0.0029909610748291016
---
end1 0.0
end2 0.005949735641479492
end3 0.0
end4 0.004008769989013672
---
end1 0.0
end2 0.006977558135986328
end3 0.0
end4 0.00399017333984375
---
end1 0.0
end2 0.005974292755126953
end3 0.0
end4 0.003837108612060547
---

结论:

numba加速时,第一次需要编译,需要耗时。之后调用就不需要了。

到此这篇关于python中的Numpy二维数组遍历与二维数组切片后遍历效率比较的文章就介绍到这了,更多相关Numpy二维数组遍历与二维数组切片后遍历效率比较内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python通过tcp发送xml报文的方法

    python通过tcp发送xml报文的方法

    今天小编就为大家分享一篇python通过tcp发送xml报文的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-12-12
  • python利用不到一百行代码实现一个小siri

    python利用不到一百行代码实现一个小siri

    这篇文章主要介绍了关于python利用不到一百行代码实现了一个小siri的相关资料,文中介绍的很详细,对大家具有一定的参考借鉴价值,需要的朋友们下面来一起看看吧。
    2017-03-03
  • Python正则表达式以及常用匹配实例

    Python正则表达式以及常用匹配实例

    在处理字符串时,经常会遇到查找符合某些复杂规则字符串的需求,正则表达式就是用于描述这些规则的工具,下面这篇文章主要给大家介绍了关于Python正则表达式以及常用匹配的相关资料,需要的朋友可以参考下
    2022-07-07
  • Python读取本地文件并解析网页元素的方法

    Python读取本地文件并解析网页元素的方法

    今天小编就为大家分享一篇Python读取本地文件并解析网页元素的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-05-05
  • Python实现字符串格式化输出的方法详解

    Python实现字符串格式化输出的方法详解

    这篇文章主要介绍了Python实现字符串格式化输出的方法,结合具体实例形式总结分析了Python字符串格式化输出的各种常用操作技巧,需要的朋友可以参考下
    2017-09-09
  • Python使用Redis实现作业调度系统(超简单)

    Python使用Redis实现作业调度系统(超简单)

    Redis作为内存数据库的一个典型代表,已经在很多应用场景中被使用,这里仅就Redis的pub/sub功能来说说怎样通过此功能来实现一个简单的作业调度系统。这里只是想展现一个简单的想法,所以还是有很多需要考虑的东西没有包括在这个例子中,比如错误处理,持久化等
    2016-03-03
  • Python Matplotlib绘制箱线图boxplot()函数详解

    Python Matplotlib绘制箱线图boxplot()函数详解

    箱线图一般用来展现数据的分布(如上下四分位值、中位数等),同时也可以用箱线图来反映数据的异常情况,下面这篇文章主要给大家介绍了关于Python Matplotlib绘制箱线图boxplot()函数的相关资料,需要的朋友可以参考下
    2022-07-07
  • Python实现SVM支持向量机的示例代码

    Python实现SVM支持向量机的示例代码

    SVM 的目的是在数据集中找到一条最佳分隔超平面,使得在这个超平面两侧的数据分别属于不同的类别,且该超平面与最近的数据点之间的距离最大。本文将通过Python实现SVM支持向量机,感兴趣的可以了解一下
    2023-02-02
  • 利用Python和OpenCV库将URL转换为OpenCV格式的方法

    利用Python和OpenCV库将URL转换为OpenCV格式的方法

    这篇文章主要介绍了利用Python和OpenCV库将URL转换为OpenCV格式的方法,同时用到了NumPy和urllib,需要的朋友可以参考下
    2015-03-03
  • 详解Python中dbm模块和shelve模块的使用

    详解Python中dbm模块和shelve模块的使用

    这篇文章主要为大家详细介绍了Python中dbm模块和shelve模块的具体用法,文中的示例代码简洁易懂,对我们深入学习Python有一定的帮助,需要的可以参考下
    2023-10-10

最新评论