使用Python如何测试InnoDB与MyISAM的读写性能
前言
由于近期有个项目对系统性能要求很高，技术选型上由于种种原因已经确定使用Mysql数据库，接下来就是要确定到底使用哪种存储引擎。我们的应用是典型的写多读少，写入内容为也很短，对系统的稳定性要求很高。所以存储引擎肯定就定在广泛使用的Innodb和MyISAM之中了。
至于两者的比较网上也有很多，但是毕竟这个事情也不复杂，决定还是自己来做，去验证一下在我们的场景下谁更优。
本文测试所用工具版本如下：
| Tools | Version |
|---|---|
| MySQL | 5.7.18 |
| Python | 3.6 |
| Pandas | 0.23 |
① 创建数据表
首先我们需要把两张使用了不同引擎的表创建出来，使用为了方便起见，我们直接使用Navicat创建了两张 员工信息表，具体字段如下：
使用InnoDB引擎的表，设计表名为innodb，选项如下：
使用InnoDB引擎的表，设计表名为myisam，选项如下：
因为是简单操作，创建的具体细节就不详述了，至此，我们的数据库就把使用 InnoDB 和 MyISAM 两种引擎的表创建好了。
② 单线程写入性能对比
1. InnoDB 引擎
执行以下代码，往使用了InnoDB引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for i in range(1000):
data = {'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i}
df = pd.DataFrame(data, index=[0])
df.to_sql('innodb', db, if_exists='append', index=False)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：12.58s、14.10s、12.71s，平均写入时间为 13.13s。
2. MyISAM 引擎
执行以下代码，往使用了MyISAM引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for i in range(1000):
data = {'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i}
df = pd.DataFrame(data, index=[0])
df.to_sql('myisam', db, if_exists='append', index=False)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：6.64s、6.99s、7.29s，平均写入时间为 6.97s。
两种引擎的单线程写入速度对比如下：
结论：单线程的情况下，MyISAM引擎的写入速度比InnoDB引擎的写入速度快88%
③ 多线程写入性能对比
1. InnoDB 引擎
执行以下代码，往使用了InnoDB引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
from concurrent.futures import ThreadPoolExecutor
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
data_lst = [{'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i} for i in range(1000)]
def write(data):
df = pd.DataFrame(data, index=[0])
df.to_sql('innodb', db, if_exists='append', index=False)
def execute():
with ThreadPoolExecutor(max_workers=5) as executor:
executor.map(write, data_lst)
execute()
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：4.98s、4.84s、4.88s，平均写入时间为 4.9s。
2. MyISAM 引擎
执行以下代码，往使用了MyISAM引擎的表格插入1000条数据
import pandas as pd
from sqlalchemy import create_engine
import time
from concurrent.futures import ThreadPoolExecutor
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
data_lst = [{'index': i,
'name': 'name_' + str(i),
'age': i,
'salary': i,
'level': i} for i in range(1000)]
def write(data):
df = pd.DataFrame(data, index=[0])
df.to_sql('myisam', db, if_exists='append', index=False)
def execute():
with ThreadPoolExecutor(max_workers=5) as executor:
executor.map(write, data_lst)
execute()
end = time.time()
print(end - start)
执行3次上面的代码，得到程序写入1000条数据的时间分别为：3.29s、3.62s、3.47s，平均写入时间为 3.46s。
两种引擎的多线程写入速度对比如下：
结论：多线程的情况下，MyISAM引擎的写入速度比InnoDB引擎的写入速度快42%
④ 读取性能对比
为了获得数据量较大的表用于测试数据库的读取性能，我们循环执行10遍上面多线程写入数据的操作，得到两张数据量为10000条数据的表格，然后读取10遍该表格，获取读取时间
1. InnoDB 引擎
执行以下代码，读取10遍使用了InnoDB引擎的表格
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for _ in range(10):
df = pd.read_sql('innodb', db)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序10次读取10000条数据的时间分别为：28.94s、28.88s、28.48s，平均写入时间为 28.77s。
2. MyISAM 引擎
执行以下代码，读取10遍使用了MyISAM引擎的表格
import pandas as pd
from sqlalchemy import create_engine
import time
db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()
for _ in range(10):
df = pd.read_sql('innodb', db)
end = time.time()
print(end - start)
执行3次上面的代码，得到程序10次读取10000条数据的时间分别为：28.51s、29.12s、28.76s，平均写入时间为 28.8s。
两种引擎的读取速度对比如下：
结论：MyISAM引擎和InnoDB引擎的读取速度无明显差异
⑤ 总结
1. 写入速度，MyISAM比InnoDB快，单线程的情况下，两者差异尤为明显
2. 读取速度，InnoDB和MyISAM无明显差异
好了，以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，如果有疑问大家可以留言交流，谢谢大家对脚本之家的支持。
相关文章
python Pexpect 实现输密码 scp 拷贝的方法
今天小编就为大家分享一篇python Pexpect 实现输密码 scp 拷贝的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
Pygame出现播放背景音乐卡顿的问题分析及解决(发生在win10更新至win11后)
Pygame是常用的游戏开发库之一,然而在使用Pygame的过程中,却出现了播放背景音乐卡顿的问题,表现为咯咯咯的噪音,所以本文记录了Pygame出现播放背景音乐卡顿的问题分析及解决,需要的朋友可以参考下2024-02-02
这篇文章主要介绍了tkinter padx参数，帮助大家更好的理解和学习,感兴趣的朋友可以了解下,希望能够给你带来帮助2021-10-10
keras中的loss、optimizer、metrics用法
这篇文章主要介绍了keras中的loss、optimizer、metrics用法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
作为程序猿，大家可能都熟悉linux系统的基础信息获取方法都是通过shell来获取，但是在python中，我们还可以使用psutil模块来获取系统信息。psutil模块把shell查看系统基础信息的功能都包装了下，使用更加简单，功能丰富。2016-08-08
OpenCV3.0+Python3.6实现特定颜色的物体追踪
这篇文章主要为大家详细介绍了OpenCV3.0+Python3.6实现特定颜色的物体追踪，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-07-07
setting配置也经常将一些配置混淆今天主要是介绍django中的setting最佳配置小结，需要的朋友参考下吧2017-11-11
这篇文章主要介绍了Python中join 和 split详解的相关资料,本文还通过一个示例给大家介绍python join 和 split方法 的使用，需要的朋友可以参考下2016-06-06
今天小编就为大家分享一篇关于Python用5行代码写一个自定义简单二维码的文章，小编觉得内容挺不错的，现在分享给大家，具有很好的参考价值，需要的朋友一起跟随小编来看看吧2018-10-10
这篇文章主要介绍了Python调用钉钉自定义机器人的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-01-01
最新评论