mysql技巧:提高插入数据(添加记录)的速度
问题描述:
普通台式机,采集数据,表中已经有>1000万数据量。
采集回来的数据插入表中的时候很慢,每条约100毫秒。
解决方法:
1、加大mysql配置中的bulk_insert_buffer_size,这个参数默认为8M
bulk_insert_buffer_size=100M
2、改写所有insert语句为insert delayed
这个insert delayed不同之处在于:立即返回结果,后台进行处理插入。
还有一个技巧是在一跳insert中插入多条数据,类似insert into tablename values('xxx','xxx'),('yyy','yyy'),('zzz','zzz')...;但是在我采集程序中改sql比较麻烦,故未采用
脚本之家小编提醒:
说实话一般主要用于数据的采集入库操作,成熟的cms不建议修改,dedecms是由于本人的系统设计问题,建议使用商业版或自行建立索引等,现在大数据首选帝国cms或phpcms。
相关文章
Navicat远程连接SQL Server并转换成MySQL步骤详解
最近遇到一个需求是将SQL Server转换为 MySQL的格式,由于不想在本地安装 SQL Server,所以决定在远程的 Windows 服务器上安装,并在本地使用Navicat远程连接它,然而在实现过程中遇到了诸多问题,记录于此。感兴趣的朋友们下面来一起学习学习吧。2017-01-01
mysql报1292 Incorrect datetime value错误的解决方法
这篇文章主要给大家介绍如何解决mysql报1292 Incorrect datetime value错误,文中有详细的解决方案,具有一定的参考价值,需要的同学可以参考阅读下本文2023-07-07


最新评论