PHP快速导出百万级数据到CSV或者EXCEL文件

 更新时间:2020年11月27日 09:50:58   作者:autofelix  
这篇文章主要介绍了PHP快速导出百万级数据到CSV或者EXCEL文件,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

前言: 很多时候,因为数据统计,我们需要将数据库的数据导出到Excel等文件中,以供数据人员进行查看,如果数据集不大,其实很容易;但是如果对于大数集的导出,将要考虑各种性能的问题,这里以导出数据库一百万条数据为例,导出时间不过20秒,值的学习的一种大数据导出方式。

一、导出思路

  • 需要考虑服务器内存
  • 需要考虑程序运行的最大时间
  • 缺少BOM头导致乱码的处理
  • 如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出

二、导出源码

  • 下面源码将数据库信息修改成自己的即可使用
  • 亲测导出一百万条数据,3个字段,不过20秒
  • 如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低
<?php
  //让程序一直运行
  set_time_limit(0);
  //设置程序运行内存
  ini_set('memory_limit', '128M');
 
  $fileName = '测试导出数据';
  header('Content-Encoding: UTF-8');
  header("Content-type:application/vnd.ms-excel;charset=UTF-8");
  header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
  
  //打开php标准输出流
  $fp = fopen('php://output', 'a');
 
  //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
  fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
  //添加导出标题
  fputcsv($fp, ['姓名', '年龄', '地区']);
  
  //链接数据库
  $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
  $pdo = new PDO($dsn, 'root', '');
 
  $step = 100; //循环次数
  $nums = 10000; //每次导出数量
 
  for($i = 0; $i < $step; $i++) {
    $start = $i * 10000;
    $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
    $pdostatement = $pdo->query($sql);
    $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
    foreach ($result as $item) {
      fputcsv($fp, $item);
    }
    //每1万条数据就刷新缓冲区
    ob_flush();
    flush();
  } 

三、快速生成百万条测试数据

这里推荐数据库的蠕虫复制命令
先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长

INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;

到此这篇关于PHP快速导出百万级数据到CSV或者EXCEL文件的文章就介绍到这了,更多相关PHP 导出百万级数据内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • php将ppt转jpg图片的具体步骤代码

    php将ppt转jpg图片的具体步骤代码

    在本篇文章里小编给大家整理的是一篇关于php将ppt转jpg图片的具体步骤代码,有兴趣的朋友们可以跟着学习下。
    2021-07-07
  • PHP Laravel 使用Swagger生成API文档(基本概念和环境搭建)

    PHP Laravel 使用Swagger生成API文档(基本概念和环境搭建)

    Swagger是一种简单、强大的RESTful API表现形式,这篇文章主要介绍了PHP Laravel 使用Swagger生成API文档(基本概念和环境搭建),需要的朋友可以参考下
    2023-09-09
  • 基于PHP CURL获取邮箱地址的详解

    基于PHP CURL获取邮箱地址的详解

    本篇文章是对PHP利用CURL获取邮箱地址进行了详细的分析介绍,需要的朋友参考下
    2013-06-06
  • php实现图片压缩处理

    php实现图片压缩处理

    这篇文章主要为大家详细介绍了php实现图片压缩处理,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2020-09-09
  • laravel 判断查询数据库返回值的例子

    laravel 判断查询数据库返回值的例子

    今天小编就为大家分享一篇laravel 判断查询数据库返回值的例子,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-10-10
  • Laravel中schedule调度的运行机制

    Laravel中schedule调度的运行机制

    本文主要介绍了Laravel中schedule调度的运行机制,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2022-01-01
  • PHP中递归的实现实例详解

    PHP中递归的实现实例详解

    递归(http:/en.wikipedia.org/wiki/Recursive)是一种函数调用自身(直接或间接)的一种机制,这种强大的思想可以把某些复杂的概念变得极为简单。这篇文章主要介绍了PHP中递归的实现实例详解,需要的朋友可以参考下
    2017-11-11
  • jquery+thinkphp实现跨域抓取数据的方法

    jquery+thinkphp实现跨域抓取数据的方法

    这篇文章主要介绍了jquery+thinkphp实现跨域抓取数据的方法,结合实例形式分析了thinkPHP结合jQuery的ajax实现跨域抓取数据的相关操作技巧,需要的朋友可以参考下
    2016-10-10
  • 浅谈PHP中pack、unpack的详细用法

    浅谈PHP中pack、unpack的详细用法

    这篇文章主要介绍了浅谈PHP中pack、unpack的详细用法,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-03-03
  • Yii2选项卡的简单使用

    Yii2选项卡的简单使用

    这篇文章主要为大家详细介绍了Yii2选项卡的简单使用,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-05-05

最新评论