PHP按行读取、处理较大CSV文件的代码实例

 更新时间:2014年04月09日 11:59:15   作者:  
这篇文章主要介绍了PHP按行读取、处理较大CSV文件的代码实例,需要的朋友可以参考下

对于数百万条数据量的CSV文件,文件大小可能达到数百M,如果简单读取的话很可能出现超时或者卡死的现象。

为了成功将CSV文件里的数据导入数据库,分批处理是非常必要的。

下面这个函数是读取CSV文件中指定的某几行数据:

复制代码 代码如下:

/**
 * csv_get_lines 读取CSV文件中的某几行数据
 * @param $csvfile csv文件路径
 * @param $lines 读取行数
 * @param $offset 起始行数
 * @return array
 * */
function csv_get_lines($csvfile, $lines, $offset = 0) {
    if(!$fp = fopen($csvfile, 'r')) {
     return false;
    }
    $i = $j = 0;
 while (false !== ($line = fgets($fp))) {
  if($i++ < $offset) {
   continue;
  }
  break;
 }
 $data = array();
 while(($j++ < $lines) && !feof($fp)) {
  $data[] = fgetcsv($fp);
 }
 fclose($fp);
    return $data;
}

调用方法:
复制代码 代码如下:

$data = csv_get_lines('path/bigfile.csv', 10, 2000000);
print_r($data);

函数主要采用行定位的思路,通过跳过起始行数来实现文件指针定位。

上述函数对500M以内的文件进行过测试,运行通畅,对于更大的文件未做测试,请斟酌使用或加以改进。

相关文章

  • php实现天干地支计算器示例

    php实现天干地支计算器示例

    天干地支,简称“干支”,这是中国古代的历法,下面使用php实现一个天干地支计算器,需要的朋友可以参考下
    2014-03-03
  • Laravel框架实现的rbac权限管理操作示例

    Laravel框架实现的rbac权限管理操作示例

    这篇文章主要介绍了Laravel框架实现的rbac权限管理操作,结合实例形式分析了Laravel框架权限控制rbac相关数据库创建、读写及权限判断等操作技巧,需要的朋友可以参考下
    2019-01-01
  • form表单传递数组数据、php脚本接收的实例

    form表单传递数组数据、php脚本接收的实例

    下面小编就为大家带来一篇form表单传递数组数据、php脚本接收的实例。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-02-02
  • Laravel 5使用Laravel Excel实现Excel/CSV文件导入导出的功能详解

    Laravel 5使用Laravel Excel实现Excel/CSV文件导入导出的功能详解

    这篇文章主要给大家介绍了关于在Laravel 5中如何使用Laravel Excel实现Excel/CSV文件导入导出功能的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下。
    2017-10-10
  • CI(CodeIgniter)框架中URL特殊字符处理与SQL注入隐患分析

    CI(CodeIgniter)框架中URL特殊字符处理与SQL注入隐患分析

    这篇文章主要介绍了CI(CodeIgniter)框架中URL特殊字符处理与SQL注入隐患,结合实例形式分析了CodeIgniter框架中针对特殊字符的过滤及SQL注入隐患的相关原理,需要的朋友可以参考下
    2019-02-02
  • PHPMailer发送邮件

    PHPMailer发送邮件

    PHPMailer是一个封装好的PHP邮件发送类,支持发送HTML内容的电子邮件,以及图片附件,前提要设置好邮件服务器就能实现邮件发送功能。本文给大家分享PHPMailer发送邮件功能,一起看看吧
    2016-12-12
  • PHP解决高并发问题(opcache)

    PHP解决高并发问题(opcache)

    这篇文章主要介绍了PHP解决高并发问题(opcache),本篇文章通过简要的案例,讲解了该项技术的了解与使用,以下就是详细内容,需要的朋友可以参考下
    2021-07-07
  • php获取本年、本月、本周时间戳和日期格式的实例代码

    php获取本年、本月、本周时间戳和日期格式的实例代码

    这篇文章主要介绍了php获取本年、本月、本周时间戳和日期格式,本文通过实例代码给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-01-01
  • 实例分析10个PHP常见安全问题

    实例分析10个PHP常见安全问题

    在本篇文章里小编给各位分享了关于10个PHP常见安全问题以及相关实例代码,需要的朋友们学习参考下。
    2019-07-07
  • Laravel定时任务的每秒执行代码

    Laravel定时任务的每秒执行代码

    今天小编就为大家分享一篇Laravel定时任务的每秒执行代码,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-10-10

最新评论