浅析php如何实现爬取数据原理

 更新时间:2018年09月27日 14:14:32   投稿:laozhang  
在本篇文章中,小编给大家分享了关于php如何实现爬取数据的原理知识点,有兴趣的朋友们参考下。

官方网站站点:简单、 灵活、强大的PHP采集工具,让采集更简单一点。

简介

QueryList使用jQuery选择器来做采集,让你告别复杂的正则表达式;QueryList具有jQuery一样的DOM操作能力、Http网络操作能力、乱码解决能力、内容过滤能力以及可扩展能力;可以轻松实现诸如:模拟登陆、伪造浏览器、HTTP代理等意复杂的网络请求;拥有丰富的插件,支持多线程采集以及使用PhantomJS采集JavaScript动态渲染的页面。

安装

通过Composer安装:

composer require jaeger/querylist

使用教程:

直接上代码:

<?php
include './vendor/autoload.php';
// 使用composer安装后引入目录
use QL\QueryList;
// 使用插件
 
$html = file_get_contents('https://www.biqudu.com/14_14778/');
// 手动获取页面
$data = QueryList::html($html);
// 得到页面内容
$data = QueryList::setHtml('https://www.biqudu.com/14_14778/');
// 等同于上面的html()
$data->rules([
  // 采集所有a标签的href属性
  'link' => ['a','href'],
  // 采集所有a标签的文本内容
  'text' => ['a','text']
  ]);
// 此处$data = 上面已经获取到网页内容之后的对象
// 设置采集规则 替代了传统正则
$data->query();
// 此处$data = 上面已经获取到网页内容之后的对象 
// query 执行操作
$data->getData();
// 此处$data = 上面已经获取到网页内容之后的对象
// 得到数据结果
$data->all();
// 此处$data = 上面已经获取到网页内容之后的对象
// 将数据转换成二维数组
print_r($data->all());
// 打印结果

上面的基本使用方法就是这样了 这样我们已经可以抓取到一定的数据了

相关文章

  • php用户登录之cookie信息安全分析

    php用户登录之cookie信息安全分析

    这篇文章主要介绍了php用户登录之cookie信息安全,介绍了cookie加密与令牌保护两种cookie信息安全保护的技巧,需要的朋友可以参考下
    2016-05-05
  • php简单实现批量上传图片的方法

    php简单实现批量上传图片的方法

    这篇文章主要介绍了php简单实现批量上传图片的方法,实例分析了php文件传输的实现技巧,具有一定参考借鉴价值,需要的朋友可以参考下
    2016-05-05
  • php 解压rar文件及zip文件的方法

    php 解压rar文件及zip文件的方法

    rar文件解压php没有直接支持的,不过可以通过下载将非线程安全的dll然后扔到php的ext目录下,之后按照下面的步骤操作即可
    2014-05-05
  • PHP结合jQuery实现找回密码

    PHP结合jQuery实现找回密码

    本文将使用PHP+Mysql+jQuery来实现一个密码找回的功能,分享给大家思路和具体的代码,有需要的小伙伴可以参考下。
    2015-07-07
  • 浅谈php中mysql与mysqli的区别分析

    浅谈php中mysql与mysqli的区别分析

    本篇文章是对php中mysql与mysqli的区别进行了详细的分析介绍,需要的朋友参考下
    2013-06-06
  • php简单统计中文个数的方法

    php简单统计中文个数的方法

    这篇文章主要介绍了php简单统计中文个数的方法,涉及strlen、mb_strlen及mb_strwidth等函数的使用方法与相关注意事项,需要的朋友可以参考下
    2016-09-09
  • php foreach、while性能比较

    php foreach、while性能比较

    foreach是对数组副本进行操作(通过拷贝数组),而while则通过移动数组内部指标进行操作,一般逻辑下认为,while应该比foreach快.
    2009-10-10
  • php判断IP地址是否在多个IP段内

    php判断IP地址是否在多个IP段内

    这篇文章主要为大家详细介绍了php判断IP地址是否在多个IP段内,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2020-08-08
  • ThinkPHP中处理表单中的注意事项

    ThinkPHP中处理表单中的注意事项

    这篇文章主要介绍了ThinkPHP中处理表单中的注意事项,分析并总结了ThinkPHP表单处理中需要注意的问题,包括URL访问、错误处理、查询、添加、删除的技巧等问题,需要的朋友可以参考下
    2014-11-11
  • PHP设计模式之装饰器模式实例详解

    PHP设计模式之装饰器模式实例详解

    这篇文章主要介绍了PHP设计模式之装饰器模式,简单介绍了装饰器模式的概念、功能并结合实例形式详细分析了php实现与使用装饰器模式的相关操作技巧,需要的朋友可以参考下
    2018-02-02

最新评论