使用php方法curl抓取AJAX异步内容思路分析及代码分享

 更新时间:2014年08月25日 11:17:48   投稿:hebedich  
怎样抓取AJAX网站的内容?这是一个热门的问题,也是一个棘手的问题。但实际上呢,抓取ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求,只要使用firebug类似的工具,找到请求的后端服务url和传值的参数,然后对该url传递参数进行抓取即可

其实抓ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求,只要使用firebug类似的工具,找到请求的后端服务url和传值的参数,然后对该url传递参数进行抓取即可。

利用Firebug的网络工具                                                              

如果抓去的是页面,则内容中没有显示的数据,是一堆JS代码。

Code                                                                                   

$cookie_file=tempnam('./temp','cookie');
$ch = curl_init();
$url1 = "http://www.cdut.edu.cn/default.html";
curl_setopt($ch,CURLOPT_URL,$url1);
curl_setopt($ch,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1);
curl_setopt($ch,CURLOPT_HEADER,0);
curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);
curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);
curl_setopt($ch, CURLOPT_ENCODING ,'gzip'); //加入gzip解析
//设置连接结束后保存cookie信息的文件
curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file);
$content=curl_exec($ch);

curl_close($ch);

$ch3 = curl_init();
$url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalAjax.getNewsXml.dwr";
$curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0";
curl_setopt($ch3,CURLOPT_URL,$url3);
curl_setopt($ch3,CURLOPT_POST,1);
curl_setopt($ch3,CURLOPT_POSTFIELDS,$curlPost);

//设置连接结束后保存cookie信息的文件
curl_setopt($ch3,CURLOPT_COOKIEFILE,$cookie_file); 
$content1=curl_exec($ch3);
curl_close($ch3);

相关文章

  • 使用正则去除php代码中的注释方法

    使用正则去除php代码中的注释方法

    下面小编就为大家带来一篇使用正则去除php代码中的注释方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2016-11-11
  • PHP定时执行任务实现方法详解(Timer)

    PHP定时执行任务实现方法详解(Timer)

    这篇文章主要介绍了PHP定时执行任务实现方法详解,定时任务在web应用程序中比较常见,实现定时任务主要有两种方案:1)使用Crontab命令,2)配合使用ignore_user_abort()和set_time_limit(),有需要的朋友可以来借鉴下。
    2015-07-07
  • iOS10推送通知开发教程

    iOS10推送通知开发教程

    这篇文章主要为大家详细介绍了iOS 10推送通知开发教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2016-09-09
  • thinkPHP引入类的方法详解

    thinkPHP引入类的方法详解

    这篇文章主要介绍了thinkPHP引入类的方法,结合引入phpmailer类的示例分析了thinkPHP中引入邮件发送类的步骤、实现方法与使用技巧,需要的朋友可以参考下
    2016-12-12
  • php字符编码转换之gb2312转为utf8

    php字符编码转换之gb2312转为utf8

    PHP输出页面时经常有乱码,怎么办呢?今天我就提供一个方法,可以自动判断php字符编码,把gbk或gb2312编码的字符串转为utf8 。
    2013-10-10
  • laravel-admin select框默认选中的方法

    laravel-admin select框默认选中的方法

    今天小编就为大家分享一篇laravel-admin select框默认选中的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-10-10
  • phpexcel导入excel处理大数据(实例讲解)

    phpexcel导入excel处理大数据(实例讲解)

    下面小编就为大家带来一篇phpexcel导入excel处理大数据(实例讲解)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-08-08
  • 用Laravel轻松处理千万级数据的方法实现

    用Laravel轻松处理千万级数据的方法实现

    这篇文章主要介绍了用Laravel轻松处理千万级数据的方法实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-12-12
  • PHP zip扩展Linux下安装过程分享

    PHP zip扩展Linux下安装过程分享

    这篇文章主要介绍了PHP zip扩展Linux下安装过程分享,需要的朋友可以参考下
    2014-05-05
  • Laravel创建数据库表结构的例子

    Laravel创建数据库表结构的例子

    今天小编就为大家分享一篇Laravel创建数据库表结构的例子,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-10-10

最新评论