PHP实现抓取百度搜索结果页面【相关搜索词】并存储到txt文件示例

 更新时间:2018年07月11日 12:19:29   作者:Young-杨培丽  
这篇文章主要介绍了PHP实现抓取百度搜索结果页面【相关搜索词】并存储到txt文件,涉及php基于curl的页面抓取及正则匹配相关操作技巧,需要的朋友可以参考下

本文实例讲述了PHP实现抓取百度搜索结果页面【相关搜索词】并存储到txt文件。分享给大家供大家参考,具体如下:

一、百度搜索关键词【脚本之家】

【脚本之家】搜索链接

https://www.baidu.com/s?ie=utf-8&f=8&rsv_bp=0&rsv_idx=1&tn=baidu&wd=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&rsv_pq=ab33cfeb000086a2&rsv_t=7c65vT3KzHCNfGYOIn%2FDSS%2BOQUiCycaspxWzSOBfkHYpgRIPKMI74WIi8K8&rqlang=cn&rsv_enter=1&rsv_sug3=1

搜索结果部分源代码:

<div id="rs"><div class="tt">相关搜索</div><table cellpadding="0"><tbody><tr><th><a href="/s?wd=%E6%B8%B8%E6%88%8F%E8%84%9A%E6%9C%AC%E4%B8%80%E8%88%AC%E9%83%BD%E5%9C%A8%E5%93%AA%E6%89%BE&amp;rsf=4562&amp;rsp=0&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >游戏脚本一般都在哪找</a></th><td></td><th><a href="/s?wd=%E8%84%9A%E6%9C%AC%E6%80%8E%E4%B9%88%E5%86%99&amp;rsf=4562&amp;rsp=1&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >脚本怎么写</a></th><td></td><th><a href="/s?wd=%E8%84%9A%E6%9C%AC%E6%98%AF%E4%BB%80%E4%B9%88%E6%84%8F%E6%80%9D&amp;rsf=4562&amp;rsp=2&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >脚本是什么意思</a></th></tr><tr><th><a href="/s?wd=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6app&amp;rsf=4562&amp;rsp=3&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >脚本之家app</a></th><td></td><th><a href="/s?wd=%E6%89%8B%E6%9C%BA%E8%84%9A%E6%9C%AC%E5%88%B6%E4%BD%9C&amp;rsf=4562&amp;rsp=4&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >手机脚本制作</a></th><td></td><th><a href="/s?wd=%E6%89%8B%E6%9C%BA%E8%84%9A%E6%9C%AC%E5%A4%A7%E5%85%A8&amp;rsf=4562&amp;rsp=5&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >手机脚本大全</a></th></tr><tr><th><a href="/s?wd=%E8%84%9A%E6%9C%AC%E6%B8%B8%E6%88%8F%E5%88%B6%E4%BD%9C%E5%A4%A7%E5%B8%88&amp;rsf=4562&amp;rsp=6&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >脚本游戏制作大师</a></th><td></td><th><a href="/s?wd=%E6%B8%B8%E6%88%8F%E8%84%9A%E6%9C%AC%E5%88%B6%E4%BD%9C%E6%95%99%E7%A8%8B&amp;rsf=4562&amp;rsp=7&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >游戏脚本制作教程</a></th><td></td><th><a href="/s?wd=%E8%84%9A%E6%9C%AC%E7%B2%BE%E7%81%B5&amp;rsf=4562&amp;rsp=8&amp;f=1&amp;oq=%E8%84%9A%E6%9C%AC%E4%B9%8B%E5%AE%B6&amp;ie=utf-8&amp;rsv_idx=1&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM&amp;rqlang=cn&amp;rs_src=0&amp;rsv_pq=c1ff4bdb000208b4&amp;rsv_t=a1f2OCsgS6vkkBcxsdqfBfehkXoR65%2FtFlpSI30%2F%2FMmk6jQJEukZbv30XaM" rel="external nofollow" >脚本精灵</a></th></tr></tbody></table></div>

二、抓取并保存本地

 

源代码

index.php:

<form action="index.php" method="post">
<input name="q" type="text" />
<input type="submit" value="Get Keywords" />
</form>
<?php
header('Content-Type:text/html;charset=gbk');
class ComBaike{
  private $o_String=NULL;
  public function __construct(){
    include('cls.StringEx.php');
    $this->o_String=new StringEx();
  }
  public function getItem($word){
    $url = "http://www.baidu.com/s?wd=".$word;
    // 构造包头,模拟浏览器请求
    $header = array (
      "Host:www.baidu.com",
      "Content-Type:application/x-www-form-urlencoded",//post请求
      "Connection: keep-alive",
      'Referer:http://www.baidu.com',
      'User-Agent: Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; BIDUBrowser 2.6)'
    );
    $ch = curl_init ();
    curl_setopt ( $ch, CURLOPT_URL, $url );
    curl_setopt ( $ch, CURLOPT_HTTPHEADER, $header );
    curl_setopt ( $ch, CURLOPT_RETURNTRANSFER, 1 );
    $content = curl_exec ( $ch );
    if ($content == FALSE) {
    echo "error:" . curl_error ( $ch );
    }
    curl_close ( $ch );
    //输出结果echo $content;
    $this->o_String->string=$content;
    $s_begin='<div id="rs">';
    $s_end='</div>';
    $summary=$this->o_String->getPart($s_begin,$s_end);
    $s_begin='<div class="tt">相关搜索</div><table cellpadding="0"><tr><th>';
    $s_end='</th></tr></table></div>';
    $content=$this->o_String->getPart($s_begin,$s_end);
    return $content;
  }
  public function __destruct(){
    unset($this->o_String);
  }
}
if($_POST){
  $com = new ComBaike();
  $q = $_POST['q'];
  $str = $com->getItem($q); //获取搜索内容
  $pat = '/<a(.*?)href="(.*?)" rel="external nofollow" (.*?)>(.*?)<\/a>/i';
  preg_match_all($pat, $str, $m);
  //print_r($m[4]); 链接文字
  $con = implode(",", $m[4]);
  //生成文件夹
  $dates = date("Ymd");
  $path="./Search/".$dates."/";
  if(!is_dir($path)){
    mkdir($path,0777,true);
  }
  //生成文件
  $file = fopen($path.iconv("UTF-8","GBK",$q).".txt",'w');
  if(fwrite($file,$con)){
    echo $con;
    echo '<script>alert("success")</script>';
  }else{
    echo '<script>alert("error")</script>';
  }
  fclose($file);
}
?>

cls.StringEx.php:

<?php
header('Content-Type: text/html; charset=UTF-8');
class StringEx{
  public $string='';
  public function __construct($string=''){
    $this->string=$string;
  }
  public function pregGetPart($s_begin,$s_end){
    $s_begin==preg_quote($s_begin);
    $s_begin=str_replace('/','\/',$s_begin);
    $s_end=preg_quote($s_end);
    $s_end=str_replace('/','\/',$s_end);
    $pattern='/'.$s_begin.'(.*?)'.$s_end.'/';
    $result=preg_match($pattern,$this->string,$a_match);
    if(!$result){
      return $result;
    }else{
      return isset($a_match[1])?$a_match[1]:'';
    }
  }
  public function strstrGetPart($s_begin,$s_end){
    $string=strstr($this->string,$s_begin);
    $string=strstr($string,$s_end,true);
    $string=str_replace($s_begin,'',$string);
    $string=str_replace($s_end,'',$string);
    return $string;
  }
  public function getPart($s_begin,$s_end){
    $result=$this->pregGetPart($s_begin,$s_end);
    if(!$result){
      $result=$this->strstrGetPart($s_begin,$s_end);
    }
    return $result;
  }
}
?>

更多关于PHP相关内容感兴趣的读者可查看本站专题:《php curl用法总结》、《PHP网络编程技巧总结》、《PHP数组(Array)操作技巧大全》、《php字符串(string)用法总结》、《PHP数据结构与算法教程》及《PHP中json格式数据操作技巧汇总

希望本文所述对大家PHP程序设计有所帮助。

相关文章

  • PHP中phar包的使用教程

    PHP中phar包的使用教程

    php中的phar类似于java中的打包文件jar,即将一个文件夹中的一类文件压缩。下面这篇文章主要给大家介绍了关于PHP中phar包使用的相关资料,文中介绍的还是相对比较详细的,需要的朋友们下面来一起看看吧。
    2017-06-06
  • mysql_fetch_assoc和mysql_fetch_row的功能加起来就是mysql_fetch_array

    mysql_fetch_assoc和mysql_fetch_row的功能加起来就是mysql_fetch_array

    mysql_fetch_assoc和mysql_fetch_row的功能加起来就是mysql_fetch_array...
    2007-01-01
  • PHP函数积累总结

    PHP函数积累总结

    这篇文章主要介绍了PHP函数积累,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-03-03
  • php mysql like 实现多关键词搜索的方法

    php mysql like 实现多关键词搜索的方法

    下面小编就为大家带来一篇php mysql like 实现多关键词搜索的方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2016-10-10
  • php 读取shell管道传输过来的内容

    php 读取shell管道传输过来的内容

    已经写了不少后台运行的deamon了.用的挺顺手的,但是我现在想获取管道传过来的内容,不知道咋实现,类似echo "aaaa" |a.php,a.php怎么获得echo的内容,不知道您有什么高见.
    2010-03-03
  • 深思 PHP 数组遍历的差异(array_diff 的实现)

    深思 PHP 数组遍历的差异(array_diff 的实现)

    深思 PHP 数组遍历的差异(array_diff 的实现)...
    2006-06-06
  • PHP实现获取ip地址的5种方法,以及插入用户登录日志操作示例

    PHP实现获取ip地址的5种方法,以及插入用户登录日志操作示例

    这篇文章主要介绍了PHP实现获取ip地址的5种方法,以及插入用户登录日志操作,结合实例形式总结分析了php获取访客IP地址的5种常见操作方法,以及将用户登陆信息写入登陆日志数据库相关操作技巧,需要的朋友可以参考下
    2019-02-02
  • 详解PHP中foreach的用法和实例

    详解PHP中foreach的用法和实例

    本篇文章介绍了详解PHP中foreach的用法和实例,详细介绍了foreach的用法,感兴趣的小伙伴们可以参考一下。
    2016-10-10
  • php动态生成缩略图并输出显示的方法

    php动态生成缩略图并输出显示的方法

    这篇文章主要介绍了php动态生成缩略图并输出显示的方法,涉及php操作图片的相关技巧,非常具有实用价值,需要的朋友可以参考下
    2015-04-04
  • php学习笔记之字符串常见操作总结

    php学习笔记之字符串常见操作总结

    这篇文章主要介绍了php学习笔记之字符串常见操作,结合实例形式总结分析了php字符串的定义、单引号与双引号的用法以及常见字符串操作函数使用技巧,需要的朋友可以参考下
    2019-07-07

最新评论