Python爬虫:通过关键字爬取百度图片

 更新时间:2017年02月17日 09:58:19   作者:WC-cong  
本文主要介绍了Python爬虫:通过关键字爬取百度图片的方法。具有很好的参考价值,下面跟着小编一起来看下吧

使用工具:Python2.7 点我下载

scrapy框架

sublime text3

一。搭建python(Windows版本)

 1.安装python2.7 ---然后在cmd当中输入python,界面如下则安装成功

 2.集成Scrapy框架----输入命令行:pip install Scrapy

安装成功界面如下:

失败的情况很多,举例一种:

解决方案:

其余错误可百度搜索。

二。开始编程。

1.爬取无反爬虫措施的静态网站。例如百度贴吧,豆瓣读书。

例如-《桌面吧》的一个帖子https://tieba.baidu.com/p/2460150866?red_tag=3569129009

python代码如下:

代码注释:引入了两个模块urllib,re。定义两个函数,第一个函数是获取整个目标网页数据,第二个函数是在目标网页中获取目标图片,遍历网页,并且给获取的图片按照0开始排序。

注:re模块知识点:

爬取图片效果图:

图片保存路径默认在建立的.py同目录文件下。

2.爬取有反爬虫措施的百度图片。如百度图片等。

例如关键字搜索“表情包”https://image.baidu.com/search/index?tn=baiduimage&ct=201326592&lm=-1&cl=2&ie=gbk&word=%B1%ED%C7%E9%B0%FC&fr=ala&ori_query=%E8%A1%A8%E6%83%85%E5%8C%85&ala=0&alatpl=sp&pos=0&hs=2&xthttps=111111

图片采用滚动式加载,先爬取最优先的30张。

代码如下:

代码注释:导入4个模块,os模块用于指定保存路径。前两个函数同上。第三个函数使用了if语句,并tryException异常。

爬取过程如下:

爬取结果:

注:编写python代码注重对齐,and不能混用Tab和空格,易报错。

以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,同时也希望多多支持脚本之家!

相关文章

  • python词云库wordCloud使用方法详解(解决中文乱码)

    python词云库wordCloud使用方法详解(解决中文乱码)

    这篇文章主要介绍了python词云库wordCloud使用方法详解(解决中文乱码),需要的朋友可以参考下
    2020-02-02
  • python实现的config文件读写功能示例

    python实现的config文件读写功能示例

    这篇文章主要介绍了python实现的config文件读写功能,结合实例形式分析了Python文件读写相关操作技巧,需要的朋友可以参考下
    2019-09-09
  • 解决jupyter notebook import error但是命令提示符import正常的问题

    解决jupyter notebook import error但是命令提示符import正常的问题

    这篇文章主要介绍了解决jupyter notebook import error但是命令提示符import正常的问题,具有很好的参考
    2020-04-04
  • python上下文管理器协议的实现

    python上下文管理器协议的实现

    这篇文章主要介绍了python上下文管理器协议的实现,在python中所有实现了上下文管理器协议的对象 都可以用使用with操作,with启动了对象的上下文管理器
    2022-06-06
  • Python学习之列表和元组的使用详解

    Python学习之列表和元组的使用详解

    如果说在Python语言中找一个最优秀的数据类型,那无疑是列表,如果要在推荐一个,那我选择元组。本篇文章我们的重心会放在列表上,元组可以看成不能被修改的列表,感兴趣的可以了解一下
    2022-10-10
  • Python xmltodict实现简化XML数据处理

    Python xmltodict实现简化XML数据处理

    Python社区为提供了xmltodict库,它专为简化XML与Python数据结构的转换而设计,本文主要来为大家介绍一下如何使用xmltodict实现简化XML数据处理,希望对大家有所帮助
    2025-01-01
  • Python图片处理之图片裁剪教程

    Python图片处理之图片裁剪教程

    这篇博文的目的是从图片中提取一定的矩形区域作为新的图片 简单来说:我的全家福丢了,所以我想从以前的房间照片里,提取出其中的全家福并重新打印一张(忽视画质问题)现在我就是这么个目的,需要的朋友可以参考下
    2021-05-05
  • Python利用Turtle绘制哆啦A梦和小猪佩奇

    Python利用Turtle绘制哆啦A梦和小猪佩奇

    turtle库是python的基础绘图库,经常被用来介绍编程知识的方法库,是标准库之一,利用turtle可以制作很多复杂的绘图。本文将为大家介绍通过turtle库绘制制哆啦A梦和小猪佩奇,感兴趣的小伙伴可以学习一下
    2022-04-04
  • python中如何调用ansys

    python中如何调用ansys

    这篇文章主要介绍了python中如何调用ansys问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-02-02
  • Python实现括号匹配方法详解

    Python实现括号匹配方法详解

    这篇文章主要介绍了python实现括号匹配方法详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-02-02

最新评论