手把手带你用python爬取小姐姐私房照

 更新时间:2021年08月24日 09:33:39   作者:退休的龙叔  
这篇文章主要介绍了用python如何爬取小姐姐私房照,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下

如何用Python搞到小姐姐私房照

本文纯技术角度出发,教你如何用Python爬虫获取百度图库海量照片——技术无罪。

学会获取小姐姐私房照同理可得也能获取其他的照片,技术原理是一致的。

目标站点

百度图片使用关键字搜索 小姐姐私房照

https://image.baidu.com/

开发环境

  • 系统:Windows10 64位
  • Python版本:Python3.6.5(Python3以上版本即可)
  • IDE:Pycharm(非必须,其实你完全可以记事本写代码)
  • 第三方库:requests、jsonpath

效果预览

网页私房照

在这里插入图片描述

代码爬取效果

在这里插入图片描述

正式教程

一、第三方库安装

在确保你正确安装了Python解释器之后,我们还需要安装几个第三方库,命令如下**[在终端中安装即可]**:

HTTP请求库:

pip3 install requests

JSON数据解析库:

pip3 install jsonpath

二、爬虫的基本套路

  • 不管是爬取哪类网站,在爬虫中基本都遵循以下的基本套路:

     请求数据 → 获取响应内容 → 解析内容 → 保存数据

在这里插入图片描述

  • 当然,以上步骤是代码的编写思路,实际操作中应该还要添加一个前置步骤,所以完整流程如下:

     分析目标站点 → 请求网站获取数据 → 解析内容 → 保存数据

在这里插入图片描述

分析目标站点

快速的分析目标站点就很容易发现百度图库的图片资源是通过AJAX加载的,所以我们要请求的链接并非浏览器地址栏链接,而是ajax加载的数据包的资源路径,如图:
在这里插入图片描述

那么问题来了,如何获取到这些数据包的地址?其实很简单,如图所示:

在这里插入图片描述

请求网站获取数据

编写代码请求资源,这里有一点需要注意:请求头必须携带,否则有可能请求失败导致报错。

import requests  # 导包

# 构建请求头,把爬虫程序伪装成正常的浏览器用户
headers = {
    'sec-fetch-dest': 'image',
    'Host': 'image.baidu.com',
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36 Edg/89.0.774.50',
}
# 资源包的url链接
url = 'https://image.baidu.com/search/acjson?tn=resultjson_com&logid=10913526997707526921&ipn=rj&ct=201326592&is=&fp=result&queryWord=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=&hd=&latest=&copyright=&word=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&expermode=&force=&pn=210&rn=30&gsm=d2&1616553658252='

# 构建请求
response = requests.get(url,headers=headers)
# 查看状态码
print(response.status_code)
# 获取原始数据
response.json()

解析数据

上述代码最终获取到的数据是json数据,也就是我们Python中常说的字典,它长这样:

{
    "queryEnc":"%D0%A1%BD%E3%BD%E3%CB%BD%B7%BF%D5%D5",
    "queryExt":"小姐姐私房照",
    "listNum":758,
    "displayNum":8392,
    "gsm":"f0",
    "bdFmtDispNum":"约8,390",
    "bdSearchTime":"",
    "isNeedAsyncRequest":0,
    "bdIsClustered":"1",
    "data":[
        Object{...},   # 没张私房照对应的详细信息,其中就有图片的URL 
        Object{...},
        ···
}

既然它是一个字典,我们当然是可以使用Python中的键值索引方式获取到想要的数据,但是此方法太笨,这里介绍一种更加高明的方式,使用jsonpath解析数据

# 这一行代码便可以获取到所有图片的URL,返回的是一个列表,遍历即可拿到每一个URL
imgs = jsonpath.jsonpath(json_data, '$..middleURL')

使用requests请求图片URL,获取图片数据

image_data = requests.get(page_url).content

保存数据

使用Python中的文件对象,保存图片,图片名字使用时间戳命名,避免图片重名

with open('imgs/' + datetime.now().strftime("%Y%m%d%H%M%S%f") + '.jpg', 'wb') as f:
     f.write(image_data)

写在最后

到这整个儿爬虫程序就写完了。

当然,当前的这个只能爬取一个资源包中的数据,要爬取多个资源包或者说全部资源包的数据也是很简单的,只需要分析分析资源包的URL变化规律就不难发现其中的某个关键字变化,灵活改变该关键字就可以不断爬取。

文章正文到这里已经结束了,只是想感谢一些阅读我文章的人。

我退休后一直在学习如何写文章,说实在的,每次我在后台看到一些读者的回应就会觉得很欣慰,于是我想把我收藏的一些编程干货贡献给大家,回馈每一个读者,希望能帮到你们。

到此这篇关于手把手带你用python爬取小姐姐私房照的文章就介绍到这了,更多相关python爬取图片内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 在pycharm中执行 os.makedirs 提示用户名或密码不正确的问题及解决方法

    在pycharm中执行 os.makedirs 提示用户名或密码不正确的问题及解决方法

    这篇文章主要介绍了在pycharm中执行 os.makedirs 提示用户名或密码不正确的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧
    2024-01-01
  • Python获取和设置代理的动态IP的方式

    Python获取和设置代理的动态IP的方式

    在网络世界中,代理和动态IP是非常常见的概念,尤其对于需要大规模访问网站或者需要隐藏真实IP地址的应用程序来说,更是必不可少的工具,本文将给大家介绍如何使用编程技术来实现动态IP的设置和管理,需要的朋友可以参考下
    2024-05-05
  • Django中几种重定向方法

    Django中几种重定向方法

    这篇文章主要介绍了Django中几种重定向方法,本文讲解了使用HttpResponseRedirect、redirect、reverse以及配置文件中配置URL等方法,需要的朋友可以参考下
    2015-04-04
  • python 调用js的四种方式

    python 调用js的四种方式

    这篇文章主要介绍了python 调用js的四种方式,帮助大家更好的理解和学习使用python,感兴趣的朋友可以了解下
    2021-04-04
  • Python实现数据库与Excel文件之间的数据自动化导入与导出

    Python实现数据库与Excel文件之间的数据自动化导入与导出

    数据库和Excel文件是两种常见且重要的数据存储方式,本文将介绍如何使用Python有效地实现数据库与Excel文件之间的数据自动化导入与导出,以SQLite数据库为例,需要的朋友可以参考下
    2024-06-06
  • 一文带你深入理解Python魔法方法

    一文带你深入理解Python魔法方法

    在Python中,魔法方法是指那些以双下划线开头和结尾的特殊方法,它们是Python的内置方法,对应于Python对象的各种运算符,这篇文章将深入探讨Python的一些魔法方法,并通过示例展示如何使用它们,需要的朋友可以参考下
    2023-06-06
  • Python+Tkinter实现简单的画图软件

    Python+Tkinter实现简单的画图软件

    这篇文章主要为大家详细介绍了如何利用Python和Tkinter实现编写一个简单的画图软件,可以实现画图、保存、撤销等功能,感兴趣的可以了解一下
    2023-04-04
  • python使用opencv实现马赛克效果示例

    python使用opencv实现马赛克效果示例

    这篇文章主要介绍了python使用opencv实现马赛克效果,结合实例形式分析了Python使用cv2模块操作图片实现马赛克效果的相关技巧,需要的朋友可以参考下
    2019-09-09
  • 使用Python从图像中提取文本OCR库的操作详解

    使用Python从图像中提取文本OCR库的操作详解

    光学字符识别(OCR, Optical Character Recognition)是一种将印刷或手写文本从图像、PDF或扫描件中提取为机器可读文本的技术,使用Python进行OCR处理,开发者可以轻松调用各种OCR库,所以本文将给大家介绍使用Python从图像中提取文本OCR库的操作
    2024-08-08
  • Python 在 VSCode 中使用 IPython Kernel 的方法详解

    Python 在 VSCode 中使用 IPython Kernel 的方法详解

    这篇文章主要介绍了Python 在 VSCode 中使用 IPython Kernel 的方法,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-09-09

最新评论