python爬虫实例之获取动漫截图

更新时间：2020年05月31日 10:24:02 作者：四月一日君寻

这篇文章主要给大家介绍了关于python爬虫实例之获取动漫截图的相关资料，文中通过示例代码介绍的非常详细，对大家学习或者使用python具有一定的参考学习价值，需要的朋友们下面来一起学习学习吧

引言

之前有些无聊（呆在家里实在玩的腻了），然后就去B站看了一些python爬虫视频，没有进行基础的理论学习，也就是直接开始实战，感觉跟背公式一样的进行爬虫，也算行吧，至少还能爬一些东西，hhh。我今天来分享一个我的爬虫代码。

正文

话不多说，直接上完整代码

ps：这个代码有些问题每次我爬到fate的图片它就给我报错，我只好用个try来跳过了，如果有哪位大佬能帮我找出错误并给与纠正，我将不胜感激

import requests as r
import re
import os
import time
file_name = "动漫截图"
if not os.path.exists(file_name):
 os.mkdir(file_name)
    
for p in range(1,34):
  print("--------------------正在爬取第{}页内容------------------".format(p))
  url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)
  headers = {"user-agent"
   : "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36"}
   
  resp = r.get(url, headers=headers) 
  html = resp.text

  images = re.findall('data-original="(.*?)" ', html)
  names =re.findall('title="(.*?)"', html)
  #print(images)
  #print(names)
  dic = dict(zip(images, names))
  for image in images:
    time.sleep(1)
    print(image, dic[image])
    name = dic[image]
    #name = image.split('/')[-1]
    i = r.get(image, headers=headers).content
    try:
      with open(file_name + '/' + name + '.jpg' , 'wb') as f:
       f.write(i)
    except FileNotFoundError:
     continue

先导入要使用的库

import requests as r
import re
import os
import time

然后去分析要去爬的网址： https://www.acgimage.com/shot/recommend

下图是网址的内容：

好了 url已经确定

下面去寻找headers

找到user-agent 将其内容复制到headers中

第一步就完成了

下面是代码展示

url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)
headers = {"user-agent"
   : "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36"
   }

然后检索要爬的图片内容

从上图就可以找到图片的位置：data-origina=后面的内容
以及图片的名字：title=后面的内容

然后用正则表达式re来检索就行了

images = re.findall('data-original="(.*?)" ', html)
names =re.findall('title="(.*?)"', html)

最后将其保存就好了

i = r.get(image, headers=headers).content
with open(file_name + '/' + name + '.jpg' , 'wb') as f:
     f.write(i)

还有就是一些细节了

比如换页

第一页网址：

https://www.acgimage.com/shot/recommend

第二页网址：https://www.acgimage.com/shot/recommend?page=2

然后将page后面的数字改动就可以跳到相应的页面

换页的问题也就解决了

or p in range(1,34):
    url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)

以及将爬到的图片放到自己建立的文件zh

使用了os库

 file_name = "动漫截图"
 if not os.path.exists(file_name):
   os.mkdir(file_name)

以及为了不影响爬取的网站使用了sleep函数

虽然爬取的速度慢了一些

但是这是应遵守的道德

time.sleep(1)

以上这就是我的爬虫过程

还是希望大佬能解决我的错误之处

万分感谢

总结

到此这篇关于python爬虫实例之获取动漫截图的文章就介绍到这了,更多相关python爬虫获取动漫截图内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

Python Matplotlib绘制箱线图boxplot()函数详解
箱线图一般用来展现数据的分布(如上下四分位值、中位数等),同时也可以用箱线图来反映数据的异常情况,下面这篇文章主要给大家介绍了关于Python Matplotlib绘制箱线图boxplot()函数的相关资料,需要的朋友可以参考下
2022-07-07
Python模块psycopg2连接postgresql的实现
本文主要介绍了Python模块psycopg2连接postgresql的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
2023-07-07
Python中join和split用法实例
这篇文章主要介绍了Python中join和split用法实例,本文直接给出使用实例,需要的朋友可以参考下
2015-04-04
Django框架多表查询实例分析
这篇文章主要介绍了Django框架多表查询,结合实例形式分析了Django框架实现多表查询的外键、关联、前向查询、反向查询等相关操作技巧与注意事项,需要的朋友可以参考下
2018-07-07
实例讲解Python中浮点型的基本内容
在本文里小编给大家整理了关于Python中浮点型的基本知识点内容，有兴趣的朋友们学习下。
2019-02-02
python 使用opencv 把视频分割成图片示例
今天小编就为大家分享一篇python 使用opencv 把视频分割成图片示例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-12-12
python内置函数sorted()用法深入分析
这篇文章主要介绍了python内置函数sorted()用法,结合实例形式较为深入的分析了Python内置函数sorted()功能、使用方法及相关操作注意事项,需要的朋友可以参考下
2019-10-10
Python字符串、列表、元组、字典、集合的补充实例详解
这篇文章主要介绍了Python字符串、列表、元组、字典、集合,结合实例形式详细分析了Python字符串、列表、元组、字典、集合常见函数使用方法及相关操作注意事项,需要的朋友可以参考下
2019-12-12
爬虫小技巧利用Mitmproxy破解app
不同于Fiddler或Wireshark等抓包工具，mitmproxy不仅可以截获请求帮助开发者查看、分析，还可以通过自定义脚本进行二次开发
2021-09-09
Python Opencv提取图片中某种颜色组成的图形的方法
这篇文章主要介绍了Python Opencv提取图片中某种颜色组成的图形的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2019-09-09