Python爬取知乎图片代码实现解析

 更新时间:2019年09月17日 11:19:08   作者:Python学习汇  
这篇文章主要介绍了Python爬取知乎图片代码实现解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

首先,需要获取任意知乎的问题,只需要你输入问题的ID,就可以获取相关的页面信息,比如最重要的合计有多少人回答问题。

问题ID为如下标红数字

编写代码,下面的代码用来检测用户输入的是否是正确的ID,并且通过拼接URL去获取该问题下面合计有多少答案。

import requests
import re
import pymongo
import time
DATABASE_IP = '127.0.0.1'
DATABASE_PORT = 27017
DATABASE_NAME = 'sun'
client = pymongo.MongoClient(DATABASE_IP,DATABASE_PORT)
db = client.sun
db.authenticate("dba", "dba")
collection = db.zhihuone # 准备插入数据
BASE_URL = "https://www.zhihu.com/question/{}"
def get_totle_answers(article_id):
  headers = {
    "user-agent": "需要自己补全 Mozilla/5.0 (Windows NT 10.0; WOW64)"
  }
  with requests.Session() as s:
    with s.get(BASE_URL.format(article_id),headers=headers,timeout=3) as rep:
      html = rep.text
      pattern =re.compile( '<meta itemProp="answerCount" content="(\d*?)"/>')
      s = pattern.search(html)
      print("查找到{}条数据".format(s.groups()[0]))
      return s.groups()[0]
if __name__ == '__main__':
  # 用死循环判断用户输入的是否是数字
  article_id = ""
  while not article_id.isdigit():
    article_id = input("请输入文章ID:")
  totle = get_totle_answers(article_id)
  if int(totle)>0:
    zhi = ZhihuOne(article_id,totle)
    zhi.run()
  else:
    print("没有任何数据!")

完善图片下载部分,图片下载地址在查阅过程中发现,存在json字段的content中,我们采用简单的正则表达式将他匹配出来。细节如下图展示

编写代码吧,下面的代码注释请仔细阅读,中间有一个小BUG,需要手动把pic3修改为pic2这个地方目前原因不明确,可能是我本地网络的原因,还有请在项目根目录先创建一个imgs的文件夹,用来存储图片

  def download_img(self,data):
    ## 下载图片
    for item in data["data"]:
      content = item["content"]
      pattern = re.compile('<noscript>(.*?)</noscript>')
      imgs = pattern.findall(content)
      if len(imgs) > 0:
        for img in imgs:
          match = re.search('<img src="(.*?)"', img)
          download = match.groups()[0]
          download = download.replace("pic3", "pic2") # 小BUG,pic3的下载不到
          print("正在下载{}".format(download), end="")
          try:
            with requests.Session() as s:
              with s.get(download) as img_down:
                # 获取文件名称
                file = download[download.rindex("/") + 1:]
                content = img_down.content
                with open("imgs/{}".format(file), "wb+") as f: # 这个地方进行了硬编码
                  f.write(content)

                print("图片下载完成", end="\n")
          except Exception as e:
            print(e.args)
      else:
        pass

运行结果为

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • python 算法题——快乐数的多种解法

    python 算法题——快乐数的多种解法

    看书,看视频都可以帮助你学习代码,但都只是辅助作用,学好 Python,最重要的还是 多敲代码,多刷题。本文讲述算法题快乐数的多种解法,帮你打开思路
    2021-05-05
  • Python接口自动化浅析requests请求封装原理

    Python接口自动化浅析requests请求封装原理

    本文主要通过源码分析,总结出一套简洁的requests请求类封装,帮助大家更好的由浅入深的理解python接口自动化,希望对大家的python接口自动化学习有所帮助
    2021-08-08
  • python中的关键字参数*args和**kwargs详解

    python中的关键字参数*args和**kwargs详解

    这篇文章主要介绍了python中的关键字参数*args和**kwargs详解,在定义类或函数时,有时候会用到*args和**kwargs,前者叫位置参数,后者叫关键字参数,需要的朋友可以参考下
    2023-11-11
  • Python的函数的一些高阶特性

    Python的函数的一些高阶特性

    这篇文章主要介绍了Python的函数的一些高阶特性,包括函数名用作变量等一些小技巧,需要的朋友可以参考下
    2015-04-04
  • Python经纬度坐标转换为距离及角度的实现

    Python经纬度坐标转换为距离及角度的实现

    这篇文章主要介绍了Python经纬度坐标转换为距离及角度的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-11-11
  • Pytorch中TensorDataset,DataLoader的联合使用方式

    Pytorch中TensorDataset,DataLoader的联合使用方式

    这篇文章主要介绍了Pytorch中TensorDataset,DataLoader的联合使用方式,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-02-02
  • Pandas出现KeyError的问题解决及分析

    Pandas出现KeyError的问题解决及分析

    本文主要介绍了Pandas出现KeyError的问题解决及分析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-01-01
  • Python深入浅出分析元类

    Python深入浅出分析元类

    在Python里一切都是对象(object),基本数据类型,如数字,字符串,函数都是对象。对象可以由类(class)进行创建。那么既然一切都是对象,那么类是对象吗?是的,类也是对象,那么又是谁创造了类呢?答案也很简单,也是类,一个能创作类的类,称之为(type)元类
    2022-07-07
  • Python实现对一个函数应用多个装饰器的方法示例

    Python实现对一个函数应用多个装饰器的方法示例

    这篇文章主要介绍了Python实现对一个函数应用多个装饰器的方法,结合实例形式分析了Python编程中一个函数使用多个装饰器的简单操作技巧,需要的朋友可以参考下
    2018-02-02
  • python中关于时间和日期函数的常用计算总结(time和datatime)

    python中关于时间和日期函数的常用计算总结(time和datatime)

    python中关于时间和日期函数有time和datatime使用介绍,需要的朋友可以参考下
    2013-03-03

最新评论