Python编写百度贴吧的简单爬虫
更新时间:2015年04月02日 09:31:23 投稿:hebedich
这篇文章主要介绍了Python编写百度贴吧的简单爬虫,简单实现了下载对应页码的页面并存为以当前时间命名的html文件,这里分享给大家,抛砖引玉。
操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数
功能:下载对应页码的所有页面并储存为HTML文件,以当前时间命名
代码:
# -*- coding: utf-8 -*- #---------------------------- # 程序:百度贴吧的小爬虫 # 日期:2015/03/28 # 语言:Python 2.7 # 操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数 # 功能:下载对应页码的所有页面并储存为HTML文件,以当前时间命名 #---------------------------- import urllib2 import time def baidu_tieba(url, start, end): for i in range(start, end): sName = time.strftime('%Y%m%d%H%M%S') + str(i) + '.html' print '正在下载第' + str(i) + '个网页,并将其储存为' + sName + '...' f = open(sName, 'w+') m = urllib2.urlopen(url+str(i)) n = m.read() f.write(n) f.close() print '成功下载' baiduurl = str(raw_input('请输入贴子的地址,去掉pn后面的数字>>\n')) begin_page = int(raw_input('请输入帖子的起始页码>>\n')) end_page = int(raw_input('请输入帖子的终止页码>>\n')) baidu_tieba(baiduurl, begin_page, end_page)
以上所述就是本文的全部内容了,希望能够对大家学习Python制作爬虫有所帮助。
相关文章
Python图像处理库crop()函数 thumbnail方法使用详解
这篇文章主要为大家介绍了Python图像处理库crop()函数 thumbnail方法使用详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2023-04-04python环境搭建和pycharm的安装配置及汉化详细教程(零基础小白版)
这篇文章主要介绍了python环境搭建和pycharm的安装配置及汉化(零基础小白版),需要的朋友可以参考下2020-08-08python opencv圆、椭圆与任意多边形的绘制实例详解
在本篇文章里小编给大家整理的是关于python-opencv-圆、椭圆与任意多边形的绘制内容,需要的朋友们可以学习参考下。2020-02-02python GUI库图形界面开发之PyQt5多线程中信号与槽的详细使用方法与实例
这篇文章主要介绍了python GUI库图形界面开发之PyQt5多线程中信号与槽的详细使用方法与实例,需要的朋友可以参考下2020-03-03
最新评论