python爬取NUS-WIDE数据库图片
更新时间:2016年10月05日 10:45:19 作者:leo-sun
本文给大家分享的是使用Python制作爬虫爬取图片的小程序,非常的简单,但是很实用,有需要的小伙伴可以参考下
实验室需要NUS-WIDE数据库中的原图,数据集的地址为http://lms.comp.nus.edu.sg/research/NUS-WIDE.htm 由于这个数据只给了每个图片的URL,所以需要一个小爬虫程序来爬取这些图片。在图片的下载过程中建议使用VPN。由于一些URL已经失效,所以会下载一些无效的图片。
# PYTHON 2.7 Ubuntu 14.04 nuswide = "$NUS-WIDE-urls_ROOT" #the location of your nus-wide-urls.txt imagepath = "$IMAGE_ROOT" # path of dataset you want to download in f = open(nuswide, 'r') url = f.readlines() import re import urllib import os reg = r"ImageData.+?jpg" location_re = re.compile(reg) reg = r"(ImageData.+?)/0" direction_re = re.compile(reg) reg = r"http.+?jpg" image_re = re.compile(reg) for i in url: filename = re.findall(location_re, i) direction = re.findall(direction_re, i) image = re.findall(image_re, i) if image: path = imagepath+filename[0] path_n = imagepath+direction[0] print path_n if os.path.exists(path_n): urllib.urlretrieve(image[1], path) else: os.makedirs(path_n) urllib.urlretrieve(image[1], path)
再给大家分享一个爬取百度贴吧图片的小爬虫(你懂得)
#coding=utf-8 #urllib模块提供了读取Web页面数据的接口 import urllib #re模块主要包含了正则表达式 import re #定义一个getHtml()函数 def getHtml(url): page = urllib.urlopen(url) #urllib.urlopen()方法用于打开一个URL地址 html = page.read() #read()方法用于读取URL上的数据 return html def getImg(html): reg = r'src="(.+?\.jpg)" pic_ext' #正则表达式,得到图片地址 imgre = re.compile(reg) #re.compile() 可以把正则表达式编译成一个正则表达式对象. imglist = re.findall(imgre,html) #re.findall() 方法读取html 中包含 imgre(正则表达式)的 数据 #把筛选的图片地址通过for循环遍历并保存到本地 #核心是urllib.urlretrieve()方法,直接将远程数据下载到本地,图片通过x依次递增命名 x = 0 for imgurl in imglist: urllib.urlretrieve(imgurl,'D:\E\%s.jpg' % x) x+=1 html = getHtml("http://tieba.baidu.com/p/xxxx") print getImg(html)
您可能感兴趣的文章:
- Python实现批量读取图片并存入mongodb数据库的方法示例
- python3+PyQt5使用数据库表视图
- python3+PyQt5使用数据库窗口视图
- python聚类算法解决方案(rest接口/mpp数据库/json数据/下载图片及数据)
- python 读取数据库并绘图的实例
- Python操作MySQL数据库9个实用实例
- python Django连接MySQL数据库做增删改查
- python连接oracle数据库实例
- Python读写Redis数据库操作示例
- python连接mongodb操作数据示例(mongodb数据库配置类)
- Python的Flask框架与数据库连接的教程
- Python使用py2neo操作图数据库neo4j的方法详解
相关文章
Windows10下Tensorflow2.0 安装及环境配置教程(图文)
这篇文章主要介绍了Windows10下Tensorflow2.0 安装及环境配置教程(图文),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧2019-11-11
最新评论