python爬取酷狗音乐排行榜
更新时间:2019年02月20日 09:40:28 作者:qq_18525247
这篇文章主要为大家详细介绍了python爬取酷狗音乐排行榜,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
本文为大家分享了python爬取酷狗音乐排行榜的具体代码,供大家参考,具体内容如下
#coding=utf-8
from pymongo import MongoClient
import time
import requests
from lxml import etree
client = MongoClient() #连接mongo
hello = client.hello #连接数据库
user = hello.song #连接表
headers = {
'User-Agent': 'Mozilla/5.0 (Android 6.0; Nexus 5 Build/MRA58N)\
AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Mobile Safari/537.36'}
def get_info(url):
'''
get源码,encode,解析,xpath,保存
'''
response = requests.get(url, headers=headers)
response = response.text.encode('utf-8')
selector = etree.HTML(response)
soup = selector.xpath('//*[@class="pc_temp_songlist "]/ul//li/a/text()')
#保存到本地
# with open('aa.txt','a') as f:
# for i in soup:
# f.write(i.encode('utf-8') + '\n')
#存入数据库
for i in soup:
user.insert({'song': i})
if __name__ == '__main__':
urls = ['http://www.kugou.com/yy/rank/home/{}-8888.html?from=rank'.format(str(i)) for i in range(1, 24)]
for url in urls:
print(url)
get_info(url)
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。
相关文章
Mac上Python使用ffmpeg完美解决方案(避坑必看!)
ffmpeg是一个强大的开源命令行多媒体处理工具,下面这篇文章主要给大家介绍了关于Mac上Python使用ffmpeg完美解决方案的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下2023-02-02
利用python-pypcap抓取带VLAN标签的数据包方法
今天小编就为大家分享一篇利用python-pypcap抓取带VLAN标签的数据包方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧2019-07-07


最新评论