python爬虫爬取bilibili网页基本内容
更新时间：2022年01月25日 16:01:09 作者：小木_.
这篇文章主要介绍了python爬虫爬取bilibili网页基本内容，用爬虫爬取bilibili网站排行榜游戏类的所有名称及链接，下面来看看具体的实现过程吧,需要的朋友可以参考一下
用爬虫爬取bilibili网站排行榜游戏类的所有名称及链接：
导入requests、BeautifulSoup
import requests from bs4 import BeautifulSoup
然后我们需要插入网站链接并且要解析网站并打印出来：
e = requests.get('https://www.bilibili.com/v/popular/rank/game') #当前网站链接
html = e.content
soup = BeautifulSoup(html,'html.parser') #解析html
print(soup)我们可以看到密密麻麻的代码函数，但不太简洁明了，我们去优化一下
继续插入如下代码这个代码是可以爬取我们想要的类，可以更简介的简化代码
div_people_list = soup.find('ul', attrs={'class': 'rank-list'}) #爬取ul类class为rank-list下的数据
可以看到还是不够简介:
继续插入如下代码:
ca_s = div_people_list.find_all('a', attrs={'class': 'title'}) #爬取a类class为title下的数据
可以看到链接及主题都提取出来了，但还是有瑕疵:
我们加入这行代码挨个打印并提取标题及链接，由于链接提取出来的是//www.bilibili.com/video/BV1yZ4y1D7ef
前面没有http：点击进去会出现错误，所有我们需要在前面加入http:进行连接在一起打印
for t in ca_s:
url = t['href']
name = t.get_text()
print(name+'\t点击链接直接观看链接：'+f'http:{url}')可以看到我们的标题及连接都爬取出来了
完整代码：
import requests
from bs4 import BeautifulSoup
e = requests.get('https://www.bilibili.com/v/popular/rank/game') #当前网站链接
html = e.content
soup = BeautifulSoup(html,'html.parser') #解析html
div_people_list = soup.find('ul', attrs={'class': 'rank-list'}) #爬取ul类class为rank-list下的数据
ca_s = div_people_list.find_all('a', attrs={'class': 'title'}) #爬取a类class为title下的数据
#挨个传输到t，然后打印数据
for t in ca_s:
url = t['href']
name = t.get_text()
print(name+'\t点击链接直接观看链接：'+f'http:{url}')到此这篇关于python爬虫爬取bilibili网页基本内容的文章就介绍到这了,更多相关python爬取bilibili网页内容内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
今天小编就为大家分享一篇python变量赋值方法(可变与不可变)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
这篇文章主要为大家详细介绍了python如何去除字符串中不想要的字符，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-03-03
这篇文章主要为大家介绍了python目标检测SSD算法预测部分源码详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-05-05
今天小编就为大家分享一篇在Python中实现替换字符串中的子串的示例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-10-10
python中@property和property函数常见使用方法示例
这篇文章主要介绍了python中@property和property函数常见使用方法,结合实例形式分析了Python @property和property函数功能、使用方法及相关操作注意事项,需要的朋友可以参考下2019-10-10
Lasso是一个线性模型，它给出的模型具有稀疏的系数。接下来通过本文给大家分享python实现Lasso回归的相关知识，感兴趣的朋友一起看看吧2019-09-09
使用 Python 实现简单的 switch/case 语句的方法
这篇文章主要介绍了用 Python 实现简单的 switch/case 语句的方法，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下2018-09-09
这篇文章主要介绍了如何在 Django 模板中输出 "{{" ,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-01-01
这篇文章主要介绍了pytest框架之fixture详细使用详解，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-04-04
这篇文章主要介绍了PyAV 基础及使用方法分享的相关资料,需要的朋友可以参考下2023-08-08
最新评论