如何手动写一个Python脚本自动爬取Bilibili小视频

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(1)

B 站小视频网址在这里哦:

http://vc.bilibili.com/p/eden/rank#/?tab=全部

此次实验,我们爬取的是每日的小视频排行榜前 top100

我们该如何去爬取呢???

实验环境准备

1、Chrome 浏览器 (能使用开发者模式的浏览器都行)

2、Vim (编辑器任选,老实人比较喜欢Vim界面,所以才用这个啦)

3、Python3 开发环境

4、Kali Linux (其实随便一个操作系统都行啦)

API寻找&&提取

我们通过 F12 打开开发者模式,然后在 Networking -> Name 字段下找到这个链接:

http://api.vc.bilibili.com/board/v1/ranking/top?page_size=10&next_offset=&tag=今日热门&platform=pc

我们查看一下 Headers 属性

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(2)

我们可以看到Request URL这个属性值,我们向下滑动加载视频的过程中,发现只有这段url是不变的。

http://api.vc.bilibili.com/board/v1/ranking/top?

next_offset 会一直变化,我们可以猜测,这个可能就是获取下一个视频序号,我们只需要把这部分参数取出来,把 next_offset写成变量值,用 JSON 的格式返回到目标网页即可。

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(3)

代码实现

我们通过上面的尝试写了段代码,发现 B 站在一定程度上做了反爬虫操作,所以我们需要先获取 headers 信息,否则下载下来的视频是空的,然后定义 params 参数存储 JSON 数据,然后通过 requests.get 去获取其参数值信息,用 JSON 的格式返回到目标网页即可,实现代码如下:

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(4)

为了能够清楚的看到我们下载的情况,我们折腾了一个下载器上去,实现代码如下:

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(5)

效果如下:

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(6)

将上面的代码进行汇总,整个实现过程如下:

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(7)

运行结果

python爬虫教程b站(如何手动写一个Python脚本自动爬取Bilibili小)(8)

,