Python3爬取B站视频弹幕

栏目: Python · 发布时间: 6年前

内容简介:Python3爬取B站视频弹幕

需要准备的环境:

  1. 一个B站账号,需要先登录,否则不能查看历史弹幕记录
  2. 联网的电脑和顺手的浏览器,我用的Chrome
  3. Python3环境以及request模块,安装使用命令,换源比较快:
pip3 install  request -i http://pypi.douban.com/simple 

爬取步骤:

1.登录后打开需要爬取的视频页面,打开开发者 工具 台,Chrome可以使用F12快捷键,选择network监听请求

Python3爬取B站视频弹幕

2.点击查看历史弹幕,获取请求

Python3爬取B站视频弹幕

Python3爬取B站视频弹幕

其中rolldate后面的数字表示该视频对应的弹幕号,返回的数据中timestamp表示弹幕日期,new表示数目

Python3爬取B站视频弹幕

4.在查看历史弹幕中任选一天,查看,会发出新的请求

dmroll ,时间戳,弹幕号,表示获取该日期的弹幕,1507564800 表示2017/10/10 0:0:0

Python3爬取B站视频弹幕

Python3爬取B站视频弹幕

该请求返回xml数据

Python3爬取B站视频弹幕

5.使用正则表达式获取所有弹幕消息,匹配模式

'<d p=".*?">(.*?)</d>'  

6.拼接字符串,将所有弹幕保存到本地文件即可

with open('content.txt', mode='w+', encoding='utf8') as f:    f.write(content)  

7.参考代码如下,将弹幕按照日期保存为单个文件...因为太多了...

import requests 
 
import re 
 
import time  
 
"""    爬取哔哩哔哩视频弹幕信息"""  
 
# 2043618 是视频的弹幕标号,这个地址会返回时间列表 
 
# https://www.bilibili.com/video/av1349282 
 
url = 'https://comment.bilibili.com/rolldate,2043618' 
 
# 获取弹幕的id 2043618 
 
video_id = url.split(',')[-1]print(video_id) 
 
# 获取json文件 
 
html = requests.get(url) 
 
# print(html.json()) 
 
  
 
# 生成时间戳列表 
 
time_list = [i['timestamp'] for i in html.json()] 
 
# print(time_list) 
 
  
 
# 获取弹幕网址格式 'https://comment.bilibili.com/dmroll,时间戳,弹幕号' 
 
  
 
# 弹幕内容,由于总弹幕量太大,将每个弹幕文件分别保存 
 
for i in time_list:    content = ''    j = 'https://comment.bilibili.com/dmroll,{0},{1}'.format(i, video_id)    print(j)    text = requests.get(j).text 
 
    # 匹配弹幕内容    res = re.findall('<d p=".*?">(.*?)</d>', text)     
 
    # 将时间戳转化为日期形式,需要把字符串转为整数    timeArray = time.localtime(int(i))    date_time = time.strftime("%Y-%m-%d %H:%M:%S", timeArray)    print(date_time)    content += date_time + ' 
 
'    for k in res:        content += k + ' 
 
'    content += ' 
 
'    file_path = 'txt/{}.txt'.format(time.strftime("%Y_%m_%d", timeArray))    print(file_path)     
 
    with open(file_path, mode='w+', encoding='utf8') as f:        f.write(content)  

8.最终效果

Python3爬取B站视频弹幕

Python3爬取B站视频弹幕


以上所述就是小编给大家介绍的《Python3爬取B站视频弹幕》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

大数据系统构建

大数据系统构建

Nathan Marz、James Warren / 马延辉、向磊、魏东琦 / 机械工业出版社 / 2017-1 / 79.00

随着社交网络、网络分析和智能型电子商务的兴起,传统的数据库系统显然已无法满足海量数据的管理需求。 作为一种新的处理模式,大数据系统应运而生,它使用多台机器并行工作,能够对海量数据进行存储、处理、分析,进而帮助用户从中提取对优化流程、实现高增长率的有用信息,做更为精准有效的决策。 但不可忽略的是,它也引入了大多数开发者并不熟悉的、困扰传统架构的复杂性问题。 本书将教你充分利用集群硬件优势的La......一起来看看 《大数据系统构建》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

正则表达式在线测试
正则表达式在线测试

正则表达式在线测试