前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理
本次目标
爬取糗事百科视频
地址
https://www.qiushibaike.com/video/
![Python批量爬取糗事百科短视频,有意思的视频还是蛮多的[Python常见问题]](/upload/image/2023/08/09/1603343104955675.jpg)
环境
Python3.6
pycharm
![Python批量爬取糗事百科短视频,有意思的视频还是蛮多的[Python常见问题]](/upload/image/2023/08/09/1603343106998224.jpg)
分析网页获取视频真实地址
1、鼠标右键点击检查,可以看到网页中是有视频地址~
![Python批量爬取糗事百科短视频,有意思的视频还是蛮多的[Python常见问题]](/upload/image/2023/08/09/1603343107653021.jpg)
2、鼠标右键点击查看源代码,搜索视频地址查看网页源代码是否也有视频地址
![Python批量爬取糗事百科短视频,有意思的视频还是蛮多的[Python常见问题]](/upload/image/2023/08/09/1603343109554287.jpg)
糗事百科是一个静态网页,对于爬取网站视频还是比较简单的~
爬虫代码
导入工具
import requests import re import time
请求网站
url = "https://www.qiushibaike.com/video/page/{}/".format(page) headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36" } response = requests.get(url=url, headers=headers)
解析网站
for li in lis: video_url = "https:" + li title = li.split("/")[-1] download(video_url, title)
保存数据
def download(url, title): path = "保存数据地址" + title response = requests.get(url=url) with open(path, mode="wb") as f: f.write(response.content)
运行代码,结果如下图
![Python批量爬取糗事百科短视频,有意思的视频还是蛮多的[Python常见问题]](/upload/image/2023/08/09/1603343109499637.jpg)
小编推荐
- 百万架构师第四十课:RabbitMq:RabbitMq-工作模型与JAVA编程|JavaGuide
- 体验用ai做了个python小游戏
- 年后,Java 行情爆了。。。
- 年后,Java 行情爆了。。。
- MyBatis常见Bug之 —— 数据库表或列不存在
- Python 合并 Excel 单元格 - E
- 百万架构师第三十九课:RabbitMq:Linux安装RabbitMq|JavaGuide
- 劲爆!微信宣布接入 DeepSeek R1!!
- 劲爆!微信宣布接入 DeepSeek R1!!
- CAP与BASE:分布式系统设计的灵魂与妥协
- rust学习十八.1、RUST的OOP和简单示例
- 架构设计(四) Java生态的网关对比 Spring Cloud Gateway和Apache ShenYu
- 11. Docker 微服务实战(将项目打包生成镜像,在 Docker 当中作为容器实例运行) - Rainbow
- Spring中@Component注解
- 【日记】最近总有种自己要完蛋了的感觉 ww(986 字)
- docker常用命令大全,看这一篇就够了
- 怎么保证RabbitMq消息不丢失
- Java中int、Integer、long、Long、double、Double和BigInteger的关系
- 清华大学出的 DeepSeek 使用手册第二版(免费领取)
- Java中的输出格式化
快速导航更多>>