前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
以下文章来源于python七号 ，作者 somenzz
python爬虫、数据分析、网站开发等案例教程视频免费在线观看
https://space.bilibili.com/523606542
上次写了用 python 批量下载知乎视频的方式，这次分享用 python 批量下载抖音个人主页的全部无水印视频，本文重点不是提供一个好用的脚本，而是讲述如何写出这样的脚本，正所谓授人以鱼，不如授人以渔，所谓的爬虫，基本都是这个套路。
思路
先说下思路，要批量下载视频，可以先尝试成功下载一个，确定没有水印，然后在写一个循环进行批量下载。
难点：下载一个视频可能很简单，但下载多个就稍微有点复杂，需要抓取多个视频对应的 url，抖音这块做了防爬措施，只允许手机上看到个人主页的视频列表，电脑端的网页却看不到，这就需要抓取手机的 https 包，这里借助 burpsuite 进行抓包。
这里用到了 burpsuite ，因此我把自己常用的 burpsuite 2.1.06 专业版放在了网盘里面，公众号「python七号」回复「burp」获取，下载后运行start_burp.bat或sh start_burp.sh即可一键启动，无需购买许可，非常方便。
爬取单个视频
- 找一个抖音视频链接，点击分享，复制链接，在电脑上用打开，然后打开开发者工具，点击 network 选项。
- 刷新，看接口，找到返回值里有播放地址的接口：
这里面有个 play_addr，内部有个 urllist，我们复制这个 urllist[0] 在浏览器打开，网站跳转到了真正的播放地址，同时可以看到下载的按钮：
下载这个视频，发现是带水印的，如何下载到不带水印的视频呢？网上搜索了下，方法就是将上述 urllist[0] 中的 playwm 改成 play 就可以了。
然后开始写代码，获取这个 urllist[0]，并下载
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
|
def get(share_url) -> dict:
"""
share_url -> 抖音视频分享url
返回格式 [{'url':'', 'title','format':'',},{}]
"""
data = []
headers = {
'accept': 'application/json',
'user-agent': 'mozilla/5.0 (iphone; cpu iphone os 11_0 like mac os x) applewebkit/604.1.38 (khtml, like gecko) version/11.0 mobile/15a372 safari/604.1'
}
api = "https://www.iesdouyin.com/web/api/v2/aweme/iteminfo/?item_ids={item_id}"
rep = requests.get(share_url, headers=headers, timeout=10)
if rep.ok:
# item_id
item_id = re.findall(r'video/(\d+)', rep.url)
if item_id:
item_id = item_id[0]
# video info
rep = requests.get(api.format(item_id=item_id), headers=headers, timeout=10)
if rep.ok and rep.json()["status_code"] == 0:
info = rep.json()["item_list"][0]
tmp = {}
tmp["title"] = info["desc"]
#去水印的视频链接
play_url = info["video"]["play_addr"]["url_list"][0].replace('playwm', 'play')
tmp["url"] = play_url
tmp["format"] = 'mp4'
def get(share_url) -> dict:
"""
share_url -> 抖音视频分享url
返回格式 [{'url':'', 'title','format':'',},{}]
"""
data = []
headers = {
'accept': 'application/json',
'user-agent': 'mozilla/5.0 (iphone; cpu iphone os 11_0 like mac os x) applewebkit/604.1.38 (khtml, like gecko) version/11.0 mobile/15a372 safari/604.1'
}
api = "https://www.iesdouyin.com/web/api/v2/aweme/iteminfo/?item_ids={item_id}"
rep = requests.get(share_url, headers=headers, timeout=10)
if rep.ok:
# item_id
item_id = re.findall(r'video/(\d+)', rep.url)
if item_id:
item_id = item_id[0]
# video info
rep = requests.get(api.format(item_id=item_id), headers=headers, timeout=10)
if rep.ok and rep.json()["status_code"] == 0:
info = rep.json()["item_list"][0]
tmp = {}
tmp["title"] = info["desc"]
#去水印的视频链接
play_url = info["video"]["play_addr"]["url_list"][0].replace('playwm', 'play')
tmp["url"] = play_url
tmp["format"] = 'mp4'
data.append(tmp)
return data
if __name__ =='__main__':
videos = get('https://www.iesdouyin.com/share/video/6920538027345415431/?region=&mid=6920538030852885262&u_code=48&titletype=title&did=0&iid=0')
for video in videos:
downloader.download(video['url'],video['title'],video['format'],'./download') data.append(tmp)
return data
if __name__ =='__main__':
videos = get('https://www.iesdouyin.com/share/video/6920538027345415431/?region=&mid=6920538030852885262&u_code=48&titletype=title&did=0&iid=0')
for video in videos:
downloader.download(video['url'],video['title'],video['format'],'./download')
|
这里 downloader.download 函数，与前文知乎视频下载 里的函数一样，这里就不贴代码了。
获取个人主页视频链接
前两步已经实现了单个抖音视频的无水印下载，现在我们要做的就是找到大量的这种链接，直接循环就可以了。
任意打开一个大 v 的个人主页，分享，复制链接，使用浏览器打开，一个视频也看不到，而使用抖音 app 就可以看到：
浏览器
抖音app
说明抖音做了一定的限制，防止从浏览器看到多个视频的信息。这时就需要学会从手机 app 来抓包，看看手机上的 http 请求是怎么发起的，然后使用程序来模拟。
我一直在用的 burpsuite（下面简称 burp） 非常好用，这里顺便分享下如何使用：
1、运行 burp
下载后运行start_burp.bat或sh start_burp.sh来启动 burp，然后打开代理设置，绑定到运行 burp 的机器 ip，如下图所示：
注意不要设置 ip 为 127.0.0.1，这样设置的话，只有本地请求可以使用代理，手机无法连接此代理。
2、手机设置代理
手机与电脑连接同一 wifi，iphone 的操作如下：然后进入设置-> 无线局域网 -> 点击同一 wifi 右边的 information 符号，然后下拉，点击配置代理，配置和 burpsuite 一样的 ip 和端口。android 的手机的设置也差不多。至此可以在 burpsuite 上抓取手机的 http 流量。
3、手机下载 burp 的证书，并设置信任
手机浏览器 进入 http://burp。点击 ca 下载证书。设置->通用->描述文件->点击 portswigger ca->安装设置->通用->关于本机->证书信任设置，将 burpsuite 的证书开启
这样就可以抓取手机上发起的 https 包了。
4、设置 burpsuite 中断
这一步骤设置之后，手机上的请求会在这里阻塞，你可以放行选择放行，或修改数据包后放行，也可以发往 repeater，以便后续重放请求，因此来自前端的请求是不可信的。
现在打开手机上的抖音 app，这里便会出现大量的请求阻塞在这里，我们选择放行，会发现抖音 app 里的数据一步一步的出现。快刷到个人主页的视频之前，将请求发到 repeater，如下图所示：
然后打开 burpsuite 的 repeater 选项卡，就可以看到刚才发过来的请求，这时我们选择重放，看数据，决定我们需要使用的接口，如下图所示：
发现这个接口满足请求，这里可以看到接口的 url，headers 的各种参数，headers 中的 user-agent 参数，是区分客户端是浏览器还是 app 的重要标识，因此就可以写代码来模拟请求，进而获取需要的批量下载链接。
由于 url 中的参数非常多，有些是固定不变的，有些随着不同人的主页参数会发生变化，如果仅仅是自己使用，可以简单的通过正则表达式来提取这些 url 链接，然后进行批量下载就可以了。
如果是想写好一个脚本供别人使用，那么就需要做更多的工作，比如说，需要查看更多的 api，以便确定 url 及 headers 中的参数是如何获取或生成的，然后写脚本自动化这一过程，有些情况下，还涉及到加密混淆等反爬措施，这里就不再展开了，请感兴趣的读者自行探索。
最后的话
爬取视频的关键在于找到视频的播放地址，有了播放地址，即使不写代码，也可以使用浏览器下载，寻找播放地址还不够，要考虑是否能去水印，如果要批量下载，那就要知道如何获取更多的视频链接，在浏览器抓取不到的时候，考虑使用 burpsuite 抓取手机的流量包，进一步提取接口的数据，或模拟手机请求，对搞爬虫的同学，burpsuite 是一个瑞士军刀，非常实用。
如果本文对你有所帮助，请点个赞或再看吧，谢谢支持。
到此这篇关于使用python下载抖音各大v视频的思路详解的文章就介绍到这了,更多相关python下载抖音视频内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家！
原文链接：https://www.cnblogs.com/hhh188764/archive/2021/02/05/14377895.html