pyppeteer 是什么
介绍 pyppeteer 之前,有必要先介绍一下 puppeteer,puppeteer 是谷歌官方出的一个通过devtools协议控制headless chrome的node库。通过puppeteer可以直接控制chrome浏览器模拟大部分用户操作。
所谓headless chrome 就是 chrome 浏览器的*面形态。
而 pyppeteer 就是 puppeteer 的 python 版本非官方实现,它是一位来自于日本的工程师依据 puppeteer 的一些功能开发出来的非官方版本
pyppeteer 采用了 python 的 async 机制,需要python3.5 及以上版本才支持。
pyppeteer能做什么
但凡是需要通过chrome浏览器手动完成的操作都可以通过 pyppeteer 自动完成,例如:
- 生成页面截图
- 生成pdf文件
- 抓取单页面应用并生成预先呈现的内容
- 从网站抓取你需要的内容
- 自动表单提交,ui测试,键盘输入等
截图
例如将页面生成截图可以直接调用 page.screenshot 方法
1
2
3
4
5
6
7
8
9
10
11
|
import asyncio
from pyppeteer import launch
async def main():
browser = await launch()
page = await browser.newpage()
await page.goto( 'https://foofish.net' )
await page.screenshot({ 'path' : 'example.png' })
await browser.close()
asyncio.get_event_loop().run_until_complete(main())
|
截图功能在海报分享等场景用的多,有看过有赞工程师分享的一篇文章,就有用到puppeteer来做海报分享,性能比canvas高。
而将网页转换为pdf的应用场景更多,比如将网站博客、专栏,或者公众号文章批量导出pdf,方便离线阅读,比如我们最近做的一个医疗项目需要将用户填写的资料支持pdf形式批量导出,就是用的pyppeteer
导出pdf
导出pdf直接调用page.pdf方法就可以, 代码非常简洁
1
2
3
4
5
6
7
8
9
10
11
12
|
import asyncio
from pyppeteer import launch
async def main():
browser = await launch()
page = await browser.newpage()
await page.goto( 'https://foofish.net' )
await page.pdf({
"path" : "example.pdf" , "format" : 'a4' })
await browser.close()
asyncio.get_event_loop().run_until_complete(main())
|
接下来我们以公众号文章为例,将html页面制作成一个pdf文件。
公众号链接导出pdf示例
安装 pyppeteer
1
|
pip install pyppeteer
|
任意找一篇公众号的文章链接
1
|
url = "https://mp.weixin.qq.com/s/6vbxs19icv0o5ht7chywgw"
|
完成代码:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
browser = await launch(
options = { 'headless' : true,
'args' : [ '--no-sandbox' ,
'–disable-gpu' ,
'–disable-dev-shm-usage' ,
'–disable-setuid-sandbox' ,
'–no-first-run' ,
'–no-zygote' ,
'–single-process'
]}, )
page = await browser.newpage()
url = "https://mp.weixin.qq.com/s/6vbxs19icv0o5ht7chywgw"
await page.goto(url)
file_name = "test.pdf"
await page.pdf({ "path" : file_name, "format" : 'a4' })
await browser.close()
|
第一次运行的时候,会自动下载chromium浏览器,chromium是chrome的开源版本, 需要几分钟才能下载完
1
2
3
4
5
6
|
[w:pyppeteer.chromium_downloader] start chromium download.
download may take a few minutes.
100 % |██████████| 127496521 / 127496521 [ 00 : 20 < 00 : 00 , 6268578.80it / s]
[w:pyppeteer.chromium_downloader]
chromium download done.
[w:pyppeteer.chromium_downloader] chromium extracted to: c:\users\lzjun\appdata\local\pyppeteer\pyppeteer\local - chromium\ 575458
|
执行完成后,我们来预览下pdf文件
和原文链接对比,发现文章中的图片丢失了。
通过分析,原来是页面源代码中,img 标签没有src属性,只有个data-src 属性,默认情况下图片是无法正常显示的,图片之所有能在浏览器能正常展示出来,是有个js脚本动态地修改了dom元素为 <img src='xxxx'>
这个网页使用的是一种叫懒加载的技术展示图片内容,所谓懒加载就是图片不会一次全部下载完,而是当前浏览到什么位置,就加载该处的图片,这样能提高页面的响应速度,同时减轻服务器性能。
所以,我们也可以通过js代码模拟真人浏览网页一样,滚动鼠标,不停地往下滑动,将图片动态加载出来。
最后,完整代码就变成了这样:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
|
async def main():
browser = await launch()
page = await browser.newpage()
url = "https://mp.weixin.qq.com/s/6vbxs19icv0o5ht7chywgw"
await page.goto(url)
await page.evaluate( '''async () => {
await new
promise((resolve, reject) => {
var
totalheight = 0;
var
distance = 100;
var
timer = setinterval(() => {
var
scrollheight = document.body.scrollheight;
window.scrollby(0, distance);
totalheight += distance;
if (totalheight >= scrollheight){
clearinterval(timer);
resolve();
}
}, 100);
});
}''' )
await page.pdf({
"path" : "test.pdf" , "format" : 'a4' })
await browser.close()
if __name__ = = '__main__' :
asyncio.get_event_loop().run_until_complete(main())
|
将js 代码封装成一个字符串当作参数传给 page.evaluate 函数, 该代码就是获不断滚动页面,直到页面底部为止。这样整个页面的图片就全部加载出来了。
效果看起来还不错,和原页面的样式是一样的
在pyppeteer实践应用过程中,也遇到不少坑,最后都逐个解决了,这可以单独写一篇文章,如果你在使用过程中遇到任何问题欢迎与我交流
以上就是python基于pyppeteer制作pdf文件的详细内容,更多关于python pyppeteer制作pdf文件的资料请关注服务器之家其它相关文章!
原文链接:https://juejin.cn/post/6937307375766339592