一、前言
以前使用selenium的无头浏览器，自从phantomjs2016后慢慢不更新了之后，selenium也开始找下家，这时候谷歌的chrome率先搞出来无头浏览器并开放了各种api，随后firefox也开始做。
现在selenium的测试也都支持这两个浏览器的无头模式了，只需要在引入的时候配置一下就可以了。之所以要采用谷歌chrome官方无头框架puppeteer的python版本pyppeteer，是因为有些网页是可以检测到是否是使用了selenium。并且selenium所谓的保护机制不允许跨域cookies保存以及登录的时候必须先打开网页然后后加载cookies再刷新的方式很不友好。
二、pyppeteer
github地址：https://miyakogi.github.io/pyppeteer/
pyppeteer这个项目是非官方的，是基于谷歌官方puppeteer的python版本。
注意：本来chrome就问题多多，puppeteer也是各种坑，加上pyppeteer是基于前者的改编python版本，也就是产生了只要前两个有一个有bug，那么pyppeteer就会原封不动的继承下来，本来这没什么，但是现在遇到的问题就是pyppeteer这个项目从18年9月份之后就没更新过了，前两者都在不断的更新迭代，而pyppeteer一直不更新，导致很多bug根本没人修复。
遇到的错误:
1）pyppeteer.errors.networkerror: protocol error network.getcookies: target close
控制访问指定url之后await page.goto(url)，会遇到上面的错误，如果这时候使用了sleep之类的延时也会出现这个错误或者类似的time out。
这个问题是puppeteer的bug，但是对方已经修复了，而pyppeteer迟迟没更新，就只能靠自己了，搜了很多人的文章，例如：https://github.com/miyakogi/pyppeteer/issues/171 ，但是我按照这个并没有成功。
也有人增加一个函数，但调用这个参数依然没解决问题。
|
1
2
3
4
5
6
7
8
9
10
|
async def scroll_page(page):
cur_dist = 0
height = await page.evaluate("() => document.body.scrollheight")
while true:
if cur_dist < height:
await page.evaluate("window.scrollby(0, 500);")
await asyncio.sleep(0.1)
cur_dist += 500
else:
break
|
可以把python第三方库websockets版本7.0改为6.0就可以了，亲测可用。
|
1
2
|
pip uninstall websockets #卸载websockets
pip install websockets==6.0 #指定安装6.0版本
|
2）chromium浏览器多开页面卡死问题
解决这个问题的方法就是浏览器初始化的时候添加'dumpio':true。
3）浏览器窗口很大，内容显示很小
上面的问题是需要设置浏览器显示大小，默认就是无法正常显示。可以看到页面左侧右侧都是空白，网站内容并没有完整铺满chrome.
|
1
2
|
browser = await launch({'headless': false,'dumpio':true, 'autoclose':false,'args': ['--no-sandbox', '--window-size=1366,850']})
await page.setviewport({'width':1366,'height':768})
|
通过上面设置windows-size和viewport大小来实现网页完整显示。
但是对于那种向下无限加载的长网页这种情况如果浏览器是可见状态会显示不全，针对这种情况的解决方法就是复制当前网页新开一个标签页粘贴进去就正常了
三、实际项目示例
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
import asyncio
from pyppeteer import launch
import time
async def main():exepath = 'c:/users/tester02/appdata/local/google/chrome/application/chrome.exe'
browser = await launch({'executablepath': exepath, 'headless': false, 'slowmo': 30})
page = await browser.newpage()
await page.setviewport({'width': 1366, 'height': 768})
await page.goto('http://192.168.2.66')
await page.type("#login_name_input", "test02")
await page.type("#login_password_input", "12345678", )
await page.waitfor(1000)
await page.click("#login_login_btn")
await page.waitfor(3000)
await browser.close()
asyncio.get_event_loop().run_until_complete(main())
|
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
|
import asyncio
import time
from pyppeteer import launch
async def gmaillogin(username, password, url):
#'headless': false如果想要浏览器隐藏更改false为true
# 127.0.0.1:1080为代理ip和端口，这个根据自己的本地代理进行更改，如果是vps里或者全局模式可以删除掉'--proxy-server=127.0.0.1:1080'
browser = await launch({'headless': false, 'args': ['--no-sandbox', '--proxy-server=127.0.0.1:1080']})
page = await browser.newpage()
await page.setuseragent(
'mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/70.0.3538.67 safari/537.36')
await page.goto(url)
# 输入gmail
await page.type('#identifierid', username)
# 点击下一步
await page.click('#identifiernext > content')
page.mouse # 模拟真实点击
time.sleep(10)
# 输入password
await page.type('#password input', password)
# 点击下一步
await page.click('#passwordnext > content > span')
page.mouse # 模拟真实点击
time.sleep(10)
# 点击安全检测页面的done
# await page.click('div > content > span')#如果本机之前登录过，并且page.setuseragent设置为之前登录成功的浏览器user-agent了，
# 就不会出现安全检测页面，这里如果有需要的自己根据需求进行更改，但是还是推荐先用常用浏览器登录成功后再用python程序进行登录。
# 登录成功截图
await page.screenshot({'path': './gmail-login.png', 'quality': 100, 'fullpage': true})
#打开谷歌全家桶跳转，以youtube为例
await page.goto('https://www.youtube.com')
time.sleep(10)
if __name__ == '__main__':
username = '你的gmail包含@gmail.com'
password = r'你的gmail密码'
url = 'https://gmail.com'
loop = asyncio.get_event_loop()
loop.run_until_complete(gmaillogin(username, password, url))
# 代码由三分醉编写，网址www.sanfenzui.com，参考如下文章：
# https://blog.csdn.net/chen_chong__/article/details/82950968
|
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持服务器之家。
原文链接：https://www.cnblogs.com/baihuitestsoftware/p/10531462.html