文件名称:puppeteer-usage:基于puppeteer的实践和应用
文件大小:92KB
文件格式:ZIP
更新时间:2024-05-27 15:32:32
nodejs dockerfile zhihu cralwer puppeteer
puppeteer-usage 基于 puppeteer 的一些实例应用,本教程仅用来做技术交流使用,请勿用于商业行为。 如果您也用puppeteer做一些有趣的事儿,欢迎交流。 爬虫 针对搜索的爬虫,此类页面特点: 滚动加载,加载图片 请求接口,接口会变 页面结构会变 为什么使用puppeteer? 因为 api 简洁,对于其他的,前端更易上手。 使用 puppeteer 的好处,可以无视 dom 变化,无视接口变化。因为 puppeteer,可以操作浏览器滚动加载等行为,同时可以监听请求,拿到 header 信息等。具体 可执行下列命令运行实例: git clone https://github.com/ijs/puppeteer-usage.git cd puppeteer-usage yarn install node src/samples/scrawler/pic.baidu.
【文件预览】:
puppeteer-usage-master
----.gitignore(959B)
----Dockerfile(542B)
----.eslintrc(910B)
----package.json(1KB)
----.npmrc(18B)
----src()
--------scrawler()
--------app.js(589B)
--------core()
--------model()
--------samples()
--------index.js(804B)
--------Router()
--------utils()
--------config()
----LICENSE(1KB)
----QA.md(1KB)
----redis()
--------Dockerfile(111B)
--------redis.conf(873B)
----docker-compose.yml(1KB)
----_config.yml(27B)
----README.md(2KB)
----config()
--------common.env(145B)
----.eslintignore(26B)
----.editorconfig(369B)
----pm2.json(418B)
----yarn.lock(193KB)