文件名称:Node.js-Webster是一个用Node.js编写的可靠的网页抓取爬虫框架
文件大小:36KB
文件格式:ZIP
更新时间:2022-08-29 23:40:22
Node.js开发-HTTP工具
Webster是一个用Node.js编写的可靠的网页抓取爬虫框架,用于抓取网站并从网页中提取结构化数据。 与其他爬虫框架不同的是,Webster可以抓取浏览器客户端javascript和ajax请求呈现的内容。
【文件预览】:
webster-master
----.travis.yml(75B)
----.eslintrc(14KB)
----example()
--------demo_producer.js(1KB)
--------demo_consumer.js(587B)
----index.js(2KB)
----package.json(1KB)
----Dockerfile.demo(1KB)
----.github()
--------FUNDING.yml(44B)
----test()
--------mock()
--------webster.test.js(7KB)
----Dockerfile(1KB)
----LICENSE(34KB)
----.npmignore(717B)
----.gitignore(902B)
----lib()
--------browser.js(4KB)
--------http.js(2KB)
--------producer.js(2KB)
--------Webster.js(841B)
--------util.js(2KB)
--------redis.js(5KB)
--------task.js(2KB)
--------consumer.js(12KB)
----README.md(4KB)