get-set-fetch:具有存储功能的Node.js Web爬虫和爬虫

时间:2024-06-15 21:22:24
【文件属性】:

文件名称:get-set-fetch:具有存储功能的Node.js Web爬虫和爬虫

文件大小:159KB

文件格式:ZIP

更新时间:2024-06-15 21:22:24

nodejs parser crawler scraper spider

感动 该模块已过时,可通过重构版本。 Node.js Web爬虫和爬虫在可扩展的插件系统下支持各种存储选项。 目录 SQLite的 MySQL PostgreSQL NoSQL连接MongoDB的 地点 网站CRUD API 新站点(名称,URL,选择,createDefaultPlugins) Site.get(nameOrId) site.save() site.update() site.del() Site.delAll() 网站插件API site.getPlugins() site.setPlugins(插件) site.addPlugins(插件) site.removePlugins(插件) site.cleanupPlugins() 网站抓取API site.getResourceToCrawl() site.saveResources(


【文件预览】:
get-set-fetch-master
----.eslintrc.json(347B)
----.gitignore(904B)
----package.json(2KB)
----package-lock.json(315KB)
----.travis.yml(150B)
----LICENSE(1KB)
----README.md(13KB)
----lib()
--------storage()
--------index.js(1KB)
--------utils()
--------filters()
--------logger()
--------plugins()
----docs()
--------logo.png(7KB)
----test()
--------external()
--------integration()
--------unit()
--------utils()
--------config()
--------mocha.opts(99B)
--------tmp()
--------docker()

网友评论