文件名称:get-set-fetch:具有存储功能的Node.js Web爬虫和爬虫
文件大小:159KB
文件格式:ZIP
更新时间:2024-06-15 21:22:24
nodejs parser crawler scraper spider
感动 该模块已过时,可通过重构版本。 Node.js Web爬虫和爬虫在可扩展的插件系统下支持各种存储选项。 目录 SQLite的 MySQL PostgreSQL NoSQL连接MongoDB的 地点 网站CRUD API 新站点(名称,URL,选择,createDefaultPlugins) Site.get(nameOrId) site.save() site.update() site.del() Site.delAll() 网站插件API site.getPlugins() site.setPlugins(插件) site.addPlugins(插件) site.removePlugins(插件) site.cleanupPlugins() 网站抓取API site.getResourceToCrawl() site.saveResources(
【文件预览】:
get-set-fetch-master
----.eslintrc.json(347B)
----.gitignore(904B)
----package.json(2KB)
----package-lock.json(315KB)
----.travis.yml(150B)
----LICENSE(1KB)
----README.md(13KB)
----lib()
--------storage()
--------index.js(1KB)
--------utils()
--------filters()
--------logger()
--------plugins()
----docs()
--------logo.png(7KB)
----test()
--------external()
--------integration()
--------unit()
--------utils()
--------config()
--------mocha.opts(99B)
--------tmp()
--------docker()