scrapinghub-elasticsearch-loader:将项目从Scrapinghub加载到ElasticSearch

时间:2024-05-22 13:52:32
【文件属性】:

文件名称:scrapinghub-elasticsearch-loader:将项目从Scrapinghub加载到ElasticSearch

文件大小:19KB

文件格式:ZIP

更新时间:2024-05-22 13:52:32

elasticsearch scrapinghub Python

将项目从Scrapy Cloud加载到ElasticSearch实例 安装 安装依赖项: virtualenv venv source venv/bin/activate pip install . 另外,您还需要安装ElasticSearch或安装docker和docker-compose,以使用此项目中docker-compose.yml配置。 用法 启动ElasticSearch 如果您具有本地安装,请启动它,并确保它正在运行或使用此项目中的配置,然后使用以下命令运行ElasticSearch和Kibana: docker-compose up -d 设置环境变量 为了使用此脚本,您需要,将其添加到环境变量SH_APIKEY : export SH_APIKEY= " your_key " 运行脚本 该项目具有命令行界面“ shes”(ScrapingHub-Elastic


【文件预览】:
scrapinghub-elasticsearch-loader-master
----shes.py(1KB)
----.gitignore(54B)
----README.md(2KB)
----docker-compose.yml(1KB)
----LICENSE(34KB)
----requirements.txt(464B)
----es_loader()
--------es_loader.py(6KB)
--------__init__.py(0B)
----setup.py(1KB)
----tox.ini(150B)

网友评论