spark_integration

时间:2021-05-01 05:43:57
【文件属性】:
文件名称:spark_integration
文件大小:16KB
文件格式:ZIP
更新时间:2021-05-01 05:43:57
Java 火花整合 描述 使用Spark作业集成Kafka消息传递系统和Elasticsearch引擎。 Spark Integration是一个Spark流作业应用程序,它充当Kafka使用者,将JSON数据发送到Elasticsearch索引中。 注意:要使用的数据应该是有效的JSON文档。 否则,JsonParseException将被引入到作业日志中。 要求 经过测试: Maven 3.3.3(项目组装) CDH 5.4.2和Spark 1.3.0(作业运行时) Elasticsearch 1.7.2 Apache Kafka 0.8.2.2 集会 与Maven组装。 mvn clean install 将spark_integration-1.0.jar与包含的依赖项一起使用 配置 可以从命令行提供参数来配置应用程序 --brokers-是必需属性,将其指定为逗号分隔的列表,以
【文件预览】:
spark_integration-master
----.gitignore(232B)
----README.md(3KB)
----pom.xml(7KB)
----src()
--------test()
--------main()

网友评论