【文件属性】:
文件名称:spark_integration
文件大小:16KB
文件格式:ZIP
更新时间:2021-05-01 05:43:57
Java
火花整合
描述
使用Spark作业集成Kafka消息传递系统和Elasticsearch引擎。
Spark Integration是一个Spark流作业应用程序,它充当Kafka使用者,将JSON数据发送到Elasticsearch索引中。 注意:要使用的数据应该是有效的JSON文档。 否则,JsonParseException将被引入到作业日志中。
要求
经过测试:
Maven 3.3.3(项目组装)
CDH 5.4.2和Spark 1.3.0(作业运行时)
Elasticsearch 1.7.2
Apache Kafka 0.8.2.2
集会
与Maven组装。
mvn clean install
将spark_integration-1.0.jar与包含的依赖项一起使用
配置
可以从命令行提供参数来配置应用程序
--brokers-是必需属性,将其指定为逗号分隔的列表,以
【文件预览】:
spark_integration-master
----.gitignore(232B)
----README.md(3KB)
----pom.xml(7KB)
----src()
--------test()
--------main()