syslog-storm-sample:HDP上的syslog和Storm的快速示例

时间:2024-06-11 11:54:26
【文件属性】:

文件名称:syslog-storm-sample:HDP上的syslog和Storm的快速示例

文件大小:20KB

文件格式:ZIP

更新时间:2024-06-11 11:54:26

Java

Syslog-> Flume-> Kafka-> Storm-> Hive 这是一个简单的演示项目,显示了从kafka主题收集风暴日志并将其推入HDFS的过程。 它还每n分钟将文件旋转到一个配置单元分区中。 入门 使用HDP 2.2.4,或在pom中相应地调整版本字符串。 在kafka客户端上,运行安装脚本以创建syslog_events主题。 配置flume以将syslog事件推送到该主题。 从资源创建config.properties的副本,并将主机指向群集上正确的主机。 使用配置单元,在资源中运行schema.sql文件。 请注意,目前,您还需要设置/ apps / hive / warehouse / syslog_events文件夹以进行风暴,假设使用默认设置,最终风暴拓扑应以具有适当权限的用户身份运行,并且可以访问此表。 还值得考虑将配置单元流媒体螺栓替换为hdfs螺


【文件预览】:
syslog-storm-sample-master
----.gitignore(259B)
----src()
--------main()
--------test()
----LICENSE(11KB)
----pom.xml(5KB)
----README.md(1KB)
----setup.sh(158B)

网友评论