文件名称:ingestive:如何使用 Kafka 和 Storm 摄取事件的示例
文件大小:302KB
文件格式:ZIP
更新时间:2024-08-01 16:52:19
Java
#摄取 一个有效的 Storm 拓扑,它从一组 Kafka 主题中读取事件并将消息写入其中。 说明了一些 Kafka 和 Storm 设计模式: 正式的 Kafka 层,对协作组件隐藏主题实现和配置细节 将 spout 和 bolt 逻辑分解为三层(特定于风暴、特定于拓扑和纯业务逻辑),允许关注点分离、更简单的测试和更少的开发人员间依赖关系。 请注意,这尤其适用于从 Kafka 主题读取的 spout。 此示例不使用 KafkaSpout,因为该类遵循的反模式多于良好的模式。 封装有关风暴流知识的流 bean:字段名称、类型和顺序。 Kafka 主题作为独立组件的概念。 该组件包括生产者和消费者,它们通过对组件用户隐藏主题配置来充当组件的公共接口。 这是拓扑的可视化表示。 记录由 spout 从 Kafka 主题中读取,spout 将它们立即写入两个流,主处理流 (RawReco
【文件预览】:
ingestive-master
----ingestion()
--------.project(710B)
--------pom.xml(698B)
--------.classpath(695B)
----ingestion-library()
--------.project(718B)
--------src()
--------pom.xml(3KB)
--------.gitignore(20B)
----LICENSE(11KB)
----README.md(4KB)
----ingestion-monitor()
--------.project(210B)
--------js()
--------StormMonitor.html(2KB)
----ingestion-storm()
--------.project(716B)
--------IngestionTopologySummary(2KB)
--------IngestionTopologySummary.png(91KB)
--------src()
--------IngestionTopology.png(104KB)
--------IngestionTopology(2KB)
--------gen_graphics.sh(72B)
--------maven_run.sh(371B)
--------pom.xml(4KB)
--------.gitignore(20B)
--------topology_run.sh(183B)
----ingestion-kafka()
--------.project(716B)
--------src()
--------.settings()
--------pom.xml(3KB)
--------.gitignore(20B)