文件名称:lambda-arch:将Lambda架构与Spark,Kafka和Cassandra一起应用
文件大小:602KB
文件格式:ZIP
更新时间:2024-05-21 08:06:39
spark bigdata lambda-architecture Java
Lambda体系结构 在了解有关该项目的 在观看展示该项目的视频 我们的Lambda项目接收来自互联车辆的实时IoT数据事件,然后通过Kafka提取到Spark。 使用Spark流API,我们处理并分析了IoT数据事件,并将其转换为车辆信息。 同时,数据也存储到HDFS中以进行批处理。 我们使用Spark流API对流执行了一系列无状态和有状态转换,并将其持久化到Cassandra数据库表中。 为了获得准确的视图,我们还执行批处理并在Cassandra中生成批处理视图。 我们使用Spring Boot,SockJs和Bootstrap开发了响应式Web流量监视仪表板,这些仪表板从Cassandra数据库获取视图并使用Web套接字推送到UI。 ================================================== =======================
【文件预览】:
lambda-arch-master
----.gitignore(692B)
----data()
--------conf()
----iot-springboot-dashboard()
--------src()
--------pom.xml(2KB)
--------README.md(1KB)
--------IoTData.cql(963B)
----LICENSE(11KB)
----docker-compose.yml(3KB)
----iot-kafka-producer()
--------src()
--------pom.xml(2KB)
--------README.md(676B)
----pom.xml(565B)
----diagram.png(135KB)
----README.md(5KB)
----iot-architecture.png(332KB)
----iot-spark-processor()
--------data()
--------src()
--------pom.xml(4KB)
--------README.md(0B)
--------IoTData.cql(1KB)
----project-orchestrate.sh(1KB)