kafka-filtering:Kafka流的非常快速和高效的grep

时间:2021-05-15 07:53:51
【文件属性】:
文件名称:kafka-filtering:Kafka流的非常快速和高效的grep
文件大小:26KB
文件格式:ZIP
更新时间:2021-05-15 07:53:51
Java 卡夫卡过滤 Kafka过滤解决了非常有效地从Kafka或任何此类流中过滤出邮件的问题。 这非常像Kafka消息流的grep 。 Kafka不支持针对消费者的过滤功能。 如果消费者需要收听发布到Kafka主题上的消息的子集,则消费者必须阅读全部内容并仅过滤需要的内容。 由于所有消息都要反序列化并做出这样的决定,因此效率低下。 另一种选择是创建不同的主题:在这种情况下,消费者需要从多个主题中消费,并且订购也丢失了(因为Kafka仅支持在单个主题内订购)! 筛选 这可以通过使标头(Map )与实际数据(byte [])一起在生产者端进行编码来解决此问题。 消费者可以基于这些标签来表达其想要消费和非常有效地过滤掉不需要的东西。 这些{header,data}的编码和解码是使用完成的。 因此,它非常有效,不会给您带来负担。 开销是多少? 在以下情况下为此开销进行了基
【文件预览】:
kafka-filtering-master
----kafka-wrappers()
--------pom.xml(1KB)
----flatbuffers()
--------src()
--------pom.xml(856B)
----exp-filtering-mvel()
--------src()
--------pom.xml(1KB)
----README.md(2KB)
----data-header()
--------src()
--------pom.xml(1KB)
----pom.xml(1KB)
----.gitignore(176B)

网友评论