secor:Secor是一种实现Kafka日志持久性的服务

时间:2024-03-01 20:15:25
【文件属性】:

文件名称:secor:Secor是一种实现Kafka日志持久性的服务

文件大小:345KB

文件格式:ZIP

更新时间:2024-03-01 20:15:25

kafka Java

Pinterest Secor Secor是一项将日志持久到 , , 和。 主要特点 强大的一致性:只要在Secor能够读取邮件之前不丢弃邮件(例如,由于积极的清除策略),就可以确保将每条邮件保存在一个文件中。 模型导致的众所周知的时间不一致不会损害此属性, 容错:Secor的任何组件都可以在任何给定时间崩溃,而不会影响数据完整性, 负载分配:Secor可以分布在多台机器上, 水平可扩展性:扩展系统以处理更多负载就像启动额外的Secor流程一样容易。 可以通过取消任何正在运行的Secor进程来减少资源占用。 增长或下降都不会对数据一致性产生任何影响, 输出分区:Secor解析传入的消息,并将它们放在分区的s3路径下,以便直接导入到这样的系统中。 secor支持日期,小时,分钟级别的分区 可配置的上传策略:通过基于大小和基于时间的策略来配置控制何时将数据保留在S3中的提交点​​(


网友评论