Kafka异常处理(客户端和消费者都找不到topic)

时间:2022-05-14 08:31:43

问题

生产问题,OffsetMonitor 监控发现运行了一个月的kafka突然间消费有lag.

kafka重启成功
用命令行创建topic成功.

./bin/kafka-topics.sh --create --zookeeper ** --replication-factor 2 --partitions 28 --topic newiot003

用命令查看topic也存在,

 ./bin/kafka-topics.sh --zookeeper **    --list

Kafka异常处理(客户端和消费者都找不到topic)
但是product和customer发送和消费时都报错。

Kafka异常处理(客户端和消费者都找不到topic)

分析

查看kafka日志文件/home/kafka/kafka_2.11-0.10.1.1/logs。
Kafka异常处理(客户端和消费者都找不到topic)

发现server.log里:
Kafka异常处理(客户端和消费者都找不到topic)

解决

停止zookeeper.删除对应的数据目录下的文件

/opt/zookeeper-3.4.6/datadir
/opt/zookeeper-3.4.6/logs

只保留:

 /opt/zookeeper-3.4.6/datadir/myid

启动kafka问题解决。
意外发现之前存在标志为已删除,没有物理删除的mark for deletion 的 topic也删除了。
Kafka异常处理(客户端和消费者都找不到topic)

Kafka异常处理(客户端和消费者都找不到topic)