实战分享|Kafka集群扩容的具体步骤

本文详细介绍了Kafka集群扩容时手动调整topic分区的步骤,包括创建JSON配置文件、生成和执行新的分区规则,并提供了验证方法。推荐先在测试环境操作,确保无误后再应用于生产环境。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Kafka集群扩容的具体步骤,自己实践过的步骤:

提示:Kafka的Broker机器扩容以后,原有的topic分区不会重分区到新的Broker上,需要手动进行分区,以下为手动分区分区教程: 没弄过的建议先在测试环境弄一遍,没问题再去生产操作

1:在当前kafka的config目录下新建一个json文件

 vim /app/servers/kafka/config/topic-to-move.json

2:json文件格式如下:

        2.1 针对单个topic:{“topics”:[{"topic":"topic_1"}],"version":1}

        2.2 针对多个topic:{“topics”:[{"topic":"topic_1"},{"topic":"topic_2"}],"version":1} 推荐一个个弄

3:在kafka的bin目录下执行命令生成新的分区规则

/app/servers/kafka/bin/kafka-reassign-partitions.sh --zookeeper 

服务器 IP:2181 --topics-to-move-json-file /app/server/kafka/config/topic-to-move.json --broker-list "67,68,69,70,71,72,73,74,75,76" --generate

Tips: broker-list里面的数字对应的是所有kafka集群机器的brokerId

4:复制新的分区规则 第三步的命令执行完毕以后,屏幕上会生成新的分区规则,将生成后的新区规则写入新的文件中

注意:只复制Proposed partition reassignment configuration下面的分区规则

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值