kafka

本文深入解析Kafka的架构,包括KafkaController的角色、Zookeeper在选举Leader中的作用,以及Kafka如何通过顺序写磁盘和Sendfile技术实现高性能读写。探讨了Kafka的Pull和Push模式,并对比了Kafka与其他消息队列在维护消费状态上的优势。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

启动kafka ./kafka-server-start.sh -daemon …/config/server.properties
创建topic ./kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 2 --partitions 2 --topic kafkatest_1.0
查看topic ./kafka-topics.sh --list --zookeeper localhost:2181
创建生产者 ./kafka-console-producer.sh --broker-list localhost:9092 --topic xxx
创建消费者./kafka-console-consumer.sh --zookeeper localhost:2181 --topic xxx

kafka两个leader:

  1. 集群的leader
    由zookeeper负责选举,这个leader叫做KafkaController,起的作用为:负责管理整个集群中分区和副本的状态,比如partition的leader副本故障,由controller 负责为该partition重新选举新的leader副本;当检测到ISR列表发生变化,有controller通知集群中所有broker更新其MetadataCache信息;或者增加某个topic分区的时候也会由controller管理分区的重新分配工作。
  2. 副本的leader
    几个partition数据副本只有leader一个对外提供服务,其他的只是起到备份,再leader损坏时顶上去。

zk作用:选举leader,跟跟用户共同管理offset。

  1. 每一个partition有几个副本,是通过KafkaController,zookeeper在kafka中
    选举leader,集群中的server同时向zk注册,当broker启动的时候,都会创建KafkaController对象,但是集群中只能有一个leader对外提供服务,这些每个节点上的KafkaController会在指定的zookeeper路径下创建临时节点,只有第一个成功创建的节点的KafkaController才可以成为leader,其余的都是follower。当leader故障后,所有的follower会收到通知,再次竞争在该路径下创建节点从而选举新的leader。
  2. KafkaController还维护isr列表,只存储leader副本状态,长时间没更新的会被剔除出列表。

kafka pull push两种模式

kafka写快是因为,顺序写磁盘。
kafka读取快
消费者获取数据快 PageCache 还只是第一步,Kafka 为了进一步的优化性能还采用了 Sendfile 技术
一般情况下:数据 copy到内核区 再到用户区 由程序通过socket发送到内核去 Socket buffer中 在通过网卡发送。
而sendfile技术,省去与用户区交互 完成数据到内核区,发送到Socket buffer中,发送到网卡,
二,用了offset 其他消息队列要维护每条消息是否消费,耗费读写,kafka顺序写磁盘

Windows 系统修复工具主要用于解决 Windows 11/10 系统中的各种常见问题,具有操作简单、功能全面等特点: 文件资源管理器修复:可解决文件资源管理器卡死、崩溃、无响应等问题,能终止崩溃循环。还可修复右键菜单无响应或选项缺失问题,以及重建缩略图缓存,让图片、视频等文件的缩略图正常显示,此外,还能处理桌面缺少回收站图标、回收站损坏等问题。 互联网和连接修复:能够刷新 DNS 缓存,加速网页加载速度,减少访问延迟。可重置 TCP/IP 协议栈,增强网络连接稳定性,减少网络掉线情况,还能还原 Hosts 文件,清除恶意程序对网络设置的篡改,保障网络安全,解决电脑重装系统后网络无法连接、浏览器主页被篡改等问题。 系统修复:集成系统文件检查器(SFC),可自动扫描并修复受损的系统文件。能解决 Windows 激活状态异常的问题,还可重建 DLL 注册库,恢复应用程序兼容性,解决部分软件无法正常运行的问题,同时也能处理如 Windows 沙箱无法启动、Windows 将 JPG 或 JPEG 保存为 JFIF 等系统问题。 系统工具维护:提供启动管理器、服务管理器和进程管理器等工具,用户可控制和管理启动程序、系统服务和当前运行的进程,提高系统的启动和运行速度,防止不必要的程序和服务占用系统资源。还能查看系统规格,如处理器线程数、最大显示分辨率等。 故障排除:集成超过 20 个微软官方诊断工具,可对系统问题进行专业排查,还能生成硬件健康状态报告。能解决搜索和索引故障、邮件和日历应用程序崩溃、设置应用程序无法启动等问题,也可处理打印机、网络适配器、Windows 更新等相关故障。 其他修复功能:可以重置组策略设置、catroot2 文件夹、记事本等多种系统设置和组件,如重置 Windows 应用商店缓存、Windows 防火墙设置等。还能添加重建图标缓存支持,恢复粘滞便笺删除
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值