kafka(三):kafka broker

文章目录

  • 1. broker总体工作流程
  • 2. Broker重要参数
  • 3. broker节点的服役和退役
    • 3.1 服役新节点
    • 3.2 退役旧节点
  • 4. kafka副本与leader选举
    • 4.1 副本基本信息
    • 4.2 leader选举流程
    • 4.3 kafka分区副本分配
    • 4.4 leader分区负载平衡问题
    • 4.5 增加副本
  • 5. 文件数据存储
    • 5.1 topic数据的存储机制
    • 5.2 .log和.index文件说明
    • 5.3 文件清理策略
  • 5. 高效读写数据

1. broker总体工作流程

kafka(三):kafka broker_第1张图片

2. Broker重要参数

参数名称 描述
replica.lag.time.max.ms ISR 中,如果 Follower 长时间未向 Leader 发送通信请求或同步数据,则该 Follower 将被踢出 ISR。该时间阈值,默认 30s。
auto.leader.rebalance.enable 默认是 true。 自动 Leader Partition 平衡。
leader.imbalance.per.broker.percentage 默认是 10%。每个 broker 允许的不平衡的 leader的比率。如果每个 broker 超过了这个值,控制器会触发 leader 的平衡。
leader.imbalance.check.interval.seconds 默认值 300 秒。检查 leader 负载是否平衡的间隔时间
log.segment.bytes Kafka 中 log 日志是分成一块块存储的,此配置是指 log 日志划分 成块的大小,默认值 1G。
log.index.interval.bytes 默认 4kb,kafka 里面每当写入了 4kb 大小的日志(.log),然后就往 index 文件里面记录一个索引。
log.retention.hours Kafka 中数据保存的时间,默认 7 天。
log.retention.minutes Kafka 中数据保存的时间,分钟级别,默认关闭。
log.retention.ms Kafka 中数据保存的时间,毫秒级别,默认关闭。
log.retention.check.interval.ms 检查数据是否保存超时的间隔,默认是 5 分钟。
log.cleanup.policy 默认是 delete,表示所有数据启用删除策略;如果设置值为 compact,表示所有数据启用压缩策略。
log.flush.interval.ms 每隔多久,刷数据到磁盘,默认是 null。一般不建议修改,交给系统自己管理

3. broker节点的服役和退役

3.1 服役新节点

这里简单概述

  1. 准备一台新的服务器,安装相同版本的kafka
  2. 修改broker.id
  3. 修改zk连接信息
  4. 创建要负载均衡的主题–>生成负载均衡计划–>创建副本存储计划–>执行副本存储计划–>验证副本存储计划

3.2 退役旧节点

4. kafka副本与leader选举

4.1 副本基本信息

(1)副本作用:提高数据的可靠性
(2)Kafka 默认副本 1 个,生产环境一般配置为 2 个,保证数据可靠性;太多副本会增加磁盘存储空间,增加网络上数据传输,降低效率。
(3)Kafka 中副本分为:Leader 和 Follower。Kafka 生产者只会把数据发往 Leader,然后 Follower 找 Leader 进行同步数据。
(4)Kafka 分区中的所有副本统称为 AR(Assigned Repllicas)。(AR = ISR + OSR)
ISR:表示和 Leader 保持同步的 Follower 集合。如果 Follower 长时间未向 Leader 发送通信请求或同步数据,则该 Follower 将被踢出 ISR。该时间阈值由 replica.lag.time.max.ms参数设定,默认 30s。Leader 发生故障之后,就会从 ISR 中选举新的 Leader。
OSR:表示 Follower 与 Leader 副本同步时,延迟过多的副本

4.2 leader选举流程

  1. Kafka 集群中有一个 broker 的 Controller 会被选举为Controller Leader,负责管理集群broker的上下线,所有 topic 的分区副本分配和 Leader 选举等工作。
  2. Controller的信息同步工作是依赖于Zookeeper的

4.3 kafka分区副本分配

  1. 默认的分区副本分配方式
    均匀分配
  2. 手动调整分区副本存储
    主题创建–>查看分区副本存储情况–>创建副本存储计划–>执行副本存储计划–>验证副本存储计划–>查看分区副本存储情况

4.4 leader分区负载平衡问题

leader partition自动平衡
正常情况下,kafka本身会自动把leader partition均匀分散在各个机器上,来保证每台机器的读写吞吐量都是均匀的。但是如果某些broker宕机,会导致leader partition过于集中在其它少部分几台broker上,这会导致少数几台broker的读写请求压力过高,其它宕机的broker重启之后都是follower partition,读写请求很低,造成集群负载不均衡的问题
kafka(三):kafka broker_第2张图片

参数名称 描述
auto.leader.rebalance.enable 默认是 true。 自动 Leader Partition 平衡。生产环境中,leader 重选举的代价比较大,可能会带来性能影响,建议设置为 false 关闭
leader.imbalance.per.broker.percentage 默认是 10%。每个 broker 允许的不平衡的 leader的比率。如果每个 broker 超过了这个值,控制器会触发 leader 的平衡。
leader.imbalance.check.interval.seconds 默认值 300 秒。检查 leader 负载是否平衡的间隔时间。

4.5 增加副本

在生产环境当中,由于某个主题的重要等级需要提升,我们考虑增加副本。副本数的增加需要先制定计划,然后根据计划执行

  1. 创建topic
  2. 手动增加副本存储
    创建副本存储计划–>执行副本存储计划

5. 文件数据存储

5.1 topic数据的存储机制

topic是逻辑上的概念,而partition是物理上的概念,每个partition对应一个log文件,该log文件中存储的就是producer生产的数据。producer生产的数据会被不断追加到该log文件末端,为了方式log文件过大导致数据定位效率低下,kafka采取了分片和索引的机制,将每个partition分为多个segment,每个segment包括:.index文件、.log文件、.timeindex等文件,这些文件位于一个文件夹下,该文件夹的命名规则为:topic名称+分区序号,例如:first-0
kafka(三):kafka broker_第3张图片

5.2 .log和.index文件说明

kafka(三):kafka broker_第4张图片
日志存储参数配置

参数 描述
log.segment.bytes Kafka 中 log 日志是分成一块块存储的,此配置是指 log日志划分成块的大小,默认值 1G。
log.index.interval.bytes 默认 4kb,kafka 里面每当写入了 4kb 大小的日志(.log),然后就往 index 文件里面记录一个索引。 稀疏索引。

5.3 文件清理策略

Kafka 中默认的日志保存时间为 7 天,可以通过调整如下参数修改保存时间。

  • log.retention.hours,最低优先级小时,默认 7 天。
  • log.retention.minutes,分钟。
  • log.retention.ms,最高优先级毫秒
  • log.retention.check.interval.ms,负责设置检查周期,默认 5 分钟。

日志一旦超过了设置的时间,Kafka 中提供的日志清理策略有delete 和 compact 两种。

5. 高效读写数据

  1. Kafka 本身是分布式集群,可以采用分区技术,并行度高
  2. 读数据采用稀疏索引,可以快速定位要消费的数据
  3. 顺序写磁盘
    Kafka 的 producer 生产数据,要写入到 log 文件中,写的过程是一直追加到文件末端,为顺序写。官网有数据表明,同样的磁盘,顺序写能到 600M/s,而随机写只有 100K/s。这与磁盘的机械机构有关,顺序写之所以快,是因为其省去了大量磁头寻址的时间
  4. 页缓存 + 零拷贝技术
    (1)零拷贝:Kafka的数据加工处理操作交由Kafka生产者和Kafka消费者处理。Kafka Broker应用层不关心存储的数据,所以就不用走应用层,传输效率高
    (2)PageCache页缓存:Kafka重度依赖底层操作系统提供的PageCache功能。当上层有写操作时,操作系统只是将数据写入PageCache。当读操作发生时,先从PageCache中查找,如果找不到,再去磁盘中读取。实际上PageCache是把尽可能多的空闲内存都当做了磁盘缓存来使用。
    kafka(三):kafka broker_第5张图片
参数 描述
log.flush.interval.messages 强制页缓存刷写到磁盘的条数,默认是 long 的最大值,9223372036854775807。一般不建议修改,交给系统自己管理
log.flush.interval.ms 每隔多久,刷数据到磁盘,默认是 null。一般不建议改,交给系统自己管理。

你可能感兴趣的