kafka(三)：kafka broker
文章目录
- 1. broker总体工作流程
- 2. Broker重要参数
- 3. broker节点的服役和退役
-
- 3.1 服役新节点
- 3.2 退役旧节点
- 4. kafka副本与leader选举
-
- 4.1 副本基本信息
- 4.2 leader选举流程
- 4.3 kafka分区副本分配
- 4.4 leader分区负载平衡问题
- 4.5 增加副本
- 5. 文件数据存储
-
- 5.1 topic数据的存储机制
- 5.2 .log和.index文件说明
- 5.3 文件清理策略
- 5. 高效读写数据
1. broker总体工作流程
2. Broker重要参数
| 参数名称 | 描述 |
|---|---|
| replica.lag.time.max.ms | ISR 中，如果 Follower 长时间未向 Leader 发送通信请求或同步数据，则该 Follower 将被踢出 ISR。该时间阈值，默认 30s。 |
| auto.leader.rebalance.enable | 默认是 true。 自动 Leader Partition 平衡。 |
| leader.imbalance.per.broker.percentage | 默认是 10%。每个 broker 允许的不平衡的 leader的比率。如果每个 broker 超过了这个值，控制器会触发 leader 的平衡。 |
| leader.imbalance.check.interval.seconds | 默认值 300 秒。检查 leader 负载是否平衡的间隔时间 |
| log.segment.bytes | Kafka 中 log 日志是分成一块块存储的，此配置是指 log 日志划分 成块的大小，默认值 1G。 |
| log.index.interval.bytes | 默认 4kb，kafka 里面每当写入了 4kb 大小的日志（.log），然后就往 index 文件里面记录一个索引。 |
| log.retention.hours | Kafka 中数据保存的时间，默认 7 天。 |
| log.retention.minutes | Kafka 中数据保存的时间，分钟级别，默认关闭。 |
| log.retention.ms | Kafka 中数据保存的时间，毫秒级别，默认关闭。 |
| log.retention.check.interval.ms | 检查数据是否保存超时的间隔，默认是 5 分钟。 |
| log.cleanup.policy | 默认是 delete，表示所有数据启用删除策略；如果设置值为 compact，表示所有数据启用压缩策略。 |
| log.flush.interval.ms | 每隔多久，刷数据到磁盘，默认是 null。一般不建议修改，交给系统自己管理 |
3. broker节点的服役和退役
3.1 服役新节点
这里简单概述
- 准备一台新的服务器，安装相同版本的kafka
- 修改broker.id
- 修改zk连接信息
- 创建要负载均衡的主题–>生成负载均衡计划–>创建副本存储计划–>执行副本存储计划–>验证副本存储计划
3.2 退役旧节点
4. kafka副本与leader选举
4.1 副本基本信息
（1）副本作用：提高数据的可靠性
（2）Kafka 默认副本 1 个，生产环境一般配置为 2 个，保证数据可靠性；太多副本会增加磁盘存储空间，增加网络上数据传输，降低效率。
（3）Kafka 中副本分为：Leader 和 Follower。Kafka 生产者只会把数据发往 Leader，然后 Follower 找 Leader 进行同步数据。
（4）Kafka 分区中的所有副本统称为 AR（Assigned Repllicas）。（AR = ISR + OSR）
ISR：表示和 Leader 保持同步的 Follower 集合。如果 Follower 长时间未向 Leader 发送通信请求或同步数据，则该 Follower 将被踢出 ISR。该时间阈值由 replica.lag.time.max.ms参数设定，默认 30s。Leader 发生故障之后，就会从 ISR 中选举新的 Leader。
OSR：表示 Follower 与 Leader 副本同步时，延迟过多的副本
4.2 leader选举流程
- Kafka 集群中有一个 broker 的 Controller 会被选举为Controller Leader，负责管理集群broker的上下线，所有 topic 的分区副本分配和 Leader 选举等工作。
- Controller的信息同步工作是依赖于Zookeeper的
4.3 kafka分区副本分配
- 默认的分区副本分配方式
均匀分配 - 手动调整分区副本存储
主题创建–>查看分区副本存储情况–>创建副本存储计划–>执行副本存储计划–>验证副本存储计划–>查看分区副本存储情况
4.4 leader分区负载平衡问题
leader partition自动平衡
正常情况下，kafka本身会自动把leader partition均匀分散在各个机器上，来保证每台机器的读写吞吐量都是均匀的。但是如果某些broker宕机，会导致leader partition过于集中在其它少部分几台broker上，这会导致少数几台broker的读写请求压力过高，其它宕机的broker重启之后都是follower partition,读写请求很低，造成集群负载不均衡的问题
| 参数名称 | 描述 |
|---|---|
| auto.leader.rebalance.enable | 默认是 true。 自动 Leader Partition 平衡。生产环境中，leader 重选举的代价比较大，可能会带来性能影响，建议设置为 false 关闭 |
| leader.imbalance.per.broker.percentage | 默认是 10%。每个 broker 允许的不平衡的 leader的比率。如果每个 broker 超过了这个值，控制器会触发 leader 的平衡。 |
| leader.imbalance.check.interval.seconds | 默认值 300 秒。检查 leader 负载是否平衡的间隔时间。 |
4.5 增加副本
在生产环境当中，由于某个主题的重要等级需要提升，我们考虑增加副本。副本数的增加需要先制定计划，然后根据计划执行
- 创建topic
- 手动增加副本存储
创建副本存储计划–>执行副本存储计划
5. 文件数据存储
5.1 topic数据的存储机制
topic是逻辑上的概念，而partition是物理上的概念，每个partition对应一个log文件，该log文件中存储的就是producer生产的数据。producer生产的数据会被不断追加到该log文件末端，为了方式log文件过大导致数据定位效率低下，kafka采取了分片和索引的机制，将每个partition分为多个segment，每个segment包括：.index文件、.log文件、.timeindex等文件，这些文件位于一个文件夹下，该文件夹的命名规则为：topic名称+分区序号，例如：first-0
5.2 .log和.index文件说明
日志存储参数配置
| 参数 | 描述 |
|---|---|
| log.segment.bytes | Kafka 中 log 日志是分成一块块存储的，此配置是指 log日志划分成块的大小，默认值 1G。 |
| log.index.interval.bytes | 默认 4kb，kafka 里面每当写入了 4kb 大小的日志（.log），然后就往 index 文件里面记录一个索引。 稀疏索引。 |
5.3 文件清理策略
Kafka 中默认的日志保存时间为 7 天，可以通过调整如下参数修改保存时间。
- log.retention.hours，最低优先级小时，默认 7 天。
- log.retention.minutes，分钟。
- log.retention.ms，最高优先级毫秒
- log.retention.check.interval.ms，负责设置检查周期，默认 5 分钟。
日志一旦超过了设置的时间，Kafka 中提供的日志清理策略有delete 和 compact 两种。
5. 高效读写数据
- Kafka 本身是分布式集群，可以采用分区技术，并行度高
- 读数据采用稀疏索引，可以快速定位要消费的数据
- 顺序写磁盘
Kafka 的 producer 生产数据，要写入到 log 文件中，写的过程是一直追加到文件末端，为顺序写。官网有数据表明，同样的磁盘，顺序写能到 600M/s，而随机写只有 100K/s。这与磁盘的机械机构有关，顺序写之所以快，是因为其省去了大量磁头寻址的时间 - 页缓存 + 零拷贝技术
（1）零拷贝：Kafka的数据加工处理操作交由Kafka生产者和Kafka消费者处理。Kafka Broker应用层不关心存储的数据，所以就不用走应用层，传输效率高
（2）PageCache页缓存：Kafka重度依赖底层操作系统提供的PageCache功能。当上层有写操作时，操作系统只是将数据写入PageCache。当读操作发生时，先从PageCache中查找，如果找不到，再去磁盘中读取。实际上PageCache是把尽可能多的空闲内存都当做了磁盘缓存来使用。
| 参数 | 描述 |
|---|---|
| log.flush.interval.messages | 强制页缓存刷写到磁盘的条数，默认是 long 的最大值，9223372036854775807。一般不建议修改，交给系统自己管理 |
| log.flush.interval.ms | 每隔多久，刷数据到磁盘，默认是 null。一般不建议改，交给系统自己管理。 |