10.1.7 高可用与容错设计要点

高可用与容错设计要点聚焦在“副本、选举、隔离与恢复”四个层面，目标是在节点故障、网络抖动与磁盘异常下保持服务可用、数据尽量不丢且不重复。本节给出原理草图、关键参数、命令示例、排错与练习。

文章图片

1. 副本与ISR设计（原理+配置）
- 副本因子建议 3，允许 1 台 Broker 故障仍可读写。
- ISR 仅包含与 Leader 同步的副本，只有 ISR 成员可被选为 Leader。
- min.insync.replicas 与 acks=all 配合保障最低确认副本数。

示例：Broker 基线配置（/opt/kafka/config/server.properties）

# 副本与选举
default.replication.factor=3
min.insync.replicas=2
unclean.leader.election.enable=false
auto.leader.rebalance.enable=true

# 复制与超时
replica.lag.time.max.ms=10000
replica.fetch.max.bytes=10485760

预期效果：至少 2 个 ISR 副本确认后才算成功写入；非 ISR 不会成为 Leader。

2. Leader 选举与故障转移（命令演示）
查看分区当前 Leader/ISR：

/opt/kafka/bin/kafka-topics.sh --bootstrap-server 127.0.0.1:9092 \
  --describe --topic order-events

输出关键字段说明：
- Leader：当前主副本
- ISR：同步副本集合

手动触发优先副本选举（减少倾斜）：

/opt/kafka/bin/kafka-leader-election.sh --bootstrap-server 127.0.0.1:9092 \
  --election-type preferred --topic order-events --partition 0

预期效果：分区 0 的 Leader 回归到优先副本。

3. 生产者可靠性策略（配置+命令）
生产者配置示例（/opt/kafka/config/producer.properties）：

acks=all
retries=10
retry.backoff.ms=200
enable.idempotence=true
transactional.id=order-tx-1

发送测试：

/opt/kafka/bin/kafka-console-producer.sh --bootstrap-server 127.0.0.1:9092 \
  --topic order-events --producer.config /opt/kafka/config/producer.properties

预期效果：短时抖动下自动重试，幂等避免重复写入。

4. 消费者容错设计（配置+命令）
消费者配置示例（/opt/kafka/config/consumer.properties）：

group.id=order-cg
enable.auto.commit=false
max.poll.interval.ms=300000
session.timeout.ms=10000

手动提交示例（伪流程说明）：
1) 拉取消息
2) 处理成功
3) 提交位移 

/opt/kafka/bin/kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 \
  --topic order-events --group order-cg --from-beginning

5. Broker 与存储层保障（配置+说明）
多盘分布示例（/opt/kafka/config/server.properties）：

log.dirs=/data/kafka-1,/data/kafka-2
log.segment.bytes=1073741824
retention.ms=604800000

预期效果：分区分散到多盘，单盘故障影响面降低。

6. ZooKeeper/KRaft 高可用（安装与检查）
三节点 ZooKeeper 快速部署示例（仅演示结构）：
/opt/zookeeper/conf/zoo.cfg

tickTime=2000
dataDir=/data/zk
clientPort=2181
initLimit=10
syncLimit=5
server.1=10.0.0.1:2888:3888
server.2=10.0.0.2:2888:3888
server.3=10.0.0.3:2888:3888

创建 myid：

echo 1 > /data/zk/myid   # 在10.0.0.1

健康检查：

echo ruok | nc 10.0.0.1 2181
# 预期输出: imok

7. 常见故障场景与排错命令
- Broker 宕机：检查 ISR 缩减与分区未分配 

/opt/kafka/bin/kafka-topics.sh --bootstrap-server 127.0.0.1:9092 \
  --describe --under-replicated-partitions
  • 网络分区：关注 ISR 抖动 
grep -E "ISR|ReplicaFetcher" /opt/kafka/logs/server.log
  • 磁盘写满：Broker 进入只读或异常 
df -h /data/kafka-1 /data/kafka-2

8. 关键参数与命令解释（汇总）
- min.insync.replicas=2：最低确认副本数
- unclean.leader.election.enable=false：禁止非 ISR 选主
- acks=all：生产者等待 ISR 全部确认
- enable.idempotence=true：生产者幂等，避免重复写入

9. 练习题（动手验证高可用）
1) 创建副本因子 3 的主题并验证 ISR：

/opt/kafka/bin/kafka-topics.sh --bootstrap-server 127.0.0.1:9092 \
  --create --topic ha-test --partitions 3 --replication-factor 3
/opt/kafka/bin/kafka-topics.sh --bootstrap-server 127.0.0.1:9092 \
  --describe --topic ha-test

2) 停掉一个 Broker，观察 Leader/ISR 变化：

# 在某台Broker上停止
/opt/kafka/bin/kafka-server-stop.sh

3) 使用 acks=all 生产消息，确认仍可写入且无重复。

通过以上设计与演练，Kafka 可在单点故障、短时抖动与部分节点不可用情况下保持稳定运行，并将数据丢失风险降到最低。