ZooKeeper分布式协调详解

一、ZooKeeper概述ZooKeeper是一个开源的分布式协调服务由Apache维护。官网描述为“致力于开发和维护实现高度可靠的分布式协调的开源服务器”。它被广泛应用于Solr、Hadoop等分布式系统中提供集群管理、配置维护、命名服务、分布式同步等功能。ZooKeeper支持三种部署模式独立部署模式单机运行适用于学习基础功能。伪分布式模式单台机器运行多个ZooKeeper实例模拟集群适用于开发测试。全分布式模式多台机器部署真正的集群模式可投入生产环境。二、ZooKeeper集群角色ZooKeeper集群由多个Server组成分为三种角色Leader集群的领导者处理所有写请求发起并完成事务投票。Follower跟随者处理读请求参与Leader选举和写请求投票。Observer观察者处理读请求不参与投票用于提升集群读性能提高伸缩性而不影响吞吐率。三、数据模型ZNodeZooKeeper的数据模型类似Linux文件系统采用层次化命名空间每个节点称为ZNode。每个ZNode由三部分组成stat状态信息版本、权限、时间戳等data关联的数据children子节点列表以根节点“/”为起点展示如“/hello”、“/app1”等子节点并用图标区分持久节点、临时节点、顺序节点。ZNode的类型持久节点PERSISTENT创建后永久存在需主动删除。临时节点EPHEMERAL与客户端会话绑定会话结束自动删除且不能有子节点。持久顺序节点PERSISTENT_SEQUENTIAL持久节点基础上自动附加递增序号。临时顺序节点EPHEMERAL_SEQUENTIAL临时节点基础上自动附加递增序号。用表格或分类图示展示四种节点的创建方式、生命周期、是否有序等特性。四、ZooKeeper核心工作原理1. 数据流程写请求处理写请求必须由Leader处理流程如下Client向Follower发出写请求。Follower将请求转发给Leader。Leader发起投票Proposal通知所有Follower投票。Follower将投票结果返回给Leader。Leader汇总结果如果获得半数以上ACK则提交事务Commit。Follower将执行结果返回给Client。用泳道图或时序图展示Client、Follower、Leader三者间的交互步骤。2. Follower的消息循环处理Follower在运行过程中会循环处理来自Leader的以下几种消息PING消息心跳消息。PROPOSAL消息Leader发起的提案要求Follower投票。COMMIT消息服务器端最新一次提案的提交信息。UPTODATE消息表明同步完成。REVALIDATE消息根据Leader的REVALIDATE结果关闭待revalidate的session或允许其接受消息。SYNC消息返回SYNC结果到客户端用来强制得到最新的更新3. Leader选举流程Zab协议的恢复模式ZooKeeper的核心是原子广播Zab协议分为恢复模式选主和广播模式同步。当服务启动或Leader崩溃时进入恢复模式选举过程如下每个Server启动后都会推荐自己作为Leader投票依据zxid和myid。Server向其他Server询问它们要投票给谁。每个Server根据收到的回复计算出zxid最大的Server并将其作为下一次投票的对象。统计得票数若某Server获得超过半数的票则当选为Leader。当选的Leader等待Follower连接。Follower连接Leader并将自身最大的zxid发送给Leader。Leader根据Follower的zxid确定同步点。完成同步后Leader通知Follower进入uptodate状态。Follower收到uptodate消息后开始接受Client请求。用流程图展示从启动推荐、投票比较、过半当选到状态同步的完整过程。4. Zab协议的广播模式选举完成后集群进入广播模式Leader接受写请求生成事务Proposal并分配递增的zxid64位高32位epoch标识Leader任期低32位递增计数。Leader向所有Follower广播Proposal。Follower写入本地日志后返回ACK。收到半数以上ACK后Leader提交事务并通知Follower。五、数据一致性与Paxos算法分布式数据一致性的三个级别强一致性更新成功后客户端立即能看到最新数据。弱一致性更新成功后客户端不一定立即看到。最终一致性经过一段时间后客户端最终能看到更新。ZooKeeper通过Zab协议基于Paxos思想实现强一致性。Paxos算法的核心是通过投票对写操作进行全局编号同一时刻只有一个写操作被批准。只有获得过半数选票的写操作才会被提交。任何节点挂掉都不影响集群数据一致性集群总节点数为2n1最多允许n台挂掉。六、ZooKeeper的典型操作命令行示例中给出了常用命令操作命令示例说明连接Serverbin/zkCli.sh -server 192.168.58.99:2181建立会话列出节点ls /列出根节点下的子节点创建节点create /hello world创建持久节点并关联数据创建临时节点create -e /temp data会话结束自动删除创建顺序节点create -s /seq data自动附加递增序号获取节点数据get /hello返回数据和状态信息删除节点delete /hello/item01需先删除子节点递归删除rmr /hello删除节点及其所有子节点监听子节点变化ls /path true注册Watcher监听节点数据变化get /path true注册Watcher七、ZooKeeper的五大特性总结了ZooKeeper的五个核心特性八、ZooKeeper集群部署要点1. 集群节点数为什么一般为奇数如果有3个Server最多允许1个挂掉半数以上为2票。如果有4个Server同样最多允许1个挂掉半数以上为3票。3台和4台容灾能力相同但4台浪费资源因此生产环境通常使用奇数节点3、5、7。2. 配置文件zoo.cfg与myid所有节点的zoo.cfg内容相同通过server.xhost:port1:port2指定集群成员。每个节点的dataDir目录下需要有myid文件内容为对应的数字与server.x中的x一致。3. 启动与状态查看bash# 启动ZooKeeper zkServer.sh start # 查看状态 zkServer.sh status启动后集群会自动选举出Leader。例如在hadoop1上执行zkServer.sh status可能显示Mode: follower在hadoop2上可能显示Mode: leader。模拟终端输出展示不同节点上zkServer.sh status的结果。总结ZooKeeper通过ZNode数据模型、Watcher机制、Zab原子广播协议和Leader选举为分布式系统提供了可靠、高效的协调服务。理解其工作原理尤其是Zab协议的恢复模式与广播模式以及数据一致性保证是解决配置管理、服务发现、分布式锁等实际问题的关键。