• 首页
  • Qt文档
  • DTK文档
  • 玲珑文档
  • 开源ZooKeeper集群解决方案

    第一章 方案设计

    1.1.应用背景

    ZooKeeper诞生于Yahoo,后转入Apache孵化,最终孵化成Apache的顶级项目,是Hadoop和Hbase的重要组件。ZooKeeper是一种集中式服务,用于维护配置信息、命名、提供分布式同步和提供组服务。所有这些类型的服务都以分布式应用程序的某种形式使用。由于实现上述需求都需要做很多工作来修复不可避免的错误和竞争条件。因此,这些服务的实现变得非常困难,即使这些服务顺利完成,管理和运维的成本也非常高,所以zookeeper以救世主的身份出现,解决上述技术难题,降低了分布式应用程序的开发难度和工作量,让程序员专注于分布式架构的设计。

    1.2.方案概述

    本方案采用统信UOS Server操作系统(以下简称为UOS服务器操作系统)+Zookeeper,是一套针对解决在分布式环境中数据不一致问题,ZooKeeper 是一个典型的分布式数据一致性解决方案,分布式应用程序可以基于 ZooKeeper 实现诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master 选举、分布式锁和分布式队列等功能。

    1.3.产品介绍

    1.3.1. Zookeeper Zookeeper主要可以干哪些事情:配置管理,名字服务,提供分布式同步以及集群管理。那这些服务又到底是什么呢?我们为什么需要这样的服务?我们又为什么要使用Zookeeper来实现呢,使用Zookeeper有什么优势?接下来我会挨个介绍这些到底是什么,以及有哪些开源系统中使用了。 1.3.2.配置管理 在我们的应用中除了代码外,还有一些就是各种配置。比如数据库连接等。一般我们都是使用配置文件的方式,在代码中引入这些配置文件。但是当我们只有一种配置,只有一台服务器,并且不经常修改的时候,使用配置文件是一个很好的做法,但是如果我们配置非常多,有很多服务器都需要这个配置,而且还可能是动态的话使用配置文件就不是个好主意了。这个时候往往需要寻找一种集中管理配置的方法,我们在这个集中的地方修改了配置,所有对这个配置感兴趣的都可以获得变更。比如我们可以把配置放在数据库里,然后所有需要配置的服务都去这个数据库读取配置。但是,因为很多服务的正常运行都非常依赖这个配置,所以需要这个集中提供配置服务的服务具备很高的可靠性。一般我们可以用一个集群来提供这个配置服务,但是用集群提升可靠性,那如何保证配置在集群中的一致性呢? 这个时候就需要使用一种实现了一致性协议的服务了。Zookeeper就是这种服务,它使用Zab这种一致性协议来提供一致性。现在有很多开源项目使用Zookeeper来维护配置,比如在HBase中,客户端就是连接一个Zookeeper,获得必要的HBase集群的配置信息,然后才可以进一步操作。还有在开源的消息队列Kafka中,也使用Zookeeper来维护broker的信息。在Alibaba开源的SOA框架Dubbo中也广泛的使用Zookeeper管理一些配置来实现服务治理。 1.3.3.名字服务 名字服务这个就很好理解了。比如为了通过网络访问一个系统,我们得知道对方的IP地址,但是IP地址对人非常不友好,这个时候我们就需要使用域名来访问。但是计算机是不能是别域名的。怎么办呢?如果我们每台机器里都备有一份域名到IP地址的映射,这个倒是能解决一部分问题,但是如果域名对应的IP发生变化了又该怎么办呢?于是我们有了DNS这个东西。我们只需要访问一个大家熟知的(known)的点,它就会告诉你这个域名对应的IP是什么。在我们的应用中也会存在很多这类问题,特别是在我们的服务特别多的时候,如果我们在本地保存服务的地址的时候将非常不方便,但是如果我们只需要访问一个大家都熟知的访问点,这里提供统一的入口,那么维护起来将方便得多了。 1.3.4.分布式锁 其实在第一篇文章中已经介绍了Zookeeper是一个分布式协调服务。这样我们就可以利用Zookeeper来协调多个分布式进程之间的活动。比如在一个分布式环境中,为了提高可靠性,我们的集群的每台服务器上都部署着同样的服务。但是,一件事情如果集群中的每个服务器都进行的话,那相互之间就要协调,编程起来将非常复杂。而如果我们只让一个服务进行操作,那又存在单点。通常还有一种做法就是使用分布式锁,在某个时刻只让一个服务去干活,当这台服务出问题的时候锁释放,立即fail over到另外的服务。这在很多分布式系统中都是这么做,这种设计有一个更好听的名字叫Leader Election(leader选举)。比如HBase的Master就是采用这种机制。但要注意的是分布式锁跟同一个进程的锁还是有区别的,所以使用的时候要比同一个进程里的锁更谨慎的使用。 1.3.5.集群管理 在分布式的集群中,经常会由于各种原因,比如硬件故障,软件故障,网络问题,有些节点会进进出出。有新的节点加入进来,也有老的节点退出集群。这个时候,集群中其他机器需要感知到这种变化,然后根据这种变化做出对应的决策。比如我们是一个分布式存储系统,有一个中央控制节点负责存储的分配,当有新的存储进来的时候我们要根据现在集群目前的状态来分配存储节点。这个时候我们就需要动态感知到集群目前的状态。还有,比如一个分布式的SOA架构中,服务是一个集群提供的,当消费者访问某个服务时,就需要采用某种机制发现现在有哪些节点可以提供该服务(这也称之为服务发现,比如Alibaba开源的SOA框架Dubbo就采用了Zookeeper作为服务发现的底层机制)。还有开源的Kafka队列就采用了Zookeeper作为Cosnumer的上下线管理。

    1.4.方案架构

    整体方案架构图,如下图:

    1.5.方案核心价值

    1.5.1. 可靠存储 实际使用中可以表现为配置管理、名字服务,这种应用完全是因为ZK多备份的可靠性强。当然也可以利用回调机制在数据变更时可以进行全体通知。实现起来非常简单而且很有效,所以是应用最广的场景。 1.5.2. 集群管理 利用ZK的通讯与回调机制完成分布式集群的机器状态监视,甚至很多系统中做主从备份时都会在ZK中注册以方便做热备切换。 1.5.3. 服务管理 可靠存储加上通知回调机制其实满足了服务注册发现的最基本需求,某些在本人看起来不那么靠谱的应用场景,居然也在采用ZK实现。大有一统天下之势,所有类似的需求都开始采用ZK方案,比较出名的系统比如国内的Dubbo和国外的Kafka(居然还把ZK用在了负载均衡上面)、jStorm、Heron(twitter)等等。 1.5.4. 选主服务 选主服务是ZK参考的原始系统Chubby设计出来最初的应用需求,当时是满足BigTable的master选主。ZK最初也是用在HBase里面,而后所有需要选主服务的都在采用,很多KV系统用来方便从多节点中选择一个中心节点,需要注意的是有时选主服务在讨论里也被称为分布式锁的一种,很容易混淆概念。的确使用ZK来实现选主服务(实现方法最好跟分布式锁的方法完全一样,这里官方文档都曾经犯过错误)客观上遵循了时间优先原则,但是实际需求并非一定要满足这条,只要保证关键的唯一性就可以了,因此与同步意义上的锁很是有不同的。

    第二章 方案优势

    2.1. 精简的文件系统

    ZooKeeper是简单的 ZooKeeper的核心是一个精简的文件系统,它提供一些额外的抽象操作,例如,排序和通知。

    2.2.构件

    ZooKeeper是富有表现力的 ZooKeeper的基本操作时一组丰富的“构件”,可用于实现多种协调数据结构和协议。相关的例子包括:分布式队列、分布式锁和一组节点中的“领导者选举”。

    2.3.高可用性

    ZooKeeper具有高可用性 ZooKeeper运行于一组机器之上,并且在设计上具有高可用性,因此应用程序完全可以依赖于它。ZooKeeper可以帮助系统避免出现单点故障,因此可以用于构建一个可靠的应用程序。

    2.4.耦合交互

    ZooKeeper采用耦合交互方式 在ZooKeeper支持的交互过程中,参与者不需要彼此了解。例如,ZooKeeper可以被用于实现“数据汇集”机制,让进程在不了解其他进程的情况下能够彼此发现并进行信息交互。参与的各方甚至可以不必同时存在,因为一个进程可以在ZooKeeper中留下一条消息,在该进程结束后,另外一个进程还可以读取这条消息。

    2.5. 资源库

    ZooKeeper是一个资源库 ZooKeeper提供了一个通用协调模式实现方法的开源共享库,使程序员免于写这类通用的协议。所有人都能够对这个资源库进行添加和改进,久而久之,会使每个人都从中受益。

    第三章 用户收益

    3.1. 源码安全保障

    本方案全部采用开源软件,开源软件具有代码透明、开放度高等特点,全 球有大量开发人员参与到代码的建设中,代码中存在的漏洞与 bug 也会被及时发现,通过长时间的更新迭代,代码已经越来越趋于安全,而商业软件由于源码封闭,开发人数少,解决 bug 与漏洞的速度可能会远不及开源软件。因此采用开源方案能够使用户用起来更安心。

    3.1. 运行更稳定

    严格把控 UOS 服务器操作系统与+Zookeeper 等开源软件的兼容性适配 流程,确保该方案可在 UOS 服务器操作系统上顺利部署且运行稳定。

    3.3. 提供部署文档

    统信可以为用户提供部署文档,这些文档经过统信测试可用,详细介绍了 方案的部署流程,用户参照文档即可轻松部署,省去用户部署前大量的学习成本。

    3.4. 支持国产平台部署

    UOS 服务器操作系统兼容性高、安全可靠、功能可灵活定制,本方案不仅 支持英特尔平台部署而且支持国产化架构如兆芯、海光、飞腾、鲲鹏等平台上进行部署。

    第四章 企业介绍

    统信软件技术有限公司成立于2019年,注册资本45,900万元,是专注基于Linux的操作系统研发与服务的商业公司。 作为国内顶尖的操作系统研发团队,统信软件以提供安全稳定、美观易用的操作系统产品与技术解决方案为目标,拥有操作系统研发、行业定制、国际化、迁移和适配、交互设计、支持服务与培训等多方面专业人才,能够满足不同用户和应用场景对操作系统的广泛需求。 统信软件公司目标就是解决目前中国信息技术产业的问题,尤其是在基础软件领域受制于人的心腹之患,在未来信息技术领域的发展路径上要形成中国的话语权和优势!

    总部地址:北京经济技术开发区科谷一街10号院12号楼 公司网址:https://www.uniontech.com 联系电话:400-8588-488

    第五章 支持与服务

    统信软件本着“以客户为本”的服务理念,通过完善的技术服务体系,能够为用户提供标准、规范、专业的技术支持服务,打造良好的服务口碑。 更多技术支持内容,可查询: 统信软件官网—服务支持—服务指南: https://www.uniontech.com/next/support/guide/1 更多资料分享,可查询: 统信软件官网:https://www.uniontech.com/ 统信生态官网:https://www.chinauos.com/ 技术文档下载:https://www.uniontech.com/next/support/doc 产品手册下载:https://www.uniontech.com/download