科技行者

行者学院 转型私董会 科技行者专题报道 网红大战科技行者

知识库

知识库 安全导航



ZDNet>服务器频道>X86-zhiding>负载均衡实战之五:集群运行维护攻略

负载均衡实战之五:集群运行维护攻略

  • 扫一扫
    分享文章到微信

  • 扫一扫
    关注官方公众号
    至顶头条

当我们把所有的配置做好并通过各项功能测试后(1,2,3,4),就可以把这个集群环境正式运行起来(这里忽略其它处理过程),但这并不意味着万事大吉。要使负载均衡环境真正的高可用并符合业务需求,还有事情需要去做的。

来源:IT168 2009年10月12日

关键字:集群 负载均衡

  当我们把所有的配置做好并通过各项功能测试后(1234),就可以把这个集群环境正式运行起来(这里忽略其它处理过程),但这并不意味着万事大吉。要使负载均衡环境真正的高可用并符合业务需求,还有事情需要去做的。这些事情包括:负载均衡环境中对象新增、变更及删除,状态监控,故障的排查处理等。

  一、对象新增、变更及删除

  这里的对象包括vip、真实服务器、服务(vip+端口号)等。从前面的事例可以得知,一对负载均衡器,可以承担多个服务的转发任务,因此在运行过程中,很可能因为业务本身的变化而新增、变更或删除对象。比如:某个服务负载趋于饱和,需新加服务器;有些业务下线了,需要从转发队列中把服务删除掉。

  对象增加、变更及删除的操作,涉及负载均衡器和真实服务器。在负载均衡器方面,主要的操作就是修改keepalived的配置文件keepalived.conf;在真实服务器上,进行的操作主要是编写lvs配置脚本、运行或者关闭这个配置脚本。

  在有2个负载均衡器的lvs环境,所作的配置文件keepalived.conf变更操作要在这两个服务器上都进行一遍,以保持配置和服务的一致性。

  当我们进行对象增加、变更或删除的操作时,只要注意好执行的先后顺序,就能保证提供的服务不中断,用户的正常访问不受影响。

  ● 对象新增

  假定在负载均衡环境新增一个web服务器,其操作顺序是:

  1、 启用新增服务器的web服务。

  2、 启用新增服务器的lvs客户端配置脚本。

  3、 检验"1"和"2"两步的正确性。

  4、 修改负载均衡器的配置文件keepalived.conf。

  5、 关闭第一个lvs负载均衡器,所有的转发服务将切换到另外一个负载均衡器上。

  6、 启用"5"关闭的那个负载均衡器,然后关闭"5"中还在运行的那个负载均衡器。

  7、 重新启动"6"所关闭的负载均衡器。

  ● 删除对象

  假定在负载均衡环境删除一个web服务器,其操作顺序是:

  1、 关闭欲下线服务器的web服务。这样负载均衡器的健康检查会自动把该web服务从转发队列删除掉。

  2、 卸载欲下线服务器的vip地址。即执行/usr/local/bin/lvs_real stop操作。

  3、 修改负载均衡器的配置文件keepalived.conf。

  4、 关闭第一个lvs负载均衡器,所有的转发服务将切换到另外一个负载均衡器上。

  5、 启用"4"关闭的那个负载均衡器,然后关闭"4"中还在运行的那个负载均衡器。

  6、 重新启动"6"所关闭的负载均衡器。

  ● 变更对象

  与前两种方式的操作步骤基本相似,不再赘述。

  这里再强调一下,如果真实服务器上的服务没关闭而把其上的vip卸载的话,某些用户的请求仍然会被负载均衡器转发过来,导致请求失败。因此,要记住,无论如何,请先关服务!

  二、状态监控

  为了随时随地了解整个lvs负载均衡环境的运行情况,我们必须对其进行有效的监控。当出现异常或故障时,监控系统能及时有效的通知维护人员,以便问题得以及时地处理。这也是提高可靠性的一个保障措施。

  有很多开源的或商业类型的监控系统可供选择,本文选定开源的nagios作为监控平台,关于nagios的相关细节,请参照"网络服务及主机资源监控-nagios"一章。

  可供nagios监控的对象很多,对lvs负载均衡环境而言,怎么选定对象才是最有效的呢?这里我们先来回顾一下lvs负载均衡环境运行时,其存在的表现形式有哪些?

  1、 负载均衡器及真实服务器。

  2、 各真实服务器上运行的服务。

  3、 Lvs公用的vip。

  根据这些表现形式,我们选取存活检查及服务状态作为监控对象,就可以清晰地了解lvs负载均衡环境的运行状况。把它具体化,可分为:

  1、 负载均衡器及真实服务器的存活检查。只有这些服务器运行正常,才可能有其他依赖服务。

  2、 Vip的存活检查。一般情况下,启用了lvs环境后,是可以用ping的方式检查vip的。

  3、 真实服务器服务状态检查。

  4、 Vip对应的服务状态检查。一般通过check_tcp加端口号的形式实现。如果web集群,可以以check_http!url的方式更精确的检查。

  三、故障处理

  在对lvs运行环境进行有效的监控后,一旦有故障或异常发生,系统管理人员将会得到及时的通知。并且这些报警信息往往包含故障的基本情况,如负载过高、主机down了、服务严重不可用(critical)、磁盘空间快满了等等,这些信息非常有利于系统管理员定位故障点。如果没有一个有效的监控系统,故障的报告往往来自用户的报告。这些报告笼统而模糊,可能包含"你们的网站不能访问了"之类的字眼,要定位故障点,可能会花费更多的时间。

  在知晓和定位故障以后,结下来就是分析和处理故障。Lvs负载均衡的故障点可分为:负载均衡器故障、真实服务器故障、vip故障、服务故障这几个部分。这些故障出现后,怎么着手处理?下面分别论述之。

  ● 负载均衡器发生故障的检查点

  1、 查看系统日志 /var/log/messages ,了解内核是否有报错信息。因为keepalived的日志也被追加到系统日子,因此通过系统日志,也能了解keepalived的运行情况。

  2、 检查负载均衡器的网络连通状况。这包括ip地址的设置是否正确,是否能远程访问(如ping 、tracert等)。

  3、 检查keepalived的运行情况。这包括进程是否处于运行中,ipvs模块是否被加载到系统的内核,vip是否被绑定到网络接口,ipvsadm是否有输出。

  4、 检查负载均衡器的系统负载。

  5、 检查keepalived的配置文件书写是否正确。因为keepalived启动过程不对配置文件做语法检查,因此在运行前,必须按需求表逐项检查配置文件keepalived.conf 的内容。有时,就可能就是因为漏写了一个"}"符号而导致意外的结果。配置文件的内容检查还包括主从优先级priority、虚拟路由标识virtual_router_id、路由标识router_id等几个部分,这些值有些是必须相同的、有些则必须不同。

  6、 检查负载均衡器是否启用防火墙规则。

  ● 真实服务器发生故障的检查点

  1、 查看系统日志 /var/log/messages ,了解内核是否有报错信息。

  2、 检查服务器的网络连通状况。

  3、 检查服务是否正常运行。可以结合察看进程、模拟用户访问来确定。

  4、 检查服务器的负载情况,看哪些进程占用较高的资源。如果暂停占资源高的进程,情况会怎么样?

  5、 检查vip是否被绑定。Linux只能通过ip add 指令察看,freebsd 用ifconfig就可以了。

  6、 检查主机防火墙是否被启用。如果需要启用主机防火墙,则应设置好过滤规则。

  7、 从客户端直接访问服务器的服务,看是否能正常访问。这是dr模式的一个优点。

  ● vip发生故障的检查点

  1、 检查负载均衡器的vip是否被绑定。

  2、 检查负载均衡器ipvsadm的输出,察看输出的vip项是否与我们的设定相一致。

  3、 检查各真实服务器的vip是否被绑定。

  4、 从客户端测试一下vip的连通情况,如ping vip。

  5、 检查vip地址是否与其它服务器的地址相冲突。

  ● 服务发生故障检查点

  1、 检查服务是否正常运行。如查进程、模拟用户访问等。

  2、 检查系统的负载情况。

  3、 检查是否启用主机防火墙。

  一旦知道问题的所在,解决问题本身就不再是什么困难的事情了,因此这里不再一一列举对应的解决方法。

  四、 数据备份

  Lvs负载均衡环境需要备份的数据包括keepalived配置文件和lvs客户端配置脚本。因为这两个文件都是文本文件,并且尺寸小(几k而已),因此可以以复制的方式进行备份。如果把备份放在windows环境的话,尽量不要用word、写字板一类的工具修改它。如果用windows的word之类的工具编辑这两个文件,上传到linux服务器时,会出现格式问题,而导致运行错误。当然,可以用dos2unix修正格式,或者在vi的命令模式下,以":set ff=unix"方式转换格式。

邮件订阅

如果您非常迫切的想了解IT领域最新产品与技术信息,那么订阅ZDNet技术邮件将是您的最佳途径之一。