OpenStack Neutron L3 高可靠

  • 来源:OpenStack中国社区
  •  2014-09-22
  •   浏览 2882 次

译者: @RaySun  英文地址:http://assafmuller.com/2014/08/16/layer-3-high-availability/

L3层Agent的低可靠解决方案

当前,你可以通过多网络节点的方式解决负载均衡,但是这并非高可靠和冗余的解决方案。假设你有三个网络节点,创建新的路由,会自动的规划和分布在这 三个网络节点上。但是,如果一个节点坏掉,所有路由将无法提供服务,路由转发也无法正常进行。Neutron,在IceHouse版本中,没有提供任何内 置的解决方案。

DHCP Agent的高可靠的变通之道

DHCP的Agent是一个另类——DHCP协议本身就支持在同一个资源池内同时使用多个DHCP提供服务。

在neutron.conf中仅仅需要改变:


  1. dhcp_agents_per_network = X   

 

这样DHCP的调度程序会为同一网络启动X个DHCP Agents。所以,对于三个网络节点,并设置dhcp_agents_per_network = 2,每个Neutron网络会在三个节点中启动两个DHCP Agents。这个是如何工作的呢?

首先,让我们来看一下物理层面的实现。当一台主机连接到子网10.0.0.0/24,会发出DHCP Discover广播包。两个DHCP服务进程dnsmasq1和dnsmasq2(或者其他的DHCP服务)收到广播包,并回复10.0.0.2。假设 第一个DHCP服务响应了服务器请求,并将10.0.0.2的请求广播出去,并且指明提供IP的是dnsmasq1-10.0.0.253。所有服务都会 接收到广播,但是只有dnsmasq1会回复ACK。由于所有DHCP通讯都是基于广播,第二个DHCP服务也会收到ACK,于是将10.0.0.2标记 已经被AA:BB:CC:11:22:33获取,而不会提供给其他的主机。总结一下,所有客户端与服务端的通讯都是基于广播,因此状态(IP地址什么时候 被分配,被分配给谁)可以被所有分布的节点正确获知。

在Neutron中,分配MAC地址与IP地址的关系,是在每个dnsmasq服务之前完成的,也就是当Neutron创建Port时。因此,在 DHCP请求广播之前,所有两个dnsmasq服务已经在leases文件中获知了,AA:BB:CC:11:22:33应该分配10.0.0.2的映射 关系。 

回到L3 Agent的低可用

        L3 Agent,没有(至少现在没有)提供任何DHCP所能提供的高可靠解决方案,但是用户的确很需要高可靠。怎么办呢?
  • Pacemaker/Corosync – 使用外部的集群管理技术,为Active节点指定一个Standby的网络节点。Standby节点在正常情况下等呀、等呀等,一旦Active节点发生 故障,L3 Agent立即在Standby节点启动。这两个节点配置相同的主机名,当Standby的Agent出台并和服务之前开始同步后,它自己的ID不会改 变,因此就像管理同一个router一样。
  • 另外一个方案是采用定时同步的方式(cron job)。用Python SDK开发一段脚本,使用API获取所有已经故去的Agent们,之后获取所有上面承载的路由,并且把他们重新分配给其他的Agent。
  • 在Juno开发过程中,查看Kevin Benton的这个Patch: https://review.openstack.org/#/c/110893/,让Neutron自己具备重新分配路由的功能。

 

重新分配路由——路漫漫兮

以上列出的解决方案,实质上都有从失败到恢复的时间,如果在简单的应用场景下,恢复一定数量的路由到新节点并不算慢。但是想象一下,如果有上千个路由就需要话费数个小时完成,重新分配和配置的过程。人们非常需要快速的故障恢复!

 

分布式虚拟路由(Distributed Virtual Router)

这里有一些文档描述DVR是如何工作的:

 

 

这里的要点是将路由放到计算节点(compute nodes),这让网络节点的L3 Agent变得没用了。是不是这样呢?

 

  • DVR主要处理Floating IPs,把SNAT留给网络节点的L3 Agent
  • 不和VLANs一起工作,仅仅支持tunnesL2pop开启
  • 每个计算节点需要连接外网
  • L3 HA是对部署的一种简化,这个基于Havana和Icehouse版本部署的云平台所不具备的
理想情况下,你想把DVR和L3 HA一起使用。Floating IP的流量会从你的计算节点直接路由出去,而SNAT的流量还是会从你的计算节点HA集群的L3 Agent进行转发。

3层高可靠

        Juno版本的L3的HA解决方案应用了Linux上流行的keepalived工具,在内部使用了VRRP。首先,我们先来讨论一下VRRP。

什么是VRRP,如何在真实世界里工作

        虚拟路由冗余协议(Virtual Router Redundancy Protocol)是一个第一条冗余协议——目的是为了提供一个网络默认网关的高可靠,或者是路由的下一跳的高可靠。那它解决了什么问题呢?在一个网络拓 扑中,有两个路由提供网络连接,你可以将网络的默认路由配置为第一个路由地址,另外一个配置成第二个。
        这样将提供负载分担,但是如果其中一个路由失去了连接,会发生什么呢?这里一个想法就是虚拟IP地址,或者一个浮动的地址,配置为网络默认的网管地址。当 发生错误时,Standby的路由并不会收到从Master节点发出的VRRP Hello信息,并且这将触发选举程序,获胜的成为Active网管,另外一个仍然作为Standby。Active路由配置虚拟IP地址(简写 VIP),内部的局域网接口,回复ARP请求时会附加虚拟的MAC地址。由于在该网络内的计算机已经拥有了ARP缓存(VIP+虚拟机MAC地址),也就 没有必要重新发送ARP请求了。依据选举机制,有效的Standby路由变为Active,并且发送一个非必要的ARP请求——来向网络中声明当前的 VIP+MAC对已经属于它了。这个切换,包含了网络中将虚拟机MAC地址从旧的迁移到新的。

 

        为了实现这一点,指向默认网关的流量会从当前的(新的)Active路由经过。注意这个解决方案中并没有实现负载分担,这种情况下,所有的流量都是从 Active路由转发的。(注意:在Neutron的用户使用场景中,负载分担并没有在单独的路由级别完成,而是在节点(Node)级别,也就是要有一定 数量的路由)。那么如何在路由层面实现负载分担呢?VRRP组:VRRP的投中包含虚拟机路由识别码(Virtual Router Identifier),也就是VRID。网络中一半的主机配置为第一个VIP,另外一个使用第二个。在失败的场景下,VIP会从失败的路由转移到另外一 个。
        善于观察的读者已经发现了一个明显的问题——如果一个Active路由失去了与Internet的连接怎么办?那它还会作为Active路由,但是不能转发?VRRP增加了监控外部连接的能力,并且当发生失败后交出Active路由的地位。
        注意:一旦地址发生改变,可能会出发两种模式:
1、每一个路由得到一个新的IP地址,不管VRRP的状态。Master路由将VIP配置为附加的或第二地址。
2、仅仅VIP配置了。例如:Master路由配置了VIP,同时Slave上没有IP配置。

VRRP —— 一些事实

直接在IP协议中封装
Active实例使用多播地址224.0.0.18, MAC 01-00-5E-00-00-12来给Standby路由发送hello消息
虚拟MAC地址格式:00-00-5E-00-01-{VRID},因此只有256个不同的VRIDs(0到255)在一个广播域中
选举机制使用用户配置优先级,从1到255,越高优先级越高
优先选举策略(Preemptive elections),和其他网络协议一样,意味着一个Standby被配置为较高优先级,或者从连接中断回复后(之前是Active实例),它始终会恢复为Active路由
非优先选举策略(Non-preemptive elections)意外着当Active路由回复后,仍然作为Standby角色
发送Hello间隔是可以设置的(假定为每T秒),如果Standby路由在3T秒后仍然没有收到master的hello消息,就会触发选举机制

回到Neutron的领地

L3 HA在每一个路由空间上启动一个keepalived实例。不同路由实例间的通讯,通过制定的HA网络,每一个tenant一个。这个网络是由一个空白的 (blank) tenant下创建的,并且无法通过CLI或者GUI操作。这个HA网络也是一个Neutron tenant网络,和所有其他的一样,也是用了默认的分区技术。keepalived流量被转发到HA设备(在keepalived.conf中指定,在 路由的命名空间中keepalived实例会使用)。这是路由中命名空间’ip address’的输出:

  1. [stack@vpn-6-88 ~]$ sudo ip netns exec qrouter-b30064f9-414e-4c98-ab42-646197c74020 ip address  
  2. 1: lo:  mtu 65536 qdisc noqueue state UNKNOWN group default  
  3.     …  
  4. 2794: ha-45249562-ec mtu 1500 qdisc noqueue state UNKNOWN group default  
  5.     link/ether 12:34:56:78:2b:5d brd ff:ff:ff:ff:ff:ff  
  6.     inet 169.254.0.2/24 brd 169.254.0.255 scope global ha-54b92d86-4f  
  7.       valid_lft forever preferred_lft forever  
  8.     inet6 fe80::1034:56ff:fe78:2b5d/64 scope link  
  9.       valid_lft forever preferred_lft forever  
  10. 2795: qr-dc9d93c6-e2:  mtu 1500 qdisc noqueue state UNKNOWN group default  
  11.     link/ether ca:fe:de:ad:be:ef brd ff:ff:ff:ff:ff:ff  
  12.     inet 10.0.0.1/24 scope global qr-0d51eced-0f  
  13.       valid_lft forever preferred_lft forever  
  14.     inet6 fe80::c8fe:deff:fead:beef/64 scope link  
  15.       valid_lft forever preferred_lft forever  
  16. 2796: qg-843de7e6-8f:  mtu 1500 qdisc noqueue state UNKNOWN group default  
  17.     link/ether ca:fe:de:ad:be:ef brd ff:ff:ff:ff:ff:ff  
  18.     inet 19.4.4.4/24 scope global qg-75688938-8d  
  19.       valid_lft forever preferred_lft forever  
  20.     inet6 fe80::c8fe:deff:fead:beef/64 scope link  
  21.       valid_lft forever preferred_lft forever  

这是在master实例中的输出。在另外一个节点的同一个路由上,在ha, hr或者qg设备上没有IP地址。也没有Floating Ip或者是路由记录。这些是被配置在keepalived.conf中的,当keepalived检测到Master实例的失败后,这些地址(或 者:VIPs)会被keepalived在适当的设备中重新配置。这是对于同一个路由的keepalived.conf的实例:


  1. vrrp_sync_group VG_1 {  
  2.     group {  
  3.         VR_1  
  4.     }  
  5.     notify_backup “/path/to/notify_backup.sh”  
  6.     notify_master “/path/to/notify_master.sh”  
  7.     notify_fault “/path/to/notify_fault.sh”  
  8. }  
  9. vrrp_instance VR_1 {  
  10.     state BACKUP  
  11.     interface ha-45249562-ec  
  12.     virtual_router_id 1  
  13.     priority 50  
  14.     nopreempt  
  15.     advert_int 2  
  16.     track_interface {  
  17.         ha-45249562-ec  
  18.     }  
  19.     virtual_ipaddress {  
  20.         19.4.4.4/24 dev qg-843de7e6-8f  
  21.     }  
  22.     virtual_ipaddress_excluded {  
  23.         10.0.0.1/24 dev qr-dc9d93c6-e2  
  24.     }  
  25.     virtual_routes {  
  26.         0.0.0.0/0 via 19.4.4.1 dev qg-843de7e6-8f  
  27.     }  
  28. }  

这些notify脚本是干虾米用的呢?这些脚本是被keepalived执行,转换为Master,备份或者失败。这些Master脚本内容:


  1. #!/usr/bin/env bash  
  2. neutron-ns-metadata-proxy –pid_file=/tmp/tmpp_6Lcx/tmpllLzNs/external/pids/b30064f9-414e-4c98-ab42-646197c74020/pid –metadata_proxy_socket=/tmp/tmpp_6Lcx/tmpllLzNs/metadata_proxy –router_id=b30064f9-414e-4c98-ab42-646197c74020 –state_path=/opt/openstack/neutron –metadata_port=9697 –debug –verbose  
  3. echo -n master > /tmp/tmpp_6Lcx/tmpllLzNs/ha_confs/b30064f9-414e-4c98-ab42-646197c74020/state  
这个Master脚本简单的打开了metadata代理,将状态写入文件,状态文件之后会被L3 Agent读取。备份和出错脚本杀死代理服务并且将状态写入刚才的提到的状态文件。这就意味着metadata服务职能在master路由节点存在。

* 我们是不是忘了Metadata Agent呢?

在每个网络节点启动metadata agent就好啦。

未来的工作和局限性

  • TCP连接跟踪——在当前的实现中,TCP连接的session在失败恢复后中断。一种解决方案是使用conntrackd复制HA路由间的session状态,这样当故障恢复后,TCP的session会恢复到失败前的状态。
  • Master节点在哪?当前,还没有办法让管理员知道哪个网络节点是HA路由的Master实例。计划由Agent提供这些信息,并可以通过API进行查询。
  • Agent大逃亡——理想状态下,将一个节点变为维护模式后,应该触发所有HA路由所在节点回收他们的Master状态,加速恢复速度。
  • 通知L2pop VIP的改变——考虑在一个tenant网络中路由IP/MAC,只有Master配置真正的有IP地址,但是同一个Neutron Port和同样的MAC会在相关的网络出现。这可能对配置了L2pop驱动产生不利,因为它只希望在一个网络中MAC地址只存在一处。解决的计划是一旦检 测到VRRP状态改变,从Agent发送一个RPC消息,这样当路由变为Master,控制节点被通知到了,这样就能改变L2pop的状态了。
  • 内置的防火墙、VPN和负载均衡即服务。在DVR和L3 HA与这些服务整合时还有问题,可能会在kilo中解决。
  • 每一个Tenant一个HA网络。这就意味着每个Tenant只能有255个HA路由,因为每个路由需要一个VRID,根据VRRP协议每个广播域只允许255个不同的VRID值。

使用和配置

neutron.conf


  1. l3_ha = True  
  2. max_l3_agents_per_router = 2  
  3. min_l3_agents_per_router = 2  
  • l3_ha 表示所有的路由默认使用HA模式(与之前不同)。默认是关闭的。
  • 你可以根据网络节点的数量设置最大最小值。如果你部署了4个网络节点,但是设置最大值为2,只有两个L3 Agent会被用于HA路由(一个是Master,一个是Slave)。
  • min被用来稳健性(sanity)的检查:如果你有两个网络节点,其中一个坏掉了,任何新建的路由在这段时间都会失败,因为你至少需要min个L3 Agent启动来建立HA路由。
l3_ha控制默认的开关,当管理员(仅管理员)通过CLI方式可以覆盖这个选项,为每个路由创建单独的配置:

  1. neutron router-create –ha= router1  

参考文档

Blueprint
Spec
How to test
Code
Dedicated wiki page
Section in Neutron L3 sub team wiki (Including overview of patch dependencies and future work)

文章来源: http://blog.csdn.net/xiaoquqi/article/details/39429261#0-tsina-1-82982-397232819ff9a47a7b7e80a40613cfe1


To Top