2019.05.15 丨 壹佰案例

使用腾讯云容器服务(TKE)是如何实现应用跨可用区高可用部署的?

2019.05.15 丨 壹佰案例

本文来源 | 云+社区专栏文章

作者  | 杨泽华,腾讯云高级解决方案架构师。8年大型互联网公司从业经验,5年云计算行业工作经验。对云计算平台基础架构、网络架构等有深入的理解。专注于互联网行业高可用方案、多活方案、迁移方案设计。



本文描述如何使用腾讯云容器服务(TKE)实现跨可用区的应用高可用部署,包含如下内容:


1.高可用部署架构

2.使用容器服务(TKE)进行高可用部署

3.关于亲和性和反亲和性说明

4.总结



01高可用部署架构


IDC在全球范围内,针对多个行业的中小型企业(员工数小于1000名)的调研显示,近80%的公司预计,云服务器每小时的停机成本至少在2万美元以上,而超过20%的企业估算其云服务器每小时的停机成本至少为10万美元。


由此可见,云服务器停机对于云上企业的损失不容小觑,云服务商高可用方案越来越成为企业上云最重要的选择标准之一。在“上云”已经成为共识之后,如何进行高可用部署呢?

传统模式下,使用云主机实现高可用部署的架构图如下:

云主机实现高可用部署


将云主机分散在不同的可用区,利用负载均衡(CLB)支持跨可用区分发的特性,实现业务流量跨可用区分发。当一个可用区(AZ)出现故障时,流量切换到另一个可用区(AZ),由此实现高可用部署。


使用云主机搭建业务环境,需要在云主机上部署web服务器(Nginx,Tomcat等),然后再部署业务代码,随着业务规模的增大,发布、部署的时间会变长。


随着容器的盛行,越来越多的企业采用DevOps, 使用容器部署业务。本文描述了如何使用腾讯云容器服务(TKE)进行业务高可用部署。部署架构如下:


两个Node节点分布位于同一个地域的两个可用区,两个业务的Pod分布部署在2个Node上,使用CLB实现流量负载均衡。


下面我们看看如何使用腾讯云容器快速的实现应用高可用部署。



02使用容器服务(TKE)进行高可用部署


在本文中我们使用一个简单的swagger应用作为示例,实现高可用部署。swagger-ui的下载地址:https://github.com/swagger-api/swagger-ui/blob/master/docs/usage/installation.md。


在docker的镜像仓库里已经有了制作好的swaggerui镜像,可以直接使用。 也可以自己下载源码制作成镜像。 我们使用docker镜像仓库里的镜像。


登陆腾讯云容器控制台,

https://console.cloud.tencent.com/tke2/cluster?rid=8 创建一个容器集群。


容器集群创建成功之后,创建新的节点:


这里添加2个节点,分别分布到2个可用区:北京二区、北京三区:


添加成功后如下图:


集群创建成功后下面制作镜像。


制作镜像


首先我们创建一个镜像仓库,设置为公有:


腾讯云registry使用指引方法如下:


登录腾讯云docker registry

sudo docker login --username=100002678805 ccr.ccs.tencentyun.com

从registry拉取镜像

sudo docker pull ccr.ccs.tencentyun.com/zehua/swaggerui:[tag]

将镜像推送到registry

sudo docker login --username=100002678805 ccr.ccs.tencentyun.com
sudo docker tag [ImageId] ccr.ccs.tencentyun.com/zehua/swaggerui:[tag]
sudo docker push ccr.ccs.tencentyun.com/zehua/swaggerui:[tag]

下面我们按照上面的方法将swagger的镜像推送到刚刚创建的镜像仓库。


SSH登陆到其中一台容器节点,拉取swaggerui镜像,执行命令:

docker pull swaggerapi/swagger-ui

登陆到腾讯云镜像仓库:

docker login --username=100002678805 ccr.ccs.tencentyun.com

给刚刚拉取的swaggerui镜像打标签:

docker tag swaggerapi/swagger-ui ccr.ccs.tencentyun.com/zehua/swaggerui:1.2

将swaggerui镜像推送到腾讯云镜像仓库:

docker push ccr.ccs.tencentyun.com/zehua/swaggerui:1.2


高可用部署


下面进行高可用部署。首先创建deployment,创建deployment时,选择合适的namespace,如下图:


本示例将swagger部署到zehua-ns这个namespace下:


选择刚刚创建的swaggerui镜像:


注意这里的端口号是8080。


这里为了演示,Pod数量创建2个,将这2个pod分发到不同的可用区中。你可以根据实际情况选择合适的pod数量。


节点调度策略这里有2个选择: 按节点调度,自定义调度规则。可以选择任意一种方式进行调度。


按节点调度,可以选择当前容器集群的节点, TKE会将Pod均匀调度到这些节点上。 本示例中创建2个Pod,TKE会将2个Pod分别调度到这2个节点上。


如果选择按自定义规则调度,需要指定节点的标签。


我们给2个节点打了AZ的标签,分别是bj2,bj3. 打标签方式如下:


分别给2个节点新增标签:


也可以使用命令行的方式打标签。 使用kubectl进行添加。传统模式下,使用云主机实现高可用部署的架构图如下:


kubectl get nodes --show-labels

kubectl label nodes 10.0.2.12 az=bj2
kubectl label nodes 10.0.5.17 az=bj3

设置完高可用部署后,进行访问设置。开启公网访问, 注意端口映射的设置:


完成后点击创建workload。


创建完成后,可以在service里面看到创建的服务:


在Pod管理里可以看到2个Pod被调度到了2个节点上:

访问Service里的负载均衡IP,可以看到部署成功:

至此我们完成了业务高可用部署。



03关于亲和性和反亲和性


通过腾讯云控制台查看swagger应用的YAML文件,可以看到,通过控制台实现Pod调度是通过节点亲和性(nodeAffinity:)来实现的。

spec:
affinity:
nodeAffinity:
requiredDuringSchedulingIgnoredDuringExecution:
nodeSelectorTerms:
 matchExpressions
   key kubernetesiohostname
operator In
values

节点亲和性通过指定 preferredDuringSchedulingIgnoredDuringExecution和

requiredDuringSchedulingIgnoredDuringExecution 来实现亲和性的软限制和硬限制。节点亲和性的语法支持:In, NotIn, Exists, DoesNotExist, Gt, Lt。 通过这些语法,可以灵活的控制台节点亲和性。本例中使用了kubernetes.io/hostname这个默认标签作为调度,调度到hostname为 10.0.2.12和10.0.5.17的两个节点上。


如果在节点调度策略里选择了“自定义调度规则”, 亲和性的实现大概如下:

spec:
affinity:
nodeAffinity:
preferredDuringSchedulingIgnoredDuringExecution:
 preference
  matchExpressions
   key failuredomainbetakubernetesiozone
operator In
values
 
 
weight 
  requiredDuringSchedulingIgnoredDuringExecution
nodeSelectorTerms
 matchExpressions
   key az
operator In
values
 bj2
 bj3

这里的调度策略使用了节点的AZ标签,2个pod会被调度到标签值为bj2,bj3的节点上。 如果有3个pod,某一个节点上会部署2个pod,另一个节点上部署一个pod。


如果希望使用pod affinity的特性,可以通过自己编写YAML的方式实现。 下一篇文章中将会给出Pod Affinity的示例。



04总结


至此,我们完成了通过腾讯云容器平台实现业务跨可用区的高可用部署。通过腾讯云TKE控制台,使用K8S节点亲和性的功能,可以快速实现业务跨可用区的高可用部署。通过节点亲和性的语法规则,可以实现复杂的部署逻辑。腾讯云TKE控制台大大简化了跨可用区部署的复杂性,帮助用户快速实现业务的高可用。

媒体联系

票务咨询:赵丹丹 15802217295

赞助咨询:郭艳慧 13043218801

媒体支持:景    怡 13920859305

提交需求