AWS AutoScaling的一个ScaleDown策略问题以及解决方法

此文已由作者袁欢授权网易云社区发布。

欢迎访问网易云社区，了解更多网易技术产品运营经验。

1. AWS AutoScaling简介

AutoScaling是AWS的一个重要服务，用来弹性的自动创建（ScaleUp）或者删除（ScaleDown）EC2虚拟机，并且Scale的策略完全是用户自定义的、或者是基于虚拟机健康状态检查结果、或者是按照计划来实施Scale策略。

例如，考虑如下的业务场景，系统部署在EC2虚拟机上，所有任务分发均是通过AWS SQS来完成的，即请求按照特定格式发送到SQS指定队列中，而EC2虚拟机上运行的系统从这个队列读取消息来运行任务。

借助于AutoScaling，我们可以简单的设置下面的伸缩策略：

1）确保至少有2台EC2虚拟机正常提供服务；

2）ScaleUp：当SQS队列中的消息个数超过20个的时候，就自动创建一台或者多台虚拟机，ScaleUp策略执行之后CoolDown一段时间再次检查ScaleUp策略。当然创建该虚拟机的镜像需要提前预制好，确保虚拟机创建之后OS运行的时候，我们的业务系统能够自动运行起来。

3）ScaleDown：当SQS队列中的消息个数小于20个的时候，自动删除一台虚拟机。

说明：上面的例子只是简单的演示了AutoScaling的使用方式，可以借助于CloudWatch来实现更强大更精细的AutoScaling配置。

更多介绍详见AWS AutoScaling官方文档： aws.amazon.com/autoscaling…

2. AWS AutoScaling的ScaleDown策略存在的问题

对于一般的同步请求业务系统而言，AutoScaling的功能是比较强大的，借助于它，我们可以方便的实现业务的弹性自动伸缩。

但是，在使用过程中，发现AWS的AutoScaling（下文简称AmazonAS）存在一个问题，就是对于长时间运行的业务而言，比如一个视频转码请求需要几个小时才能处理完的，任务运行的时间几乎和视频时长一样长。在这种情况下，AmazonAS的ScaleDown策略就会出现一个问题：如果在一个虚拟机正在运行任务的时候，AmazonAS根据CloudWatch数据触发了ScaleDown策略，那么很有可能会删除掉该虚拟机，从而引起业务数据丢失或混乱。由此可见，AmzonAS并不适合于我们的业务特性，因此有必要仿照AmazonAS来实现一套定制化的AutoScaling来满足我们的业务需求。

3. 解决方法

3.1 ScaleUp策略

基本类似AmazonAS的ScaleUp策略来实现，或者说是它的简化版本。 通过监控SQS中指定队列的消息个数来自动新建一定数量的虚拟机，来运行队列中的任务消息，新建虚拟机的同时发送邮件到指定邮箱。

3.2 ScaleDown策略

由上文介绍的AmazonAS存在的问题或不足，我们就不能简单的根据SQS中消息个数来删除虚拟机了。我们的策略是让虚拟机内部自动根据任务运行情况来自我删除。

实现方式如下： 在虚拟机内部预制好检查任务运行状态（我们是通过检测日志来实现的）的脚本，如果发现系统空转一段时间之后就执行关机命令，进而触发AWS EC2虚拟机的Shutdown Behavior进行自我删除。备注：这就要求创建虚拟机的时候设置Shutdown Behavior为Terminate，即删除。

3.3 流程步骤

简要的流程图如下所示：

1） 首先，AutoScaling启动一个线程，进入循环；

2）在当前循环周期内，根据SQS中消息个数进行ScaleUp策略检查，如果满足策略条件，则调用EC2创建虚拟机的API创建一台或者多台虚拟机，并将Shutdown Behavior设置为Terminate，虚拟机参数会在AutoScaling中进行预先配置。如果创建了虚拟机则会根据预制的邮件列表发送邮件通知，并且CooleDown一段时间。

3）在当前循环周期内，ScaleUp完成之后就进行ScaleDown策略检查，真正运行ScaleDown策略的机制是在EC2虚拟机里面通过cron任务来执行的，在AutoScaling中仅仅是判断哪些虚拟机在当前循环周期内被删除了，如果检测到有虚拟机被删除掉，则发邮件通知。

4）ScaleUp和ScaleDown在当前周期全部执行完毕之后，等待一段时间，然后重新进入下一次循环周期。

3.4 代码实现

使用 Java 开发了该系统，并且运行在tomcat容器中，所有代码和脚本全部公开在github上，地址为： github.com/yuanhuan200… 。

3.4.1 代码结构

代码位于autoscaling/src/main/java/com/tcl/autoscaling下面：

3.4.2 配置文件

配置文件位于autoscaling/src/main/resources/autoscaling.propertites中：

3.4.3 shell 脚本

在EC2虚拟机中需要安装如下的脚本，默认安装路径是/home/ec2-user/bin/，如有变化可对应修改。

脚本解释如下：

这些脚本的调用关系见下图所示：

免费体验云安全(易盾)内容安全、验证码等服务

更多网易技术、产品、运营经验分享请点击。

相关文章：

【推荐】 网站验证码WEB前端接入实例