AWS Lambda 的跳坑指南

栏目: Python · 发布时间: 5年前

内容简介:目前serverless已经成为一种主流,然而不幸的是,目前的serverless在开发者体验上距离VPS和Docker等环境的差距还是相当大。这里的坑很多,现将笔者踩坑的经验悉数如下。以AWS Lambda为代表的serverless,其初衷是搭建一套轻量级的,无状态的,并且较少依赖于环境的API接口。其优势在于经济(节省成本)、快捷(不需要浪费太多精力在配置web server、load balancer、log、堡垒机等基础设施上)。但是AWS Lambda弊端很明显,即无法搭建自定义的Runtime

目前serverless已经成为一种主流,然而不幸的是,目前的serverless在开发者体验上距离VPS和 Docker 等环境的差距还是相当大。这里的坑很多,现将笔者踩坑的经验悉数如下。

以AWS Lambda为代表的serverless,其初衷是搭建一套轻量级的,无状态的,并且较少依赖于环境的API接口。其优势在于经济(节省成本)、快捷(不需要浪费太多精力在配置web server、load balancer、log、堡垒机等基础设施上)。

一、在使用AWS Lambda时,你会遇到的限制

但是AWS Lambda弊端很明显,即无法搭建自定义的Runtime。AWS官方的Runtime只包括了几门主要语言的基本执行环境,除此以外更无其他。

一般来说,自定义的Runtime包括如下几个方面的定义:

  1. 环境变量 environment variables
  2. 用户的根目录 ~home/
  3. 二进制的包依赖,即用 apt-get / yum install 的方式安装的依赖包
    1. 语言环境本身,即 Python 、Node.js、JDK等
    2. Docker / SSH / Git 等常用工具
    3. 其他的包
  4. Python的包依赖,即通过 pip install 安装的包(或者Node.js的包,或者JAR包等)
  5. 程序运行时产生的文件,包括
    1. 临时文件
    2. log日志文件
    3. 输出结果

如果用Docker或者普通的计算节点,以上都不是问题,但不幸的是,在serverless环境下,上述方面会成为令人头疼的限制:

  1. 环境变量 environment variables —— 在AWS Lambda中可以自行设置
  2. 用户的根目录 ~home/ —— 用户根目录的内容 ,既无法通过自定义Layer和Deployment Package来实现静态修改,甚至更无法在Lambda函数执行时动态修改……因为Lambda除了 /tmp 目录可写外,其他目录均只读
  3. 二进制的包依赖,即用 apt-get / yum install 的方式安装的依赖包
    1. 语言环境本身,即Python、Node.js、JDK等 ——AWS官方提供Runtime,但一个Runtime中只能指定一种语言,无法多语言同时运行
    2. Docker / SSH / Git 等常用工具 ——有一些第三方的Layer,比如 这个 提供了Git+SSH。
    3. 其他的包 ——必须通过在开发的工作站上下载Lambda的AMI,在本地开发环境上搭建AMI的虚拟环境,在其中下载安装了相应的包,将这些包归整打成一个Layer的.zip文件,上传部署到 /opt 环境下……并且体积还有限制
  4. Python的包依赖,即通过 pip install 安装的python包(或者Node.js的包,或者JAR包等) ——同样无法通过直接在Lambda上跑 pip ,而是需要先在开发环境上先用 pip 把相应的Python包下载下来之后,再按照一定的要求放在.zip文件里,作为Deployment Package的一部分
  5. 程序运行时产生的文件,包括
    1. 临时文件 ——只能写在 /tmp 目录下,而不能写在其他文件,包括不能写在Lambda部署时的代码文件同一个相对路径中,因为其是在 /var/task/ 目录下
    2. log日志文件 ——只要使用文档中推荐的日志方式,Lambda会代为管理日志,这一点还比较省心
    3. 输出结果(artifacts) ——无法存放在本地,只能通过网络上传到S3或者其他地方

二、跳坑指南

除了上述以外,还有很多坑:

关于网速

由于国内上外网速度很慢。所以在AWS中,如果是通过网页方式上传Deployment Package的.zip包,经常会Network Error,这很让人抓狂!解决方案是用AWS提供的CLI命令行工具

关于Python包

Python包首先要放在Deployment Package的.zip包的顶层目录下面,而不是放在.zip包的类似 /venv/Scripts/site-packages 的次级目录下。另外,很多Python包是bdist二进制,导致在本地的环境如果不是和AMI一致就有可能出错的情况。

如果你将Python包放在Layer文件中而不是Deployment Package中,记得要设置 PYTHONPATH/opt/xxx 的环境变量。反正坑已经这么多了,不怕再多加一个:笔者本人也尝试这么做过,但失败了

关于 home 目录

如果想使用Git,有可能会跳出 Could not create directory '/home/sbx_user1070/.ssh' 的提示,解决方案是只要按照 文档里 说的去做了,就OK了。

三、后记

笔者曾经尝试过别的方案。亲测过微软的Azure,感觉还不如AWS Lambda。前者强制在Python 3.6下,后者既支持Python 3.6,也支持3.7,当然还支持Java, Go等语言。另外后者的文档也不如前者。

有人提醒可以用TravisCI, CircleCI, 以及Netlify等工具,看来这是我第一篇写AWS Lambda的,或许是最后一篇。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

算法设计与分析

算法设计与分析

郑宗汉//郑晓明 / 清华大学 / 2011-7 / 45.00元

《算法设计与分析(第2版)》系统地介绍算法设计与分析的概念和方法,共4部分内容。第1部分介绍算法设计与分析的基本概念,结合穷举法、排序问题及其他一些算法,对算法的时间复杂性的概念及复杂性的分析方法作了较为详细的叙述;第2部分以算法设计技术为纲,从合并排序、堆排序、离散集合的union和find操作开始,进而介绍递归技术、分治法、贪婪法、动态规划、回溯法、分支与限界法和随机算法等算法设计技术及其复杂......一起来看看 《算法设计与分析》 这本书的介绍吧!

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具