AWS攻略——使用CodeBuild进行自动化构建和部署Lambda(Python)

Posted breaksoftware

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了AWS攻略——使用CodeBuild进行自动化构建和部署Lambda(Python)相关的知识,希望对你有一定的参考价值。

        Aws Lambda是Amazon推出的“无服务架构”服务。我们只需要简单的上传代码,做些简单的配置,便可以使用。而且它是按运行时间收费,这对于低频访问的服务来说很划算。具体的介绍可以常见aws lambda的官网。(转载请指明出于breaksoftware的csdn博客)

        比较正统的方法是使用Aws CloudFormation方案,但是鉴于这个方案过于复杂,所以我们还是借助CloudBuild的自定义命令来解决。

        本文适用于熟悉在Aws Lambda人工部署python代码,而不熟悉自动化部署的同学。

创建Lambda函数  

        因为我们只是涉及“部署”,所以我们需要先手工在us-east-1(我们的生产环境)上创建一个Lambda函数。

        我们选用python3.7,函数名为jobs_manager

        最后记得将入口函数的路径和函数名给指定正确。

创建S3存储桶

        我们做python开发时,往往需要引入其他第三方库。Aws Lambda让我们通过配置函数的“层”(layer)来配置这些引入。如果是手工部署,我们需要把这些库压缩到python.zip的文件中,然后在Lambda层中创建一个层并上传,最后在函数设置中引入。

        当我们使用自动化部署方案时,我们可以将压缩的层文件保存到S3中,然后配置给对应函数。这样我们就需要新建一个存储桶。

        给桶的名字取名规则是:“区域”-layers-of-lambda。因为我们将“生产”和“测试”环境部署在不同的区域中,所以可以通过配置不同的区域来对同一套代码进行分区部署。(具体看之后介绍的buildspec.yml和CodeBuild设置)

创建CodeBuild工程

        创建过程和《AWS攻略——使用CodeBuild进行自动化构建和部署静态网页》类似,同样需要设置下环境变量REGION的值为us-east-1,这样之后的buildspec.yml将可以使用到该值做“生产”和“测试”环境区分。

        同时记下角色名

修改IAM

        在IAM中找到上步的角色名称,修改其策略。

        为简单起见,我们给与S3所有资源的所有权限。(不严谨)

        还要新增lambda权限,也是所有资源所有权限。(不严谨)

创建Buildspec.yml文件

        该文件放置在项目(我们的项目名叫apollo)的根目录下。

version: 0.2

phases:
  install:
    runtime-versions:
      python: 3.7
    commands:
      - pip install --upgrade pip
      - pip install --upgrade awscli

  pre_build:
    commands:
  
  build:
    commands:
      - pip install -r requirements.txt -t ./python
      - zip layer_apollo.zip -r python/
      - aws s3 cp layer_apollo.zip --region $REGION s3://$REGION-layers-of-lambda/layer_apollo.zip
      - layer_version=$(aws lambda publish-layer-version --region $REGION --layer-name apollo --description "apollo layer" --license-info "MIT" --content S3Bucket=$REGION-layers-of-lambda,S3Key=layer_apollo.zip --compatible-runtimes python3.7 | jq '.LayerVersionArn' | sed 's/\\"//g')
      - echo $layer_version

      - update_jobs_manager_layer_cmd='aws lambda update-function-configuration --region '$REGION' --function-name jobs_manager --layers '$layer_version
      - echo $update_jobs_manager_layer_cmd
      - $update_jobs_manager_layer_cmd

      - zip apollo.zip -r aws/ conf/ jobs_manager/ kvdb/ modules/ rollback_sqs/ proto/ services/ sqs/ utils/ 
      - aws lambda --region $REGION update-function-code --function-name jobs_manager --zip-file fileb://apollo.zip

        第6行指明我们需要使用python3.7的环境。

        第8,9行,让构建环境先更新pip和aws的工具awscli。

        第16行,我们将项目依赖都装到构建环境的python目录下。requestments.txt是通过下面指令生成的,但是需要手工剔除包含版本是0.0.0的库,否则之后部署会报错。

pip freeze >requestments.txt

        第17,18行将依赖打包并上传到之前步骤创建的S3上。

        第19行将S3上的依赖包发布到lambda的层上,并获取期版本号。

        第22~24将更新lambda函数层的版本号。

        第26,27行将项目打包并更新到lambda函数中。

构建

        进入之前创建的apollo_online的构建项目中,然后点击“构建”

以上是关于AWS攻略——使用CodeBuild进行自动化构建和部署Lambda(Python)的主要内容,如果未能解决你的问题,请参考以下文章

AWS攻略——使用CodeBuild进行自动化构建和部署Lambda(Python)

AWS攻略——使用CodeBuild进行自动化构建和部署Lambda(Python)

AWS攻略——使用CodeBuild进行自动化构建和部署Lambda(Python)

Inplayable技术分享

Inplayable技术分享

Inplayable技术分享