使用 python 写入 aws lambda 中的 /tmp 目录

Posted

技术标签:

【中文标题】使用 python 写入 aws lambda 中的 /tmp 目录【英文标题】:Write to /tmp directory in aws lambda with python 【发布时间】:2018-06-30 01:28:03 【问题描述】:

目标

我正在尝试将 zip 文件写入 python aws lambda 中的 /tmp 文件夹,因此我可以在压缩之前提取操作,并将其放入 s3 存储桶中。

问题

Os Errno30 只读文件系统

此代码在我的计算机上进行了本地测试,以确保在我将文件上传到 aws 之前将其写入我的工作目录。这是我正在尝试使用的代码。

file = downloadFile() #This is api call that returns binary zip object
newFile = open('/tmp/myZip.zip','wb')
newFile.write(file)
extractAll('/tmp/myZip.zip')

这是尝试提取 zip 文件的代码

def extractAll(self,source):
        with zipfile.ZipFile(source, 'r') as archive:
            archive.extractall()

这是痕迹

[Errno 30] Read-only file system: '/var/task/test-deploy': OSError
Traceback (most recent call last):
File "/var/task/web.py", line 31, in web
performAction(bb, eventBody)
File "/var/task/src/api/web.py", line 42, in performAction
zipHelper.extractAll('/tmp/myZip.zip')
File "/var/task/src/shared/utils/zipfilehelper.py", line 24, in extractAll
archive.extractall()
File "/var/lang/lib/python3.6/zipfile.py", line 1491, in extractall
self.extract(zipinfo, path, pwd)
File "/var/lang/lib/python3.6/zipfile.py", line 1479, in extract
return self._extract_member(member, path, pwd)
File "/var/lang/lib/python3.6/zipfile.py", line 1538, in _extract_member
os.mkdir(targetpath)
OSError: [Errno 30] Read-only file system: '/var/task/test-deploy'

【问题讨论】:

在第一行,你从哪里下载这个文件? Lambda 仅在 /tmp 有临时存储。确保将其下载到 /tmp。 你怎么知道 downloadFile 试图存储在 /tmp/ 中? downloadFile() 正在从另一个 api 获取二进制对象 我假设 '/tmp/myZip.zip' 我的目的地中的 /tmp/ 将解析为 lambda 的 tmp 存储 请将完整的错误回溯和downliadFile()的代码添加到您的问题中! 【参考方案1】:

extractAll() 将提取当前目录中的文件,在您的情况下为/var/task/test-deploy

你需要使用os.chdir()来改变当前目录:

import os, zipfile

os.chdir('/tmp')
with zipfile.ZipFile(source, 'r') as archive:
    archive.extractall()

更好的是,您可以create a temporary directory 并在那里提取文件,以避免污染/tmp

import os, tempfile, zipfile

with tempfile.TemporaryDirectory() as tmpdir:
    os.chdir(tmpdir)
    with zipfile.ZipFile(source, 'r') as archive:
        archive.extractall()

如果要在解压文件后恢复当前工作目录,可以考虑使用这个装饰器:

import os, tempfile, zipfile, contextlib

@contextlib.context_manager
def temporary_work_dir():
    old_work_dir = os.getcwd()
    with tempfile.TemporaryDirectory() as tmp_dir:
        os.chdir(tmp_dir)
        try:
            yield
        finally:
            os.chdir(old_work_dir)

with temporary_work_dir():
    with zipfile.ZipFile(source, 'r') as archive:
        archive.extractall()

【讨论】:

以上是关于使用 python 写入 aws lambda 中的 /tmp 目录的主要内容,如果未能解决你的问题,请参考以下文章

AWS Lambda Python 读取所有行但不写入所有行

在python中自动测试aws lambda函数

使用 Learner Lab - 使用 AWS Lambda 将图片写入 S3

AWS Lambda 函数写入 S3

使用 Terraform 将 AWS Lambda 日志写入 CloudWatch 日志组

AWS 事件总线无法将日志写入来自 AWS Lambda 的自定义日志组上的 CloudWatch