使用 python 写入 aws lambda 中的 /tmp 目录
Posted
技术标签:
【中文标题】使用 python 写入 aws lambda 中的 /tmp 目录【英文标题】:Write to /tmp directory in aws lambda with python 【发布时间】:2018-06-30 01:28:03 【问题描述】:目标
我正在尝试将 zip 文件写入 python aws lambda 中的 /tmp 文件夹,因此我可以在压缩之前提取操作,并将其放入 s3 存储桶中。
问题
Os Errno30 只读文件系统
此代码在我的计算机上进行了本地测试,以确保在我将文件上传到 aws 之前将其写入我的工作目录。这是我正在尝试使用的代码。
file = downloadFile() #This is api call that returns binary zip object
newFile = open('/tmp/myZip.zip','wb')
newFile.write(file)
extractAll('/tmp/myZip.zip')
这是尝试提取 zip 文件的代码
def extractAll(self,source):
with zipfile.ZipFile(source, 'r') as archive:
archive.extractall()
这是痕迹
[Errno 30] Read-only file system: '/var/task/test-deploy': OSError
Traceback (most recent call last):
File "/var/task/web.py", line 31, in web
performAction(bb, eventBody)
File "/var/task/src/api/web.py", line 42, in performAction
zipHelper.extractAll('/tmp/myZip.zip')
File "/var/task/src/shared/utils/zipfilehelper.py", line 24, in extractAll
archive.extractall()
File "/var/lang/lib/python3.6/zipfile.py", line 1491, in extractall
self.extract(zipinfo, path, pwd)
File "/var/lang/lib/python3.6/zipfile.py", line 1479, in extract
return self._extract_member(member, path, pwd)
File "/var/lang/lib/python3.6/zipfile.py", line 1538, in _extract_member
os.mkdir(targetpath)
OSError: [Errno 30] Read-only file system: '/var/task/test-deploy'
【问题讨论】:
在第一行,你从哪里下载这个文件? Lambda 仅在 /tmp 有临时存储。确保将其下载到 /tmp。 你怎么知道 downloadFile 试图存储在 /tmp/ 中? downloadFile() 正在从另一个 api 获取二进制对象 我假设 '/tmp/myZip.zip' 我的目的地中的 /tmp/ 将解析为 lambda 的 tmp 存储 请将完整的错误回溯和downliadFile()
的代码添加到您的问题中!
【参考方案1】:
extractAll()
将提取当前目录中的文件,在您的情况下为/var/task/test-deploy
。
你需要使用os.chdir()
来改变当前目录:
import os, zipfile
os.chdir('/tmp')
with zipfile.ZipFile(source, 'r') as archive:
archive.extractall()
更好的是,您可以create a temporary directory 并在那里提取文件,以避免污染/tmp
:
import os, tempfile, zipfile
with tempfile.TemporaryDirectory() as tmpdir:
os.chdir(tmpdir)
with zipfile.ZipFile(source, 'r') as archive:
archive.extractall()
如果要在解压文件后恢复当前工作目录,可以考虑使用这个装饰器:
import os, tempfile, zipfile, contextlib
@contextlib.context_manager
def temporary_work_dir():
old_work_dir = os.getcwd()
with tempfile.TemporaryDirectory() as tmp_dir:
os.chdir(tmp_dir)
try:
yield
finally:
os.chdir(old_work_dir)
with temporary_work_dir():
with zipfile.ZipFile(source, 'r') as archive:
archive.extractall()
【讨论】:
以上是关于使用 python 写入 aws lambda 中的 /tmp 目录的主要内容,如果未能解决你的问题,请参考以下文章
AWS Lambda Python 读取所有行但不写入所有行
使用 Learner Lab - 使用 AWS Lambda 将图片写入 S3