ClearML 如何在 AWS Sagemaker 中更改 clearml.conf 文件

Posted

技术标签:

【中文标题】ClearML 如何在 AWS Sagemaker 中更改 clearml.conf 文件【英文标题】:ClearML how to change clearml.conf file in AWS Sagemaker 【发布时间】:2021-05-18 19:51:47 【问题描述】:

我正在使用 AWS Sagemaker Jupyter 笔记本。 我已经在 J​​upyter 的 AWS Sagemaker 中安装了 clearml 包。 ClearML 服务器安装在 AWS EC2 上。 我需要将工件和模型存储在 AWS S3 存储桶中,因此我想在 clearml.conf 文件中指定 S3 的凭证。 如何更改 AWS Sagemaker 实例中的 clearml.conf 文件?看起来好像对它上面的所有文件夹都拒绝了权限。 或者也许有人可以提出更好的方法。

【问题讨论】:

【参考方案1】:

免责声明我是 ClearML(前身为 Trains)团队的一员。

要设置凭据(和clearml-server 主机),您可以使用Task.set_credentials。 要将 S3 存储桶指定为所有工件(以及调试图像)的输出,您只需将其设置为 files_server

例如:

from clearml import Task

Task.set_credentials(api_host='http://clearml-server:8008', web_host='http://clearml-server:8080', files_host='s3://my_bucket/folder/',
key='add_clearml_key_here', secret='add_clearml_key_secret_here')

要传递您的 S3 凭证,只需在 jupyter 笔记本顶部添加一个单元格,然后设置标准 AWS S3 环境变量:

import os
os.environ['AWS_ACCESS_KEY_ID'] = 's3_bucket_key_here'
os.environ['AWS_SECRET_ACCESS_KEY'] = 's3_bucket_secret_here'
# optional
os.environ['AWS_DEFAULT_REGION'] = 's3_bucket_region'

【讨论】:

以上是关于ClearML 如何在 AWS Sagemaker 中更改 clearml.conf 文件的主要内容,如果未能解决你的问题,请参考以下文章

我们如何在 AWS Sagemaker 推理中添加复杂的预处理

如何在等待响应时增加 AWS Sagemaker 调用超时

如何将 AWS SageMaker 提供给组织外部的人员使用?

如何在 AWS Sagemaker 中检索分段掩码中使用的标签

AWS DeepRacer 参数调优 Amazon SageMaker 和 Amazon RoboMaker

AWS Sagemaker Spark S3 访问问题