Sagemaker批处理转换作业-输入数据位置

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Sagemaker批处理转换作业-输入数据位置相关的知识,希望对你有一定的参考价值。

我正在AWS Sagemaker中使用自定义算法,并使用boto3“ create_training_job” API来训练模型。训练数据的“ S3Uri”位置将传递到此API。 Sagemaker依次将这些数据复制到docker映像内的文件夹“ / opt / ml / input / data /”中,并且我已基于该位置配置了训练逻辑-/ opt / ml / input / data /。

现在,我需要使用“ create_transform_job” API生成推断。我正在将推理数据集的“ S3Uri”传递给此API。将该推理数据集复制到docker内部的哪个位置?这是在代码中配置位置所必需的。

答案

运行SageMaker Batch Transform时,输入不会持久保存到计算实例的磁盘上。而是通过HTTP请求将数据流式传输到您的容器。

有关批量转换功能的工作原理的更多详细信息,请参见:https://docs.aws.amazon.com/sagemaker/latest/dg/how-it-works-batch.html

有关运行批处理转换作业时容器应如何处理请求的更多详细信息,请参阅:https://docs.aws.amazon.com/sagemaker/latest/dg/your-algorithms-batch-code.html#your-algorithms-batch-code-how-containe-serves-requests

以上是关于Sagemaker批处理转换作业-输入数据位置的主要内容,如果未能解决你的问题,请参考以下文章

如何将 stepfunction 执行 ID 附加到 SageMaker 作业名称?

在 sagemaker 中进行预测之前,如何预处理输入数据?

无法读取 Sagemaker 语义分割模型批量转换输出文件

操作系统_第三章处理器管理_批处理作业的调度算法

请问几个关于批处理的问题

查询以包括 spring 批处理作业参数值以及作业执行数据