如何使用 Vertex AI Endpoint 部署预处理代码

Posted

技术标签:

【中文标题】如何使用 Vertex AI Endpoint 部署预处理代码【英文标题】:How to deploy Preprocessing Code with Vertex AI Endpoint 【发布时间】:2021-11-06 16:34:54 【问题描述】:

我在 Vertex AI Endpoint 中部署了一个模型,我能够通过传递预处理的特征向量来获得预测。

我还想在模型旁边部署预处理代码。 如何包装或部署预处理逻辑。

【问题讨论】:

【参考方案1】:

您可能可以使用云函数或一些类似类型的设置来转换输入。这可以托管在服务器等上。它也可以部署到端点。无论如何,转换将是自定义代码,您必须在将请求发送到顶点 ai 之前将它们传递到那里;但是顶点ai只会在处理后接受它们。

您可以创建一个云函数 [1] 来预处理数据并将其发送到您的自定义模型 [2]。

[1]https://cloud.google.com/functions/docs/calling/http

[2]https://cloud.google.com/vertex-ai/docs/predictions/online-predictions-custom-models

如果有帮助,请告诉我。如果不能,请提供以下信息。

您使用的是什么类型的架构? 您是否遵循任何文档?

【讨论】:

要添加到这个答案,您可能还对 this introduction 到 Vertex 管道感兴趣,以便处理您的数据。

以上是关于如何使用 Vertex AI Endpoint 部署预处理代码的主要内容,如果未能解决你的问题,请参考以下文章

如何跟踪来自 Vertex AI 管道的参数和指标

如何使用 Web GUI 停止 Google Cloud AutoML(现为 Vertex AI)批量预测作业?

如何在 Vertex AI AutoML 时间序列模型中选择目标列

如何使用 Python 从 Vertex AI 上的训练模型访问特征重要性的文本数据(值)

如何在 Vertex AI 中构建容器日志?

如何查看和解释 Vertex AI 日志