错误：“您的部署没有关联的 swagger.json” - 流分析作业上的 ACI 部署

Posted 2023-05-08

【中文标题】错误：“您的部署没有关联的 swagger.json” - 流分析作业上的 ACI 部署

【英文标题】：Error: "Your deployment does not have an associated swagger.json" - ACI deployment on Stream Analytics Job

【发布时间】：2020-04-11 15:03:06

【问题描述】：

最新更新：当前版本的流分析作业公开审核链接不支持 ACI 容器部署。因此，我将关闭此问题，直至另行通知。有关更多信息，请关注下面发布的 GitHub 主题。

注意：当部署值是 ACI 容器而不是 AKS 群集时会出现问题。使用 Kubernetes 集群，Azure ML Service Function 创建成功。虽然我想使用 ACI 容器而不是 AKS 集群来测试我的功能。

我正在尝试在流分析作业服务中创建 Azure ML 服务功能。为此，我在 Azure 容器实例（又名 ACI）中使用了已部署的 ml 模型。但是，我收到此错误：

GitHub 上问题的link 和related Microsoft document

尽管存在以下三个因素，但仍存在此错误：

因素 1：当我使用（ACI 容器的）评分 URL 在本地（在 Jupyter Notebook 中）对一些值进行评分时，评分成功。 因素 2：我已经在我的 score.py 文件中推断出输入数据的模式。 因素 3：我将 infer-schema[numpy-support] 模块作为环境文件的依赖项。

我做错了什么？

ACI 容器实例使用授权（主）密钥进行部署，另外我在 score.py 文件中推断输入和输出示例的架构。但是，Stream 作业无法识别 swagger 文件。由于我在 score.py 文件中推断出架构，我 read 认为它会自动生成 swagger.json 文件。

我的 score.py 文件示例：

import json
import numpy as np
import os
import itertools
import joblib
from sklearn.ensemble import RandomForestRegressor

from azureml.core.model import Model

from inference_schema.schema_decorators import input_schema, output_schema
from inference_schema.parameter_types.numpy_parameter_type import NumpyParameterType

def init():

    global model

    # retrieve the path to the model file using the model name
    model_path = Model.get_model_path('<model_name>')
    model = joblib.load(model_path)

input_sample = np.array([["0", 0, 0, 0, 0, 0]])
output_sample = np.array([0])

@input_schema('raw_data', NumpyParameterType(input_sample))
@output_schema(NumpyParameterType(output_sample))

def run(raw_data):
    try:

        data = np.array(raw_data)
        result=[]

        for array in data:

            prediction_result=model[array[0]].predict(array[1:].reshape(1,-1))
            result.append(prediction_result.tolist())

        result=list(itertools.chain.from_iterable(result))

        # you can return any data type as long as it is JSON-serializable
        return result

    except Exception as e:
        error = str(e)
        return error

我的 env.yml 文件示例：

name: project_environment
dependencies:
  - python=3.7.3
  - pip:
    - azureml-defaults
    - inference-schema[numpy-support]
    - joblib
    - numpy
    - scikit-learn==0.20.3

如果有任何 cmets 解决这个问题，我将不胜感激。

关键发现：

我比较了 AKS 集群和 ACI 容器实例的 swagger.json 文件。 而这两个 swagger 文件的区别在于关键的“路径”。 在 AKS 中，swagger.json 中的路径是： "paths": "/api/v1/service/aks-service/":.... 等 在 ACI 中，swagger.json 中的路径是： "paths": "/":..etc

AKS 集群的 Swagger.json 的一部分：

ACI集群Swagger.json的一部分：

我认为这可能是问题的根源。也许流分析作业功能无法识别路径“/”来自动生成 ACI 容器的函数签名。

【参考方案1】：

我们首先支持 AKS，因为这是推荐的实时评分方法。由于此功能处于公共预览阶段，我们正在最终确定部署在 ACI 上的模型的一些性能基准，以便它可以可靠地用于开发/测试目的。我们应该会在接下来的几周内获得对 ACI 部署的支持。