使用带有 Python 和 PyCharm 的 Kubeflow Pipelines SDK 连接到 AI Platform Pipelines

Posted

技术标签:

【中文标题】使用带有 Python 和 PyCharm 的 Kubeflow Pipelines SDK 连接到 AI Platform Pipelines【英文标题】:Connecting to AI Platform Pipelines using the Kubeflow Pipelines SDK with Python and PyCharm 【发布时间】:2021-03-08 04:30:36 【问题描述】:

在 PyCharm IDE 中使用 Windows 10 和 Python 3.9

我正在尝试使用以下代码列出管道:

import kfp
client = kfp.Client(host='.......bb92ea05-dot-us-central2.pipelines.googleusercontent.com')
    
client.list_pipelines()

我知道主机变量是正确的,因为我是从 AI 平台管道复制的。我遇到以下问题

FileNotFoundError: [WinError 2] The system cannot find the file specified

我认为无法找到该文件,因为程序无法连接到 GCP 的 AI PLatform Pipeline。

我已经通过在 Pycharm 终端中执行以下命令安装了 Kubeflow Pipeline SDK:

conda create --name mlpipeline python=3.7 conda 激活 mlpipeline pip3 install kfp --upgrade --user

我跑步时:

kfp diagnose_me

我收到以下命令错误:

Google Cloud SDK is not installed, gcloud, gsutil and kubectl are required for this app to run. Please follow instructions at https://cloud.google.com/sdk/install to install the SDK

我试过了

安装 Google Cloud SDK 并初始化 gcloud(虽然我运行命令时显示“找不到 Python”) 使用 gcloud 命令安装 kubectl 和 gsutil

【问题讨论】:

【参考方案1】:

我转换到 Ubuntu 并从那里解决了问题。

我做了什么:

安装谷歌云SDK并配置:https://cloud.google.com/sdk/docs/quickstart

还可以使用gcloud components install component_id 命令安装 gsutil 和 kubectl

安装KFP SDK:在终端运行以下命令:

 apt-get update; apt-get install -y wget bzip2
 wget https://repo.continuum.io/miniconda/Miniconda3-latest-Linux-x86_64.sh
 bash Miniconda3-latest-Linux-x86_64.sh

 conda create --name mlpipeline python=3.7   
 conda activate mlpipeline

 pip3 install kfp --upgrade

【讨论】:

【参考方案2】:

我遇到了完全相同的问题。我通过使用 Ubuntu 操作系统而不是 Windows 操作系统来修复它。使用虚拟机并在虚拟机中运行 Ubuntu。 Ubuntu 环境更易于设置和管理。

【讨论】:

以上是关于使用带有 Python 和 PyCharm 的 Kubeflow Pipelines SDK 连接到 AI Platform Pipelines的主要内容,如果未能解决你的问题,请参考以下文章

python之路6pycharm的使用

pycharm导致刷新变宽

pycharm 使用教程

pycharm 使用教程

python-pycharm安装

python 基础 1.2--pycharm 的安装及使用