Azure Databricks 的 Azure DevOps 管道

Posted

技术标签:

【中文标题】Azure Databricks 的 Azure DevOps 管道【英文标题】:Azure DevOps pipelines for Azure Databricks 【发布时间】:2019-11-23 18:23:37 【问题描述】:

不知道 Azure 数据块中的所有内容都可以基于 Azure DevOps 管道。我们计划使用 github 作为存储库。

就像 Azure 数据块可以在文件中编码,然后我可以在 git repo 中管理该文件?

我们可以使用 Azure DevOps CD 管道在 Azure Databricks 中进行部署吗?

【问题讨论】:

第一步是您可以使用您喜欢的搜索引擎查找在线资源、教程、文档等。 我看这里没有问题...... 【参考方案1】:

我们可以使用 Azure DevOps CD 管道在 Azure Databricks 中进行部署吗?

简短的回答是肯定的。

我们可以将 Azure Databricks 工作区配置为使用 Azure DevOps,并且有一个任务 Databricks Script Deployment Task by Data Thirst,您可以选择将脚本、机密和笔记本部署到 Databricks。

有关详细信息,您可以参考以下文档:

CI/CD with Databricks and Azure DevOps

希望这会有所帮助。

【讨论】:

谢谢你 - 只是想知道为什么微软没有创建代理工作? 您可以查看 Microsoft DevLabs 创建的代理作业。 marketplace.visualstudio.com/…

以上是关于Azure Databricks 的 Azure DevOps 管道的主要内容,如果未能解决你的问题,请参考以下文章

Azure Data PlatformETL工具(21)——Azure Databricks使用——访问Azure Blob

Azure Databricks 的 Azure DevOps 管道

Azure Data PlatformETL工具(20)——创建Azure Databricks

Azure Data PlatformETL工具(20)——创建Azure Databricks

在 Azure Databricks 中编辑 Azure 存储帐户

Azure Databricks - 解释 databricks 中的安装语法