迁移 ADF - 与链接服务和管道链接到 Synapse Analytics 的数据集

Posted

技术标签:

【中文标题】迁移 ADF - 与链接服务和管道链接到 Synapse Analytics 的数据集【英文标题】:Migrate ADF - Datasets which are linked with Linked Services and Pipelines to Synapse Analytics 【发布时间】:2021-11-18 00:03:22 【问题描述】:

我们需要将与链接服务和管道链接的 ADF 中的数据集仅迁移到 Synapse Analytics。

GITHUB 解决方案(来自以前的帖子https://docs.microsoft.com/en-us/answers/questions/533505/import-bulk-pipelines-from-azure-data-factory-to-a.html) 将整个所有数据集、管道、链接服务从 ADF 迁移到 Synapse Analytics。

但是我们需要迁移相互关联的数据集、关联的服务和管道,而没有关联的不需要迁移。

【问题讨论】:

【参考方案1】:

不幸的是,在迁移到其他服务(在您的情况下为 Synapse Analytics)时,没有直接的方法可以从 Azure 数据工厂中排除不需要的对象。

作为一种解决方法,您可以复制现有工厂,删除您不想迁移的对象,然后使用该新工厂作为源。

请按照以下步骤将现有的数据工厂对象复制到新的数据工厂。

    转到您现有的 ADF 工作区。按照路径:管理 -> ARM 模板 -> 导出 ARM 模板。

    解压下载的文件。在 Notepad++ 或任何其他编辑器中打开 arm_template.json 文件。在第 8 行,对于参数 defaultValue,给出您将复制对象的新数据工厂的名称。

    使用您在上述步骤中提供的相同名称创建一个新的 Azure 数据工厂。

    进入这个新创建的数据工厂的工作区。按照路径:管理 -> ARM 模板 -> 导入 ARM 模板。这将打开一个单独的自定义部署选项卡。

    选择在编辑器中构建您自己的模板选项。

    删除空白处的现有内容。点击加载文件选项上传您之前下载和编辑的arm_template.json文件。点击保存

    在最后一步,您需要提供订阅资源组区域新建数据工厂的名称 复制所有对象的位置。除此之外,您需要提供将在新工厂中复制的所有链接服务的连接字符串。参考下图。完成后,点击Review and Create,这会将所有对象复制到新的数据工厂。

现在,在您的新工厂中,您可以删除所有不想迁移的对象。完成后,按照 Microsoft 问答答案中提到的相同 GitHub 链接将对象迁移到 Synapse Analytics。

注意:您可以稍后删除资源(用于迁移的数据工厂)。

【讨论】:

以上是关于迁移 ADF - 与链接服务和管道链接到 Synapse Analytics 的数据集的主要内容,如果未能解决你的问题,请参考以下文章

Azure ADF 管道无法连接到 Azure SQL

ADF 管道加载几个表后,自托管集成运行时超时

Azure Data PlatformETL工具——ADF 数据集和链接服务

ADF SQL 链接服务连接失败

如何在 ADF 中设置滚动条位置

ADF - 带有 powershell 脚本的管道