迁移 ADF - 与链接服务和管道链接到 Synapse Analytics 的数据集
Posted
技术标签:
【中文标题】迁移 ADF - 与链接服务和管道链接到 Synapse Analytics 的数据集【英文标题】:Migrate ADF - Datasets which are linked with Linked Services and Pipelines to Synapse Analytics 【发布时间】:2021-11-18 00:03:22 【问题描述】:我们需要将与链接服务和管道链接的 ADF 中的数据集仅迁移到 Synapse Analytics。
GITHUB 解决方案(来自以前的帖子https://docs.microsoft.com/en-us/answers/questions/533505/import-bulk-pipelines-from-azure-data-factory-to-a.html) 将整个所有数据集、管道、链接服务从 ADF 迁移到 Synapse Analytics。
但是我们需要迁移相互关联的数据集、关联的服务和管道,而没有关联的不需要迁移。
【问题讨论】:
【参考方案1】:不幸的是,在迁移到其他服务(在您的情况下为 Synapse Analytics)时,没有直接的方法可以从 Azure 数据工厂中排除不需要的对象。
作为一种解决方法,您可以复制现有工厂,删除您不想迁移的对象,然后使用该新工厂作为源。
请按照以下步骤将现有的数据工厂对象复制到新的数据工厂。
-
转到您现有的 ADF 工作区。按照路径:管理 -> ARM 模板 -> 导出 ARM 模板。
解压下载的文件。在 Notepad++ 或任何其他编辑器中打开 arm_template.json
文件。在第 8 行,对于参数 defaultValue
,给出您将复制对象的新数据工厂的名称。
使用您在上述步骤中提供的相同名称创建一个新的 Azure 数据工厂。
进入这个新创建的数据工厂的工作区。按照路径:管理 -> ARM 模板 -> 导入 ARM 模板。这将打开一个单独的自定义部署选项卡。
选择在编辑器中构建您自己的模板选项。
-
删除空白处的现有内容。点击加载文件选项上传您之前下载和编辑的
arm_template.json
文件。点击保存。
-
在最后一步,您需要提供订阅、资源组、区域和新建数据工厂的名称 复制所有对象的位置。除此之外,您需要提供将在新工厂中复制的所有链接服务的连接字符串。参考下图。完成后,点击Review and Create,这会将所有对象复制到新的数据工厂。
现在,在您的新工厂中,您可以删除所有不想迁移的对象。完成后,按照 Microsoft 问答答案中提到的相同 GitHub 链接将对象迁移到 Synapse Analytics。
注意:您可以稍后删除资源(用于迁移的数据工厂)。
【讨论】:
以上是关于迁移 ADF - 与链接服务和管道链接到 Synapse Analytics 的数据集的主要内容,如果未能解决你的问题,请参考以下文章