为啥管道在 Azure 数据工厂中永远停留在排队状态?

Posted

技术标签:

【中文标题】为啥管道在 Azure 数据工厂中永远停留在排队状态?【英文标题】:Why a Pipeline keeps stuck in queued status forever in Azure Data Factory?为什么管道在 Azure 数据工厂中永远停留在排队状态? 【发布时间】:2022-01-03 23:45:14 【问题描述】:

我有一个管道可以在 Azure 数据工厂中执行多个数据流,几周前它运行正常并持续了大约 25 分钟才能完成,我不得不对一个过滤器进行一些调整(具体来说,它在最后一个也是唯一一个永远排队的数据流中,这个数据流插入到 SQL DB 中)。调整后,每次 Pipeline 运行时无需解释,它只是保持排队状态,永不结束:

我试图删除调整所在的过滤器,重新创建管道,但正如你们所见,仍然无法正常工作,管道中的最后一个数据流保持相同的状态(30 到 40 小时等待排队和当其他管道运行良好时什​​么也没有发生):

你们知道吗,伙计们,我是否缺少任何配置?这是我在管道中配置的内容:

注意:我只是在处理 500,000 条记录,即使我没有运行其他任何东西,我也得到了下一个建议:

谢谢,最好的问候

【问题讨论】:

【参考方案1】:

首先考虑检查您接收数据的 Synapse 表/相关表上是否存在索引,确保在提取数据时禁用或删除索引并在最后一步启用它。

【讨论】:

以上是关于为啥管道在 Azure 数据工厂中永远停留在排队状态?的主要内容,如果未能解决你的问题,请参考以下文章

在 Azure 数据工厂管道中处理 Null 值

如何在 Azure 数据工厂内拥有不同数量客户的不同环境中使用相同的管道?

如何在 Azure 数据工厂的 DataFlow 中获取管道的元数据?想要创建调试管道

管道从 Azure 数据工厂消失了?

通过 GitLab 部署 Azure 数据工厂管道

Azure 数据工厂 ADF 数据管道将文件名包含在将数据复制到 sql 数据库中