为啥管道在 Azure 数据工厂中永远停留在排队状态?
Posted
技术标签:
【中文标题】为啥管道在 Azure 数据工厂中永远停留在排队状态?【英文标题】:Why a Pipeline keeps stuck in queued status forever in Azure Data Factory?为什么管道在 Azure 数据工厂中永远停留在排队状态? 【发布时间】:2022-01-03 23:45:14 【问题描述】:我有一个管道可以在 Azure 数据工厂中执行多个数据流,几周前它运行正常并持续了大约 25 分钟才能完成,我不得不对一个过滤器进行一些调整(具体来说,它在最后一个也是唯一一个永远排队的数据流中,这个数据流插入到 SQL DB 中)。调整后,每次 Pipeline 运行时无需解释,它只是保持排队状态,永不结束:
我试图删除调整所在的过滤器,重新创建管道,但正如你们所见,仍然无法正常工作,管道中的最后一个数据流保持相同的状态(30 到 40 小时等待排队和当其他管道运行良好时什么也没有发生):
你们知道吗,伙计们,我是否缺少任何配置?这是我在管道中配置的内容:
注意:我只是在处理 500,000 条记录,即使我没有运行其他任何东西,我也得到了下一个建议:
谢谢,最好的问候
【问题讨论】:
【参考方案1】:首先考虑检查您接收数据的 Synapse 表/相关表上是否存在索引,确保在提取数据时禁用或删除索引并在最后一步启用它。
【讨论】:
以上是关于为啥管道在 Azure 数据工厂中永远停留在排队状态?的主要内容,如果未能解决你的问题,请参考以下文章
如何在 Azure 数据工厂内拥有不同数量客户的不同环境中使用相同的管道?