我们可以在 Azure 映射数据流中转置数据吗?

Posted

技术标签:

【中文标题】我们可以在 Azure 映射数据流中转置数据吗?【英文标题】:Can we do transpose of data in Azure Mapping Data Flow? 【发布时间】:2020-11-21 05:29:13 【问题描述】:

我正在使用映射数据流在 ADF 中实现我的 M 查询脚本。在 M 查询中有两个函数,一个是 Table.pivot,另一个是 Table.transpose。 映射数据流具有枢轴转换,但没有转置。 谁能告诉我,或者我需要使用除映射数据流之外的其他东西(Databricks、Spark SQL)吗?

Transpose 会将所有行旋转为列,将列旋转为行。

【问题讨论】:

【参考方案1】:

我设法像这样转置 Excel 表格:

Field #1: Value 1
Field #2: Value 2
Field #3: Value 3

Field1 Field2 Field3
Value 1 Value 2 Value 3

解决方案

SummaryHeader(数据集 Excel)

SanitizeSummaryHeader(派生列)

正则表达式:regexReplace(HeaderNameRaw, "[^\\w]+", "")

TransposeHeader(枢轴)

PruneSummaryHeader(选择)

匹配条件:!endsWith(name,"Raw")

ReduceSummaryHeader(聚合)

名称匹配:^(?!\bFileName\b).+$

【讨论】:

【参考方案2】:

根据我的经验,Data Flow 无法转置数据。

您需要在代码级别使用其他活动或工具。

【讨论】:

以上是关于我们可以在 Azure 映射数据流中转置数据吗?的主要内容,如果未能解决你的问题,请参考以下文章

如何在 hive 中转置/透视数据?

我可以在 Azure DevOps 中设置默认安全和/或分支策略吗?

在 Pyspark 数据框中转置

我可以在 Azure 集成运行时警报中设置时间范围吗?

Azure 数据工厂在一列中映射 2 列

嗨,我想在 pyspark 中转置一个数据框