如何根据 azure databricks 中的列值将静态值传递给动态值

Posted

技术标签:

【中文标题】如何根据 azure databricks 中的列值将静态值传递给动态值【英文标题】:how to pass static value into dynamic on basis of column value in azure databricks 【发布时间】:2021-12-01 10:55:23 【问题描述】:

如何根据 azure 数据砖中的列值将静态值传递给动态值 目前,我有 13 个笔记本及其计划,所以我只想安排一个笔记本,此外,我在 13 个笔记本中单独定义的列(13 行)的数据,所以我如何动态传递该值。

【问题讨论】:

【参考方案1】:

您可以 create different jobs 引用单个笔记本,将参数传递给作业,然后使用 Databricks Widgets 检索这些参数(小部件适用于所有语言)。在笔记本中,它将如下所示(例如,在 Python 中):

# this is necessary only if you execute notebook interactively
dbutils.widgets.text("param1_name", "default_value", "description")
# get job parameter
param1 = dbutils.widgets.get("param1_name")
# ... use param1

【讨论】:

以上是关于如何根据 azure databricks 中的列值将静态值传递给动态值的主要内容,如果未能解决你的问题,请参考以下文章

如何计算 Spark SQL(Databricks)中表中的列数?

Azure Databricks - 解释 databricks 中的安装语法

如何使用 SAS 读取 Azure databricks 中的 blob

如何列出 Azure Databricks 中的所有挂载点?

如何从 Databrick/PySpark 覆盖/更新 Azure Cosmos DB 中的集合

如何使用 databricks 将一个 azure 数据湖容器中的所有内容传输到另一个容器?