无法在 Databricks 中使用 Configparser 读取配置文件

Posted

技术标签:

【中文标题】无法在 Databricks 中使用 Configparser 读取配置文件【英文标题】:unable to read configfile using Configparser in Databricks 【发布时间】:2021-03-18 04:44:55 【问题描述】:

我想在 Databricks 中使用 configparser 读取一些值作为参数

我可以在 databricks 中导入 configparser 模块,但无法从 configfile 读取参数,其即将出现的错误为 KEY ERROR

请查看下面的截图

配置文件是

【问题讨论】:

【参考方案1】:

问题是您的文件位于 DBFS (/FileStore/...) 上,而 configparser 不理解适用于“本地”文件系统的文件系统。要使其正常工作,您需要将 /dbfs 前缀附加到文件路径:/dbfs/FileStore/....

附:它可能不适用于带有 DBR 7.x 的社区版。在这种情况下,只需在使用dbutils.fs.cp 读取之前复制此配置文件,如下所示:

dbutils.fs.cp("/FileStore/...", "file:///tmp/config.ini")
config.read("/tmp/config.ini")

【讨论】:

它的工作!!!!!!!!! @Alex Ott...爱你的兄弟....顺便感谢您的解释....

以上是关于无法在 Databricks 中使用 Configparser 读取配置文件的主要内容,如果未能解决你的问题,请参考以下文章

在 Azure Databricks 的集群 Spark Config 中设置数据湖连接

无法在 Databricks 中使用 pyspark 读取 json 文件

无法在 Databricks 中使用 Pandas UDF

覆盖 Databricks 依赖项

无法在 databricks 运行时版本 7 中使用 shell 命令访问 /dbfs/FileStore

无法在 azure databricks 中使用 spark 读取 csv 文件