无法在 Databricks 中使用 Configparser 读取配置文件
Posted
技术标签:
【中文标题】无法在 Databricks 中使用 Configparser 读取配置文件【英文标题】:unable to read configfile using Configparser in Databricks 【发布时间】:2021-03-18 04:44:55 【问题描述】:我想在 Databricks 中使用 configparser 读取一些值作为参数
我可以在 databricks 中导入 configparser 模块,但无法从 configfile 读取参数,其即将出现的错误为 KEY ERROR
请查看下面的截图
配置文件是
【问题讨论】:
【参考方案1】:问题是您的文件位于 DBFS (/FileStore/...
) 上,而 configparser
不理解适用于“本地”文件系统的文件系统。要使其正常工作,您需要将 /dbfs
前缀附加到文件路径:/dbfs/FileStore/....
附:它可能不适用于带有 DBR 7.x 的社区版。在这种情况下,只需在使用dbutils.fs.cp
读取之前复制此配置文件,如下所示:
dbutils.fs.cp("/FileStore/...", "file:///tmp/config.ini")
config.read("/tmp/config.ini")
【讨论】:
它的工作!!!!!!!!! @Alex Ott...爱你的兄弟....顺便感谢您的解释....以上是关于无法在 Databricks 中使用 Configparser 读取配置文件的主要内容,如果未能解决你的问题,请参考以下文章
在 Azure Databricks 的集群 Spark Config 中设置数据湖连接
无法在 Databricks 中使用 pyspark 读取 json 文件