Databricks:如何将 %python 下的 Spark 数据帧转换为 %r 下的数据帧
Posted
技术标签:
【中文标题】Databricks:如何将 %python 下的 Spark 数据帧转换为 %r 下的数据帧【英文标题】:Databricks: how to convert Spark dataframe under %python to dataframe under %r 【发布时间】:2017-07-17 12:21:26 【问题描述】:我在 %python 环境中有一个 Dataframe,并尝试在 %r 环境中使用它。
如何将 %python 下的 spark 数据帧转换为 %r ?
【问题讨论】:
【参考方案1】:这甚至不值得尝试。惯用的方法是注册临时视图,让 Metastore 完成剩下的工作。在 Python 中:
df.createOrReplaceTempView("some_name")
在R中:
sql("REFRESH TABLE some_name")
df <- sql("SELECT * FROM some_name")
【讨论】:
以上是关于Databricks:如何将 %python 下的 Spark 数据帧转换为 %r 下的数据帧的主要内容,如果未能解决你的问题,请参考以下文章
如何在 Databricks 上使用 Apache Spark / Python 将整数转换为日期
通过 Python 中的 Databricks api 读取 Databricks 表?
如何在 python 中比较 Databricks 笔记本中的两个模式
如何使用 Python / Pyspark 在 Databricks 笔记本中合并数据帧