PySpark DataFrame 无法删除重复项

Posted 2023-04-17

【中文标题】PySpark DataFrame 无法删除重复项

【英文标题】：PySpark DataFrame unable to drop duplicates

【发布时间】：2016-05-07 05:45:22

【问题描述】：

您好，我创建了一个 spark 数据框，我正在尝试删除重复项：

df.drop_duplicates(subset='id')

我收到以下错误：

Py4JError: An error occurred while calling z:org.apache.spark.api.python.PythonUtils.toSeq. Trace:
py4j.Py4JException: Method toSeq([class java.lang.String]) does not exist
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:335)
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:360)
    at py4j.Gateway.invoke(Gateway.java:254)
    at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:133)
    at py4j.commands.CallCommand.execute(CallCommand.java:79)
    at py4j.GatewayConnection.run(GatewayConnection.java:209)
    at java.lang.Thread.run(Thread.java:745)

我正在使用 osx 10.11.4，火花 1.6.1

我像这样运行了一个 jupyter 笔记本

PYSPARK_DRIVER_PYTHON=jupyter PYSPARK_DRIVER_PYTHON_OPTS='notebook' pyspark

还有其他一些我可能遗漏或错误的配置吗？

【参考方案1】：

drop_duplicates / dropDuplicates 的参数应该是名称的集合，Java 等效项可以转换为 Scala Seq，而不是单个字符串。您可以使用list:

df.drop_duplicates(subset=['id'])

或tuple:

df.drop_duplicates(subset=('id', ))

【讨论】：

该死的，谢谢。我没看清楚。认为它的工作原理类似于 pandas dfs。