将 DataFrame 中的新派生列从布尔值转换为整数

Posted 2023-04-15

【中文标题】将 DataFrame 中的新派生列从布尔值转换为整数

【英文标题】：Casting a new derived column in a DataFrame from boolean to integer

【发布时间】：2015-10-26 20:02:14

【问题描述】：

假设我有一个具有此架构的 DataFrame x：

xSchema = StructType([ \
    StructField("a", DoubleType(), True), \
    StructField("b", DoubleType(), True), \
    StructField("c", DoubleType(), True)])

然后我有 DataFrame：

DataFrame[a :double, b:double, c:double]

我想要一个整数派生列。我能够创建一个布尔列：

x = x.withColumn('y', (x.a-x.b)/x.c > 1)

我的新架构是：

DataFrame[a :double, b:double, c:double, y: boolean]

但是，我希望列 y 包含 0 代表 False 和 1 代表 True。

cast 函数只能对列进行操作，DataFrame 不能，withColumn 函数只能对DataFrame 进行操作。如何添加新列并同时将其转换为整数？

【参考方案1】：

您使用的表达式计算为列，因此您可以像这样直接转换：

x.withColumn('y', ((x.a-x.b) / x.c > 1).cast('integer')) # Or IntegerType()