python – pyspark:使用过滤函数后取平均值

栏目: Python · 发布时间: 7年前

内容简介:翻译自:https://stackoverflow.com/questions/32550478/pyspark-take-average-of-a-column-after-using-filter-function

我使用以下代码来获得薪水大于某个阈值的人的平均年龄.

dataframe.filter(df['salary'] > 100000).agg({"avg": "age"})

列的年龄是数字(浮点数),但我仍然收到此错误.

py4j.protocol.Py4JJavaError: An error occurred while calling o86.agg. 
: scala.MatchError: age (of class java.lang.String)

您是否知道在不使用groupBy函数和 SQL 查询的情况下获得avg等的任何其他方法.

聚合函数应该是值,列名是键:

dataframe.filter(df['salary'] > 100000).agg({"age": "avg"})

或者你可以使用pyspark.sql.functions:

from pyspark.sql.functions import col, avg

dataframe.filter(df['salary'] > 100000).agg(avg(col("age")))

也可以使用CASE .. WHEN

from pyspark.sql.functions import when

dataframe.select(avg(when(df['salary'] > 100000, df['age'])))

翻译自:https://stackoverflow.com/questions/32550478/pyspark-take-average-of-a-column-after-using-filter-function


以上所述就是小编给大家介绍的《python – pyspark:使用过滤函数后取平均值》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

疯狂Java讲义

疯狂Java讲义

李刚 / 电子工业出版社 / 2012-1-1 / 109.00元

《疯狂Java讲义(附光盘第2版)》是《疯狂Java讲义》的第2版,第2版保持了第1版系统、全面、讲解浅显、细致的特性,全面介绍了新增的Java 7的新特性。 《疯狂Java讲义(附光盘第2版)》深入介绍了Java编程的相关方面,全书内容覆盖了Java的基本语法结构、Java的面向对象特征、Java集合框架体系、Java泛型、异常处理、Java GUI编程、JDBC数据库编程、Java注释、......一起来看看 《疯狂Java讲义》 这本书的介绍吧!

CSS 压缩/解压工具
CSS 压缩/解压工具

在线压缩/解压 CSS 代码

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具