内容简介:翻译自:https://stackoverflow.com/questions/32550478/pyspark-take-average-of-a-column-after-using-filter-function
我使用以下代码来获得薪水大于某个阈值的人的平均年龄.
dataframe.filter(df['salary'] > 100000).agg({"avg": "age"})
列的年龄是数字(浮点数),但我仍然收到此错误.
py4j.protocol.Py4JJavaError: An error occurred while calling o86.agg. : scala.MatchError: age (of class java.lang.String)
您是否知道在不使用groupBy函数和 SQL 查询的情况下获得avg等的任何其他方法.
聚合函数应该是值,列名是键:
dataframe.filter(df['salary'] > 100000).agg({"age": "avg"})
或者你可以使用pyspark.sql.functions:
from pyspark.sql.functions import col, avg dataframe.filter(df['salary'] > 100000).agg(avg(col("age")))
也可以使用CASE .. WHEN
from pyspark.sql.functions import when dataframe.select(avg(when(df['salary'] > 100000, df['age'])))
翻译自:https://stackoverflow.com/questions/32550478/pyspark-take-average-of-a-column-after-using-filter-function
以上所述就是小编给大家介绍的《python – pyspark:使用过滤函数后取平均值》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!
猜你喜欢:- K均值算法
- Linux 求某一列平均值
- openCV之中值滤波&均值滤波(及代码实现)
- 机器学习实战---K均值聚类算法
- 吴恩达机器学习系列20:K - 均值算法
- R语言 模糊C均值(FCM)聚类分析
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
追踪Linux TCP/IP代码运行
秦健 / 北京航空航天大学出版社 / 2010-4-1 / 69.00元
本书以应用程序为线索,详细描述了数据包在协议栈的分段、重组、发送、接收过程,同时分析了路由的初始化和设置过程,主要包括socket应用程序、 TCP/IP协议、路由、通知链、邻居子系统等内容。全书涵盖了协议栈的全部知识点,对于广大的读者来说这是一本极其难得的技术资料。同时,书中论述了网络设备的工作原理,解释了RTL8169和嵌入式CS8900、DM9000网卡设备的核心过程。一起来看看 《追踪Linux TCP/IP代码运行》 这本书的介绍吧!