PyCharm开发PySpark程序的配置和实例

栏目: Python · 发布时间: 5年前

内容简介:对于PyCharm,需要作如下设置:1、安装pyspark,它会自动安装py4j2、在edit configuration中,add content root,选择spark下载包的python/pyspark/lib下的pyspark.zip和py4j.zip两个包;

对于PyCharm,需要作如下设置:

1、安装pyspark,它会自动安装py4j

2、在edit configuration中,add content root,选择spark下载包的python/pyspark/lib下的pyspark.zip和py4j.zip两个包;

代码实例:

from pyspark.sql import Row
from pyspark.sql import SparkSession
 
logFile = "file:///Users/peishuaishuai/tmp/sparktest.txt"  # Should be some file on your system
spark = SparkSession.builder.appName("SimpleApp").getOrCreate()
 
input = spark.read.text(logFile).rdd.map(
    lambda x: str(x[0]).split("\t")
).filter(
    lambda x: len(x) == 2
).map(
    lambda x: Row(name=x[0], grade=int(x[1]))
)
 
schemaData = spark.createDataFrame(input)
schemaData.createOrReplaceTempView("tb")
 
print(schemaData.count())
schemaData.printSchema()
 
datas = spark.sql("select name,sum(grade) from tb group by name").rdd.map(
    lambda x: "\t".join([x[0], str(x[1])])
)
 
datas.repartition(3).saveAsTextFile("file:///Users/peishuaishuai/tmp/sparktest_output")
 
spark.stop()
 

输入数据为:

name1	11
name2	12
name3	13
name4	14
name5	15
name1	16
name2	17
name3	18
name4	19
name5	20
name11	21
name12	22
name1	23
name2	24
name3	25
name4	26
name5	27
name18	28
name19	29
name20	30
name21	31
name1	32
name2	33
name3	34
name4	35
name5	36
name27	37
name28	38
name29	39
name1	40
name2	41
name3	42
name4	43

输出 print结果为:

33
root
 |-- grade: long (nullable = true)
 |-- name: string (nullable = true)

文件中内容为:

name3	132
name19	29
name2	127
name12	22
name11	21
name20	30
name28	38
name27	37
name5	98
name29	39
name21	31
name4	137
name1	122
name18	28

pyspark开发起来,有点问题就是当级联过多的时候,类型可能丢失,导致代码没有提示,这点很不爽。

其实对比了 python 、scala、java,我觉得编写大型的spark代码,用 Java 是最靠谱的,因为它强类型,代码提示很爽很直观。


以上所述就是小编给大家介绍的《PyCharm开发PySpark程序的配置和实例》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Rust编程之道

Rust编程之道

张汉东 / 电子工业出版社 / 2019-1 / 128

Rust 是一门利用现代化的类型系统,有机地融合了内存管理、所有权语义和混合编程范式的编程语言。它不仅能科学地保证程序的正确性,还能保证内存安全和线程安全。同时,还有能与C/C++语言媲美的性能,以及能和动态语言媲美的开发效率。 《Rust编程之道》并非对语法内容进行简单罗列讲解,而是从四个维度深入全面且通透地介绍了Rust 语言。从设计哲学出发,探索Rust 语言的内在一致性;从源码分析入......一起来看看 《Rust编程之道》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

URL 编码/解码
URL 编码/解码

URL 编码/解码

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具