Spark RDD 练习题(一)

Tom,DataBase,80 Tom,Algorithm,50 Tom,DataStructure,60 Jim,DataBase,90 Jim,Algorithm,60 Jim,DataStructure,80 ……   (1) 该系总共有多少学生;

scala> val rdd = sc.textFile("/testfile/chapter5-data1.txt")

// 切分每一行,取到第一个name元素组成新的RDD

scala> val nameRDD = rdd.map(row => row.split(",")(0))
// 去重

scala> val result = nameRDD.distinct()
// 统计总数

scala> result.count
res10: Long = 265

  (2)该系共开设来多少门课程;

scala> val classRDD = rdd.map(row => row.split(",")(1))

scala> val result = classRDD.distinct()

scala> result.count
res11: Long = 8

 

 

(3) Tom 同学的总成绩平均分是多少;              
上一篇:python对数据的处理--如何为元组中的每个元素命名,提高程序可读性?


下一篇:Linux 不同方法查看进程消耗CPU IO 等