Spark深入解析(六):SparkCore之Spark代码编写WordCount

学习目标

WordCount思路

准备数据

将数据放在以下目录中
Spark深入解析(六):SparkCore之Spark代码编写WordCount

  • 1.txt

     Hello World
     Hello Scala
    
  • 2.txt

     Hello Spark
    

图解分析
Spark深入解析(六):SparkCore之Spark代码编写WordCount
说明:

  • 1、本地读取两个文件
  • 2、两个文件内的数据
  • 3、将文件内的数据进行扁平化
  • 4、将相同单词进行分组
  • 5、聚合计算每个单词的个数

WordCount代码实现

第一步:启动Spark-Shell

//进入spark
[root@node01 softwares]# cd ../servers/spark-2.2.0-bin-2.6.0-cdh5.14.0
//进入bin目录
[root@node01 spark-2.2.0-bin-2.6.0-cdh5.14.0]# cd bin/
//启动本地Spark-shell
[root@node01 bin]# ./spark-shell

看到以下界面,说明启动成功
Spark深入解析(六):SparkCore之Spark代码编写WordCount
第二步:读取文件
Spark深入解析(六):SparkCore之Spark代码编写WordCount
此处为什么可以直接将input路径输入,而不需要输入具体数据文件路径???

  • 在Spark-Shell开启后,系统自带将SparkContext(上下文对象)创建,而input文件夹,在spark中,使用sc刚好可以读取到(这是一个相对路径)文件数据,所以不需要具体到数据文件。

转换图解:与上图对比
Spark深入解析(六):SparkCore之Spark代码编写WordCount

//读取数据(textFile)
scala> val textFile=sc.textFile("input")
//读取文件,得到String类型的字符串(RDD)
textFile: org.apache.spark.rdd.RDD[String] = input MapPartitionsRDD[1] at textFile at <console>:24

//扁平化数据(flatMap)
scala> sc.textFile("input").flatMap
def flatMap[U](f: String => TraversableOnce[U])(implicit evidence$4: scala.reflect.ClassTag[U]): org.apache.spark.rdd.RDD[U]

//将数据结构转换(map)
scala> sc.textFile("input").flatMap(_.split(" ")).map((_,1))

//使用算子计算单词个数(reduceByKey)
scala> sc.textFile("input").flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_)
res3: org.apache.spark.rdd.RDD[(String, Int)] = ShuffledRDD[16] at reduceByKey at <console>:25

//调用collect查询结果
scala> res3.collect
res4: Array[(String, Int)] = Array((Spark,1), (World,1), (Scala,1), (Hello,3))
上一篇:mac 修改终端 计算机名 用户名


下一篇:powershell 编写的tui界面脚本《电壳别名宝》