Spark API编程动手实战-07-join操作深入实战

我们在hdfs的/data/join创建两个文件:

Spark API编程动手实战-07-join操作深入实战

上传第一个文件名称为1.txt

内容第一列是日期,第二列uid(普通用户id)

Spark API编程动手实战-07-join操作深入实战

?

上传第二个文件名称为2.txt

内容第一列是日期,第二列uid(普通用户id)

Spark API编程动手实战-07-join操作深入实战

执行上传到hdfs:

Spark API编程动手实战-07-join操作深入实战

hdfs命令行查询:

Spark API编程动手实战-07-join操作深入实战

web控制台管理查询:

Spark API编程动手实战-07-join操作深入实战

首先在命令行中设置日期格式:

Spark API编程动手实战-07-join操作深入实战

然后声明两个case class:Register、Login

Spark API编程动手实战-07-join操作深入实战

读取第一个文件(1.txt)并进行操作:

Spark API编程动手实战-07-join操作深入实战

?

take操作:

Spark API编程动手实战-07-join操作深入实战

该操作是首先读取文件的内容,然后以Tab键进行分词,然后以第二列为key,每一行的所有内容为Value构建起的Register作为Value的值;

?

读取第二个文件(2.txt)并进行操作:

Spark API编程动手实战-07-join操作深入实战

take操作:

Spark API编程动手实战-07-join操作深入实战

?

下面对文件执行join操作:

Spark API编程动手实战-07-join操作深入实战

取出join操作的结果:

Spark API编程动手实战-07-join操作深入实战

take结果:

Spark API编程动手实战-07-join操作深入实战

?

或者把执行结果保存到HDFS:

Spark API编程动手实战-07-join操作深入实战

到Web控制台上查看执行结果:

Spark API编程动手实战-07-join操作深入实战

Spark API编程动手实战-07-join操作深入实战

?

在hdfs查看一下其执行结果:

Spark API编程动手实战-07-join操作深入实战

?

Spark API编程动手实战-07-join操作深入实战

上一篇:使用Windows Server Backup备份与还原Hyper-V虚拟机


下一篇:Servlet主要相关类核心类 容器调用的过程浅析 servlet解读 怎么调用 Servlet是什么 工作机制