06 Spark SQL 及其DataFrame的基本操作

1.Spark SQL出现的 原因是什么?

目前关系数据库在大数据时代已经不能满足各种新增的用户需求。Spark SQL的出现,填补了这个鸿沟。首先,Spark SQL可以提供DataFrame API,可以对内部和外部各种数据源执行各种关系操作;其次,可以支持大量的数据源和数据分析算法,组合使用Spark SQL和Spark MLlib,可以融合传统关系数据库的结构化数据管理能力和机器学习算法的数据处理能力,有效满足各种复杂的应用需求。

 

2.用spark.read 创建DataFrame

 06 Spark SQL 及其DataFrame的基本操作

 

 06 Spark SQL 及其DataFrame的基本操作

 

 

3.观察从不同类型文件创建DataFrame有什么异同?

 txt文件创建的DataFrame数据没有结构而json文件创建的DataFrame数据有结构

 

4.观察Spark的DataFrame与Python pandas的DataFrame有什么异同?

06 Spark SQL 及其DataFrame的基本操作

 

06 Spark SQL 及其DataFrame的基本操作

 

06 Spark SQL 及其DataFrame的基本操作

上一篇:SQL SERVER 数据库日志已满,清理数据库日志的方法


下一篇:将MySQL中数据导入到MongoDB中