Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

一、hive配置文件 

在spak/conf目录添加hive-site.xml配置,设置mysql作为元数据存储的数据库

<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
    <name>javax.jdo.option.ConnectionURL</name>
    <value>jdbc:mysql://192.168.150.1:3306/spark_metadata_db?createDatabaseIfNotExist=true&amp;characterEncoding=UTF-8</value>
    <description>JDBC connect string for a JDBC metastore</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionDriverName</name>
    <value>com.mysql.jdbc.Driver</value>
    <description>Driver class name for a JDBC metastore</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionUserName</name>
    <value>root</value>
    <description>Username to use against metastore database</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionPassword</name>
    <value>admin</value>
    <description>password to use against metastore database</description>
  </property>
</configuration>

 

二、启动spark-sql shell

cd ~/software/spark-2.4.4-bin-hadoop2.6
bin/spark-sql --master spark://hadoop01:7077,hadoop02:7077,hadoop03:7077 --driver-class-path /home/mk/mysql-connector-java-5.1.26-bin.jar  --jars /home/mk/mysql-connector-java-5.1.26-bin.jar 

 Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

启动shell前:

Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

启动shell后:

Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

  mysql数据库里面创建了spark_metadata_db

 

三、执行sql

show tables;

create table test(id int, name string)  USING org.apache.spark.sql.jdbc options(url 'jdbc:mysql://192.168.150.1:3306/spark-mysql?user=root&password=admin', dbtable 'test_a');

show tables;

select * from test;

insert into test values(4, 'd'), (5, 'e'), (6, 'f');

select * from test;

Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

 Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

 Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

 Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)

 

 

Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql)Spark入门(六)Spark SQL shell启动方式(元数据存储在mysql) 茅坤宝骏氹 发布了361 篇原创文章 · 获赞 523 · 访问量 128万+ 他的留言板 关注
上一篇:在测试时使用反射破坏封装有多邪恶?


下一篇:hive安装