kettle 数据加载机制——全量加载

数据的加载机制与数据的抽取机制相类似,数据的加载机制可以分为全量加载和增量加载。其中,全量加载是指将目标数据表中的数据全部删除后,进行数据加载的操作;而增量加载是指目标表只加载源数据表中变化的数据,其中变化的数据包含新增、修改和删除的数据。

从技术角度来说,全量加载比增量加载的操作要简单很多,即只需要在数据加载之前,将目标数据表进行清空,再将源数据表中的数据全部加载到目标表中。

步骤

1、使用Kettle工具,创建一个转换full_load,并添加执行SQL脚本控件、表输入控件、表输出控件以及Hop跳连接线,具体如图所示。

kettle 数据加载机制——全量加载

 

2、单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮。MySQL数据库连接的配置;在SQL框中编写删除数据表full_target中数据的SQL语句,如图所示。

kettle 数据加载机制——全量加载kettle 数据加载机制——全量加载

3、双击“表输入”控件,进入“表输入”配置界面,在SQL框中编写查询full_source数据表的SQL语句,如图所示。

kettle 数据加载机制——全量加载

4、单击【预览】按钮,查看full_source数据表的数据是否成功从MySQL数据库中抽取到表输入流中,如图所示。

kettle 数据加载机制——全量加载

5、双击“表输出”控件,进入“表输出”配置界面;单击目标表处的【浏览】按钮,选择输出的目标表,即数据表full_target,这里不需要新建数据库连接,只需要选择已创建的数据库连接即可,如图所示。

kettle 数据加载机制——全量加载

6、单击转换工作区顶部的    按钮,运行创建的转换full_load,实现将数据表full_source中的数据全量加载到数据表full_target中,如图所示。

kettle 数据加载机制——全量加载

 

 摘自《数据清洗》黑马程序员

 

 

 

 

 

 

 

 

 

 

 

 

 

 

上一篇:西安交大数论暑假学校笔记


下一篇:浙大数据结构04-树6 Complete Binary Search Tree_完全二叉搜索树