数据加载实例

一.通过使用kettle工具,实现将数据表full_source中的数据全量加载到数据表full_target中。

1.打开kettle工具,创建转换
数据加载实例
2.配置“执行SQL脚本”控件
(1)单击“新建”按钮,配置数据库连接(需要提前创建好数据库和full_source以及full_target两张数据表),配置完成后单击“确认”按钮。
(2)在SQL框中编写删除数据表full_target中数据的SQL语句,然后单击“确定”按钮完成配置,如下图所示:
数据加载实例
3.配置“表输入”控件
在SQL编写框中编写查询数据表full_source数据的SQL语句,可以单击“预览”按钮,查看数据表full_source的数据是否成功从mysql数据库中抽取到表输入流中,如下图所示:
数据加载实例
数据加载实例
4.配置“表输出”控件
单击目标表处的“浏览”按钮,选择输出的目标表,即数据表full_target,如下图所示:
数据加载实例
5.运行转换full_load
数据加载实例
6.查看数据表full_target中的数据
数据加载实例

二.通过使用kettle工具,实现将数据表incremental_source中的数据增量加载到数据表incremental_target中,即将数据表incremental_source中新增、变化的数据加载到数据表incremental_target。

1.打开kettle工具,创建转换
数据加载实例
2.配置“表输入”控件
(1)单击“新建”按钮,配置数据库连接(这里还是要先在mysql中创建数据库和incremental_source以及increment_target数据表),配置完成后单击“确认”按钮,然后再SQL框中编写查询数据表的SQL语句,如下图所示:
数据加载实例
(2)单击“预览”按钮,查看数据表incremental_source的数据是否成功从mysql数据库中抽取到表输入流中,如下图所示:
数据加载实例
3.配置“插入/更新”控件
(1)单击“新建”按钮,配置数据库连接,配置完成后点击“确认”按钮,单击目标表处的“浏览”按钮,弹出“数据库浏览器”窗口,选择目标表incremental_target(这里的incremental_target_copy是已经运行过的结果数据表)。
(2)单击“获取字段”按钮,用来指定查询数据需要的关键字,这里以比较数据表incremental_target的字段id与输入流里的字段id是否一致为关键条件,更新数据表中的其他字段数据;单击“获取和更新字段”按钮,用来指定需要更新的字段,如下图所示:
数据加载实例
4.修改数据表incremental_source中的数据
将数据表中的age全部改为25,如下图所示:
数据加载实例
5.运行转换
数据加载实例
6.查看数据表incremental_target中的数据
数据加载实例
从图中可以看出,数据表incremental_target中已经成功加载到数据数据。

上一篇:迁移到RDS或者腾讯云MYSQL实例发生sql_mode=only_full_group_by错误的解决


下一篇:核方法