上云无忧 > 文档中心 > 天翼云数据治理中心 DataArts Studio 使用教程 - 关系数据库增量迁移
数据治理中心 DataArts Studio
天翼云数据治理中心 DataArts Studio 使用教程 - 关系数据库增量迁移

文档简介:
本章节主要介绍关系数据库增量迁移。 CDM支持对关系型数据库进行增量迁移,全量迁移完成之后,可以增量迁移指定时间段内的数据(例如每天晚上0点导出前一天新增的数据)。
*产品来源:中国电信天翼云。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

CDM支持对关系型数据库进行增量迁移,全量迁移完成之后,可以增量迁移指定时间段内的数据(例如每天晚上0点导出前一天新增的数据)。

  • 增量迁移指定时间段内的数据

−适用场景:源端为关系型数据库,目的端没有要求。

−关键配置:Where子句+定时执行作业。

−前提条件:数据表中有时间日期字段或时间戳字段。

关系数据库增量迁移方式,只对数据表追加写入,不会更新或删除已存在的记录。

Where子句

  • 参数位置:在创建表/文件迁移作业时,如果源端为关系型数据库,那么在源端作业参数的高级属性下面可以看到“Where子句”参数。
  • 参数原理:通过“Where子句”参数可以配置一个SQL语句(例如:age > 18 and age <= 60),CDM只导出该SQL语句指定的数据;不配置时导出整表。

Where子句支持配置为时间宏变量使用解析,当数据表中有时间日期字段或时间戳字段时,配合定时执行作业,能够实现抽取指定日期的数据。

  • 配置样例:

假设数据库表中存在表示时间的列DS,类型为“varchar(30)”,插入的时间格式类似于“2017-xx-xx”,如下图所示,参数配置如下:

图 表数据

a.Where子句:配置为 DS='${dateformat(yyyy-MM-dd,-1,DAY)}' 。

b.配置定时任务:重复周期为1天,每天的凌晨0点自动执行作业。

这样就可以每天0点导出前一天产生的所有数据。Where子句支持配置多种 时间宏变量使用解析,结合CDM定时任务的重复周期:分钟、小时、天、周、月,可以实现自动导出任意指定日期内的数据。

相似文档
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部