上云无忧 > 文档中心 > 腾讯云消息队列 CKafka - 什么是信令表
消息队列 CKafka
腾讯云消息队列 CKafka - 什么是信令表

文档简介:
背景: debezium connector 最初仅在创建连接任务时会同步表的存量数据,后续新增的表无法触发存量数据的同步。为了支持新增表的存量数据同步功能,debezium 采用了“信号”的模式通知 connector 进行触发新增表的存量数据同步。
*此产品及展示信息均由腾讯云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

背景

debezium connector 最初仅在创建连接任务时会同步表的存量数据,后续新增的表无法触发存量数据的同步。为了支持新增表的存量数据同步功能,debezium 采用了“信号”的模式通知 connector 进行触发新增表的存量数据同步。

原理

需要在订阅的库中新建一张信令表,并在需要触发新表的存量数据同步时在信令表中插入相关的信息,同时 connector 需要订阅这张信令表,当 connector 收到信令表的消息时,就会触发新增表的存量数据同步功能。

注意事项

1. 由于新增了对信令表(dip_signal_taskId)消息的订阅,因此目标 Topic 中会包含信令表的消息,需要业务端进行相应的过滤处理。
2. 请确保连接管理中配置的用户拥有该数据库的创建、修改、删除表的权限(仅用于对信令表的操作)。
3. 如果使用了信令表同步新增表的存量数据,可能会存在部分增量数据出现重复的情况。如果需要避免重复的数据,可以通过暂停对需要新增的表的增删改查操作之后,再编辑连接器任务的数据源,添加该表,然后再恢复对新增表的增删改查即可,也可以通过下游做一些幂等处理。
4. 如果新建任务时没有选择同步存量数据,然后修改数据源,新增表的时候选择了同步存量数据,且在此期间没有产生任何变更消息,那么 debezium 默认会同时同步旧表和新表的存量数据(与信令表无关)。如果在修改数据源之前旧表有增量变更消息的话,那么修改数据源增加表且选择存量数据时,则只会同步新增表的存量数据(由信令表触发)。
相似文档
  • 如何选择实例的规格? 可以借助控制台的 "迁移上云 - 规格计算器" 来计算所需的产品规格:
  • 如何选取 CKafka 副本数? 建议您创建 Topic 时选择2副本或3副本存储数据,保障数据可靠性。默认创建的 Topic 是2副本,如果业务需要更高的可用性,则可以指定选择3副本运行。如果 Topic 需要更多的副本数,可以 提交工单 进行处理。新建 Topic 时副本选择方式如下图所示。
  • 怎样设置合理的消费者数量? 消费组和消费者的对应关系如下: 一个消费者可以同时订阅多个 Topic。 一个 Topic 里面包含了1到多个分区。 一个分区只能被一个消费者消费。
  • Kafka Console 客户端测试时看不到数据如何处理? 消费者采用 latest 时候只会获取最后的数据,需要同时保持生产才可以看到相应数据。 改为 earliest 方式消费数据。
  • Kafka Console 客户端测试时看不到数据如何处理? 消费者采用 latest 时候只会获取最后的数据,需要同时保持生产才可以看到相应数据。 改为 earliest 方式消费数据。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部