数据迁移工具概览

TiDB 提供了丰富的数据迁移相关的工具,用于全量迁移、增量迁移、备份恢复、数据同步等多种场景。

本文介绍了使用这些工具的场景、支持的上下游、优势和相关限制等信息。请根据你的需求选择合适的工具。

TiDB Data Migration (DM)

使用场景用于将数据从与 MySQL 协议兼容的数据库迁移到 TiDB
上游MySQL,MariaDB,Aurora
下游TiDB
主要优势
  • 一体化的数据迁移任务管理工具,支持全量迁移和增量同步
  • 支持对表与操作进行过滤
  • 支持分库分表的合并迁移
使用限制数据导入速度与 TiDB Lightning 的 Logical Import Mode 大致相同,而比TiDB Lightning 的 Physical Import Mode 低很多。建议用于 1 TB 以内的存量数据迁移。

TiDB Lightning

使用场景用于将数据全量导入到 TiDB
上游(输入源文件)
  • Dumpling 输出的文件
  • 从 Amazon Aurora 或 Apache Hive 导出的 Parquet 文件
  • CSV 文件
  • 从本地盘或 Amazon S3 云盘读取数据
下游TiDB
主要优势
  • 支持快速导入大量数据,实现快速初始化 TiDB 集群的指定表
  • 支持断点续传
  • 支持数据过滤
使用限制
  • 如果使用 Physical Import Mode 进行数据导入,TiDB Lightning 运行后,TiDB 集群将无法正常对外提供服务。
  • 如果你不希望 TiDB 集群的对外服务受到影响,可以参考 TiDB Lightning Logical Import Mode 中的硬件需求与部署方式进行数据导入。

Dumpling

使用场景用于将数据从 MySQL/TiDB 进行全量导出
上游MySQL,TiDB
下游(输出文件)SQL,CSV
主要优势
  • 支持全新的 table-filter,筛选数据更加方便
  • 支持导出到 Amazon S3 云盘
使用限制
  • 如果导出后计划往非 TiDB 的数据库恢复,建议使用 Dumpling。
  • 如果导出后计划往另一个 TiDB 恢复,建议使用 BR

TiCDC

使用场景通过拉取 TiKV 变更日志实现的 TiDB 增量数据同步工具,具有将数据还原到与上游任意 TSO 一致状态的能力,支持其他系统订阅数据变更
上游TiDB
下游TiDB,MySQL,Kafka,Confluent
主要优势提供开放数据协议 (TiCDC Open Protocol)。
使用限制TiCDC 只能同步至少存在一个有效索引的表。暂不支持以下场景:
  • 单独使用 RawKV 的 TiKV 集群。
  • 在 TiDB 中创建 SEQUENCE 的 DDL 操作和 SEQUENCE 函数。

Backup & Restore (BR)

使用场景通过对大数据量的 TiDB 集群进行数据备份和恢复,实现数据迁移
上游TiDB
下游(输出文件)SST,backup.meta 文件,backup.lock 文件
主要优势
  • 适用于向另一个 TiDB 迁移数据。
  • 支持数据冷备份到外部存储,可以用于灾备恢复。
使用限制
  • BR 恢复到 TiCDC / Drainer 的上游集群时,恢复数据无法由 TiCDC / Drainer 同步到下游。
  • BR 只支持在 new_collations_enabled_on_first_bootstrap 开关值相同的集群之间进行操作。

sync-diff-inspector

使用场景用于校验 MySQL/TiDB 中两份数据的一致性
上游TiDB,MySQL
下游TiDB,MySQL
主要优势提供了修复数据的功能,适用于修复少量不一致的数据。
使用限制
  • 对于 MySQL 和 TiDB 之间的数据同步不支持在线校验。
  • 不支持 JSON、BIT、BINARY、BLOB 等类型的数据。

使用 TiUP 快速安装

从 TiDB 4.0 开始,TiUP 作为软件包管理器,帮助你轻松管理 TiDB 生态系统中的不同集群组件。现在你可以只用一个 TiUP 命令行来管理任何组件。

第 1 步:安装 TiUP

curl --proto '=https' --tlsv1.2 -sSf https://tiup-mirrors.pingcap.com/install.sh | sh

重新声明全局环境变量:

source ~/.bash_profile

第 2 步:安装组件

你可以通过以下命令查看所有可用组件:

tiup list

以下输出为所有可用组件:

Available components: Name Owner Description ---- ----- ----------- bench pingcap Benchmark database with different workloads br pingcap TiDB/TiKV cluster backup restore tool cdc pingcap CDC is a change data capture tool for TiDB client pingcap Client to connect playground cluster pingcap Deploy a TiDB cluster for production ctl pingcap TiDB controller suite dm pingcap Data Migration Platform manager dmctl pingcap dmctl component of Data Migration Platform errdoc pingcap Document about TiDB errors pd-recover pingcap PD Recover is a disaster recovery tool of PD, used to recover the PD cluster which cannot start or provide services normally playground pingcap Bootstrap a local TiDB cluster for fun tidb pingcap TiDB is an open source distributed HTAP database compatible with the MySQL protocol tidb-lightning pingcap TiDB Lightning is a tool used for fast full import of large amounts of data into a TiDB cluster tiup pingcap TiUP is a command-line component management tool that can help to download and install TiDB platform components to the local system

选择所需要的组件进行安装

tiup install dumpling tidb-lightning

第 3 步: 更新 TiUP 及组件 (可选)

建议先查看新版本的更新日志及兼容性说明:

tiup update --self && tiup update dm

探索更多