TiDB
社区
联系我们

50 TiB 数据导入最佳实践

本文提供了将大规模数据导入 TiDB 的最佳实践，包括影响数据导入的一些关键因素和操作步骤。PingCAP 在内部环境和客户现场都曾成功导入过 50 TiB 以上的大单表数据，基于这些真实的应用场景，沉淀了本文中的最佳实践，希望可以帮你更顺畅更高效地导入大规模数据。

TiDB Lightning（物理导入模式）是一款用于将离线数据导入空表、空集群的高效的数据导入工具。TiDB Lightning 以文件作为数据源，提供了单实例和并行导入两种运行方式，以满足不同规模的源文件导入。

  • 如果源文件数据规模在 10 TiB 以内，建议通过单个 TiDB Lightning 实例进行导入。
  • 如果源文件数据规模超过 10 TiB，建议通过多个 TiDB Lightning 实例进行并行导入。
  • 如果源文件数据规模特别大（比如达到 50 TiB 及以上），在使用并行导入的同时，还需要针对源数据特点、表定义、参数配置等进行一定的准备和调优，才能更好、更快地完成大规模的数据导入。

本文中的以下内容同时适用于导入多表和导入大单表：

由于导入大单表有一些特殊要求，以下章节单独介绍了相关最佳实践：

关键因素

在导入大量数据时，以下关键因素会影响导入性能，甚至可能影响导入成败：

  • 源文件

    • 单个文件内数据是否按照主键有序。有序可以达到最优导入性能。
    • 多个 TiDB Lightning 实例导入的源文件之间，是否存在重叠的主键或者非空唯一索引。重叠越少，导入性能越好。

  • 表定义

    • 每个表的二级索引数量、大小会影响导入速度。索引越少，导入越快，导入后占用空间越小。
    • 索引数据大小 = 索引数量 * 索引大小 * 数据行数。

  • 压缩率

    数据导入 TiDB 集群后会被压缩存储，而压缩率无法预先计算，只有数据真正导入到 TiKV 集群后才能计算。可以先尝试导入少量数据（如 10%），获取到集群对应的压缩率，然后以此作为全部数据导入后的压缩率。

  • 配置参数

    以下配置参数的设置也会影响导入性能：

    • region-concurrency：TiDB Lightning 主逻辑处理的并发度。

    • send-kv-pairs：TiDB Lightning 发送给 TiKV 单次请求中的 KV 数量。

    • disk-quota：使用物理导入模式时，配置 TiDB Lightning 本地临时文件使用的磁盘配额。

    • GOMEMLIMIT：TiDB Lightning 采用 Go 语言实现，需要合理配置 GOMEMLIMIT。

      关于 TiDB Lightning 参数信息，请参考 TiDB Lightning 配置参数。

  • 数据校验

    数据和索引导入完成后，会对每个表执行 ADMIN CHECKSUM，然后和 TiDB Lightning 本地的 Checksum 值做对比。当有很多表或单个表有很多行时，Checksum 阶段耗时会很长。

  • Analyze 操作

    Checksum 通过后，会对每个表执行 ANALYZE TABLE，构建最佳的执行计划。当有很多表或单个表很大时，Analyze 阶段耗时会很长。

  • 相关 Issue

    在实际导入 50 TiB 数据的过程中，存在一些在海量源文件及大规模集群下才会暴露出的问题。在选择产品版本时，请检查该版本是否已经修复了某些影响导入性能的 Issue。以下 Issue 在 v6.5.3、v7.1.0 及更新的版本中都已修复：

    • Issue-14745：导入完成后，TiKV Import 目录遗留大量临时文件。
    • Issue-6426：PD 范围调度接口存在未打散 Region 的情况，导致 Scatter Region 超时。v6.2.0 之前采用停止全局调度的方式，不会出现该问题。
    • Issue-43079：TiDB Lightning 对 NotLeader 错误的重试未刷新 Region Peers 信息。
    • Issue-43291：TiDB Lightning 未对临时文件删除的情况（"No such file or directory"）进行重试。

准备源文件

  • 在生成文件时，在单个文件内尽量按照主键排序；如果表定义没有主键，可以添加一个自增主键，此时对文件内容顺序无要求。
  • 在给多个 TiDB Lightning 实例分配要导入的源文件时，尽量避免多个源文件之间存在重叠的主键或非空唯一索引的情况。如果生成文件是全局有序，可以按照范围划分不同的文件给不同 TiDB Lightning 实例进行导入，达到最佳导入效果。
  • 在生成文件时，每个文件尽量控制在 96 MiB 以下。
  • 如果文件特别大，超过 256 MiB，需要开启 strict-format。

预估存储空间

目前有以下两种有效的空间预估方法：

  • 假设数据总大小为 A，索引总大小为 B，副本数为 3，压缩率为 α（一般在 2.5 左右），则总的占用空间为：(A+B)*3/α。该方法主要用于不进行任何数据导入时的估算，以此规划集群拓扑。
  • 预先导入 10% 的数据，实际占用空间再乘以 10，即可认为是该批数据最终的占用空间。该方法更加准确，尤其是对于导入大量数据时比较有效。

注意要预留 20% 的存储空间，后台任务如压缩、复制快照等会使用部分存储空间。

配置参数

需要正确设置以下配置参数：

  • region-concurrency：TiDB Lightning 主逻辑处理的并发度。在并行导入时，可以设置为 CPU 核数的 75%，防止出现资源过载带来 OOM 问题。
  • send-kv-pairs：TiDB Lightning 发送给 TiKV 单次请求中的 KV 数量。建议按照 send-kv-pairs * row-size < 1 MiB 调整该值。v7.2.0 版本中，用 send-kv-size 代替了该参数，且无需单独设置。
  • disk-quota：尽量保证 TiDB Lightning 排序目录空间大于数据源大小。如无法保证，可以设置 disk-quota 为 TiDB Lightning 排序目录空间的 80%。此时 TiDB Lightning 会按照 disk-quota 的大小为一个批次去排序、写入，导入性能低于完整排序。
  • GOMEMLIMIT：TiDB Lightning 采用 Go 语言实现，设置 GOMEMLIMIT 为实例内存的 80%，降低因为 Go GC 机制带来的 OOM 概率。

关于 TiDB Lightning 参数信息，请参考 TiDB Lightning 配置参数。

解决 "checksum mismatch" 问题

在数据校验过程中，可能会出现冲突数据，报错信息为："checksum mismatch"。出现该问题，可以按照以下思路解决：

  1. 排查源数据是否有主键、唯一键冲突，解决冲突后再重新导入。根据以往经验，主键和唯一键冲突是导致该报错的主要原因。
  2. 表的主键、唯一键定义是否合理。如果不合理，更改表定义后重新导入。
  3. 如果按上述两个步骤操作后仍未解决问题，需要进一步判断源数据中是否有少量（低于 10%）不可预期的冲突数据。如果需要 TiDB Lightning 帮助检测、解决冲突数据，需要开启冲突检测功能。

开启断点续传

大规模的数据导入，一定要参照断点续传文档，开启断点续传，并推荐优先使用 MySQL 作为 Driver，避免因为 TiDB Lightning 运行在容器环境，容器退出后断点信息被一并删除。

如果导入过程中遇到下游 TiKV 空间不足，可以手动执行 kill 命令关闭（不要带 -9 选项）所有 TiDB Lightning 实例，待扩容后，基于断点信息继续导入。

导入大单表的最佳实践

多表导入会导致 Checksum、Analyze 时间的增加，甚至超过数据导入本身，但是一般不需要调整配置。如果多表中存在单个或多个大表的情况，可以把这类大表的源文件划分出来，单独进行导入。

本小节重点介绍大单表导入的最佳实践。大单表没有严格的定义，一般认为符合以下任一条件者即为大单表：

  • 大小超过 10 TiB
  • 行数超过 10 亿、列数超过 50 的宽表

生成源文件

根据上述准备源文件的步骤生成源文件，对于大单表，如果不能做到全局有序，但是可以做到文件内按主键有序，且是标准的 CSV 文件，可以尽量生成单个大文件（例如每个 20 GiB），然后开启 strict-format，既可以降低 TiDB Lightning 实例之间导入的数据文件中存在主键和唯一键的重叠，又能在导入前由 TiDB Lightning 实例对大文件进行切分，达到最佳的导入速度。

规划集群拓扑

按照每个 TiDB Lightning 实例处理 5 TiB 到 10 TiB 源数据进行准备，每个机器节点部署一个 TiDB Lightning 实例。机器节点规格可以参照 TiDB Lightning 实例必要条件及限制。

调整配置参数

需要调整以下配置参数：

  • region-concurrency 设置为 TiDB Lightning 实例核数的 75%。
  • send-kv-pairs 设置为 3200。适用于 v7.1.0 及更早的版本。v7.2.0 开始引入了 send-kv-size 参数代替 send-kv-pairs，该参数无需配置。
  • GOMEMLIMIT 调整为实例所在节点内存的 80%。

如果导入过程中发现 PD Scatter Region 的时延超过 30 分钟，可以从以下维度进行调优：

  • 排查 TiKV 集群是否遇到 I/O 瓶颈。
  • 调高 TiKV raftstore.apply-pool-size，从默认值 2 调整为 4 或 8。
  • 降低 TiDB Lightning region-split-concurrency 为 CPU 核数的一半，最低可调整为 1。

关闭 Analyze 操作

当存在单个大表的情况，建议关闭 analyze (analyze="off")。在导入结束后，再手动执行 ANALYZE TABLE。

关于 analyze 的相关配置，请参考 TiDB Lightning 任务配置。

故障处理

如果在使用 TiDB Lightning 的过程中遇到问题，请参考 TiDB Lightning 故障处理。

下载 PDF