TiCDC 详细监控指标

使用 TiUP 部署 TiDB 集群时，一键部署的监控系统面板包含 TiCDC 面板。本文档对 TiCDC 监控面板上的各项指标进行详细说明。在日常运维中，运维人员可通过观察 TiCDC 面板上的指标了解 TiCDC 当前的状态。

本文档的对指标的介绍基于以下同步任务，即使用默认配置同步数据到 MySQL。

cdc cli changefeed create --server=http://10.0.10.25:8300 --sink-uri="mysql://root:123456@127.0.0.1:3306/" --changefeed-id="simple-replication-task"

下图显示了 TiCDC Dashboard 各监控面板：

TiCDC Dashboard - Overview

各监控面板说明如下：

Server：TiDB 集群中 TiKV 节点和 TiCDC 节点的概要信息
Changefeed：TiCDC 同步任务的详细信息
Events：TiCDC 内部数据流转的详细信息
TiKV：TiKV 中和 TiCDC 相关的详细信息

Server 面板

Server 面板示例如下：

TiCDC Dashboard - Server metrics

Server 面板的各指标说明如下：

Uptime：TiKV 节点和 TiCDC 节点已经运行的时间
Goroutine count：TiCDC 节点 Goroutine 的个数
Open FD count：TiCDC 节点打开的文件句柄个数
Ownership：TiCDC 集群中节点的当前状态
Ownership history：TiCDC 集群中 Owner 节点的历史记录
CPU usage：TiCDC 节点使用的 CPU
Memory usage：TiCDC 节点使用的内存

Changefeed 面板

Changefeed 面板示例如下：

TiCDC Dashboard - Changefeed metrics 1

Changefeed table count：一个同步任务中分配到各个 TiCDC 节点同步的数据表个数
Processor resolved ts：TiCDC 节点内部状态中已同步的时间点
Table resolved ts：同步任务中各数据表的同步进度
Changefeed checkpoint：同步任务同步到下游的进度，正常情况下绿柱应和黄线相接
PD etcd requests/s：TiCDC 节点每秒向 PD 读写数据的次数
Exit error count/m：每分钟内导致同步中断的错误发生次数
Changefeed checkpoint lag：同步任务上下游数据的进度差（以时间计算）
Processor resolved ts lag：TiCDC 节点内部同步状态与上游的进度差（以时间计算）

TiCDC Dashboard - Changefeed metrics 2

Sink write duration：TiCDC 将一个事务的更改写到下游的耗时直方图
Sink write duration percentile：每秒钟中 95%、99% 和 99.9% 的情况下，TiCDC 将一个事务的更改写到下游所花费的时间
Flush sink duration：TiCDC 异步刷写数据入下游的耗时直方图
Flush sink duration percentile：每秒钟中 95%、99% 和 99.9% 的情况下，TiCDC 异步刷写数据入下游所花费的时间

TiCDC Dashboard - Changefeed metrics 3

MySQL sink conflict detect duration：MySQL 写入冲突检测耗时直方图
MySQL sink conflict detect duration percentile：每秒钟中 95%、99% 和 99.9% 的情况下，MySQL 写入冲突检测耗时
MySQL sink worker load：TiCDC 节点中写 MySQL 线程的负载情况

TiCDC Dashboard - Changefeed metrics 4

Changefeed catch-up ETA：同步完上游写入的数据所需时间的估计值。当上游的写入速度大于 TiCDC 同步速度时，该值可能会异常的大。（由于 TiCDC 的同步速度受到较多因素制约，因此该值仅供参考，不能完全代表实际所需的同步时间。）

Events 面板

Events 面板示例如下：

TiCDC Dashboard - Events metrics 2

Events 面板的各指标说明如下：

Eventfeed count：TiCDC 节点中 Eventfeed RPC 的个数
Event size percentile：每秒钟中 95% 和 99.9% 的情况下，TiCDC 收到的来自 TiKV 的数据变更消息大小
Eventfeed error/m：TiCDC 节点中每分钟 Eventfeed RPC 遇到的错误个数
KV client receive events/s：TiCDC 节点中 KV client 模块每秒收到来自 TiKV 的数据变更个数
Puller receive events/s：TiCDC 节点中 Puller 模块每秒收到来自 KV client 模块的数据变更个数
Puller output events/s：TiCDC 节点中 Puller 模块每秒输出到 Sorter 模块的数据变更个数
Sink flush rows/s：TiCDC 节点每秒写到下游的数据变更的个数
Puller buffer size：TiCDC 节点中缓存在 Puller 模块中的数据变更个数
Entry sorter buffer size：TiCDC 节点中缓存在 Sorter 模块中的数据变更个数
Processor/Mounter buffer size：TiCDC 节点中缓存在 Processor 模块和 Mounter 模块中的数据变更个数
Sink row buffer size：TiCDC 节点中缓存在 Sink 模块中的数据变更个数
Entry sorter sort duration：TiCDC 节点对数据变更进行排序的耗时直方图
Entry sorter sort duration percentile：每秒钟中 95%，99% 和 99.9% 的情况下，TiCDC 排序数据变更所花费的时间
Entry sorter merge duration：TiCDC 节点合并排序后的数据变更的耗时直方图
Entry sorter merge duration percentile：每秒钟中 95%，99% 和 99.9% 的情况下，TiCDC 合并排序后的数据变更所花费的时间
Mounter unmarshal duration：TiCDC 节点解码数据变更的耗时直方图
Mounter unmarshal duration percentile：每秒钟中 95%，99% 和 99.9% 的情况下，TiCDC 解码数据变更所花费的时间
KV client dispatch events/s：TiCDC 节点内部 KV client 模块每秒分发数据变更的个数
KV client batch resolved size：TiKV 批量发给 TiCDC 的 resolved ts 消息的大小

TiKV 面板

TiKV 面板示例如下：

TiCDC Dashboard - TiKV metrics 1

TiKV 面板的各指标说明如下：

CDC endpoint CPU：TiKV 节点上 CDC endpoint 线程使用的 CPU
CDC worker CPU：TiKV 节点上 CDC worker 线程使用的 CPU
Min resolved ts：TiKV 节点上最小的 resolved ts
Min resolved region：TiKV 节点上最小的 resolved ts 的 Region ID
Resolved ts lag duration percentile：TiKV 节点上最小的 resolved ts 与当前时间的差距
Initial scan duration：TiKV 节点与 TiCDC 建立链接时增量扫的耗时直方图
Initial scan duration percentile：每秒钟中 95%、99% 和 99.9% 的情况下，TiKV 节点增量扫的耗时
Memory without block cache：TiKV 节点在减去 RocksDB block cache 后使用的内存
CDC pending bytes in memory：TiKV 节点中 CDC 模块使用的内存
Captured region count：TiKV 节点上捕获数据变更的 Region 个数