storm-kafka组件中KafkaOffsetMetric相关统计指标说明

storm-kafka组件中KafkaOffsetMetric相关统计指标说明

storm-kafka是storm提供的一个读取kakfa的组件,用于从kafka队列中消费数据。KafkaOffsetMetric是storm-kafka中关于消费状态的Metric。本文将介绍KafkaOffsetMetric中的各个指标。

下面是kafka-spout 关于KafkaOffsetMetric 相关指标的示例:

{
partition_3/latestTimeOffset=631044351,
totalLatestTimeOffset=1031834482,
totalSpoutLag=0,
totalLatestEmittedOffset=1031834482,
totalEarliestTimeOffset=1031834482,
partition_3/latestEmittedOffset=631044351,
partition_1/latestEmittedOffset=400790131,
partition_3/earliestTimeOffset=631044351,
partition_1/latestTimeOffset=400790131,
partition_3/spoutLag=0,
partition_1/earliestTimeOffset=400790131,
partition_1/spoutLag=0
}

1.每个partition的消费状态相关指标

partition_3/latestTimeOffset=631044351,   #该分区最新的offset,
partition_3/latestEmittedOffset=631044351,#该分区最新的消费的offst
partition_3/earliestTimeOffset=631044351, #该分区最早的offset,
partition_3/spoutLag=0, #该分区消费的延迟:spoutLag= latestTimeOffset - latestEmittedOffset;

2. 整体的消费状态相关指标

totalLatestTimeOffset=1031834482,          #totalLatestTimeOffset += latestTimeOffset;          一个topic所有分区最新的offset值之和。
totalLatestEmittedOffset=1031834482, #totalLatestEmittedOffset += latestEmittedOffset; 一个topic所有分区最新的消费的offset值之和。
totalEarliestTimeOffset=1031834482, #totalEarliestTimeOffset += earliestTimeOffset; 一个topic所有分区最早的offset值之和。
totalSpoutLag=0, #totalSpoutLag += spoutLag; 该topic消费的延迟
上一篇:教你如何利用PS去除复杂水印


下一篇:vmware的3种网络模型