kafka_2.12-2.4.x-文件存储(linux集群)

topic

Kafka 中消息是以 topic 进行分类的,生产者生产消息,消费者消费消息,都是面向 topic
的。
topic 是逻辑上的概念,而 partition 是物理上的概念。

保存位置

在 /program/kafka_2.12-2.4.1/data/ 目录下

以 topic名-partition序号 作为文件夹的名字

单机部署

如下图:

集群部署

在集群中,文件夹 userlog-0 在 某一个 节点中。不是所有节点都有

partition

每个 partition 对应于一个 log 文件,该 log 文件 中存储的就是 producer 的数据

注意:在集群中,该文件在 某一个节点中

保存位置:/program/kafka_2.12-2.4.1/data/userlog-0

offset偏移量

Producer 生产的数据会被不断追加到该 log 文件 尾部,且每条数据都有自己的 offset。

每个分区有独立的偏移量,只能保证分区内有顺序

如下图:

3个分区,每个分区有独立的偏移量,每个分区的偏移量可能相同

图片来源:http://kafka.apache.org/24/documentation.html

保存位置

在 /program/kafka_2.12-2.4.1/data/ 目录下

以 topic名-partition序号 作为文件夹的名字,如下图:

注意:

在集群中,该文件夹 userlog-0 在 某一个 节点中。不是所有节点都有

消费者 与 offset

消费者组中的每个消费者,都会实时记录自己消费到了哪个 offset,以便出错恢复时,从上次的位置继续消费。

保存位置

启动消费者后,在 kafka目录\data 目录下 出现 __consumer_offsets-xx 文件夹

单机部署

在 kafka目录\data 目录下有 __consumer_offsets-0 到 __consumer_offsets-49 共50个文件夹

集群部署

__consumer_offsets-0 到 __consumer_offsets-49 共50个文件夹 分散在集群中的服务器中,在 kafka目录\data 目录下,如下图:

这些文件夹 分散 在各个节点中,所以看上去,编号不是连续的

说明

  • __consumer_offsets 是 kafka 自行创建的,和普通的 topic 相同。
  • 在 zookeeper 的 /brokers/topics 节点下
  • 这些文件大小约1G

每次消费者消费完一批数据后,需要标记这批数据被消费掉,需要将消费的偏移量即offset提交,也就是将 offset 信息写入 __consumer_offsets

segment

由于生产者生产的消息会不断追加到 log 文件末尾,为防止 log 文件过大导致数据定位效率低下,Kafka 采取了分片和索引机制,将每个 partition 分为多个 segment。

每个 segment 对应两个文件:

  • .log 文件保存的是数据
  • .index 文件保存的是索引,通过索引去 .log 文件找数据

这些文件保存在 topic名-partition序号 文件夹下


原文出处:/show_1IX1zz3tB4Gk.html