• 手机版

    扫码体验手机版

  • 微信公众号

    扫码关注公众号

国内首家协议开发

软芯音视解码保护平台

在线
客服

发布
需求

在线
聊天

天盟
APP

天盟APP下载

关注
微信

微信扫一扫访问
顶部

kafka --from-beginning 获取的数据与之前消费的数据不一致

flume 使用 tail 采集一个文件的数据到kafka topic


  • 当开启了kafka consumer的时候 。文件追加五条。 consumer消费五条。一切正常
  • 然后当使用--from-beginning  查看这个topic 的所有数据的时候。 发现真实消费的数据少了一些。刚才消费的五条数据,并不能全部查到。
其它信息:
(1)配置: flume配置的是memory channel
(2)查看kafka log目录下的分区下的 xxxx.log文件
发现当被采集文件追加 5条左右(为了让数据写入同一个partion,这里追加的五条数据一模一样), xxx.log才刷新一条 。--from-beginning 开启的控制台消费者才能看到这一条。
但是如果同时开启了另一个consumer 。追加的所有条目。都是可以消费到的。




也就是consumer可以消费到,但是 --from-beginning  却没有获取到
请问有同学知道这是为什么吗?

免责声明:本内容仅代表回答会员见解不代表天盟观点,请谨慎对待。

版权声明:作者保留权利,不代表天盟立场。

使用道具 举报

发新帖

发布任务需求已有1031166位用户正在使用天盟网服务

发布分类: *
任务预算: *
需求内容: *
手机号码: *
任务商家报价为
  • 预算价 :
  • 成交价 :
  • 完工期 :
  • 质保期 :

* 最终任务项目以服务商报价、双方协商为准!