codingpp
V2EX  ›  Storm

如果修改了 storm 的 spout 和 bolt 代码,就 kill 掉作业,重新提交吧。那么 kill 作业的时候如何做 cleanup 的工作呢?

  •  
  •   codingpp · Jun 12, 2014 · 8244 views
    This topic created in 4350 days ago, the information mentioned may be changed or developed.
    我的作业是这样的:
    spout收集日志->bolt汇总日志并每隔1秒钟插入数据库
    每条日志都需要处理不能丢
    kill task的时候spout的会先置为失效,这时候就没有消息推送到bolt中了。然后再停止掉
    bolt中没有数据推送过来,所以就不会再触发process方法了
    那么这1秒钟内数据将没法插入到数据库里了
    storm里的cleanup方法貌似只能工作在本地模式下,那么我想要在分布式模式下kill作业的时候做下cleanup的处理该如何做呢?
    5 replies    2014-08-01 09:48:48 +08:00
    codingpp
        1
    codingpp  
    OP
       Jun 12, 2014
    v2ex的大神们有用storm的吗
    halfelf
        2
    halfelf  
       Jun 12, 2014
    写好spout,ack失败时将日志扔回去。
    这种事情不是kafka配合storm最擅长么。
    codingpp
        3
    codingpp  
    OP
       Jun 12, 2014
    @halfelf
    主要是为了减轻数据库的压力,我的bolt会汇总1秒钟内的日志,然后再插入数据库
    这时候每天消息一经ack成功了。。。
    但是我更新了代码,停止作业,我没有来及提交数据库的日志就没法处理了
    halfelf
        4
    halfelf  
       Jun 13, 2014
    明白了,在prepared bolt里做缓存了。写个hook,覆盖BaseTaskHook的cleanup方法
    scol007
        5
    scol007  
       Aug 1, 2014
    @halfelf @codingpp 小弟也遇到了这个问题,不知道两位大神怎么解决的 麻烦教下
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3226 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 55ms · UTC 14:19 · PVG 22:19 · LAX 07:19 · JFK 10:19
    ♥ Do have faith in what you're doing.