V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
lcdxiangzi
V2EX  ›  Hadoop

请教 hadoop 配置文件中配置项的作用域

  •  
  •   lcdxiangzi · 2019-01-09 10:56:51 +08:00 · 2884 次点击
    这是一个创建于 2128 天前的主题,其中的信息可能已经有所发展或是发生改变。
    最近在翻 hadoop 权威指南,发现书里面提到有些 property 的 kv 对是针对一个 job 的,有些是针对 node 的,有些是针对 cluster 全局的。
    但是没有一个比较系统的说明,诸多配置选项的生效范围,或者说作用域。

    请问哪里有类似的书或者文章可以参考一下吗?
    是通过将配置内容放在不同的配置文件中来完成作用域的控制,还是有其他的机制?

    新手上路,请多指点,多谢
    4 条回复    2019-01-09 15:09:06 +08:00
    lcdxiangzi
        2
    lcdxiangzi  
    OP
       2019-01-09 13:56:57 +08:00
    @MeiChouchou 你好,问一下你提到的四个配置文件是 core-default mapred-default hdfs-default yarn-default 这四个吗?但是有些配置项,我在这四个里面都搜不到呢?
    MeiChouchou
        3
    MeiChouchou  
       2019-01-09 14:44:44 +08:00
    @lcdxiangzi 在官网 doc 每个版本里面都有,左边导航栏最下面就有,
    lcdxiangzi
        4
    lcdxiangzi  
    OP
       2019-01-09 15:09:06 +08:00
    @MeiChouchou 我看到这个了,我是想说,我想了解的一个配置项,比如,mapreduce.input.pathFilter.class,我在几个链接里面都没有搜到相关的说明呢?
    另外,按照我的理解,这几个配置文件应该都是全局生效的,但是我在书里看到有些配置是针对 job 生效的,我想了解一下,如果有些配置是针对特定 job 生效,那这个配置项应该在哪里进行配置呢?这个配置项的作用域是如何控制的。
    不知道我又没有说清楚
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5763 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 08:43 · PVG 16:43 · LAX 00:43 · JFK 03:43
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.