hadoop中的各种xxx-site.xml配置文件

参考:https://blog.csdn.net/u013429010/article/details/82983708

目录

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

hive-site.xml


hadoop中有几个比较重要的xml配置文件,如下图中绿色的高亮文件所示:

core-site.xml

1. 指定namenode的地址,就是如下页面的地址:

2. 用来指定使用hadoop时产生文件的存放目录

3. 用来设置检查点备份日志的最长时间

hdfs-site.xml

1. 指定hdfs保存数据的副本数量

2. 指定hdfs中namenode的存储位置

3. 指定hdfs中datanode的存储位置

mapred-site.xml

mapred是map reduce的缩写,这个配置主要是告诉hadoop以后MR(Map/Reduce)运行在YARN上。

yarn-site.xml

yarn-site.xml里有一个比较重要的配置,yarn的log文件存放目录就是在这个文件设置的。如果没有这个目录,是看不了yarn的log的。

注意,这个目录是指hdfs上的/tmp,不是本地的/tmp。

设置了这个文件后,再以yarn方式提交程序后,就能在hdfs上查看到log的目录:

hive-site.xml

还有一个hive-site.xml在/usr/local/hive/conf下,这里边配置了hive的元数据服务

 

 

从错误信息来看,Hadoop 启动失败的原因可能是由于 `/opt/programs/hadoop-3.1.1/libexec/hadoop-config.sh` 文件无法正常执行导致的。以下是可能出现的问题及解决办法: --- ### 可能原因 1:权限不足 Hadoop 配置脚本可能缺少执行权限。 #### 解决方案: 给相关的脚本赋予可执行权限: ```bash chmod +x /opt/programs/hadoop-3.1.1/libexec/hadoop-config.sh ``` 然后再尝试运行 `start-all.sh`。 --- ### 可能原因 2:环境变量未生效 虽然你在 `.bashrc` 中添加了 `export HADOOP_HOME=/opt/programs/hadoop-3.1.1` 并执行了 `source /etc/profile`,但如果路径设置有误或未完全生效,也可能导致问题。 #### 检查方法: 1. 确认 `$HADOOP_HOME` 是否正确设置: ```bash echo $HADOOP_HOME ``` 输出应该为 `/opt/programs/hadoop-3.1.1`。 2. 如果没有输出或值不对,请再次编辑 `.bashrc` 文件并确保以下内容已正确添加: ```bash export HADOOP_HOME=/opt/programs/hadoop-3.1.1 export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin ``` 3. 再次刷新配置文件: ```bash source ~/.bashrc ``` --- ### 可能原因 3:依赖库缺失 Hadoop 需要 Java 环境支持(通常推荐 JDK 8 或更高版本)。如果系统中未安装 Java 或者环境变量未配置好,可能会报类似错误。 #### 检查方法: 1. 查看当前是否已经安装 Java: ```bash java -version ``` 如果显示版本号则表示 Java 已安装;如果没有,则需先安装。 2. 设置 Java 路径: 修改 `.bashrc` 添加如下内容(假设 Java 安装在 `/usr/java/jdk1.8.0_XXX`): ```bash export JAVA_HOME=/usr/java/jdk1.8.0_XXX export PATH=$JAVA_HOME/bin:$PATH ``` 3. 刷新环境变量: ```bash source ~/.bashrc ``` --- ### 可能原因 4:配置文件有问题 Hadoop 的核心配置文件如 `core-site.xml`, `hdfs-site.xml`, `mapred-site.xml`, `yarn-site.xml` 等可能存在错误。 #### 检查方法: 1. 确保所有 XML 文件语法无误; 2. 核对配置项是否有遗漏(比如 `fs.defaultFS`、`dfs.namenode.name.dir` 等关键参数是否正确设定)。 --- ### 总结排查流程: 依次验证以上几个方面即可找到问题所在。若仍遇到困难,请提供更多日志细节或其他提示信息用于进一步分析。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值