一、搭建流程
- 以三台服务器为例,进行集群搭建。三台服务器分别为node1,node2,node3.
- 首先进行HDFS集群的搭建,然后进行YARN集群的搭建(不要问我hadoop不是有三大组件组成嘛,为啥没有mr集群?答:mr是一个分布式计算框架,没有集群一说哦)
- 本文搭建为参考代码,在进行自己hadoop集群的搭建过程中,以自己的编程习惯,和命名方式,来修改路径相关的代码即可。
二、集群搭建
2.1 集群搭建和基础环境准备
- 修改Hosts映射
vim /etc/hosts
- 关闭防火墙
systemctl stop firewalld.service # 关闭防火墙
systemctl disable firewalld.service # 禁止自动启动
- 设置ssh免密登陆
在三台机器上执行:ssh-keygen -t rsa 回车三次
然后在三台机器上在执行:
ssh-copy-id node1
ssh-copy-id node2
ssh-copy-id node3
输入对应的密码即可
- 设置集群时间同步
这一步骤省略。因博主采用的是类似于云服务器集群,集群时间同步步骤省略。各位在使用虚拟机进行集群配置的时候可以百度一下,你就知道。