本指南详细介绍如何在Debian系统上搭建Hadoop开发环境。
一、安装Java开发套件(JDK)
首先,安装OpenJDK:
配置JAVA_HOME环境变量:
在文件末尾添加(根据实际JDK版本调整路径):
保存并退出,然后执行:
验证安装:
二、安装Hadoop
下载Hadoop 3.3.6 (或其他版本):
验证下载完整性:
创建目录并解压:
三、配置Hadoop环境变量
编辑
文件,添加:
刷新环境变量:
四、配置Hadoop核心配置文件
编辑
:
添加:
Apache 2.4.62
PHP中文网提供Apache 2.4.62 官方 tar.gz 源码包下载,通过源码编译安装,开发者能够灵活定制模块、优化性能并精准控制安装路径,满足多样化的业务需求。
下载
编辑
:
添加:
编辑
:
添加:
编辑
:
添加:
五、设置SSH无密码登录
生成SSH密钥:
复制公钥:
测试连接:
六、格式化NameNode
七、启动Hadoop服务
八、验证Hadoop安装
检查集群状态:
访问NameNode Web界面:
完成以上步骤后,您的Debian系统上的Hadoop开发环境就搭建完成了。 请根据实际情况调整路径和Hadoop版本。
sudo apt update
sudo apt install openjdk-11-jdk -ysudo nano /etc/environmentJAVA_HOME="/usr/lib/jvm/java-11-openjdk-amd64"source /etc/environmentjava -versionwget https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.3.6/hadoop-3.3.6-src.tar.gzwget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6-src.tar.gz.sha512
sha256sum -c hadoop-3.3.6-src.tar.gz.sha512sudo mkdir /opt/hadoops
sudo tar -xzvf hadoop-3.3.6-src.tar.gz -C /opt/hadoops --strip-components 1/etc/profileexport HADOOP_HOME="/opt/hadoops/hadoop-3.3.6"
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbinsource /etc/profilecore-site.xmlsudo nano $HADOOP_HOME/etc/hadoop/core-site.xml
fs.defaultFS
hdfs://localhost:9000
hdfs-site.xmlsudo nano $HADOOP_HOME/etc/hadoop/hdfs-site.xml
dfs.replication
1
dfs.namenode.name.dir
/opt/hadoops/hdfs/namenode
mapred-site.xmlsudo nano $HADOOP_HOME/etc/hadoop/mapred-site.xml
mapreduce.framework.name
yarn
yarn-site.xmlsudo nano $HADOOP_HOME/etc/hadoop/yarn-site.xml
yarn.nodemanager.aux-services
mapreduce_shuffle
sudo su - hadoop
ssh-keygen -t rsa -P ""cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keysssh localhosthdfs namenode -formatstart-dfs.sh
start-yarn.shhdfs dfsadmin -reporthttp://localhost:9870