这是Hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在Linux下安装Hadoop1.x。
先说明一下我的开发环境:
操作系统:CentOS6.4;
版本:jdk1.8;hadoop1.2.1
①下载hadoop1.2.1,网盘:链接: https://pan.baidu.com/s/1sl5DMIp 密码: 5p67
下载jdk1.8,网盘:链接: https://pan.baidu.com/s/1boN1gh5 密码: t36h
将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。
②配置jdk及hadoop环境变量:修改/etc/profile文件
1
2
|
vim /etc/profile // 输入I,进入编辑模式 |
1
2
3
4
|
export JAVA_HOME= /home/wyt/jdk8 export CLASSPATH=.:$CLASSPATH:$JAVA_HOME /lib export HADOOP_HOME= /home/wyt/hadoop export PATH=$PATH:$HADOOP_HOME /bin :$JAVA_HOME /bin |
1
2
|
// 按Esc,按Shift,输入:wq source /etc/profile // 保存并退出 |
③测试
1
2
|
java,javac,java -version hadoop |
④修改hadoop配置文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
|
<!-- hadoop- env .sh --> export JAVA_HOME= /usr/java/jdk8 <!-- core-site.xml --> <property> <name>hadoop.tmp. dir < /name > <value> /hadoop < /value > < /property > <property> <name>dfs.name. dir < /name > <value> /hadoop/name < /value > < /property > <property> <name>fs.default.name< /name > <value>hdfs: //localhost :9000< /value > < /property > <!-- hdfs-site.xml --> <property> <name>dfs.data. dir < /name > <value> /hadoop/data < /value > < /property > <!-- mapred-site.xml --> <property> <name>mapred.job.tracker< /name > <value>localhost:9001< /value > < /property > |
并在hadoop安装目录下新建data、name、tmp文件夹。
⑤名称节点格式化,并查看运行状态
1
2
3
4
5
6
7
8
9
10
11
|
hadoop namenode - format //cd 命令切换至 hadoop /bin/ 文件夹下,输入 ls 命令查看 start-all.sh jps // 查看运行状态,运行正常的话需要多次输入密码 // 最后结果为: // Jps // JobTracker // NameNode // DataNode // SecondaryNameNode // NodeManager |
⑥测试hdfs
1
2
3
4
5
|
// 常用hdfs命令: hadoop fs - ls /查看目录 hadoop fs -put a.txt /user/hadoop/ 放入 hadoop fs - cat /user/hadoop/a .txt 查看内容 hadoop fs -rmr /output :删除文件/文件夹 |
附:linux常用命令:
1
2
3
4
5
6
7
|
cd .. // 返回上级目录 cd ~ // 返回Home目录 cd / // 返回根目录 cd var/ // 进入var/文件夹下(使用tab) su - // 超级管理员模式 ifconfig // 查看ip |
附:其他常用linux操作软件:
1
2
3
4
|
//windows 与虚拟机centos文件传输: filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能) // 脱离虚拟机centos输入命令行: Xshell 5 |
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:http://www.cnblogs.com/W-Yentl/archive/2017/09/18/7545892.html