ubuntu15.10下hadoop2.7.2的安装与配置详解

 更新时间:2019年02月18日 11:55:11   作者:gavenyeah  
今天小编就为大家分享一篇关于ubuntu15.10下hadoop2.7.2的安装与配置详解,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧

网上和很多书上都有不少的hadoop在linux系统下的安装教程,但是尝试过的读者会发现,就算是按照这些教程一步步的操作,还是会在某个地方出错,主要原因是版本问题。尤其是书上的版本一般都较老,所以并不建议对着书上的教程来操作,但是可以作为参考。下面给出我自己亲身实践的安装过程,尽量把我知道的原理也写出来,这样就算有些步骤出现问题,知道了原因也是很容易解决的,就怕出现问题了,还不知道问题出在哪?

下面的代码都是在ubuntu的命令窗口(terminal)中输入:

1.工具准备:

1.1 更新apt-get:在命令行窗口中使用apt-get安装软件很方便;

sudo apt-get update

1.2 安装vim:配置文件。

sudo apt-get install vim

根据输出结果,需要输入“Y”来继续。

2.创建hadoop用户:

2.1增加hadoop用户:创建 hadoop 用户,并使用 /bin/bash 作为 shell

sudo useradd -m hadoop -s /bin/bash

2.2设置密码,按提示输入两次密码:

sudo passwd hadoop

2.3为 hadoop 用户增加管理员权限:

sudo adduser hadoop sudo

3.安装SSH、配置SSH无密码登陆

集群、单节点模式都需要用到 SSH 登陆(类似于远程登陆,你可以登录某台 Linux 主机,并且在上面运行命令),Ubuntu 默认已安装了 SSH client,此外还需要安装 SSH server:

sudo apt-get install openssh-server

安装后,可以使用如下命令登陆本机:

ssh localhost

4.安装java环境

4.1安装jdk:

sudo apt-get install openjdk-8-jre openjdk-8-jdk

4.2配置JAVA_HOME

dpkg -L openjdk-8-jdk | grep '/bin/javac'

该命令会输出一个路径,除去路径末尾的 “/bin/javac”,剩下的就是正确的路径了。如输出路径为 /usr/lib/jvm/java-8-openjdk/bin/javac,则我们需要的路径为 /usr/lib/jvm/java-8-openjdk。

如果这里输出错误,那我们怎么知道JAVA_HOME的地址呢?很简单,输入:

java -verbose

输出:usr/lib/jvm/java-8-openjdk/jre/lib/rt.jar

则前面的usr/lib/jvm/java-8-openjdk就是JAVA_HOME的地址。

然后,使用命令 sudo gedit /etc/profile 打开 /etc/profile 文件:

sudo gedit /etc/profile

然后在文件末尾添加如下三行:

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk
CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH

然后ctrl+s保存。然后执行如下代码,使更改生效:

$source ~/.bashrc

如果JAVA_HOME还是没有更改过来,可能是文件没有生效,运行

$source /etc/profile

再查看JAVA_HOME,可以发现是我们在文件中设置的路径。

如果上面设置正确的话,$JAVA_HOME/bin/java -version 会输出 java 的版本信息,且和 java -version 的输出结果一样,如下图所示,则配置成功:

5.安装Hadoop

5.1hadoop程序下载:http://mirror.bit.edu.cn/apache/hadoop/common/

建议选择下载 “stable” 下的 hadoop-2.x.y.tar.gz 。

5.2 hadoop安装

输入命令:

sudo tar -zxf ~/Downloads/hadoop-2.7.2.tar.gz -C /usr/local  
cd /usr/local/
sudo mv ./hadoop-2.7.2/ ./hadoop      
sudo chown -R hadoop ./hadoop

Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用,成功则会显示 Hadoop 版本信息:

cd /usr/local/hadoop
./bin/hadoop version

5.3 hadoop单击配置

Hadoop 默认模式为非分布式模式,无需进行其他配置即可运行。非分布式即单 Java 进程,方便进行调试。

配置尚未完成,由于近期较忙,过两天闲下来了再配置。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对脚本之家的支持。如果你想了解更多相关内容请查看下面相关链接

相关文章

  • Linux将文件或目录打成rpm包的实现方法

    Linux将文件或目录打成rpm包的实现方法

    最近因为遇到一个服务器受系统限制,只能上传rpm包才能使用,而我们的服务都是文件,那么怎么将文件都打成rpm包呢???我也是找了好几个,终于找到了一个简单好用的打包方式,下面来给大家讲解一下部署及打包、安装,需要的朋友可以参考下
    2024-11-11
  • Linux中的screen命令使用详解

    Linux中的screen命令使用详解

    这篇文章主要介绍了Linux中的screen命令使用详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-12-12
  • Linux 中清空或删除大文件内容的五种方法

    Linux 中清空或删除大文件内容的五种方法

    这篇文章主要介绍了Linux 中清空或删除大文件内容的五种方法的相关资料,需要的朋友可以参考下
    2016-12-12
  • Linux配置yum源全过程

    Linux配置yum源全过程

    Yum是基于RPM包的软件更新机制,能自动解决软件包依赖,由仓库和客户端组成,可部署在一台或多台服务器上,支持官方及第三方(如阿里云)源,手动更换源可提速,主要命令包括yum list/info/search/whatprovides进行查询
    2024-11-11
  • 使用FileZilla从Linux系统下载文件的方法

    使用FileZilla从Linux系统下载文件的方法

    最近做项目,遇到这样的需求,要求将Linux系统的的某个文件夹下载到我Windows系统某个文件夹里,怎么实现这个功能呢?下面脚本之家小编给大家带来了使用FileZilla从Linux系统下载文件的方法,感兴趣的朋友一起看看吧
    2018-07-07
  • Linux AMH 服务器管理面板远程访问的操作方法

    Linux AMH 服务器管理面板远程访问的操作方法

    AMH 是一款基于 Linux 系统的服务器管理面板,它提供了一系列的功能,包括网站管理、FTP 管理、数据库管理、DNS 管理、SSL 证书管理等,本文介绍在Linux 中安装AMH面板并结合Cpolar 内网穿透工具实现远程访问,感兴趣的朋友一起看看吧
    2023-11-11
  • Ubuntu安装Matlab2020b详细教程和资源

    Ubuntu安装Matlab2020b详细教程和资源

    大家好,本篇文章主要讲的是Ubuntu安装Matlab2020详细教程和资源,感兴趣的同学赶快来看一看吧,希望对你有帮助
    2021-11-11
  • 一文详解Linux系统中的文件描述符与进程数限制

    一文详解Linux系统中的文件描述符与进程数限制

    Linux 系统中,文件描述符和进程数是两个非常重要的系统资源,它们直接影响系统的性能和稳定性,尤其是在高负载的服务器环境中,本文将深入探讨如何查看和调整 Linux 系统中的文件描述符和进程数限制,帮助系统管理员和开发者更好地优化系统配置
    2025-02-02
  • linux中tar打包指定路径文件的实现方法

    linux中tar打包指定路径文件的实现方法

    下面小编就为大家带来一篇linux中tar打包指定路径文件的实现方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2016-12-12
  • 比较详细的基于CentOS的WWW服务器架设指南

    比较详细的基于CentOS的WWW服务器架设指南

    本文参考了网上高手的教程和结合自己的实践经验而来。网上关于LAMP安装配置的教程虽然很多,但长篇大论的让你抓不到重点,短小精悍的对新手来说又难了点,所以初次配置时最容易在某个环节卡住,从而打击了学习的激情或者耽误了宝贵的时间。于是就整理出这个学习笔记。如果文中有错误的地方,恳请大家指正,不要误导了初学者。
    2008-06-06

最新评论