hadoop入门之hadoop集群验证任务存放在不同的节点上
我要评论Linux环境：CentOs6.4
Hadoop版本：Hadoop-1.1.2
master: 192.168.1.241 NameNode JobTracker DataNode TaskTracker
slave:192.168.1.242 DataNode TaskTracker
内容：想hadoop文件系统中上传一个大文件，验证文件分别分布在192.168.1.241节点和192.168.1.242节点上。
第一步： 前期工作：搭建Hadoop集群，
在hdfs-site.xml中的配置为2.
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
运行执行start-all.sh命令，运行结果如图所示：
查看9000和9001的信息
9000是HDFS的入口9001是MapReduce的JobTracker的入口
从以上图中可以确定Ip地址为192.168.1.241.
第二步：通过网页查看节点的个数。在浏览器中输入http://localhost:50070
以上看到LiveNodes的个数为2，说明启动成功。
第三步：上传大文件。具体步骤如图所示：
通过网页查看运行状况：
大文件已经上传成功.文件的大小是244.91MBlock的大小是64M。所以每个节点能够有4个Block。
Replication为2，表明每个Block有2个备份。
查看节点的使用情况：
从图中可以看出，此文件分成了4个Block。（TotalNumberofblocks：4）。
每个Block在两个节点上进行了备份，分别是192.168.1.241192.168.1.242
hadoop集群至此测试结束。测试成功。
相关文章
- 本文主要介绍了hadoop统计单词在文件中出现的个数的示例，大家参考使用吧2014-02-16
- 本文主要介绍了hadoop验证hdfs是否能够正常运行的方法，大家参考使用吧2014-02-16
hadoop入门之通过页面验证hadoop是否安装成功的方法
本文主要介绍了通过页面验证hadoop是否安装成功的方法，大家参考使用吧2014-02-16- 本文本主要介绍在win7上搭建hadoop开发环境，大家参考使用吧2013-12-31
Hadoop权威指南（中文版） ((美) Tom White ) pdf扫描版
本书从hadoop的缘起开始，由浅入深，结合理论和实践，全方位地介绍hado叩这一高性能处理海量数据集的理想工具2013-11-27
这篇教程从用户的角度出发，全面介绍了Hadoop Map Reduce框架的各个方面，涉及到Hadoop的安装、概述、输入与输出、相关的例子和用户界面等2013-08-07
一本Hadoop教程，讲述Hadoop分布式文件系统的使用，WEB接口、Shell命令、Secondary Namenode、Rebalancer、机架感知、安全模式、Fack、升级和回滚、文件权限和安全性、可扩2013-08-07Hadoop datanode重新加载失败无法启动现象解决方法介绍
本人的解决方法适用于首次已经成功启动整个集群，但是由于不正常的操作造成第二次无法正常启动。首次的启动失败可能原因有很多：可能是由于配置文件错误写入造成的，或是由2013-07-29
Hadoop实战中文版 pdf扫描版 (美) 拉姆 34M 人民邮电出版社
Hadoop实战》适合需要处理大量离线数据的云计算程序员、架构师和项目经理阅读参考2012-10-20
hadoop权威指南(第2版)》从hadoop的缘起开始，由浅入深，结合理论和实践，全方位地介绍hadoop这一高性能处理海量数据集的理想工具2012-08-21
最新评论