当前位置:首页 > 开发 > 编程语言 > 大数据 > 正文

hadoop:简单的测试例子

发表于: 2015-07-20   作者:番薯_9527   来源:转载   浏览:
摘要: hadoop启动后, 1.首先查看下是否有可以上传的目录,避免再创建的话会重名:     hdfs dfs -ls / 2.创建一个文件夹,专门存放要hadoop要分析的数据文件(注意,这个命令创建的文件夹好像是不存在的,你找不到的,所以你要记住你创建的这个路径文件夹,下面用得着):     hdfs dfs -mkdir -p /home/inpu

hadoop启动后,

1.首先查看下是否有可以上传的目录,避免再创建的话会重名:

    hdfs dfs -ls /

2.创建一个文件夹,专门存放要hadoop要分析的数据文件(注意,这个命令创建的文件夹好像是不存在的,你找不到的,所以你要记住你创建的这个路径文件夹,下面用得着):

    hdfs dfs -mkdir -p /home/input

3.把要分析的文件上传上去:

    hdfs dfs -put /etc/profile /home/input

4.可以查看下是否已经上传上去了:

    hdfs dfs -ls /home/input

5.执行job,其中out目录你可以随便自己定义,命令的意思是通过执行Hadoop自带测试算法“单词wordcount统计算法”,将/home/input下所有的文件执行分析job,得出的结果输出到/home/out(注意:这个输出的目录只能用一次,第二次执行别的计算就得要换个输出目录了)目录里面:

    hadoop jar /opt/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.2.0.jar wordcount   /home/input /home/out

6.你可以查看下统计的结果,它会在这个文件夹下生成类似part-****的文件:

    hdfs dfs -ls /home/out

7.将结果输出到terminate中进行查看:

   hdfs dfs -cat /home/out/part-r-00000

 

OVER!是否觉得so easy啊,妈妈再也不用担心我的学习了,^-^。。。。

 

hadoop:简单的测试例子

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

我来说两句
评论内容:
验  证  码:
 
(网友评论仅供其表达个人看法,并不表明本站同意其观点或证实其描述。)
评论列表
已有 0 条评论(查看更多评论)
编辑推荐
首先 1 step : 先装好 mingw32 环境变量什么的,简单粗暴,直接在 path 后 追加: mingw32 的 bin
1、建立三个个测试的目录 先切换到hadoop下,创建input, output, test。 mkdir ./inout mkdir ./out
注:本文的主要目的是为了记录自己的学习过程,也方便与大家做交流。转载请注明来自: http://blog.
注:本文的主要目的是为了记录自己的学习过程,也方便与大家做交流。转载请注明来自: http://blog.
万事具备,只欠编码! 下面看一个简单的示例,这个示例验证Android手机自带的通讯录的添加联系人的
Handlebars官网链接:http://handlebarsjs.com/,下面是一个简单的例子,欢迎吐槽. <!DOCTYPE htm
一张图测试你的Hadoop能力-Hadoop能力测试图谱 1.引言   看到一张图,关于Hadoop技术框架的图,基
http://www.cnblogs.com/shishanyuan/p/4190403.html if have assign the /etc/profile: hadoop jar
前段时间在课上听了一节学术讲座,其中一句话让我印象深刻----未来IT的时代将是集群的时代。从那里
Apache 的开源项目 hadoop, 作为一个分布式存储和计算系统,已经被业界广泛应用。很多大型企业都有
版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号