当前位置:首页 > 开发 > 开源软件 > 正文

hdfs over ftp 安装部署

发表于: 2015-02-06   作者:小破丿孩儿   来源:转载   浏览:
摘要: hdfs-over-ftp是一个开源,简单易用的实现了对HDFS系统的下载和上传功能的小工具。可以作为管理工具来使用,快捷方便。 1.安装jdk(1.6以上版本)并配置环境变量 分别执行java –version和javac –version,若显示版本真确,则说明安装和配置成功。 2.安装hadoop,并将服务启动并配置环境变量。   执行hadoop version,若显正

hdfs-over-ftp是一个开源,简单易用的实现了对HDFS系统的下载和上传功能的小工具。可以作为管理工具来使用,快捷方便。

1.安装jdk(1.6以上版本)并配置环境变量

分别执行java –version和javac –version,若显示版本真确,则说明安装和配置成功。

2.安装hadoop,并将服务启动并配置环境变量。

 

执行hadoop version,若显正确版本号,说明安装和配置成功。

3.安装maven(3.0.4)并配置环境变量(下载地址 http://maven.apache.org/download.cgi)

下载: 

安装:

tar –zxvf apache-maven-3.0.5-bin.tar.gz

配置环境变量:

# vi /etc/profile

export MAVEN_HOME=/usr/local/apache-maven-3.0.5/

export PATH=$PATH:$MAVEN_HOME/bin

4.下载安装hdfs-over-ftp(下载地址:https://github.com/iponweb/hdfs-over-ftp)

 

说明:因为没有tar.gz 文件 下载下来是zip的。

安装hdfs-over-ftp:

解压:vsftp hdfs-over-ftp-master.zip

配置:vi hdfs-over-ftp-master/src/main/resources/users.properties

红色字体的值设置成你想要设置的密码的MD5加密值,下面的密码为123123的MD5加密值。

ftpserver.user.firstuser.userpassword=4297f44b13955235245b2497399d7a93

ftpserver.user.firstuser.homedirectory=/

ftpserver.user.firstuser.enableflag=true

ftpserver.user.firstuser.writepermission=true

ftpserver.user.firstuser.maxloginnumber=0

ftpserver.user.firstuser.maxloginperip=0

ftpserver.user.firstuser.idletime=0

ftpserver.user.firstuser.uploadrate=0

ftpserver.user.firstuser.downloadrate=0

ftpserver.user.firstuser.groups=firstuser,users

#md5\u503C\u4E3A333

ftpserver.user.agladyshev.userpassword=4297f44b13955235245b2497399d7a93

ftpserver.user.agladyshev.homedirectory=/

ftpserver.user.agladyshev.enableflag=true

ftpserver.user.agladyshev.writepermission=true

ftpserver.user.agladyshev.maxloginnumber=0

ftpserver.user.agladyshev.maxloginperip=0

ftpserver.user.agladyshev.idletime=0

ftpserver.user.agladyshev.uploadrate=0

ftpserver.user.agladyshev.downloadrate=0

ftpserver.user.agladyshev.groups=agladyshev,users

 

ftpserver.user.root.userpassword=4297f44b13955235245b2497399d7a93

ftpserver.user.root.homedirectory=/

ftpserver.user.root.enableflag=true

ftpserver.user.root.writepermission=true

ftpserver.user.root.maxloginnumber=0

ftpserver.user.root.maxloginperip=0

ftpserver.user.root.idletime=0

ftpserver.user.root.uploadrate=0

ftpserver.user.root.downloadrate=0

ftpserver.user.root.groups=root,users

 

5.修改文件hdfs-over-ftp-master/src/main/resources/hdfs-over-ftp.properties的配置,

红色为修改后的。

#uncomment this to run ftp server

port = 2222

data-ports = 2223

 

#uncomment this to run ssl ftp server

#ssl-port = 2226

#ssl-data-ports = 2227

 

# hdfs uri

hdfs-uri = hdfs://Host1:9000/

# max number of login

max-logins = 1000

 

# max number of anonymous login

max-anon-logins = 1000

 

# have to be a user which runs HDFS

# this allows you to start ftp server as a root to use 21 port

# and use hdfs as a superuser

superuser = agladyshev

 

6.修文件hdfs-over-master/pom.xml的配置,红色字体为修改部分,如果不修改的话可能在服务器运行时无法找到不分包

<dependency>

<groupId>org.apache.mina</groupId>

<artifactId>mina-core</artifactId>

<verion>2.0.0-M2</>

</dependency>

7.执行sh hdfs-over-ftp-master/hdfs-over-ftp.sh,下载所有的包后服务器将启动(注意:安装ftp服务的汲取必须能链接外网)

8.如果显示服务器已启动,就可以任何ftp客户端或命令登陆

window:ftp://Host1:2222

liunx:ftp Host1 2222

 

hdfs over ftp 安装部署

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

编辑推荐
1. HDFS 2.0 基本概念 相比于 Hadoop 1.0,Hadoop 2.0 中的 HDFS 增加了两个重大特性,HA 和 Federaio
1. HDFS 2.0 基本概念 相比于 Hadoop 1.0,Hadoop 2.0 中的 HDFS 增加了两个重大特性,HA 和 Federaio
1. HDFS 2.0 基本概念 相比于 Hadoop 1.0,Hadoop 2.0 中的 HDFS 增加了两个重大特性,HA 和 Federaio
之前已经成功安装了ZooKeeper,它透明的白盒让我果断抛弃了CDH版本。 关于删除旧的集群 http://my.os
环境配置: hadoop-2.0.0-cdh4.3.0 (4 nodes, 24G mem/node) hbase-0.94.6-cdh4.3.0 (4 nodes,maxHe
环境配置: hadoop-2.0.0-cdh4.3.0 (4 nodes, 24G mem/node) hbase-0.94.6-cdh4.3.0 (4 nodes,maxHe
环境配置: hadoop-2.0.0-cdh4.3.0 (4 nodes, 24G mem/node) hbase-0.94.6-cdh4.3.0 (4 nodes,maxHe
最近使用SecureFx,涉及了两个不同的安全文件传输协议: -sftp -ftp over SSH2 这两种协议是不同的
最近使用SecureFx,涉及了两个不同的安全文件传输协议: -sftp -ftp over SSH2 这两种协议是不同的
环境说明和准备 -------------------------------------------------- 所需软件: JDK-1.6.0.32 HADO
版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号