当前位置:首页 > 开发 > 编程语言 > 大数据 > 正文

hadoop dfs.datanode.du.reserved 预留空间配置方法

发表于: 2015-03-25   作者:daizj   来源:转载   浏览:
摘要: 对于datanode配置预留空间的方法 为:在hdfs-site.xml添加如下配置  <property>     <name>dfs.datanode.du.reserved</name>     <value>10737418240</value>    

对于datanode配置预留空间的方法 为:在hdfs-site.xml添加如下配置

 <property>

    <name>dfs.datanode.du.reserved</name>

    <value>10737418240</value>

 

 </property>

 

dfs.datanode.du.reserved的单位为字节,上面的预留空间为10G,预留30G:32212254720 

 

预留20G:21474836480

 

预留空间可能遇到的问题:预留了10G,但是该节点磁盘空间去没有真正剩余,而是一直会放数据,原因可能是如下方面:

 

通过 df -h 查看容量显示如下:
Filesystem            Size  Used Avail Use% Mounted on
/dev/sda4             243G  200G   31G  87% /data

注:说明总容量为243G,使用了200G,可用31G 这里有个问题,使用量+可用量!=总容量,少掉了12G,这就是问题所在。
dfs.datanode.du.reserved设置为10G的话

通过hadoop dfsadmin -report 查看显示如下

Configured Capacity: 228260941824 (232.58 GB)
DFS Used: 208414818078 (194.10 GB)
Non DFS Used: 0 (0 B)
DFS Remaining: 19846123746 (38.48 GB)

Configured Capacity显示的dfs.data.dir指定的目录空间总容量大小-dfs.datanode.du.reserved的容量,
如果像之前设置 dfs.datanode.du.reserved为10G的话,Configured Capacity为:232.58 GB,DFS Remaining则为38.48G,
但实际/dev/sda4 可用空间才只有31G,所以有数据的话会一直会存入该节点,直到放满。




解决方法:将dfs.datanode.du.reserved设置更大。目前设置为30G
这样,hadoop dfsadmin -report 查看
Configured Capacity: 228260941824 (212.58 GB)
DFS Used: 208414818078 (194.10 GB)
Non DFS Used: 0 (0 B)
DFS Remaining: 19846123746 (18.48 GB)

dfs可用空间18.48<31G,所以当dfs全部用完,磁盘/dev/sda4还是有13G空间空闲,达到要的效果!

hadoop dfs.datanode.du.reserved 预留空间配置方法

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

我来说两句
评论内容:
验  证  码:
 
(网友评论仅供其表达个人看法,并不表明本站同意其观点或证实其描述。)
评论列表
已有 0 条评论(查看更多评论)
编辑推荐
GPT 磁盘的普及还需要一段时间,目前使用 GPT 磁盘的用户很少,如果把 GPT 磁盘挂载到 Windows XP
2 预留
AX2009的预留不支持根据库位类型预留(至少我没发现),这样可能预留到收货,发货库位,感觉不太合
http://qiaoshi.iteye.com/blog/1851496 本文来自网络整理,原文存在一定的问题,而且有解释不是很清
http://qiaoshi.iteye.com/blog/1851496 本文来自网络整理,原文存在一定的问题,而且有解释不是很清
本文来自网络整理,原文存在一定的问题,而且有解释不是很清楚以及错误的地方,我在这里进行了详细
问题描述 操作路径: 应收账款->销售订单->销售订单行->库存->预留 一张销售订单有多行
闲来无事,研究一下生产订单预留。 首先是预留的创建: 1.预留创建的时机:预留凭证是在生产订单保
1、创建VHost 记住Homepage,打开VHost DNS标签页,创建Virtual Host,如下图: 2、Wcp上传文件 用
PCI配置空间简介 作者:敏行 PCI有三个相互独立的物理地址空间: 设备存储器地址空间、 I/O地址空间
PCI配置空间简介 作者:敏行 PCI有三个相互独立的物理地址空间: 设备存储器地址空间、 I/O地址空间
版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号