当前位置:首页 > 开发 > 数据库 > 正文

如何搭建数据湖架构?听听专家的意见

发表于: 2015-07-08   作者:蓝儿唯美   来源:转载   浏览:
摘要: Edo Interactive在几年前遇到一个大问题:公司使用交易数据来帮助零售商和餐馆进行个性化促销,但其数据仓库没有足够时间去处理所有的信用卡和借记卡交易数据  “我们要花费27小时来处理每日的数据量,”Edo主管基础设施和信息系统的高级副总裁Tim Garnto说道:“所以在2013年,我们放弃了现有的基于PostgreSQL的关系型数据库系统,使用了Hadoop集群作为公司的数

Edo Interactive在几年前遇到一个大问题:公司使用交易数据来帮助零售商和餐馆进行个性化促销,但其数据仓库没有足够时间去处理所有的信用卡和借记卡交易数据

 “我们要花费27小时来处理每日的数据量,”Edo主管基础设施和信息系统的高级副总裁Tim Garnto说道:“所以在2013年,我们放弃了现有的基于PostgreSQL的关系型数据库系统,使用了Hadoop集群作为公司的数据湖架构。”

Garnto的团队一天中需要收集5000多万条美国零售交易数据,并分发到20个节点的集群中,这些节点运行在Cloudera的Hadoop分布式机 架上,使用Pentaho的数据集成工具。从银行和信用卡公司收集到的数据,会被传入设计好的预测模型中,以确定个体持卡人所需的优惠券。Edo的业务伙 伴每周通过电子邮件发出优惠券,这些优惠券会在产生对应消费时生效。

每日的数据构建时间缩减到大约四个小时,Garnto表示,根据正在运行模型的复杂性,Edo的数据分析师能“在几分钟或几小时内完成他们的工作。而以前,他们可能累的要死。

但数据湖上并不总是阳光灿烂,一帆风顺的。起初,Edo只有一个员工具有Hadoop MapReduce编程框架的经验。公司联合Chicago总部和Nashville分部,对其他员工进行Hadoop技术内部培训,但后来这使得他们不 得放弃了熟悉的数据查询方式。“我们花了很多时间更新这一过程。”Garnto说。

创建一个保证原始数据一致性和生成标准化分析数据集的两步程序也需要花时间去解决。目前拥有包含450亿条记录(总共255TB的数据)的集群,已成为 Edo业务操作的核心,对于这个集群,Garnto需要小心管理,谨慎添加新的Hadoop生态技术。否则,对公司某个部分的调整可能会影响整个系统对其 他部分的工作处理。

数据湖使实时分析成为了可能

Webtrends公司是另一家数据湖的使用者,该公司收集并处理网站、手机、物联网上的活动数据。这家位于波特兰的公司于2014年7月部署了基于 Hortonworks的Hadoop集群,目前正在试用阶段,计划在2015年初完全实现。它最初只支持了一个叫Explore的产品,让企业营销人员 做客户数据的专项分析。Webtrends产品架构主管PeterCrossley表示,每个季度大约有500 TB的数据添加到60个节点的集群中,现在总共有1.28 PB。

随着时间的推移,Webtrends计划使用Hadoop平台代替自有的数据网络附加存储平面文件系统。Crossley表示,使用Apache Kafka消息队列和自动化脚本处理技术,互联网点击流数据可以涌入集群和并在20至40毫秒内做好分析准备工作。因此,报表和分析过程几乎可以在瞬间开 始,这比老系统快得多。Hadoop集群还支持进阶分析,且能降低25%到50%的硬件成本。

Crossley表示,采用数据湖概念需要公司内部在管理和使用Webtrends为客户收集的信息时做到“思路上的转变”。之前,该公司主要使用数据存 储构建通用报表。但是,一个数据湖与其说是一个真理,不如说是真理的来源,在其之上,您可以构建多个数据集以供不同的分析用途。

Webtrends也不得不认真考虑其数据湖的架构和数据治理过程,以防止Hadoop集群变成“数据沼泽”,正如Crossley所说。刚刚进入系统的 原始数据结构十分松散,但是应该有非常严格的规则来规定其应该是什么样子。此外,他的团队已经将集群分成三个不同的层次:一个用于原始数据,第二个用于日 增量数据集,另一个用于存储需要被纳入的第三方信息。基于不同的数据集细节,每一层次都具有自己的数据分类和治理策略。

对你的数据保持控制

Razorsight公司CTO Suren Nathan还指出,建立和管理一个Hadoop 数据湖需要具备良好的纪律性和组织性。否则系统很快就会变成一个失控的垃圾场,(www.6121900.com    现金网)就像一个由很多文件组成的SharePoint,没有人知道如何找到这些文件。

Razorsight为电信企业提供了一组基于云的分析服务,2014年第二季度开始使用运行在Hadoop集群上MapR技术。客户组、操作和网络数据 通过自有工具被输入到系统中,通过Spark引擎的处理后,由Razorsight数据科学家进行分析;集群具有五个生产节点和120 TB的存储容量。

和Webtrends类似的,Razorsight数据湖被分割成三个分区。在Razorsight的案例中,一个数据湖能够存储不到六个月的数据,另一 个包含旧的但仍然活跃的数据,第三则存储不再使用的但需要保留的信息。目前,在这两个活动区域中有超过20 TB的数据。为了保证系统工作平稳,Razorsight招聘了具备分布式系统的数据治理和开发经验的新员工,同时也培训现有员工使用 Hadoop,Spark和相关技术的能力。 

目前是迁移到新平台的阶段。每TB大约花费2000美元,Hadoop集群成本仅仅是公司之前所部署的IBMNetezza数据仓库系统的十分之一。但 Nathan表示,Razorsight首先建立专门用于数据存储的集群,然后再进入处理和准备阶段。因为Netezza硬件和IBM SPSS分析软件之间存在的紧密联系,分析建模和数据可视化仍会存在于旧的系统中。建模将保持现状,但Nathan预计到今年年底,将可视化层和 Razorsight分析结果数据转移到数据湖架构中。

如何搭建数据湖架构?听听专家的意见

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

编辑推荐
吴忠博物馆布展专家小组意见建议 一、二0一二年十一月十九日市文体广电局文物布展专家组多次到博物
目前大数据市场日益升温,由此大数据驱动了巨大的消费增长。 研究公司IDC预计大数据技术和服务市场
最近有人在问答网站 Quora 上提了一个问题:What is the internal culture like at Apple? 本文对一
近日EMC发布了数据湖2.0策略,新一代Isilon横向扩展NAS数据湖产品横跨边缘、核心和云实现数据高弹性
《国务院关于促进云计算创新发展培育信息产业新业态的意见》已于近日发布,引发社会各界的广泛关注
译者 allanex 你是否想与客户侃侃而谈让他们认真的对待你的观点,因为看上去你就是个专家?如果你的
分析和解析数据的能力能够为服务提供商、科研院校、企业、出船工公司以及小型企业带来数不清的成长
小猫统计主要功能是进行快速统计数据处理,包括根据excel文件或文本文件自动建表、数据录入、数据上
2008年的一次Google Adsense合作伙伴日有幸了解到关于:Google是如何识别原创文章,给予权重的问题
作者:学飞 从坠落开始 本篇综述主要参考了Liu Bing的《Sentiment analysis and opinion mining》,
版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号