六个超大规模Hadoop集群部署案例

2014年8月5日 | 标签:
热度:

据估计,到2015年,全世界一半以上的数据将涉及hadoop–围绕这个开源平台的生态系统日益庞大,这有力地印证了这个惊人的数字。

  然而,有些人表示,虽然hadoop是眼下热闹非凡的大数据领域最热话题,但它肯定不是可以解决数据中心和数据管理方面所有难题的灵丹妙药。考虑到这一点,我们暂且不想猜测这个平台未来会如何,也不想猜测彻底改变各种数据密集型解决方案的开源技术未来会如何,而是关注让hadoop越来越火的实际应用案例。

  毫无疑问,现在有几个出众的例子,表明hadoop及相关开源技术(hive和hbase等)在如何重塑大数据公司考虑基础设施的角度。

  不妨阐明几个引人注目的、大规模hadoop部署案例,它们在重塑依赖大数据的公司,这些公司从事社交媒体、旅游和一般商品和服务等行业。

 

案例之一:电子港湾的hadoop环境

  电子港湾公司分析平台开发小组的anil madan讨论了这家拍卖行业的巨擘在如何充分发挥hadoop平台的强大功能,充分利用每天潮水般涌入的8tb至10tb数据。

  虽然电子港湾只是几年前才开始向生产型hadoop环境转移,但它却是早在2007年就率先开始试用hadoop的大规模互联网公司之一,当时它使用一个小型集群来处理机器学习和搜索相关性方面的问题。

  这些涉及的是少量数据;madan表示,但是就这个试验项目而言很有用;不过随着数据日益增加、用户活动日益频繁,电子港湾想充分利用几个部门和整个用户群当中的数据。

  电子港湾的第一个大型hadoop集群是500个节点组成的athena,这个专门建造的生产型平台可以满足电子港湾内部几个部门的要求。该集群只用了不到三个月就建成了,开始高速处理预测模型、解决实时问题;后来不断扩大规模,以满足其他要求。

  madan表示,该集群现由电子港湾的许多小组使用,既用于日常生产作业,又用于一次性作业。小组使用hadoop的公平调度器(fair scheduler)来管理资源分配、为各小组定义作业池、赋予权重、限制每个用户和小组的并行作业,并且设定抢占超时和延迟调度。

  虽然madan经常在台上畅谈hadoop具有的实际价值,他也经常提到工作小组在扩建电子港湾基础设施时面临、继续竭力克服的几个主要挑战。下面列出了与hadoop有关的一系列挑战:

  可扩展性

  就现有版本而言,主服务器namende存在可扩展性问题。由于集群的文件系统不断扩大,它占用的内存空间也随之扩大,因为它把整个元数据保存在内存中。1pb的存储容量大概需要1gb的内存容量。几种切实可行的解决方案是分层命名空间分区,或者结合使用zkeeper和hbase,实现元数据管理。

  可用性

  namende的可用性对生产型工作负载来说至关重要。开源社区正致力于冷备份(cld standby)、暖备份(warm standby)和热备份(ht standby)这几个选项,比如检查点(checkpint)节点和备份(backup)节点;从辅助namende切换avatar的avatar节点;以及日志元数据复制技术。我们正在评估这些方案,以建立我们的生产型集群。

  数据发现

  在天生不支持数据结构的系统上支持数据监管、发现和模式管理。一个新项目准备把hive的元数据存储区和wl合并成一个新系统,名为hwl。我们旨在努力把该系统连接到我们的分析平台中,那样我们的用户很容易跨不同的数据系统发现数据。

  数据移动

  我们正在努力开发发布/订阅数据移动工具,以便跨我们不同的子系统,如数据仓库和hadoop分布式文件系统(hdfs),支持数据拷贝和调和。

  策略

  通过配额(目前的hadoop配额需要做一些改进)进行存储容量管理,能够制定良好的保留、归档和备份等策略。我们正根据集群的工作负载和特点,跨不同的集群努力定义这些策略。

  度量指标、度量指标、度量指标

  我们正在开发成熟可靠的工具,以便生成度量指标,用于度量数据来源、使用情况、预算编制和利用率。一些hadoop企业服务器体现的现有度量指标有的不够全面,有的只是临时的,很难看清楚集群使用模式。

案例之二:通用电气借助hadoop分析用户的情感

  据通用电气公司(ge)hadoop技术部的产品经理linden hillenbrand声称,情感分析很棘手–它不仅仅是个技术挑战,还是个业务挑战。

  在通用电气公司,数字媒体小组和hadoop小组通力合作,为高度依赖高级情感分析功能的营销部门开发了一款交互式应用软件。

  此举目的在于,让营销小组能够通过我们开展的各项活动,评估外界对通用电气所持的看法(正面看法、中立看法或负面看法)。hadoop负责支持该应用软件的情感分析部分,这部分对hadoop来说是一种高度密集的文本挖掘应用环境。

  他声称,利用 hadoop应对技术层面的这些挑战带来了重大改进。

  为了强调这一点,hillenbrand提到了公司在情感分析方面采取的独特nsql方法,这一方法带来了80%的准确率,也是hadoop这个核心平台的基础,确保公司未来在数据挖掘方面求得发展。正如下图表明的那样,通用电气在利用数据挖掘以及新平台带来一种新的洞察力方面有了大幅改进。

  hillenbrand表示,就通用电气在内部对hadoop未来的展望而言,情感分析项目取得了双重成功。它不仅为这家《财富》50强公司的营销小组提供了更准确的结果,还为这家公司的下一代深度数据挖掘、分析和可视化等项目奠定了基础。

案例之三:旅游行业的典型应用案例

  rbitz wrldwide旗下的全球消费者旅游品牌每天要处理数以百万计的搜索和交易。

  通过关系数据库等传统系统,存储和处理这类活动生成的越来越庞大的数据量变得越来越难,因而这家公司求助于hadoop,帮助消除部分复杂性。

  这家公司的首席软件工程师jnathan seidman和另一名工程师ramesh venkataramiah一向乐于讨论这家旅游网站的基础设施如何加以管理。他们俩在最近面向多位听众的一次交流中讨论了hive的作用,尤其是对一些关键搜索功能所起的作用。

  hadoop和hive帮助这家在线旅游中心处理各项事务:改进让游客可以迅速筛选和分类酒店的功能,到查看更宏观内部趋势的功能,不一而足。据这两位工程师声称,rbitz的大数据问题让它成为运用hadoop的”典型”。他们俩表示,面对很分散的服务网络–这些服务每天生成数百gb大小的当天日志,处理每天数百万的这些搜索和交易,这绝非易事。

  在上面的幻灯片中,他们俩演示了如何利用hadoop和hive来处理数据;可能更重要的是,演示了什么使得这家公司的特定问题最适合用hadoop来处理(因为需要提醒的是一点,并非所有业务都有hadoop的用武之地。)

 

案例之四:facebook更新hadoop的状态

  虽然一些公司和机构对其庞大的hadoop系统秘而不宣,但是就已知存在的系统而言,facebook的数据仓库hadoop集群已成为世界上已知规模最大的hadoop存储集群。

  下面是关于这个单一hdfs集群的一些详细信息:

  单一hdfs集群中存储容量达21 pb

  2000个机器

  每个机器12 tb(有几个机器是每个24tb)

  1200个机器每个有8个处理器核心,800个机器每个有16个核心

  每个机器有32 gb内存

  每个机器有15个映射/化简(map-reduce)任务

  已配置存储容量总共超过21pb,大于之前大名鼎鼎的雅虎集群(14pb)。在hadoop的早期,facebook就与另外几个互联网巨擘,充分利用这种框架来管理其不断发展的业务。

  由于每月活跃用户超过4亿个,页面浏览量超过5000亿人次,每个月共享的内容多达250亿则,对于自称能够处理大数据问题的任何技术而言,facebook是再合适不过的应用环境。

  facebook的工程师与雅虎的hadoop工程小组密切合作,把hadoop推向更高的可扩展性和性能。facebook有许多hadoop集群,其中最大的一个集群用于数据仓库。下面一些统计数字描述了facebook的数据仓库hadoop集群的几个特点:

  每天增加12 tb的压缩数据

  每天扫描800 tb的压缩数据

  每天处理25000个映射/化简作业

  hdfs里面有6500万个文件

  30000个客户机同时访问hdfs namende

  facebook的软件工程师、开源倡导者jnathan gray演示了facebook如何一直使用更庞大hadoop平台架构的一部分:hbase,支持生产环境下的在线应用程序和离线应用程序。

  虽然上述有点深奥,又针对特定环境,但是大致描述了hbase适合的那种复杂数据环境;而更重要的是,描述了这个环境需要怎样的一些重大调整和专门知识才加以管理。hbase仅仅是facebk管理海量数据、为用户提供异常智能化服务的方法之一。

 

案例之五:infchimps处理一百万倍的混合(mashup)

  问一下phillip “flip” krmer哪里能找到几乎任何的列表、电子表格或数据集,他会很高兴地向你介绍他的公司infchimps,这家公司自称是”全世界的数据仓库”。

  每个月都有成千上万的人访问该网站进行搜索,查询特定的数据。最近,该网站的用户在查询推特和社交网络数据。其较为传统的数据集包括其他热门数据,比如金融、体育比赛和股票数据。

  krmer表示,当然,用户们在别的地方也能查询这些数据集,但是他们常常访问infchimps,未必是由于缺少数据或者很难获得数据,而是由于别处获取数据的成本极其高昂,或者数据采用了不适合使用的格式–至少对infchimps面向的开发人员这个客户群来说是这样。

  这家公司正在装配一个数据存储库,里面含有成千上万的公共和商业数据集,许多数据集达到了tb级。现代机器学习算法通过借助数据的一般结构,深入分析数据;即便数据有机地嵌入到链接数据集里面,也是如此。当然,所有这些工作会带来一个复杂的数据环境,势必需要一种能够跨多个对象运行的平台,无论对内部(数据收集和管理方面)来说,还是对平台用户来说,都是如此。

  infchimps让用户们可以借助使用hadoop以及亚马逊云和rackspace云的基础设施,充分利用数据。你从下面可以看到,这家公司充分利用了弹性hadoop,还利用了亚马逊网络服务(aws)和rackspace,同时在后端上使用hadoop满足自己的要求。

  这家公司让用户可以随时获取自己所需的hadoop资源,无论这些是预定资源、临时资源还是专用资源。这种灵活的功能能够支持夜间批处理作业、合规或测试集群、科学系统和生产型系统。加上为基于hadoop的功能新增了irnfan(infchimps的自动化系统配置工具)这一基础,弹性hadoop让用户可以专门为手头的作业调整资源。infchimps声称,这简化了根据需要时,映射或化简专门机器、高计算机器、高内存机器等机器的过程。

 

案例之六:hadoop在挖掘军事情报方面的作用

  digital reasning声称,就其中一个核心市场:美国政府而言,它在”自动理解大数据”方面一路领跑。

  digital reasning致力于实现这个目标,为此最近竭力梳理来自美国情报部门的海量的非结构化文本数据,寻找可能危及国家安全的威胁。这款专门定制的软件用于面向实体的分析(entity-riented analytics),已成为synthesys技术的核心,这项技术则是其业务的立足之本。

  该公司使用cludera的发行版,而且其synthesys平台支持分布式的、面向列的开源数据库hbase。据digital reasning声称,”这种集成让我们得以获得超大规模处理功能,并且为政府和商业市场提供复杂数据分析能力。”

  公司首席执行官tim estes在下面的幻灯片中具体介绍了公司的基础设施和这一使用场景:

  ”cludera及其hadoop专家小组与我们紧密合作,在复杂分析领域取得了新的突破。cludera和digital reasning共同为要求极高的客户提供了针对极其庞大的不同数据集,识别和关联实体的功能,”digital reasning的首席执行官tim estes如是说。

  他继续说,以前,只能”孤立地分析关键情报数据孤岛”,但是synthesys集成了cludera的apache hadoop(cdh3)和hbase支持功能后,我们可以把用于自动理解数据的算法与能以前所未有的方式处理规模和复杂性,把各部分联系起来的平台结合起来。”

feihu分享到:

          

相关博文

目前还没有任何评论.
您必须在 登录 后才能发布评论.