亚马逊工具如何利用大数据分析解决大数据问题

日期: 2014-07-24 作者:Cameron McKenzie翻译:谨宣 来源:TechTarget中国 英文

所有关于用户数据的收集,都是为了对数据进行智能分析,期待发现新的趋势和不可预见的行为。考虑到商业智能应用能够从PB级别数据中筛选数据的日子可能永远不会到来,一些企业以天为单位收集数据,但是这不能成为企业大数据分析狭隘观点的借口。但如何才能使企业在条件有限的情况下,最好地利用他们积累的新资料和统计数据?这需要时间,耐心,而且你将看到,投资必要资金的负责人将可以为企业实施正确的计划。

选择正确的负责人

大数据本身到成熟期也就只花了几年时间,这意味着大分析(Big Analytics)才开始孵化。这意味着,在这个浩大的技术舞台上存在一个相当大的缺口,寻找合适的专家将是一个挑战。最近一次信息周刊关于“分析,商业智能和信息管理”的调查中, 47%的受访者列出了作为使用大数据软件的首要问题是‘专业知识既稀缺且昂贵’。”但要正确地使用商业智能(BI) ,找到合适的人才是绝对必要的。

在O’Reilly 2012 Strata 大会上生机勃勃的数据科学论战确认,要确定聘请谁来为大洞察挖掘大数据不是件容易的事情,人工智能领域专家或机器学习专家将能够为企业提供更多的价值。

数据科学家只专注于数字和模式就能取得显著成绩的岁月已经过去,他们需要结合机器学习,尝试真正的算法来找到大多数经验丰富的专家都错过的数据相关性。但大数据顾问Drew Conway做出了一个强有力的证明,机器学习作为一种工具可以提供一些有趣的答案,但这些答案需要满足一个重要的条件。 “你能以任何有意义的方式解释这个结果吗?”Conway说。 “我猜测也许不是。一个专业领域专家将不得不看那个模型,并决定所选择功能,以及传递的输出和回归系数,是否真正与训练集和测试集之外的样本相关。这是专业领域的基础知识。”

企业将需要建立一个团队,其中包括这两个学科的专家。为了数据挖掘的准确性,需要一位某个专业领域的专家来开发问题,然后依赖一个机器学习专家开发并且实施查询或创建分析,然后才有两个领域专家结合得出的正确结果。

旧酒装新瓶

大分析不只是因为大数据时代的来临企业才用于挖掘信息。 “我们已经看到客户以全新的商业模式出现,他们使用与社交媒体相关的历史数据集,这些曾经是免费的,现在他们把变现或定价,”英特尔的Girish Juneja在最近旧金山举行的亚马逊AWS峰会上说。但是,新技术永远是洞察用户行为最有力的工具,尤其移动用户更是一个特别需要培养的肥沃资源。 “我们所看到的是,随着越来越多应用正在被移动用户推动,正因如此生成的数据量越来越大。大部分数据是被收集在云环境中,比如AWS。然后,新的商业模型正在利用这些数据,并基于这些数据提供新的服务。”

在大分析竞赛中先拔头筹

企业都使用什么类型的工具来筛选他们的大数据,以发现一些大分析?亚马逊的Elastic MapReduce一直是很受欢迎的选择,它帮助客户挖掘当前未充分利用大数据源,然后利用BI展示。从几年前就开始被经常吹捧的一个的案例,Yelp开始整理其巨大的编辑日志文件,以寻找隐藏的关联性。 “他们通过分析这些数据找出的一件事情是,人们是通过移动设备上访问这个站点,”亚马逊高级产品经理John Einkauf在2014年旧金山举行的AWS峰会上表示。 “这已经是几年前的事情,那时候很多公司还不曾开始了解向移动转移。因此,他们在移动上做了很好的投资,为他们的服务取得了很好的流动性。截至2013年1月,他们正为950万独特移动设备提供服务。这一切都归功于这个最初的洞察力,他们能够分析出TB的日志数据。“识别数据的竞争者是最近被忽略的,并创建一个策略来挖掘它。这些途径和策略就能区分出市场领导者和竞争失败者。

生成正确的结果

进行数据分析的另一个经常尚未开发的数据源是社会渠道的非结构化数据。处理非结构化数据始终是一个巨大的挑战,因为在判断数据相关性方面非常困难,但尽管如此,非结构化数据在商业智能和大数据分析领域越来越重要。那么,企业组织在非结构化数据分析时如何滤掉干扰呢?大多数处理非结构化文本策略包含一个反馈回路,用以随着时间推移产生更多具有高度针对性的数据用于测试。从现有的社会资源收集然后可以变成可使用的社交媒体参与者,作为测试对象进行实验。在企业层面,这可能意味着启动了提出问题,各种社会媒体宣传,邀请解说,或挑衅,然后可以测量和分析一些其他的回应。这是一个费时且高度复杂的过程,而是通过社交媒体获得有意义的信息可以是金色的,当涉及到了解客户真正想要的。

讽刺的是,许多能够使大分析更有效的解决方案,都需要收集和创造更多的数据。然而,与其被动承受不如主动出击,企业能够自己定位,从而利用隐藏在过去,现在和未来大数据的洞察力。

我们一直都在努力坚持原创.......请不要一声不吭,就悄悄拿走。

我原创,你原创,我们的内容世界才会更加精彩!

【所有原创内容版权均属TechTarget,欢迎大家转发分享。但未经授权,严禁任何媒体(平面媒体、网络媒体、自媒体等)以及微信公众号复制、转载、摘编或以其他方式进行使用。】

微信公众号

TechTarget微信公众号二维码

TechTarget

官方微博

TechTarget中国官方微博二维码

TechTarget中国

相关推荐

  • 评估公共IaaS方案的关键特性

    为了评估有前景的IaaS提供商,需要研究他们的实例类型范围,以及他们对新兴技术,数据库选项等等的支持。

  • 移动互联网:企业如何在大数据的野蛮生长中掘金?

    随着全球移动设备、可穿戴设备等智能设备的不断增多,我们看到大数据的数量也不断增长,而且是爆发式的增长。IDC的一份报告预测,到2020年,大数据和业务分析市场将增长至203亿美元,是2015年1120亿美元的两倍。

  • 2017年数字经济新时代:除去云计算,还需要什么

    据LinkedIn最近的调查结果显示,最受欢迎的职业技能都与数字技术有关,可见日益普及的数字技术将引领未来。目前,用户界面设计已成为最受欢迎的移动应用技能之一。

  • 大数据新使命:如何创造未来

    现在我们探讨大数据,人们更关心数据如何创造一个未来。对于大数据的分析,企业已经不仅再关注过去,还关注于对未来的价值创造,这是大数据的一个新的使命。