麻省理工学院技术评论研究:构建高性能数据和人工智能组织——数据架构很重要。
2021年5月6日 在数据+ AI博客
只有13%的组织(超级成功者)在数据和人工智能战略上取得了成功,但数据和人工智能的成功应用从未像现在这样成为生存的必要条件1.为了在当今的环境中保持前瞻性,数据领导者正在寻找消除传统上将分析、数据科学和机器学习分开的竖井的能力lakehouse平bob体育客户端下载台——在一个简单、开放、协作的数据架构下统一他们的数据、分析和人工智能。“事情一直都是这样的”这句古老的格言是失败的秘诀,而一群创新组织对数据和人工智能的成功使用正在强行改变每个行业。这篇博客将深入了解超级成就者将他们的成功归因于什么,以及数据和技术领导者认为构建数据文化的关键推动者,他们在ML方面的挑战,未来两年的优先投资领域,以及如果给他们一个重做按钮,他们将专注于什么。
数据和人工智能的重要性与日俱增,人们也在与之斗争
研究证实,对数据+人工智能的痴迷正从从业者延伸到董事会会议室。领导者们也在转变他们的思维方式,不再只是考虑他们拥有哪些数据,而是考虑如何利用这些数据来推动创新和增长。事实上,在2021年大数据和人工智能高管调查中,NewVantage Partners发现92%的高管报告称,他们组织中大数据/人工bob体育外网下载智能投资的步伐正在加快,比前一年增长了40%2麦肯锡公司(McKinsey & Co.)估计,到2030年,分析和人工智能将创造超过15万亿美元的新商业价值3..然而,尽管这一战略越来越受到重视,但真正成功实施战略的组织却很少——只有13%1.我们很少从一个角度审视所谓的“超级成功者”是如何取得成功的?
剧透一下,数据架构比你想象的要重要得多
《麻省理工科技评论》与Databricks合作,根据对麦当劳、CVS健康、欧莱雅和西北互惠银行等品牌的9位数据和分析领导者的采访,以及对350位首席信息官、首席财务官、首席技术官和其他领导者的调查,在其最新报告中发现:构建高性能数据和人工智能组织,“挑战从数据架构开始。组织需要构建四种不同的堆栈来处理所有的数据工作负载:业务分析、数据工程、流和ML。所有这四种堆栈都需要非常不同的技术,不幸的是,它们有时不能很好地协同工作。跨数据仓库和数据湖的技术生态系统进一步使体系结构复杂化。管理成本高,资源密集。这种复杂性影响了数据团队。数据和组织竖井可能会意外地减缓沟通,阻碍创新,并在团队中产生不同的目标。其结果是数据的多个副本、没有一致的安全/治理模型、封闭的系统和效率较低的数据团队。
与此同时,ML仍然是一个难以捉摸的目标。随着湖屋体系结构的出现,组织不再受到遗留体系结构的限制和复杂性的限制。通过将数据仓库的性能、可靠性和治理与数据湖的可伸缩性、低成本和工作负载灵活性相结合,湖屋体系结构提供了灵活、高性能的分析、数据科学和机器学习。
在Databricks,我们通过Databricks lakehouse平台将湖屋建筑带入生活,该平台在三个方面表现出色:bob体育客户端下载
- 很简单:数据只需要存在一次,就可以支持一个公共平台上的所有工作负载。bob体育客户端下载
- 开放:基于开源和开放标准bob下载地址,很容易使用现有工具并避免专有格式。
- 协作:数据工程师、分析师和数据科学家可以更高效地一起工作。
Databricks Lakehouse平台提供的成本节约、效率和生产率提高已经对每个行业和地区的企业产生了底线影响。bob体育客户端下载从过于复杂的架构中解脱出来,Databricks为所有主要云提供商的所有数据和工作负载提供了一个通用的基于云的数据基础。数据和分析领导者可以培养一种数据驱动的文化,专注于通过预测维护来减轻日常计划的折磨及其复杂性,从而增加价值。
该研究的其他发现
除了有效和高效的数据架构是成功的主要原因外,该研究还发现:
- 开放标准是未来数据架构策略的最高要求。如果受访者可以为他们的业务构建新的数据体系结构,那么与现有体系结构相比,最关键的优势将是更多地采用开源标准和开放数据格式。bob下载地址
- 技术支持的协作正在创造一种有效的数据文化。接受采访的cdo认为,民主化分析和ML功能非常重要。用先进的数据技术将这些推向边缘,将帮助最终用户做出更明智的商业决策——这是强大数据文化的标志。
- ML的业务影响受到其端到端生命周期管理困难的限制。对许多组织来说,扩展ML用例是极其复杂的。55%的受访者表示,最大的挑战是缺乏存储和发现ML模型的中心位置。
- 企业寻求支持数据管理、分析和机器学习的云原生平台。bob体育客户端下载企业在未来两年的首要数据优先事项分为三个领域,这些领域都得到了更广泛采用云平台的支持:改进数据管理,增强数据分析和机器学习,以及扩大所有类型的企业数据的使用,包括流数据和非结构化数据。bob体育客户端下载
从视流分析到客户生命周期价值,从疾病预防到在火星上发现生命,数据是解决方案的一部分,要想在数据和人工智能方面取得成功,组织需要更好的工具来处理整个企业的数据管理基础。下载报告副本深入分析,更好地理解受访者的观点。
归因
1《麻省理工科技评论》构建高性能数据和人工智能组织
2NewVantage bob体育外网下载Partners -大数据与人工智能高管调查
3.〇麦肯锡公司这位高管的人工智能剧本