引入数据Lakehouse清洁房间
2022年6月28日 在bob体育客户端下载平台的博客
我们兴奋地宣布数据Lakehouse洁净室,让企业很容易和他们的客户和合作伙伴在任何云privacy-safe的方式。bob体育外网下载参与者在数据清洁房间可以分享和加入他们现有的数据和运行复杂的工作负载在任何语言- Python, R, SQL, Java, Scala -数据,同时保持数据隐私。
与外部数据的需求比以往任何时候都更大,组织正在寻找方法来安全地交换数据和使用外部数据促进数据驱动创新。从历史上看,组织利用数据共享的解决方案与伴侣分享数据和依靠相互信任来保护数据隐私。bob体育外网下载但组织放弃控制数据一旦共享和几乎没有可见性数据是如何被伴侣跨各种平台。bob体育客户端下载bob体育外网下载这让潜在的数据滥用和数据隐私泄露。严格的数据隐私法规,必须对组织控制和可见性如何消耗他们的敏感数据。因此,组织需要一个安全、控制,和私人数据协作的方式,这就是数据清洁房间进入画面。
这个博客将讨论数据洁净室,洁净室的需求数据,我们的愿景为一个可伸缩的数据洁净室砖Lakehouse平台。bob体育客户端下载
什么是数据洁净室和为什么它对你的生意很重要?
数据洁净室提供了一个安全、治理和privacy-safe环境,多个参与者可以加入他们的第一手数据和对数据进行分析,没有其他参与方的风险暴露他们的数据。参与者完全控制他们的数据,可以决定哪些参与者可以执行分析数据不公开任何个人身份信息等敏感数据(PII)。
数据清理房间打开一个广泛的跨产业的用例。日用消费品(CPG)为例,通过加入他们的公司可以看到销售提升自身的广告数据与销售点(POS)事务数据的零售合作伙伴。bob体育外网下载在媒体行业,广告商和销售商可以提供更有针对性的广告,与更广泛的接触,更好的分割,提高广告有效性透明度,同时保护数据隐私。金融服务公司可以跨价值链协作建立积极的欺诈检测或反洗钱战略。事实上,IDC预测G2000,到2024年,65%的企业将表单数据共享的伙伴关系与外部利益相关者通过数据清洁房间增加相互依存,同时保护数据隐私bob体育外网下载。
让我们来看看一些令人信服的理由驾驶对洁净室的需求:
快速变化的安全、合规和隐私的风景:严格的数据隐私法规如GDPR CCPA,以及全面的第三方测量的变化,改变了组织如何收集、使用和共享数据,特别是对于广告和营销的用例。例如,苹果的应用跟踪透明度框架(ATT)提供了苹果设备的用户的自由和灵活性很容易退出应用程序跟踪。谷歌还计划逐步淘汰支持第三方饼干在Chrome2023年底。随着这些隐私法和实践的发展,对数据净化室的需求可能会上升为行业基于PII新标识符,如UID 2.0。组织将试图找到新的解决方案加入数据与伴侣privacy-centric cookie-less方式实现他们的商业目标的现实。bob体育外网下载
合作在分散数据的生态系统:今天,消费者比以往有了更多的选择时,当,以及它们如何与内容。因此,消费者的数字足迹是分散在不同的平台上,迫使公司与他们的合作伙伴创建一个统一的视图的客户需求和要求。bob体育客户端下载bob体育外网下载促进跨组织合作,洁净室提供一个安全的和私人的方式来把他们的数据和其他数据解锁新的见解或功能。
从数据的新方法:大多数组织已经或正在开发盈利策略他们现有的数据或知识产权。与今天的隐私法,公司将寻找任何可能的优势,从他们的数据没有违反隐私条例的风险。这创造了一个机会为数据供应商或出版商加入大数据的数据分析,而不需要直接访问数据。
现有数据洁净室解决方案有大的缺点
随着组织探索各种洁净室解决方案,在现有解决方案有一些明显的缺点,而没有意识到“洁净室”的潜能,满足组织的业务需求。
数据移动和复制:洁净室现有数据供应商要求参与者将数据移动到供应商平台,导致平台锁定和数据存储成本添加到参与者。bob体育客户端下载此外,它是耗时的参与者以一个标准化的格式准备数据之前执行任何分析聚合数据。此外,参与者必须复制的数据在不同的云层和地区促进与参与者在不同的云的合作和地区,导致操作和成本开销。
局限于SQL:现有的洁净室解决方案不运行任意工作负载提供了灵活性和分析往往局限于简单的SQL语句。虽然SQL是强大的和绝对干净的房间,有些时候你需要复杂的计算,如机器学习,与api的集成,或其他工作负载分析SQL只是不会削减它。
很难规模:大多数现有的洁净室解决方案与一个单一的供应商,不是可伸缩扩大合作超过两个参与者。例如,广告客户可能希望获得他们的广告的详细视图的性能在不同的平台上,这需要分析聚合来自多个数据出版商的数据。bob体育客户端下载与局限于两个参与者合作,组织一个洁净室平台上得到部分见解,最终将数据移至另一个洁净室供应商,导致手动排序的操作开销部分见解。bob体育客户端下载
部署一个可伸缩的和灵活的数据与砖Lakehouse洁净室解决方案平台bob体育客户端下载
砖Lakehouse平台提供了一组全面的工bob体育客户端下载具来构建,服务和部署一个可伸缩的和灵活的数据洁净室根据你的数据隐私和治理要求。
安全没有复制的数据共享:三角洲分享,洁净室的参与者可以安全地共享数据从他们的湖泊与其他参与者没有任何数据复制在云或地区。你的数据和你保持它不局限于任何平台。bob体育客户端下载另外,洁净室的参与者可以集中审计和监控他们的数据的使用。
全力支持任意运行工作负载和语言:砖Lakehouse平台提供洁净室参与者灵活bob体育客户端下载地运行任何复杂的计算,如机器学习或数据工作负载在任何语言- SQL, R, Scala, Java、Python -数据。
容易扩展和引导新员工培训经验:洁净室砖Lakehouse平台很容易扩展到多个参与者在任何云或地区。bob体育客户端下载很容易开始,引导参与者通过常见用例使用预定义的模板(如就业、工作流、仪表板),减少时间的见解。
Privacy-safe与细粒度的访问控制:统一目录,您可以启用细粒度访问控制数据和满足你的隐私需求。综合治理允许参与者有完全控制执行的查询或工作在他们的数据。上的所有查询或工作数据上执行Databricks-hosted可信计算。参与者没有获得其他参与者的原始数据,确保数据的隐私。参与者还可以利用开源或第三方微分隐私框架,让你清洁房间不会过时。
了解更BOB低频彩多关于数据砖Lakehouse洁净室,请伸出你的砖账户代表。