谈谈如何跨越数据架构的漩涡

admin 2022年11月17日01:24:06安全开发评论4 views1432字阅读4分46秒阅读模式

谈谈如何跨越数据架构的漩涡

作者:晓晓  来源:数据驱动智能

全文共1279字,建议阅读4分钟

谈谈如何跨越数据架构的漩涡

如果让当前数据工程领域的人绘制一个“现代”数据架构,几乎肯定会得到如下结果:

谈谈如何跨越数据架构的漩涡

这样的数据架构格局反映了基于系统的架构设计方法。这种基于系统的架构有何现代感?它已经存在了将近 10 年,并且没有太大变化。该架构由三个主要组件组成:数据仓库、数据湖和数据集市(或服务层)。

首先是数据仓库。之所以需要拥有独立的数据集市和数据湖,是因为那些传统的数据仓库无法扩展以满足置于其上的不同的、相互竞争的应用场景。数据集市的出现是因为中央数据仓库无法扩展以满足最终用户的不同应用和高并发需求。然后是数据湖,因为企业数据仓库无法存储和处理大数据(在数量、种类和速度方面)。

创建数据湖和数据集市是为了满足当时数据工程领域的实际需求。即使在今天,数据仓库仍然无法支持企业的所有不同应用。即使对于较新的云数据仓库也是如此。这些不同的数据系统导致了孤立的数据,这对于企业从中获取商业价值和安全治理具有非常大的挑战。

01

以不同的方式思考数据

为了优化数据架构,我们需要停止根据现有类型的系统来思考数据,例如遗留数据仓库、数据集市和数据湖。这样做没有帮助,而且会在企业数据环境中引入人为的边界。

以下是关于如何以不同方式思考数据的建议。在较高级别,可以将所有企业数据分组到以下逻辑数据区域:

谈谈如何跨越数据架构的漩涡

因此,让我们开始按照这样的区域而不是系统来考虑数据。旧的基于系统的思维将继续让数据工程专业人员陷入旧的做事方式,并将继续分裂数据格局。采用新的思维模式,无需将数据区域划分为不同的孤立数据系统,例如:

谈谈如何跨越数据架构的漩涡

当像单一平台可以打破这些孤岛时,为什么还要用以前的思路思考呢?我们不应考虑系统问题,而应考虑为所有企业数据建立一个单一平台,例如

谈谈如何跨越数据架构的漩涡

02

构建企业统一的数据平台

我们通常使用多个名称来标识数据的位置和使用方式,包括操作数据存储 (ODS)、企业信息工厂 (CIF)、数据仓库、数据集市等等。每个术语代表在企业内对数据进行分组的不同方式。但不幸的是,今天那些不同的数据组代表了不同的数据系统。让我们开始根据区域(或数据类型)而不是系统来考虑数据。

企业数据架构的目标绝不是将数据格局拆分为多个不同的系统,特别是拆分为数据仓库、数据集市和数据湖。我们需要停止做一些事情,因为“他们总是那样做”,并重新思考我们正在努力完成的事情。我们的目标应该是为企业的所有数据建立一个统一的平台,例如,如下所示:

谈谈如何跨越数据架构的漩涡

这样的数据平台可以支持所有的数据仓库、数据湖、数据工程、数据交换、数据应用程序和数据科学的应用场景,我们可以将数据仓库、数据集市和数据湖整合到一个平台中。

大多数“云”数据仓库都是 20 多年前设计的,并且已经迁移到云端。他们无法真正利用云的可扩展性。而那些最近设计的系统不提供完整的企业数据管理体验,提供治理、符合 ACID 的交易、实时数据共享、完全托管服务等。现在是时候开始以不同的方式思考我们的数据了。

【END】
最后,感兴趣的公众号后台回复“资料”,我们整理了6个G数据平台、数据仓库、数据仓库、数据治理、企业数据化管理案例,供大家免费领取!

往期精彩推荐

《数字化前沿》第6期:数字化人才现状和培养

2022-11-11

谈谈如何跨越数据架构的漩涡

谈谈如何从数据战略推动数据价值实现

2022-11-10

谈谈如何跨越数据架构的漩涡

数字化建设成败始于系统选型

2022-11-09

谈谈如何跨越数据架构的漩涡

腾讯欧拉数据治理平台思考与实践

2022-11-08

谈谈如何跨越数据架构的漩涡

重塑IT和业务未来的趋势

2022-11-07

谈谈如何跨越数据架构的漩涡

谈谈如何跨越数据架构的漩涡

原文始发于微信公众号(商业智能研究):谈谈如何跨越数据架构的漩涡

特别标注: 本站(CN-SEC.COM)所有文章仅供技术研究,若将其信息做其他用途,由用户承担全部法律及连带责任,本站不承担任何法律及连带责任,请遵守中华人民共和国安全法.
  • 我的微信
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2022年11月17日01:24:06
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                  谈谈如何跨越数据架构的漩涡 http://cn-sec.com/archives/1412046.html

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: