数据中台建设的四大组成部分
数据中台四大组成部分
数据中台从战略构建维度来说,包括数据资产管理平台、数据智能分析平台、资源发布与展示平台、资源服务共享平台等部分:数据资产管理平台的本质是将数据资产化;数据智能分析平台的本质是将数据智能化;资源发布与展示平台的本质是将数据场景化;资源服务共享平台的本质是将数据服务化。
(1)数据资产管理平台
数据资产管理平台主要是为了构建媒体数据资产的管控能力,是一个集数据采集、融合、治理、组织管理、智能分析为一体的数据平台,最终数据将以服务方式提供给前台应用,以提升业务运行效率、持续促进业务创新为目标。
数据资产管理平台可实现对企业数据、产品数据、运营数据、行为数据,以及外部互联网资源和等各类数据资源有效汇聚与管理,通过建设统一的数据标准与数据资源管理,实现统一的基础数据服务给业务方。同时,以数据多样性的全域思想为指导,实现内容资源的数据化,充分挖掘数据之间的关联关系,提升数据的潜在价值。利用自动专题、定制专题等功能实现业务库、专题库的快速生成,提供敏捷建库的能力。
(2)数据智能分析平台
据智能分析平台提供认知智能和业务智能两种类型的AI能力。其中,认知智能主要是基于机器学习、深度学习及迁移学习等人工智能技术,提供自然语言处理、图片识别、OCR识别和视频分析等基础能力。业务智能以基础智能为基础,对基础智能进行组织封装,包含一系列业务上通用的基础服务能力,对数据层面提供数据的深层次加工,对业务层面提供业务的深层次分析,业务智能包括智能推荐、用户画像、内容标引、专题分析、内容审校和智能专题等。通过大数据中心能力平台的构建,提升媒体机构智能处理能力,有助于实现能力复用,降低开发成本,实现产品创新。数据智能分析平台的目标是构建媒体AI能力,对社内外提供AI能力支撑,实现媒体从数字化到智能化的转型升级,为媒体生产、智能发布、媒体运营、传播效果评估和舆情分析提供智能辅助。
(3)资源发布与展示平台
可以说资源发布与展示平台是整个媒体数据中台的脸面,对于媒体机构而言,可以将数据和能力统一封装后集中展示,是服务于相关用户的共享资源统一门户,实现共享资源的统一呈现,以及资源的检索、资源的灵活组织与页面发布,同时提供灵活的权限管理,打造一门式服务平台。资源发布与展示平台主要包括两个部分,前台资源展示部分和后台资源发布部分。前台展示为媒体数据中台的内容数据提供浏览和使用,包括网站门户首页、浏览频道、浏览文章和智能检索能力集成等。后台管理主要是用户和内容的管理,包括内容管理、菜单管理、模板管理、标记管理和用户管理等。
(4)资源服务共享子平台
当媒体机构有效整合分散异构的信息资源,消除信息孤岛桎梏,形成了自己的数据资产和AI能力以后,接下来就需要将这些能力对外提供服务了,实现他们的价值,资源服务共享的需求应运而生了。目前企业资源共享主要面临三个问题,一是数据需求方因为数据格式不统一、数据提取效率低、无法直接获取数据。二是数据所有方由于开发效率低、数据授权管理体系不完善、提供数据服务方式不够快捷、调用关系复杂等问题也无法高效地管理。三是数据需求方与数据所有方无法实现无缝数据互联互通,且提供数据服务方式单一,无法满足大数据时代的多场景共享需求。
资源服务共享平台会把数据能力、分析能力以微服务的形式封装成统一口径的API服务接口,从而对外提供数据服务与能力的支撑,形成数据服务资源目录,实现数据接口的开始快速开发与对外发布,实时响应业务端的数据服务能力要求。通过简单可视化配置的方式就可以实现数据接口API的创建、API发布、API版本管理、API文档管理等问题,降低日常运维成本。因此,整个媒体数据中台由以上四个平台进行相关支撑与配合,共同构成数据中台整体系统架构,贯穿数据采集、存储、分析和发布等的全流程。
从现在的企业数字化转型趋势来看,数据中台比业务中台更快落地,因为业务中台跟组织结构关联系太紧密,但是,数据中台落地的最大的困扰是,如何快速实现业务价值,平衡投资与收益,从而即能够有顶层规划,持续演进,又能够快速产生业务价值。
大数据为何落地难
很多时候,企业在构建业务创新场景是很容易陷入两个极端,一个是从顶向下,大而全,这样的弊端是,速度慢,跟不上价值的变化。一个是从下往上,缺少全局思考,这样的弊端是容易形成数据孤岛。
普遍观点认为:大数据是一种规模大到在获取、存储、管理、分析方面大大超出传统数据库软件工具能力范围的数据集合,具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。对企业而言,大数据主要涵盖与企业所处行业相关的竞争环境、盈利模式、业务模式、客户消费模式等一系列内外部经营相关的信息流,是来自于企业外部的社会数据。
身处万物互联时代,大数据的演进已经成为不可逆的浪潮。我们看到,整个企业运行过程,企业围墙壁垒变得越来越小,甚至有可能被瞬间被打破。获取资源的过程和内部交易的过程,都会依赖大数据来定义客户,完成交易。整个企业不再单单是产品的制造者,而要整合外部平台。这必将令大数据的价值日益凸显,也是近年来企业大数据应用风潮日盛的根本原因。理想的数据中台架构,是什么样的
我们先来看下网易严选的数据体系(上图),就更清楚数据中台的定位了。数据中台的下层是数据平台,数据平台主要解决跟业务无关的问题,主要是大数据的存储和计算问题。数据中台的上层就是数据前台,主要包括BI报表、数据产品和业务系统。数据中台首先赋能分析师通过BI报表的形式来驱动业务精细化运营。
可以看到,数据中台的主要作用在于将企业内部所有数据统一处理形成标准化数据,挖掘出对企业最有价值的数据,构建企业数据资产库,对内对外提供一致的、高可用大数据服务。下面重点来看看亿信华辰根据多年大数据经验的累积及数据中台的项目实践总结出来的数据中台技术架构,主要分为以下5个部分:
数据汇聚
数据中台不产生数据,数据其实来源于各个业务系统、数据库、网络环境等,是日常操作所产生的数据,多数存储在网络环境和存储平台中,且各个系统之间独立存在,很难直接使用,需要去进行数据抽取、采集、整合和处理,将异构数据采集到统一的平台进行存储,进而通过建模将数据进行加工处理,变为对业务有用的数据,只有这样才能有效汇聚数据,形成数据中台的统一数据资源。
数据存储计算
将采集补录、抽取整合的业务数据汇聚后,以数据形态存储,当下大数据发展的节奏让数据库技术也由传统关系型数仓架构,向Hadoop分布式架构演变,并随着业务实时性决策需要,推动融合MPP、SQLonHadoop、流处理等大数据技术服务的实时流式计算存储应用,实现海量数据高效统一管理,为企业提供实时数据支撑。
数据治理
数据平台建好后,业务数据可能杂乱无章,数据质量低,需要经过一系列的治理提高数据质量,将数据统一起来进行管控,这个过程中就包括数据模型管理、数据标准管理、元数据管理、数据质量管理、生命周期管理、数据安全管理。
数据模型管理是根据业务对数据进行分层、整合处理,方便数据的分析应用;元数据管理方便技术人员进行分析数据来龙去脉以及对数据库底层数据质量进行把控;数据标准用来指定一系列标准,对元数据进行标准的检查;数据质量是根据一系列规则,对库表数据进行校验和整改;数据生命周期和安全贯穿整个流程,为数据保驾护航。
数据资产管理
经过数据汇聚、数据治理,已经形成的数据资源需要有统一的地方去进行管理,方便业务人员理解数据,这时就需要建立数据资产管理体系,需要先根据业务先形成资产目录,数据拥有者将自己的数据资产挂到对应的类目树,梳理成一套完整的资产目录,将数据资产开放出去,展示给业务人员或外部人员,提供企业的数据意识。
数据服务
经过前期一系列梳理工作,数据还没有真正发挥它的价值,而数据服务则是将数据资产转化成一种服务能力,那么如果我们需要调用某个数据资产要怎么操作使用?数据提供方又如何将数据资产提供给别人使用?这就是我们说的数据服务功能,帮助用户实现数据规划咨询,数据资产服务开放及数据可视化展示应用等。
在数字化转型的大潮中,大数据将随着数据中台的落地而迎来真正的发展机遇。基于中台架构,大数据将与业务数据、财务数据结合在一起,循着轻量级、场景化、实时性、自动化、智能化的方向,共同赋能企业业务发展。
释明心面相分析法源深的人就是他这个样子释明心是妙智寺的和尚,从我们大众的角度去看的话,好像没有几个年轻人是自愿到寺院去出家的,可是释明心偏偏就是那个比较独特的人,感觉但凡是发愿深的人就是他这个样子,好多人说看到他的……
华为暂停5G的发展,那世界也就暂停了全华制说实话华为p50的发布让很多人措不及防,麒麟芯片确实是有了,但是多半是以前的残次品。毕竟5G的开发者,在万众瞩目的情况下发布4G手机,这波操作属实把我看得有点迷?……
机械硬盘哪个好?买1T好还是2T好?注意别买到叠瓦盘机械硬盘相对于固态硬盘的优势在于价格便宜、存储空间大、寿命更长、性能更稳定,最主要的是一但发生意外很容易进行数据恢复,对于机械硬盘怎么选,买1T还是买2T,亿说电脑张一亿有话要……
渗透之c君是男是女照片看上去是男的简介上是女的渗透之c君是男是女照片,看到她照片的第一时间,更多的反应会以为这个一个男生,而且是一个长得非常漂亮的男生,其实渗透之c君是一个女孩子。渗透之c君是B站知名恐怖游戏up主,不仅仅……
冯宝宝和张楚岚关系亦师亦友好多人组cp冯宝宝和张楚岚两个人其实是动漫《一人之下》的主角,只是作者的设定让很多人都无法想象,也不知道背后到底是掺杂了什么利益,在两个人身上太多的秘密,从而很难在剧中知道两个人有什么各种……
法兰西最后的英雄夏尔戴高乐(2)对于战争,贝当与戴高乐都有一套自己的见解,这从他们的指挥上就可以看出,贝当认为战争最重要的是火力,他更偏向于连绵不断的炮火压制和难以逾越的战壕,以逸待劳,坐收渔利。而戴高乐却认……
固定式工业扫描器的常见应用及优势固定式工业扫描解决方案门为无操作人员长期值守的应用场合而设计并广泛用于各种行业。固定位置扫描器提供了多种输出数据使用选择之一,几乎可在现场总线协议中与您的商用PC、服务器或ER……
即将发布的iPhone12包装盒里面没有充电器马上就要到苹果一年一度的超级新品发布会了,而且近期的爆料也是一直不断,现在又有一个猛料苹果连充电头的钱都要省了,我们目前还不清楚爆料的真实性,不过不排除这将会成为一个现实的问题……
秦奋为什么叫沪上皇他到底什么背景做到如此嚣张一直和王思聪相提并论的超级富二代秦奋,他的感情生活虽然没有王思聪那样隔三差五的换女朋友吧,可也因为和圈内多名女星扯上关系而引起大家关注,因此关于他的八卦大家还是挺感兴趣的,包括……
音响效果不好主要有这10个原因终于找到解决方法阜新声艺视听我最喜欢的一句话是:让我们控制那些无法控制的事,并尽力解决它们吧!我想知道是谁第一个说了这样的话,我视他为英雄。我写这篇文章正是为了此目的。因为我认为音质不佳通常是我无法控制的……
林志玲个人资料介绍出现在日本综艺暴瘦怎么回事林志玲在很多人心中是女神一样的存在,在林志玲的内心中一直是认为自己会很好吧!网友也是希望,在感情中很难是有什么归属,在事业中的林志玲很成功了,那么就来简单的看一看林志玲个人资料……
奶茶妹妹章泽天,成功跻身豪门顶流,她远没有想象中的那么简单近日,奶茶妹妹章泽天现身某综艺一事引起了不小的争议,有人质疑有人祝福,但不可否认的是,如今的章泽天早已不是当年12年前那个奶茶妹妹。28岁就成了最有钱的90后,章泽天远没……