1. 首页 > 百科知识

数据中台解决方案(大数据管理平台数据中台解决方案

建设大数据管理中台,按照统一的数据规范和标准体系,构建统一数据采集-治理-共享标准、统一技术开发体系、统一接口API,实现数据采集、平台治理,业务应用三层解耦,并按照统一标准格式提供高效的数据支撑服务,保证上层业务应用系统能够更加专注于业务流与数据流的梳理和重构,从而释放数据压力,节约系统开发周期,提升系统建设效率,满足企业、政府数据精细治理、分类组织、精准服务、安全可控的数据资源体系管理目标。

1.1.2. 需求分析

在业务系统较复杂的情况下,大数据管理平台中的主流的解决方案为技术中台解决方案,主要目的为打破信息孤岛。

在数据中台建设中,我们主要有以下目标:

(1) 去重,避免重复建设,规避重复造轮子/烟囱式架构节约公司成本;

(2) 复用,系统快速复用,标准化、组件化、松耦合,支持前台业务快速迭代、灵活创新;

(3) 做强,能力不断沉淀,服务可被不断滋养,系统可统一把控;

建设数据中体采用如下方法:

(1) 明确中台建设目标及领域;

(2) 梳理价值链并萃取功能点;

(3) 设计中台并梳理前中后关系;

在决策支持方案中,我们采用的数据存储于数据仓库中,有质量管控,决策支持,采用的思路为,有什么样的数据,我们分析什么样的数据;在数据中台方案中我们采用数据驱动的方式,以数据数据价值为驱动,采集更多的数据,是干什么样的事,采集什么样的数据。数据运营优化中,采用规范数据,规范数据应用,优化中台,形成数据应用闭环(数据分析闭环)。

解决数据孤岛,让数据发挥价值,回馈企业。采用以数据为驱动,按照需要什么样的数据,采集什么样的方式。数据的来源以多系统的真实数据和设备采集的实时数据为基础。

在大数据系统(数据中台)中,我们需要对各个子系统静态数据与采集实时流数据进行标准化。在数据治理的过程中,我们采用对不同数据源的接入,提供对元数据的整体管理能力,提供目录和标签的管理,同时针对数据本身提供权限访问,数据探查和质量报告等提高数据治理的能力和水平。

1.1.3. 重难点分析

从布点、收集、存储、刷新、识辨、关联、挖掘、决策、行动、再到反馈,这样一个闭环,才能让数据驱动业务。在数据真实性的前提下,数据驱动业务,才能以数据为驱动,为企业提供经营决策,创造效益。构建大数据分析系统(数据中台),存在一下问题:

(1) 数据采集的正确性确定难,从一端流向另一端,不可避免会产生转化率的问题,如何将非真实的数据与异常的数据过滤掉,收集真实的数据,实现完整的数据闭环,才能让数据挖掘、数据分析变成商业价值。数据真实性的收集,异常数据的过滤,在大数据平台建设过程中,是建设的难点之一。

(2) 技术选型困难,不同业务方有不同的数据需求,技术选型时依据这些客观需求及主观偏好,会选择不同的计算框架和数据组件,搭建一个合适特定行业的业务架构与技术架构,让企业转型变简单,也成为建立大数据分析系统的难点;

(3) 数据需求多样,业务部门需求多样化,包括报表计算、可视化看板、数据探索、数据服务、结果推送、数据采集及迁移、标签体系、用户触达、数据应用;

(4) 数据管理复杂,数据的可解释性、可管理性要求越来越高,各种新存储架构的加入,使得元数据管理和数据流程标准化更加复杂;

(5) 数据权限管理,数据赋能的体系中权限控制是很关键的功能,需要实现各种级别的数据权限,组织架构、角色、权限策略自动化,以及对新的计算架构的权限管理。

(6) 数据成本高量化难,数据成本包括集群成本、运维成本、人力成本、时间成本等,持续系统地计算这些成本需要在系统架构中加入相应的统计接口,而现有的大多数中台并没有将这些接口考虑在内。

(7) 数据标准建立和协调困难,数据标准化建设主要包括,数据建设规范中的数据安全规范、数据存储规范、数据建模规范、数据接入规范;数据消费规范中的数据销毁规范、数据调用规范、数据权限规范;

1.1.4. 重难点解决措施

在大数据的难点分析中,主要有技术性的困难与组织性的针对以上问题,我们提出了一下措施:

1) 对齐业务价值,不在业务场景还没有明确、优先级还不清晰、价值度量体系尚未建立起来的时候,就建立大而全的数据平台,并且把所有的数据都存起来,多考虑投入产出比。大而全的数据平台往往会面临尴尬的局面,一堆功能看上去很有用,应该都能用上,但是缺乏应用场景,真的有了场景,发现也不能开箱即用,还需要众多的定制化。

2) 从小数据、小场景做起,数据中台是面向场景而非面向技术的,这种与客户的业务、企业的结构和信息化发展阶段有着紧密的相关性的业务基础架构,是很难买一个大而全的产品来一劳永逸解决的。利用低代码平台内置的组件及场景,构建3D可视化界面,实现高效、高质量软件开发,同时结合数据中台的开发工具,为低代码平台所搭建的场景应用提供数据。

3) 在技术选型上,建立在Hadoop集群上,数据集成、数据准备、数据挖掘(全量运算)、数据分析、数据可视化(数据输出),形成一个循环的过程,连接数据就可以实时得到分析结构。

以数据中台结合低代码平台的思路,可让所有人(特别是管理者和业务人员)都有能力开发在线的协作和管理工具,从小数据、小场景做起,使组织的效率和协作能力获得根本性提升。当低代码平台兼具低代码数据平台和低代码开发平台能力时,可以使企业数字化管理得到高效进展。

本文链接:http://hainhha.cn/bk/1839.html

版权声明:本文内容由互联网用户自行发布,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请联系qq:1442716096举报,一经查实,本站将立刻删除。

联系我们

在线咨询:点击这里给我发消息

微信号:weixin888

工作日:9:30-18:30,节假日休息