走好数据中台最后一公里,为什么说数据服务API是数据中台的标配?
原文链接:走好数据中台最后一公里,数据服务API是数据中台的标配
视频回顾:点击这里
课件获取:点击这里
一、数据服务API建设背景
在数字化转型的时代背景下,新需求的大量增长、新技术的不断迭代,“互联网化、数字化”进程的不断深入,越来越多的业务被迁移到互联网上,产生大量的业务交互和对外服务需求,对API接口的需求与日俱增,如何快速提升企业数据开放共享能力,是企业面临数字化转型的关键命题。
传统的方式如后端开发人员通过 Java 或 Python 等语言进行编写来生成 API 接口,开发周期过长,运维成本太高,已经不能满足企业的需求。企业在数字化转型过程往往面临诸多难题:
为了更多的解决这些问题,我们在企业开放、共享数据过程中需要确定以下目标:
快速构建 API
系统稳定、数据安全
易于集成使用
授权交付
低成本运维
二、数据服务平台建设方法论
在分享数据服务平台建设方法论之前,我们先了解一下常见的数据中台应用架构:
数据服务层作为数据中台整体应用架构中处于中间地位,将数据计算层的结果通过数据API的形式对外共享给数据应用层。数据服务层主要有3个作用:
1、当数据已被整合和计算好之后,需要提供给产品和应用进行数据消费;
2、为了有更好的性能和体验,构建数据服务层,通过接口服务化方式对外提供数据服务;
3、满足应用各种复杂的数据服务需求(简单数据查询服务、复杂数据查询服务、实时数据推送)
而在数据服务层对外提供服务的过程中,经历了从“DWSOA”到“OneService”的演变过程。
从“OneService”数据服务本身来说,主要是解决异构数据源、重复建设、审计运维困难、理解困难这4个问题,通过“OneService”服务,实现主题式数据服务、统一且多样化数据服务、跨源数据服务的服务目标。
因此,若想构建一个完整的数据服务平台,需要具备以下6个要素:
便捷开发,具备低代码化的开发能力
易于管理,API管理操作可视化查询API
易于使用,具备规范化的文档描述信息
安全稳定,服务调用追踪监控、服务使用审计、鉴权等
易于运维,测试、纠查、问题规则配置
性能,负载均衡、高并发
三、基于OneService构建数据体系
了解完“OneService”理论,接下来为大家分享如何基于OneService构建数据体系,主要遵循以下步骤:
● 第一步:API定义
API的定义包括:快速配置参数、选择排序字段、API类型多样性、数据预览、复制字段等方面。
API的类型又包括生成API、注册API、服务分组及服务编排这4个方面。
● 第二步:API发布
API的发布包括测试、提交至API网关、发布至API市场、版本管理这几个方面。
● 第三步:API调用
API调用包括数据预览、API申请、审批、下载接口文档、正式调用这几个方面。
● 第四步:调用监控
业务上:对API调用的统计数据进行深入的分析,进而得出关键信息;
技术上:通过API调用的统计图表进行分析可以发现,哪些API最受欢迎;而哪些几乎无人问津,应该被淘汰;
安全上:对调用IP、调用次数进行监控,对调用者进行溯源。
● 第五步:数据安全
数据安全包括:统一认证鉴权、传输加密、安全组、角色分配、行级权限、调用审批等。
上述的数据服务API的建设过程,其实正是袋鼠云自研的数栈数据服务EasyAPI产品的落地实践过程。
数据服务(EasyAPI),高效的企业级数据服务产品,通过双模式可视化配置生成与注册API,快速构建OneService数据共享服务,形成企业级的API市场和API服务管理平台,提高数据开放与共享效率。
同时产品具备以下特点:
- 快速构建
配置即开发,支持0代码、低代码快速构建API
- 安全性高
用户认证、监控、传输加密、API级别安全策略、行级权限、角色分配、调用申请审批、调用周期次数的限制、黑白名单
- 灵活度高
“服务编排“可对不同的API进行组合,支持集成python进行数据处理、支持“条件判断”节点,选择符合条件的分支
- 配置灵活
横向拓展API网关、缓存
- 低成本运维
采用Serverless架构,只需关注API本身的业务逻辑,很少考虑运行环境等基础设施
四、API实施落地案例
接下来我们分享三个使用客户的实际案例,为大家介绍EasyAPI如何切实的帮助客户解决问题。
● 金融:某证券公司应用数据服务
● 学校:某大学应用数据服务
● 零售:某网络公司应用数据服务
原文来源:VX公众号“数栈研习社” 袋鼠云开源框架钉钉技术交流群(30537511),欢迎对大数据开源项目有兴趣的同学加入交流最新技术信息,开源项目库地址:https://github.com/DTStack
走好数据中台最后一公里,为什么说数据服务API是数据中台的标配?相关推荐
- ajax 获取java数据_如何使用Ajax从服务端获取数据
在本文中将给出一个例子来介绍使用 Ajax 技术从服务端获得数据的三种方法.这个例子很简单,就是两个选择框(html中的标签),通过选中第一个select的某一项后,会从服务端得到一些数据,并加载到第 ...
- 基于Echarts+HTML5可视化数据大屏展示—电子商务公共服务平台大数据中心
- Java 接受reactjs数据_ReactJS:从API获取数据
我在使用简单的标准模板获取API数据的React应用程序中从API获取数据时遇到了困难 . 控制台日志返回的结果是空白数组 . import React, {Component} from 'reac ...
- 怎样修复小米服务器,小米手机照片误删怎么恢复?教你巧用小米云服务回收站恢复数据...
如今,智能手机已经成为了我们生活必备的工具,而我们也习惯于将各种个人数据存放在手机之上,方便日后使用. 然而,手机储存空间是有限的,为避免冗杂信息沉积,不少人都会定期对手机数据进行清理以释放存储空间. ...
- 网络游戏《丛林战争》开发与学习之(二):粘包分包现象以及服务端解析数据
本篇博客主要介绍数据发送和接收时遇到的粘包和分包现象,以及实现服务端解析收到消息的代码,本节的代码是在第(一)部分的基础上进行的,可以先浏览下第一部分https://blog.csdn.net/s13 ...
- 大数据中台架构之道: PaaS + DaaS +DA 全域中台架构详解
你被大数据杀过熟吗?当今企业对数据的重视度越来越高,在大数据系统架构设计层面,大数据架构师需要完成技术决策.技术选型,还需要根据不同时期的业务场景,不断优化和演进软件架构,最终攻克技术难点.化解技术风 ...
- 千字搞定数据产品选型!报表、BI、大数据平台、中台都在这了
来吧,废话不多说,直接上干货! 到现在还在做报表的,已经很少了.上面三家都是中国主流报表厂商.不过在国外BI厂商的市场压力面前,也都做了BI套件.主流的就帆软,水晶报表最近见的少了. 普通小厂,1.2 ...
- 【数据中台】你的企业是否需要建设数据中台?
最近在学习极客学习数据中台相关课程,现整理部分学习笔记分享给大家. 目录 建设中台前,面临哪些挑战? 中台可以解决以上问题吗? 数据中台如何解决这些问题? 建设数据中台适合那些企业? 建设中台前,面临 ...
- 比「数据中台」热门,国外爆火的「数据编织」到底是什么?
来源:谈数据,作者:石秀峰 全文共4701个字,建议阅读需10分钟 听过数据治理,你听过Data Fabric(数据编织)吗?在国内谈论的比较少,但据说在国外已经很火了,就如同2019年国内的&quo ...
- 从招行数据架构调整,详解企业急需的数据中台与5大数字化转型
随着企业对于数据重要性的认知越来越深刻,很多大型企业都已经有了数据管理部门,初衷是希望通过数据管理部来构建企业级的数据管理体系,组织,标准,系统,来解决数据一致性的问题,更好的利用数据,但是,近两年经 ...
最新文章
- clickhouse官方文档_ClickHouse和他的朋友们(1)编译、开发、测试
- 当PullToRefreshScrollView里面嵌套ListView
- 如何扩展以太坊:分片
- c语言线程面试题,java多线程面试题 PDF 下载
- 苏州科技大学计算机学院 李双娴,苏州大学计算机科学与技术学院第十二次研究生代表大会顺利召开...
- Mysql5.7.20使用group by查询(select *)时出现错误--修改sql mode
- java替换数组中的元素_如何使用Java 8流快速替换列表中的元素
- js中的new file_JS中的new操作符
- 【今日CS 视觉论文速览】Thu, 13 Dec 2018
- linux有名管道 复用,关于LINUX有名管道的多路复用有关问题
- 实现 iOS UICollectionView的事件透传
- ie为什么那么垃圾(不是ie垃圾,是ie用的人太多了,很多在用低版本)
- MFC中CString.Format的详细用法
- 分享几个免费的开源邮件服务器软件
- RF 无法连接到服务器,这可能由于连接的服务不存在,TCP 错误代码 10061
- 每个人心中都有一个Eumenides
- 内存访问错误造成Segmentation fault (SIGSEGV)
- 江苏省发布大数据引领推动融合发展专项行动计划
- jspdf添加宋体_pdfjs 引入字体失败
- 如何通过OPENROWSET函数向SQL Server导入带工作组(mdw)保护的Access数据库数据(转)...