在数据成为生产要素的今天 , 企业愈发需要更高效、简洁利用数据的方法来快速响应不断变化的商业和情报分析 。 传统方式是数据集成(ETL)后再做分析 , 但目前需求在变化 , 数据源也在变化 , 数据集成系统越来越庞大 , 导致响应变化的速度越来越慢 , 逐渐出现灵活度低、过程复杂、难以管理等问题 。 针对这样的困境 , 企业需要一种能更灵活、快捷地进行数据集成的方法 , 而这种方法就是数据联邦与联邦计算 。
文章图片
通过ETL集成
数据联邦与联邦计算融合 , 一平台即可对同构或异构数据进行访问和分析
“数据联邦”以及“联邦计算”概念的出现 , 使数据集成的方法发生了极大的改善 。 “数据联邦”解决了灵活统一数据视图的问题;“联邦计算”解决了灵活统一数据查询的问题 。 而这两种技术结合可以提供虚拟的数据集成视图 , 以及封装后的数据加工接口 , 使数据消费者(企业应用)无需考虑数据物理位置、数据结构、操作接口和储存能力等问题 , 即可在同一平台上对同构或异构数据进行访问和分析 。
文章图片
通过数据联邦和联邦计算集成
数据联邦可以为企业的数据管理带来以下能力:
1. 数据源松耦合:使系统间处于松耦合关系 , 数据源的添加与删除简单易行;
2. 虚拟化的数据集成:与传统ETL相比 , 数据联邦仅进行了虚拟的集成 , 能更快、更低成本地集成大量数据 , 提升数据集成速度;
3. 数据信息透明:用户不需感知数据源的位置和结构 , 数据源系统不需要做改动 , 可保持原有独立运作 , 数据处理灵活度得到提升;
4. 减少数据冗余:因为通过虚拟视图而不是复制的方式集成 , 极大降低了数据泄露的风险 , 增强了数据的可维护性;
5. 保证数据一致性:数据联邦统一管理数据 , 能更好保证跨库数据一致性 。
数据联邦与联邦计算 , 打破企业数据孤岛
数据联邦和联邦计算解决了“数据孤岛”问题 , 并且避免了传统ETL流程长 , 开发和运维成本较高的缺陷 , 可以满足应用对数据采集有灵活性、实时性要求 , 或者存在异构数据源处理的场景:
快速灵活的采集数据
虚拟的操作型数据库(ODS):通过虚拟操作型数据存储(ODS) , 构建可操作的数据集成视图 , 数据变化会很快反映到ODS , 且联邦的数据源可随具体的分析需求灵活增减变化 , 因此能满足一些轻量、短期的数据分析 , 或者实时灵活的仪表盘应用 。
建造数据中转区:利用数据联邦构建数据中转区 , 可以对大量从生产系统进入数仓的数据进行快速合并 , 极大减少数据复制对生产系统的干扰 。 数据中转区对数据变化的实时存储 , 能记录完整的数据变更信息 。
推荐阅读
- bleu|字节跳动火山翻译上新 38 个稀有语种,翻译能力再升级
- 产品|泰晶科技与紫光展锐联合实验室揭牌
- 空间|(科技)科普:詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 相关|科思科技:无人机地面控制站相关设备产品开始逐步发力
- 机身重量|黑科技眼控对焦23年后回归,升级! 江一白解读EOS R3
- 公司|科思科技:正在加速推进智能无线电基带处理芯片的研发
- 项目|常德市二中2021青少年科技创新大赛再获佳绩
- 视点·观察|科技巨头纷纷发力元宇宙:这是否是所有人的未来?
- 技术|聚光科技旗下临床质谱仪获批医疗器械注册证
- 视点·观察|科技股连年上涨势头难以持续:或已透支未来涨幅