Data JellyFish 首次发布,分布式数据调用中心

栏目: 软件资讯 · 发布时间: 4年前

内容简介:Data JellyFish 译文(数据水母)是数据调度中心,实现系统与系统之间,服务与服务之间,与第三方之间的数据100%准实时同步。 用途 与第三方的数据同步 内部系统之间的数据同步 特性 数据100%传输,不丢失任何一条...
Data JellyFish 译文(数据水母)是数据调度中心,实现系统与系统之间,服务与服务之间,与第三方之间的数据100%准实时同步。

用途

  1. 与第三方的数据同步

  2. 内部系统之间的数据同步

特性

  1. 数据100%传输,不丢失任何一条数据

  2. 实时性高,相比定时任务每5分钟,半天,一天,而言,在秒级实现同步

  3. 对接成本低,增量同步时提供一个增量查询接口,全量同步时提供一个全量查询接口

  4. 无中心化的分布式任务,实现任务分片能力,达到并发处理,实现快速调度的目的

  5. 每一条数据都有同步的成功或失败记录,历史可查

  6. 自定义重试策略,固定时长,指数级重试

  7. 完善的监控信息,有多少同步了,有多少未同步,

原理

以系统A同步数据到系统B为例,A系统提供一个http接口,实现数据增量或全量的抓取,”Data JellyFish 数据高度中心“ 简称 "DJ" ,DJ 启动生产者任务线 程T1调用A系统的http接口,将数据存储在自己的中间表中,同时,DJ启动消费者任务线程T2调用B系统提供的另一个接受数据的HTTP接口,来完成数据调度

架构图

Data JellyFish 首次发布,分布式数据调用中心

传统数据同步方案比较

  1. RCP, http协议直接访问第三方,内存中重试三次后,消息丢失

  2. 定时任务数据同步,延迟高,无分片并发能力

  3. MQ,Kafka等,研发对接(保证数据准确传输的)成本高,无流水记录,无法直接回塑

  4. 每次数据对接都需要重复开发,不具备可用性

样例图

Data JellyFish 首次发布,分布式数据调用中心

Data JellyFish 首次发布,分布式数据调用中心

问题反馈

微信号: freedom-Union
邮件交流: kobe96688@126.com
报告issue: https://gitee.com/alenfive/data-jelly-fish/issues

Data JellyFish 首次发布,分布式数据调用中心


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Beginning Google Maps API 3

Beginning Google Maps API 3

Gabriel Svennerberg / Apress / 2010-07-27 / $39.99

This book is about the next generation of the Google Maps API. It will provide the reader with the skills and knowledge necessary to incorporate Google Maps v3 on web pages in both desktop and mobile ......一起来看看 《Beginning Google Maps API 3》 这本书的介绍吧!

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具