内容简介:无论是互联网应用或者企业级应用,都充斥着大量的批处理任务。常常需要一些任务调度系统帮助开发者解决问题。随着微服务化架构的逐步演进,单体架构逐渐演变为分布式、微服务架构。在此的背景下,很多原先的任务调度平台已经不能满足业务系统的需求。于是出现了一些基于分布式的任务调度平台。这些平台各有其特点,但各有不足之处,比如不支持任务编排、与业务高耦合、不支持跨平台等问题。非常不符合新一代微服务架构的需求,因此宜信公司开发了微服务任务调度平台(SIA-TASK)。SIA是宜信公司基础开发平台Simple is Aweso
导读:无论是互联网应用或者企业级应用,都充斥着大量的批处理任务。随着微服务架构的逐步推进,很多原先的任务调度平台已经不能满足业务系统的需求。宜信公司开源了微服务任务调度平台,其具有支持任务编排、支持跨平台等优秀特性,本文对该平台进行了说明。
背景
无论是互联网应用或者企业级应用,都充斥着大量的批处理任务。常常需要一些任务调度系统帮助开发者解决问题。随着微服务化架构的逐步演进,单体架构逐渐演变为分布式、微服务架构。在此的背景下,很多原先的任务调度平台已经不能满足业务系统的需求。于是出现了一些基于分布式的任务调度平台。这些平台各有其特点,但各有不足之处,比如不支持任务编排、与业务高耦合、不支持跨平台等问题。非常不符合新一代微服务架构的需求,因此宜信公司开发了微服务任务调度平台(SIA-TASK)。
SIA是宜信公司基础开发平台Simple is Awesome的简称,SIA-TASK(微服务任务调度平台)是其中的一项重要产品,SIA-TASK契合当前微服务架构模式,具有跨平台,可编排,高可用,无侵入,一致性,异步并行,动态扩展,实时监控等特点。
项目简介
SIA-TASK是任务调度的一体式解决方案。对任务进行元数据采集,然后进行任务可视化编排,最终进行任务调度,并且对任务采取全流程监控,简单易用。对业务完全无侵入,通过简单灵活的配置即可生成符合预期的任务调度模型。
SIA-TASK借鉴微服务的设计思想,获取分布在每个任务执行器上的任务元数据,上传到任务注册中心。利用在线方式进行任务编排,可动态修改任务时钟,采用HTTP作为任务调度协议,统一使用JSON数据格式,由调度中心进行时钟解析,执行任务流程,进行任务通知。
关键术语
-
任务(Task): 基本执行单元,执行器对外暴露的一个HTTP调用接口;
-
作业(Job): 由一个或者多个存在相互逻辑关系(串行/并行)的任务组成,任务调度中心调度的最小单位;
-
计划(Plan): 由若干个顺序执行的作业组成,每个作业都有自己的执行周期,计划没有执行周期;
-
任务调度中心(Scheduler): 根据每个的作业的执行周期进行调度,即按照计划、作业、任务的逻辑进行HTTP请求;
-
任务编排中心(Config): 编排中心使用任务来创建计划和作业;
-
任务执行器(Executer): 接收HTTP请求进行业务逻辑的执行;
-
Hunter:Spring项目扩展包,负责执行器中的任务抓取,上传注册中心,业务可依赖该组件进行Task编写。
微服务任务调度平台的特性
-
基于注解自动抓取任务,在暴露成HTTP服务的方法上加入@OnlineTask注解,@OnlineTask会自动抓取方法所在的IP地址,端口,请求路径,请求方法,请求参数格式等信息上传到任务注册中心(zookeeper),并同步写入持久化存储中,此方法即任务;
-
基于注解无侵入多线程控制,单一任务实例必须保持单线程运行,任务调度框架自动拦截@OnlineTask注解进行单线程运行控制,保持在一个任务运行时不会被再次调度。而且整个控制过程对开发者完全无感知。
-
调度器自适应任务分配,任务执行过程中出现失败,异常时。可以根据任务定制的策略进行多点重新唤醒任务,保证任务的不间断执行。
-
高度灵活任务编排模式,SIA-TASK的设计思想是以任务为原子,把多个任务按照执行的关系组合起来形成一个作业。同时运行时分为任务调度中心和任务编排中心,使得作业的调度和作业的编排分隔开来,互不影响。在我们需要调整作业的流程时,只需要在编排中心进行处理即可。同时编排中心支持任务按照串行,并行,分支等方式组织关系。在相同任务不同任务实例时,也支持多种调度方式进行处理。
微服务任务调度平台设计
SIA-TASK主要分为五个部分:
-
任务执行器
-
任务调度中心
-
任务编排中心
-
任务注册中心(zookeeper)
-
持久存储(Mysql)
SIA-TASK的主要运行逻辑:
-
通过注解抓取任务执行器中的任务上报到任务注册中心
-
任务编排中心从任务注册中心获取数据进行编排保存入持久化存储
-
任务调度中心从持久化存储获取调度信息
-
任务调度中心按照调度逻辑访问任务执行器
UI预览
首页提供多维度监控
-
调度器信息:展示调度器信息(负载能力,预警值),以及作业分布情况。
-
调度信息:展示调度中心触发的调度次数,作业、任务多维度调度统计。
-
对接项目统计:对使用项目的系统进行统计,作业个数,任务个数等等。
调度监控提供对已提交的作业进行实时监控展示。
-
作业状态实时监控:以项目组为单位面板,展示作业运行时状态。
-
实时日志关联:可以通过涂色状态图标进行日志实时关联展示。
任务管理:提供任务元数据的相关操作
-
任务元数据录入:手动模式的任务,可在此进行录入。
-
任务连通性测试:提供任务连通性功能测试。
-
任务元数据其他操作:修改,删除。
Job管理:提供作业相关操作
-
任务编排:进行作业的编排。
-
发布作业: 作业的创建,修改,以及发布。
-
级联设置:提供存在时间依赖的作业设置。
日志管理
-
本地日志:日志界面简洁,查询快速;日志提供7天的调度日志,以供快速查询。
开源地址
-
https://github.com/siaorg/sia-task
GIAC全球互联网架构大会深圳站将于2019年6月举行,届时有更多微服务,云原生等前沿技术 关 演讲。参加 2019年GIAC深圳站,可以了解业界动态,和业界专家近距离接触。
参加 GIAC,盘点2019年最新技术,目前 购买8折优惠 ,多人购买有更多优惠。识别二维码 了解大会更多详情。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网
猜你喜欢:- AI「王道」逻辑编程的复兴?清华提出神经逻辑机,已入选ICLR
- 加密传输才是王道!谷歌在 Android P 上默认启用 TLS
- 独家 | Momenta首次对外详解高精度地图:快速规模化更新是王道
- MIT有个做披萨的GAN,登上了CVPR:加香肠、去橄榄、再烤熟,分层才是王道
- 前后端完全分离初探
- thrift 初探
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
Web Standards Creativity
Andy Budd、Dan Rubin、Jeff Croft、Cameron Adams、Ethan Marcotte、Andy Clarke、Ian Lloyd、Mark Boulton、Rob Weychert、Simon Collison、Derek Featherstone / friends of ED / March 19, 2007 / $49.99
Book Description * Be inspired by 10 web design lessons from 10 of the world's best web designers * Get creative with cutting-edge XHTML, CSS, and DOM scripting techniques * Learn breathtakin......一起来看看 《Web Standards Creativity》 这本书的介绍吧!
HTML 压缩/解压工具
在线压缩/解压 HTML 代码
HTML 编码/解码
HTML 编码/解码