基于 swoole 的 job 调度组件 swoole-jobs

码农软件 · 软件分类 · 网页组件 · 2019-04-08 17:12:37

软件介绍

swoole-jobs

  • 基于swoole的job调度组件

1. 使用场景

  • web中较慢的逻辑,比如统计/email/短信/图片处理等

  • 单机job任务并发数10000以内,但可以多机器部署

2. 架构图

架构图

3. 特性

  • 基于swoole的job调度组件;

  • redis/rabbitmq/zeromq等任何一种做队列消息存储(目前只实现redis/rabbitmq);

  • 利用swoole的process实现多进程管理,进程个数可配置,worker进程退出后会自动拉起;

  • 子进程循环次数可配置,防止业务代码内存泄漏;默认stop命令会等待子进程平滑退出;

  • 支持topic特性,不同的job绑定不同的topic;支持优先队列,根据topic顺序消费;

  • 支持composer,可以跟任意框架集成;

  • 日志文件自动切割,默认最大100M,最多5个日志文件,防止日志刷满磁盘;

4. 安装

git clone https://github.com/kcloze/swoole-jobs.git
cd swoole-jobs
composer install

5. 运行

5.1 示范

1.修改配置config.php

2.启动服务
php ./swoole-jobs.php start|stop|exit|restart

3.往队列推送任务
php ./test/testJobs.php

5.2 启动参数说明

NAME
      php swoole-jobs - manage swoole-jobs

SYNOPSIS
      php swoole-jobs command [options]
          Manage swoole-jobs daemons.


WORKFLOWS


      help [command]
      Show this help, or workflow help for command.


      restart
      Stop, then start swoole-jobs master and workers.

      start
      Start swoole-jobs master and workers.

      stop
      Wait all running workers smooth exit, please check swoole-jobs status for a while.

      exit
      Kill all running workers and master PIDs.

6. 服务管理

启动和关闭服务,有两种方式:

6.1 php脚本(主进程挂了之后,需要手动启动)

./swoole-jobs.php start|stop|exit|restart

6.2 使用systemd管理(故障重启、开机自启动)

更多systemd介绍

1. 根据自己项目路径,修改 systemd/swoole-jobs.service
2. sudo cp -f systemd/swoole-jobs.service /etc/systemd/system/
3. sudo systemctl --system daemon-reload
4. 服务管理
#启动服务
sudo systemctl start swoole-jobs.service
#reload服务
sudo systemctl reload swoole-jobs.service
#关闭服务
sudo systemctl stop swoole-jobs.service

实例图

7. change log

2017-11-30

  • 增加exit启动参数,默认stop等待子进程平滑退出

2017-11-29

  • 重构自身和第三方框架装载类实现,降低耦合性;

  • 支持Yii和Phalcon主流框架

2017-11-28 16:52:42

  • topics支持根据key值排序,队列根据这个排序优先消费;

  • 优化启动流程,让PHP进程自身管理,移除服务管理脚本;

  • 重构代码,优化结构;

2017-11-28 00:27:42

by daydaygo

  • 优化 TopicQueue 实现: TopicQueueInterface -> BaseTopicQueue -> XxxTopicQueue

  • 优化 job run() 方式, 增加类静态方法实现, 并实现多参数输入

  • 使用依赖注入方式进行解耦, 比如 Jobs 类依赖 BaseTopicQueue 抽象类, 不和具体的 TopicQueue 实现耦合; 比如配置的解耦, Jobs 类只用关系自己业务相关的配置, 不用耦合其他配置

  • 添加 php 进行服务管理

2017-5-19

  • 增加使用systemd管理swoole服务,实现故障重启、开机自启动等功能

8. 注意事项

  • 如果嵌入自己的框架,jobs类可以自己根据框架路径自由定义,详情看src/Jobs.php

9. 压测

  • 瓶颈: redis/rabbitmq队列存储本身和job执行速度

10. 感谢

本文地址:https://codercto.com/soft/d/3145.html

奇点临近

奇点临近

Ray Kurzweil / 董振华、李庆成 / 机械工业出版社 / 2011-10 / 69.00元

人工智能作为21世纪科技发展的最新成就,深刻揭示了科技发展为人类社会带来的巨大影响。本书结合求解智能问题的数据结构以及实现的算法,把人工智能的应用程序应用于实际环境中,并从社会和哲学、心理学以及神经生理学角度对人工智能进行了独特的讨论。本书提供了一个崭新的视角,展示了以人工智能为代表的科技现象作为一种“奇点”思潮,揭示了其在世界范围内所产生的广泛影响。本书全书分为以下几大部分:第一部分人工智能,第......一起来看看 《奇点临近》 这本书的介绍吧!

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

随机密码生成器
随机密码生成器

多种字符组合密码

URL 编码/解码
URL 编码/解码

URL 编码/解码