使用NODEJS+REDIS开发一个消息队列以及定时任务处理

摘要:
=未定义&&''!

作者:RobanLee

原创文章,转载请注明: 萝卜李 http://www.robanlee.com

源码在这里: https://github.com/robanlee123/RobCron




时间有限,就不详细注释,有问题或者意见欢迎@我,也欢迎大家批评指正.

本文所必须的一些资料如下:

1. NODEJS ==> 可以去NODEJS.ORG下载最新的源码.
2. Redis ==> Redis.io
3. KUE ==> Nodejs的一个开源队列系统
4. NODE-SCHEDULE ==> NODEJS 一个开源调度系统

废话不多说,先来介绍任务的流程:

1. NODEJS或者PHP或者其他语言 写入REDIS 一个计划任务, 比如每分钟做某件事,这里就用SAYHELLO来代替好了
2. 使用NODEJS读取这个任务,并将它转换为NODE的调度任务(node-schedule 来完成)
3. 调度器[node-schedule]根据设定的规则来分发任务.
4. KUE接受任务,并且加入列队,执行.
5. DONE

STEP1: 创建一个任务

/**
 * Add task
 * @author Robanlee@gmail.com
 */

//加载函数,集中加载一些LIB,这个源码请参照最后的附属文件
var loader = require('./loader');  

function addTask(opts){
        new loader(this); 
        
        //默认设置
        this.opts = {
                keyIDs:'schedule:job:ids',
                keyLists:'schedule:job:list',
                keyJob:'schedule:job:'
        }
        
        //合并配置,类似JQUERY: extend
        this.mergeParams(opts);  
};

//Merge options
addTask.prototype.mergeParams = function ( param ){
        if(undefined === this.opts ) {
                return false;
        }
        
        for(var x in param) { 
                if(param[x] != undefined && '' != param[x]) {
                        this.opts[x] = param[x];
                }
        }
};

//添加数据方法
addTask.prototype.pushData = function ( data ){ 
        if(undefined == data ) {
                console.log('--ERROR:data is null');
                return false;
        }
        this.getIncr.call(this,function(response,obj){
                var id = response;
                obj.redisClient.rpush(obj.opts.keyLists,id,function(err,response){
                        if(err) throw err;
                });
         
                data.id = id;
                var m = obj.redisClient.multi();
                for(var x in data) {
                        m.hset( obj.opts.keyJob+id,x,data[x] );
                }
                
                m.exec(function(err,response){
                        if(err) throw err; 
                        console.log('[info] Task: ['+data.name+'] has been set successful!');
                });   
               
        }); 
};

//获取REDIS目前的自增ID
addTask.prototype.getIncr = function (callBack){
        var obj = this; 
        this.redisClient.incr(this.opts.keyIDs,function(err,response){
                console.log("[info] Current id is : " + response);
                callBack(response, obj);
        });
};

加载这个lib 写入一个DEMO:

var data = { 
        'name':'taskDemo',
        'created':Date.now(),
        'state':1,
        'type':'untitled',
        'rule':'*/1 * * * *'  //这个任务规则可以为CRONTAB的规则,这个表示每分钟执行一次
};

var job = new addTask();
job.pushData(data);

执行这个脚本,如果一切正常,你会看到如下信息:

NODEJS 输出:

使用NODEJS+REDIS开发一个消息队列以及定时任务处理第1张

REDIS:

使用NODEJS+REDIS开发一个消息队列以及定时任务处理第2张

接下来就是获取数据,并且转换为调度任务了,

源码:

var loader = require('./loader');
var taskLog = require("./TaskLog");

function scheduleTask(){
        new loader(this); 
        this.opts = {
                keyIDs:'schedule:job:ids',
                keyLists:'schedule:job:list',
                keyJob:'schedule:job:'
        }
        
        this.task = {
                taskDemo:undefined
        };
        
        //监听取消任务操作
        this.listenCancel();
};

scheduleTask.prototype.setScheduleTask = function (data,obj){ 
        this.task[data.name] =  this.libs['node-schedule'].scheduleJob(data.rule,function(){
                obj.setQueue(data);
                console.log('[info] Task :' + data.name + ' has been set in queue!');
        });
         
};

scheduleTask.prototype.setQueue = function (datas){
        
        var jobs = this.libs.kue.createQueue(); 
        jobs.create(datas.name,{
                'name:':datas.name,
                'state':1
        }).save();
         
        console.log("[info] Task ["+datas.name+"] has been queued!");
        
        this.setLog(datas);
};

scheduleTask.prototype.setLog = function (responseData){
        var logData = {
                jobid:responseData.id,
                name:responseData.name,
                result:1
        };
                                        
        new taskLog(logData);
        console.log("[info] Task has been loged");
};


scheduleTask.prototype.getJob = function (){
        this.getJobIndex.call(this,function(response,obj){
                for(var x in response ) {
                        obj.redisClient.hgetall(obj.opts.keyJob+response[x],function(err,data){
                                console.log("[info] Task:["+data.name+"] has been loaded!");
                                obj.setScheduleTask(data, obj);
                        });
                }
        });
};


scheduleTask.prototype.getJobIndex = function(callBack){
        //Read tasks from <list schedule:job:list>
        var o = this;
        this.redisClient.lrange(this.opts.keyLists,0,-1,function(err,response){
                if(err) throw err;
                callBack(response, o);
        });
};

scheduleTask.prototype.listenCancel = function (){
        var job = this.libs.kue.createQueue();
        var that = this;

        job.process('cancelJob',function(data,done){  
                that.task[data.data.data].cancel();
                console.log('[info] Task: '+data.data.data + ' has been canceled') ;
                done();
        });
}

执行代码:

var x = new scheduleTask();
x.getJob();

等待一分钟后,NODEJS控制台会输出(这个任务在没有取消的情况下,每分钟都会执行):

使用NODEJS+REDIS开发一个消息队列以及定时任务处理第3张

第二分钟:

使用NODEJS+REDIS开发一个消息队列以及定时任务处理第4张

REDIS 现在的数据:

使用NODEJS+REDIS开发一个消息队列以及定时任务处理第5张

这个数据中增加了KUE的一些任务, q:job:[]:inactive 这个就标识任务还未被执行,执行后的任务状态有

complete active failed delay 四种

至此,就只剩下执行任务的步骤了

var loader = require('./loader');

function execTask(){
        new loader(this); 
        
        var job = this.libs.kue.createQueue();
        job.process('taskDemo',function(data,done){
                console.log('[info] Task:'+data.type+'#'+data.id+' has been executed successful!');
                
                
                //DONE之前可以做你想要做的事情
                
                done(); //千万别忘记调用此方法
        });
        
        
}

//添加一个取消定时任务的KUE任务
execTask.prototype.addCancelJob = function (){
        var job =this.libs.kue.createQueue();
        job.create('cancelJob', {data:'taskDemo'}).save();
        console.log('[info] Task: cancelJob has been send!');
}

执行这个脚本:

var et = new execTask();

//取消定时任务
et.addCancelJob();

执行后会有2个结果

1. 程序会执行当前列队里的任务.

2. 定时任务会被取消,下一分钟后任务不会再由SCHEDULE分配

任务执行结果:

使用NODEJS+REDIS开发一个消息队列以及定时任务处理第6张

取消任务的回应:

使用NODEJS+REDIS开发一个消息队列以及定时任务处理第7张

注意最后一行…

免责声明:文章转载自《使用NODEJS+REDIS开发一个消息队列以及定时任务处理》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇STM32通过ULN2003对步进电机进行控制Java基础知识15commonslang3 第3方开源库的具体使用01(StringUtils、RandomUtils类、RandomStringUtils类)下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

redis环境搭建(Linux)、Jredis

简介 1. NoSql是以key-value形式存储,和传统的关系型数据库不一样,不一定遵循传统数据库的一些基本要求,比如说遵循SQL标准,ACID属性,表结构等等,这类数据库主要有一下特点:非关系型的,分布式的,开源的,水平可扩展的。2. NoSql的特点:a) 处理超大量的数据。b) 运行在便宜的pc服务器集群上c) 击碎了性能瓶颈。3. NoSql适...

Laravel5.1 响应--Response

最基本的HTTP响应只需在路由闭包或控制器动作中返回一个简单字符串即可,但是具体业务逻辑中大部分响应都是在控制器动作中返回Response实例或者视图。Response是继承自SymfonyComponentHttpFoundationResponse的IlluminateHttpResponse类的一个实例,我们可以使用该实例上的一系列方法来创建HTTP...

skynet源码分析之sproto使用方法

上一篇文章介绍sproto的构建流程(http://www.cnblogs.com/RainRill/p/8986572.html),这一篇文章介绍sproto如何使用,参考https://github.com/cloudwu/sproto。 A端主动给B端发送请求:调用request_encode对lua表进行编码,再用sproto.pack打包。 B端...

Kafka网络模型

摘要:很多人喜欢把RocketMQ与Kafka做对比,其实这两款消息队列的网络通信层还是比较相似的,本文就为大家简要地介绍下Kafka的NIO网络通信模型,通过对Kafka源码的分析来简述其Reactor的多线程网络通信模型和总体框架结构,同时简要介绍Kafka网络通信层的设计与具体实现。 一、Kafka网络通信模型的整体框架概述 Kafka的网络通信模型...

python3 + Django + Mysql + Vue + Element-UI 学习笔记:从0搭建前后端分离的测试工具平台

2020.03.23  INIT 中间换了工作,好久没写了 2021.05.08  新增:页面预览、功能实现样例(含后端接口、前端页面、配置绑定) 2021.05.13  新增:首页增加访问人数统计功能 2021.05.19  新增:用户信息查询接口、页面开发 2021.06.10  新增:生成图片功能 2021.06.18  新增:文本处理工具下载页面...

axios 学习文档

什么是 axios? Axios 是一个基于 promise 的 HTTP 库,可以用在浏览器和 node.js 中。axios Github 特性 从浏览器中创建 XMLHttpRequests 从 node.js 创建 http 请求 支持 Promise API 拦截请求和响应 转换请求数据和响应数据 取消请求 自动转换 JSON 数据 客户端支持...