看大数据时代下的IT架构(1)业界消息队列对比

摘要:
入队出队128B512B1K10K128B512B1K10KRedis四、ZeroMQ号称最快的消息队列系统,尤其针对大吞吐量的需求场景。

一、MQ(Message Queue)

即 消息队列,一般用于应用系统解耦、消息异步分发,能够提高系统吞吐量。MQ的产品有很多,有开源的,也有闭源,比如ZeroMQ、RabbitMQ、 ActiveMQ、Kafka/Jafka、Kestrel、Beanstalkd、HornetQ、Apache Qpid、Sparrow、Starling、Amazon SQS、MSMQ等,甚至Redis也可以用来构造消息队列。至于如何取舍,取决于你的需求。 由于工作需要和兴趣爱好,曾经写过关于RabbitMQ的系列博文,对RabbitMQ的协议、安装、配置、管理、监控、持久化、分布式、高可用、分区、 集群、负载均衡等做过详细介绍。这个系列的博文基本上能满足工作中的一般需求。

目前业界有很多MQ产品,我们作如下对比:

二、RabbitMQ

是使用Erlang编写的一个开源的消息队列,本身支持很多的协议:AMQP,XMPP, SMTP, STOMP,也正是如此,使的它变的非常重量级,更适合于企业级的开发。同时实现了一个经纪人(Broker)构架,这意味着消息在发送给客户端时先在中 心队列排队。对路由(Routing),负载均衡(Load balance)或者数据持久化都有很好的支持。

详情参见:

三、Redis

是一个Key-Value的NoSQL数据库,开发维护很活跃,虽然它是一个Key-Value数据库存储系统,但它本身支持MQ功能,所以完全可以当做 一个轻量级的队列服务来使用。对于RabbitMQ和Redis的入队和出队操作,各执行100万次,每10万次记录一次执行时间。测试数据分为 128Bytes、512Bytes、1K和10K四个不同大小的数据。实验表明:入队时,当数据比较小时Redis的性能要高于RabbitMQ,而如 果数据大小超过了10K,Redis则慢的无法忍受;出队时,无论数据大小,Redis都表现出非常好的性能,而RabbitMQ的出队性能则远低于 Redis。 入队 出队 128B 512B 1K 10K 128B 512B 1K 10K Redis

四、ZeroMQ

号称最快的消息队列系统,尤其针对大吞吐量的需求场景。ZMQ能够实现RabbitMQ不擅长的高级/复杂的队列,但是开发人员需要自己组合多种技术框 架,技术上的复杂度是对这MQ能够应用成功的挑战。ZeroMQ具有一个独特的非中间件的模式,你不需要安装和运行一个消息服务器或中间件,因为你的应用 程序将扮演了这个服务角色。你只需要简单的引用ZeroMQ程序库,可以使用NuGet安装,然后你就可以愉快的在应用程序之间发送消息了。但是 ZeroMQ仅提供非持久性的队列,也就是说如果down机,数据将会丢失。其中,Twitter的Storm中使用ZeroMQ作为数据流的传输。

五、ActiveMQ

是Apache下的一个子项目。 类似于ZeroMQ,它能够以代理人和点对点的技术实现队列。同时类似于RabbitMQ,它少量代码就可以高效地实现高级应用场景。RabbitMQ、 ZeroMQ、ActiveMQ均支持常用的多种语言客户端 C++、Java、.Net,、Python、 Php、 Ruby等。

六、Jafka/Kafka

Kafka是Apache下的一个子项目,是一个高性能跨语言分布式Publish/Subscribe消息队列系统,而Jafka是在Kafka之上孵 化而来的,即Kafka的一个升级版。具有以下特性:快速持久化,可以在O(1)的系统开销下进行消息持久化;高吞吐,在一台普通的服务器上既可以达到 10W/s的吞吐速率;完全的分布式系统,Broker、Producer、Consumer都原生自动支持分布式,自动实现复杂均衡;支持Hadoop 数据并行加载,对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka通过Hadoop的并行 加载机制来统一了在线和离线的消息处理,这一点也是本课题所研究系统所看重的。Apache Kafka相对于ActiveMQ是一个非常轻量级的消息系统,除了性能非常好之外,还是一个工作良好的分布式系统。
其他一些队列列表HornetQ、Apache Qpid、Sparrow、Starling、Kestrel、Beanstalkd、Amazon SQS就不再一一分析。
通过以上的具体对比分析,TongLINK/Q与IBM的功能性相差不大,用户常用功能已经完全支持。虽然在功能上还比MQ稍微欠缺一些,但“SOAP消 息的支持”和“数据库事务”这两个功能几乎没有多少实际的市场需求和应用,TongLINK/Q也没有花费更多的精力在对这两个功能的实现上,而且一直不 懈的挖掘市场需求,为用户提供更加实用的功能,不断提高产品的性能和易用性。
TongLINK/Q提供的独有功能特性普遍受到了用户的认可,如文件传输功能是目前很多企业所实际需要的,而TongLINK/Q也一直仅仅抓住了这个国内的企业应用特点,收到了良好的市场反馈。
TongLINK/Q的产品的可靠性和稳定性也经历了市场10多年的考验,表现了骄人的成绩。在金融、电信、交通、电力等各个领域,TongLINK/Q 都拥有大量的应用案例。比如中国人民银行中的全国支票影像交换系统中全面采用了东方通科技的TongLINK/Q产品,实现了支票在全国范围的互通使用, 目前该系统运行稳定,全国支票使用量逐步增加。这充分证明了TongLINK/Q对于大规模应用的适应能力。
1:ActiveMQ尽量少的建立连接,多次发送可以共用一个连接。如果每次都建立连接进行发送那么它和MSMQ没有可比性,即MSMQ性能远远高于ActiveMQ。但是如果减少连接申请那么它性能原高于MSMQ。

2:ActiveMQ的消息容量远高于MSMQ

3:ActiveMQ在发送和接收同步的时候效率最高

4:ActiveMQ在大容量(百万级别)表现更高的性能 5:ActiveMQ更灵活的操控和扩展

下面各个章节分别详细介绍各个MQ产品

免责声明:文章转载自《看大数据时代下的IT架构(1)业界消息队列对比》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇Spring中FactoryBean的作用和实现原理访问文档中的所有元素下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

用QT在Windows下编写dll程序

转自:http://blog.csdn.net/yyzsyx/article/details/6086052 因为QT必须有调用QApplication的exec方法,这样才能产生消息循环,QT的程序才可以运行。所以说如果我们使用了QT编写了dll程序,在普通的 windows程序中是不能调用的。在调用的时候会出现错误。当然QT提供了解决方法:那就是QTW...

RabbitMQ生产者发送消息确认

在使用RabbitMQ的时候,可以通过消息的持久化操作来解决因为服务器的异常崩溃而导致的消息丢失,除此之外,我们还会遇到一个问题,当消息的生产者将消息发送出去以后,消息到底有没有到达服务器呢?如果不进行特殊的配置,默认情况下发送消息的操作是不会返回任何消息给生产者的,也就是默认情况下是不知道消息有没有正确地到达服务器。如果在消息到达服务器之前已经丢失,持久...

django-实现登录短信验证

功能演示 核心任务 前端功能: 点击按钮Ajax调用发送验证码功能 输完验证码后Ajax调用验证功能 后端功能: 功能1:发送验证码功能 功能2:验证码检查 后台核心逻辑(不需要手写) 功能3:发短信 功能4:生成短信验证码(随机生成6位数字) 集成Redis 使用Redis代替session缓存, 存储数据! Redis集成到Djang...

redis集群之REDIS CLUSTER

1. Linux系统配置 1.1. vm.overcommit_memory设置 overcommit_memory文件指定了内核针对内存分配的策略,其值可以是0、1、2。 0, 表示内核将检查是否有足够的可用内存供应用进程使用;如果有足够的可用内存,内存申请允许;否则,内存申请失败,并把错误返回给应用进程。 1, 表示内核允许分配所有的物理内存,而不管...

Kafka创建SSL证书

对于消息组件,如果按照最初的设计来讲,性能最高得就是RabbitMQ,因为RabbitMQ设计比较完整,而Kafka不同,Kafka最初的设计最大的坑:没有安全认证,所以最初的一些系统设计的时候为了考虑到安全性,所以采用了性能较差的ssl认证方式来进行出来,也就是说使用证书的方式来处理认证操作。 如果要想进行证书的ssl处理,那么肯定需要通过java中的...

WebAPi

WebAPi的可视化输出模式(RabbitMQ、消息补偿相关)——所有webapi似乎都缺失的一个功能  最近的工作我在做一个有关于消息发送和接受封装工作。大概流程是这样的,消息中间件是采用rabbitmq,为了保证消息的绝对无丢失,我们需要在发送和接受前对消息进行DB落地。在发送前我会先进行DB的插入,单表插入,所以在性能上也是能接受的,单表插入做了压...