MQ(Message queue)消息队列,就是指保存消息的一个容器。是基础数据结构中“先进先出”的一种数据结构。一般用来解决应用解耦,异步消息,流量削锋等问题,实现高性能,高可用,可伸缩和最终一致性架构。具体的特点后文会做详细的介绍。
现在常用的MQ组件有ActiveMQ、RabbitMQ、RocketMQ、ZeroMQ、MetaMQ,当然近年来火热的kafka,从某些场景来说,也是MQ,当然kafka的功能更加强大,虽然不同的MQ都有自己的特点和优势,但是,不管是哪种MQ,都有MQ本身自带的一些特点,以下是MQ的特点:
先进先出
不能先进先出,都不能说是队列了。消息队列的顺序在入队的时候就基本已经确定了,一般是不需人工干预的。而且,最重要的是,数据是只有一条数据在使用中。这也是MQ在诸多场景被使用的原因。
发布订阅
发布订阅是一种很高效的处理方式,如果不发生阻塞,基本可以当做是同步操作。这种处理方式能非常有效的提升服务器利用率,这样的应用场景非常广泛。
持久化
持久化确保MQ的使用不只是一个部分场景的辅助工具,而是让MQ能像数据库一样存储核心的数据。
分布式
在现在大流量、大数据的使用场景下,只支持单体应用的服务器软件基本是无法使用的,支持分布式的部署,才能被广泛使用。而且,MQ的定位就是一个高性能的中间件。
Active MQ
优点:
1.Apache下的一个子项目,非常成熟,功能强大,在早些年业内大量的公司以及项目都有应用。
2.偶尔会有较低概率丢失消息
3.现在社区以及国内应用都越来越少,官方社区维护越来越少,几个月才发布一个版本。
总结:主要是基于解耦和异步来用的,较少在大规模吞吐的场景中使用。
Rabbit MQ
RabbitMQ是一个在AMQP高级消息队列协议上实现的,可以复用的企业消息系统,他可以用于大型软件系统各个模块之间的高效通信,支持多种客户端,支持AJAX,持久化,用于在分布式系统中存储转发消息,在易用性,扩展性,高可用性等方面表现不俗。
RabbitMQ是使用Erlang编写的一个开源的消息队列,本身支持很多的协议:AMQP,XMPP,SMTP,STOMP,也正因为如何,使的他变的非常重量级,更适用于企业级的开发。
优点:
1.基于erlang开发,所以并发能力很强,性能极其好,延时很低,高可用性
2.单机吞吐量到万级,MQ功能比较完备。
3.开源提供的管理界面非常棒,用起来很好用。
4.社区相对比较活跃,几乎每个月发布几个版本。
5.插件机制,多语言客户端。
6.多种协议,灵活的路由
总结:在国内一些互联网公司近几年RabbitMQ也比较多一些,但是问题是显而易见的,RabbitMQ确实吞吐量会低一些,这是因为他做的实现机制比较重。由于使用的是erlang开发,很难去看懂源码,基本职能依赖于开源社区的快速维护和修复bug,很难定制和掌控,但比kafka可靠。
RocketMQ
优点:
1.阿里系下开源的一款分布式,队列模型的消息中间件,性能非常好,高并发,高吞吐量,分布式扩展也很方便,社区维护也还可以,可靠性和可用性都是OK的,还可以支撑大规模的topic数量,支持复杂的MQ业务场景。
2.能够保证严格的消息顺序,提供针对消息的过滤功能。
3.提供丰富的消息拉取模式,高效的订阅者水平扩展能力,实时的消息订阅机制
4.接口简单易用,经过参数优化配置,消息可以做到0丢失,单机吞吐量可以达到十万级别,亿级消息堆积能力。
5.最大优势在于,源码是java,我们可以阅读源码,定制自己公司的MQ,可以掌控。
6.topic可以达到几百,几千个的级别,吞吐量会有小幅度的下降,可支持大量topic是一大优势,多用于交易,充值,流计算,消息推送,日志流式处理等场景。
7.社区活跃度相对较为一般,不过也还可以,文档相对来说简单一些,然后接口这块不是按照JMS规范走的,有些系统迁移需要修改大量代码,需要由自己的维护团队。
ZeroMQ
号称最快的消息队列系统,专门为高吞吐量/低延迟的场景开发,在金融界的应用中经常使用,偏重于实时数据通信场景,ZMQ能够实现RabbitMQ不擅长的高级/复杂的队列,但是开发人员需要自己组合多种技术框架,开发成本高,而且ZeroMQ仅提供非持久性的队列,如果宕机,数据会丢失。
优点:
1.无所的队列模型,采用无所的队列算法CAS:在pipe的两端注册有异步时间,在读或者写消息pipe的时,会自动触发读写事件。
2.批量处理的算法,对于批量的消息,进行了适应性的优化,可以批量的接受和发送消息。
3.多核下的线程绑定,无需CPU切换,ZeroMQ充分利用多核的优势,每个核绑定运行一个工作者线程,避免多线程之间CPU切换开销。
Kafka
Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/nginx日志、访问日志,消息服务等等,用scala语言编写,Linkedin于2010年贡献给了Apache基金会并成为顶级开源 项目。
优点:
1.高吞吐量、低延迟:kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒,每个topic可以分多个partition, consumer group 对partition进行consume操作。
2.可扩展性:kafka集群支持热扩展
3.可用性:Kafka是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用。
4.持久性、可靠性:消息被持久化到本地磁盘,并且支持数据备份防止数据丢失
5.容错性:允许集群中节点失败(若副本数量为n,则允许n-1个节点失败)
6.高并发:支持数千个客户端同时读写
使用场景:
1.日志收集:一个公司可以用Kafka可以收集各种服务的log,通过kafka以统一接口服务的方式开放给各种consumer,例如hadoop、Hbase、Solr等。
2.消息系统:解耦和生产者和消费者、缓存消息等。
3.用户活动跟踪:Kafka经常被用来记录web用户或者app用户的各种活动,如浏览网页、搜索、点击等活动,这些活动信息被各个服务器发布到kafka的topic中,然后订阅者通过订阅这些topic来做实时的监控分析,或者装载到hadoop、数据仓库中做离线分析和挖掘。
4.Kafka也经常用来记录运营监控数据。包括收集各种分布式应用的数据,生产各种操作的集中反馈,比如报警和报告。
总结:kafka的特点很明显,就是仅仅提供较少的核心功能,但是提供超高的吞吐量,极高的可用性以及可靠性,而且分布式可以任意扩展。同时kafak最好支撑较少topic数量即可,保证其超高吞吐量。唯一的劣势是可能消息重复消费,那么对数据准确性会造成极其轻微的影响,在大数据领域中以及日志采集中,这点轻微影响可以忽略。