锐客网

  1. 首页 > 生活百科 > it技术 > >

用go语言开发消息中间件 go语言开发的消息队列( 四 )

IT技术语言


2.6 分布式
因为NSQ没有在守护程序之间共享信息 ， 所以它从一开始就是为了分布式操作而生 。个别的机器可以随便宕机随便启动而不会影响到系统的其余部分，消息发布者可以在本地发布 ， 即使面对网络分区 。
这种“分布式优先”的设计理念意味着NSQ基本上可以永远不断地扩展，需要更高的吞吐量？那就添加更多的nsqd吧 。唯一的共享状态就是保存在lookup节点上，甚至它们不需要全局视图，配置某些nsqd注册到某些lookup节点上这是很简单的配置，唯一关键的地方就是消费者可以通过lookup节点获取所有完整的节点集 。清晰的故障事件——NSQ在组件内建立了一套明确关于可能导致故障的的故障权衡机制 ， 这对消息传递和恢复都有意义 。虽然它们可能不像Kafka系统那样提供严格的保证级别 ， 但NSQ简单的操作使故障情况非常明显 。
2.7 no replication
不像其他的队列组件，NSQ并没有提供任何形式的复制和集群 ， 也正是这点让它能够如此简单地运行，但它确实对于一些高保证性高可靠性的消息发布没有足够的保证 。我们可以通过降低文件同步的时间来部分避免，只需通过一个标志配置，通过EBS支持我们的队列 。但是这样仍然存在一个消息被发布后马上死亡，丢失了有效的写入的情况 。
2.8 没有严格的顺序
虽然Kafka由一个有序的日志构成，但NSQ不是 。消息可以在任何时间以任何顺序进入队列 。在我们使用的案例中，这通常没有关系 ， 因为所有的数据都被加上了时间戳，但它并不适合需要严格顺序的情况 。
2.9 无数据重复删除功能
NSQ对于超时系统，它使用了心跳检测机制去测试消费者是否存活还是死亡 。很多原因会导致我们的consumer无法完成心跳检测，所以在consumer中必须有一个单独的步骤确保幂等性 。
3. 实践安装过程
本文将nsq集群具体的安装过程略去 ， 大家可以自行参考，比较简单 。这部分介绍下笔者实验的拓扑，以及nsqadmin的相关信息 。
3.1 拓扑结构
topology
实验采用3台NSQD服务，2台LOOKUPD服务 。
采用官方推荐的拓扑，消息发布的服务和NSQD在一台主机 。一共5台机器 。
NSQ基本没有配置文件，配置通过命令行指定参数 。
主要命令如下:
LOOKUPD命令
NSQD命令
工具类，消费后存储到本地文件 。
发布一条消息
3.2 nsqadmin
对Streams的详细信息进行查看，包括NSQD节点，具体的channel，队列中的消息数，连接数等信息 。
【用go语言开发消息中间件 go语言开发的消息队列】nsqadmin
channel
列出所有的NSQD节点:
nodes
消息的统计:
msgs
lookup主机的列表:
hosts
4. 总结
NSQ基本核心就是简单性，是一个简单的队列 ， 这意味着它很容易进行故障推理和很容易发现bug 。消费者可以自行处理故障事件而不会影响系统剩下的其余部分 。
事实上，简单性是我们决定使用NSQ的首要因素，这方便与我们的许多其他软件一起维护，通过引入队列使我们得到了堪称完美的表现，通过队列甚至让我们增加了几个数量级的吞吐量 。越来越多的consumer需要一套严格可靠性和顺序性保障，这已经超过了NSQ提供的简单功能 。
结合我们的业务系统来看，对于我们所需要传输的发票消息，相对比较敏感 ， 无法容忍某个nsqd宕机，或者磁盘无法使用的情况，该节点堆积的消息无法找回 。这是我们没有选择该消息中间件的主要原因 。简单性和可靠性似乎并不能完全满足 。相比Kafka，ops肩负起更多负责的运营 。另一方面，它拥有一个可复制的、有序的日志可以提供给我们更好的服务 。但对于其他适合NSQ的consumer，它为我们服务的相当好 ， 我们期待着继续巩固它的坚实的基础 。

推荐阅读


上一篇：电商的流量如何计算，电商流量计算公式

下一篇：手机快手直播回放怎么删除，快手直播回放怎么才能删除