news 2026/2/10 10:34:30

消息队列--消息顺序性保障

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
消息队列--消息顺序性保障

目录

参考美团技术团队博客

项目中实现思路


参考美团技术团队博客

两种通用的解决方案: 1. 版本号。 2. 状态机。

版本号

举个简单的例子,一个产品的状态有上线/下线状态。如果消息1是下线,消息2是上线。不巧消息1判重失败,被投递了两次,且第二次发生在2之后,如果不做重复性判断,显然最终状态是错误的。 但是,如果每个消息自带一个版本号。上游发送的时候,标记消息1版本号是1,消息2版本号是2。如果再发送下线消息,则版本号标记为3。下游对于每次消息的处理,同时维护一个版本号。 每次只接受比当前版本号大的消息。初始版本为0,当消息1到达时,将版本号更新为1。消息2到来时,因为版本号>1.可以接收,同时更新版本号为2.当另一条下线消息到来时,如果版本号是3.则是真实的下线消息。如果是1,则是重复投递的消息。 如果业务方只关心消息重复不重复,那么问题就已经解决了。但很多时候另一个头疼的问题来了,就是消息顺序如果和想象的顺序不一致。比如应该的顺序是12,到来的顺序是21。则最后会发生状态错误。 参考TCP/IP协议,如果想让乱序的消息最后能够正确的被组织,那么就应该只接收比当前版本号大一的消息。并且在一个session周期内要一直保存各个消息的版本号。 如果到来的顺序是21,则先把2存起来,待1到来后,先处理1,再处理2,这样重复性和顺序性要求就都达到了。

。。。

基于版本号来处理重复和顺序消息听起来是个不错的主意,但凡事总有瑕疵。使用版本号的最大问题是:

  1. 对发送方必须要求消息带业务版本号。
  2. 下游必须存储消息的版本号,对于要严格保证顺序的。

https://tech.meituan.com/2016/07/01/mq-design.htmlhttps://tech.meituan.com/2016/07/01/mq-design.html其中参考主要思想:

参考TCP/IP协议,如果想让乱序的消息最后能够正确的被组织,那么就应该只接收比当前版本号大一的消息。并且在一个session周期内要一直保存各个消息的版本号。 如果到来的顺序是21,则先把2存起来,待1到来后,先处理1,再处理2,这样重复性和顺序性要求就都达到了。

项目中实现思路

消息的顺序性保障不靠中间件去实施,在消费者这一侧来实现消息的顺序性。

一个broker的topic=xxxx 是专门用来发顺序消息的

消费者这边,收到消息之后全部落库不处理,落库成功之后返回ack。利用mysql存消息

数据库这边,business_key + version有唯一索引。重复消息被唯一索引幂等掉。

假设发的时 2 1 3 1 4,数据库真实存储的是2 1 3 4。

消费者这边处理的逻辑(伪代码)

while(ture) { // 查询所有未处理的消息,按bussiness_key 和 version 升序排列 List<Message> messages = DB.query("SELECT * FROM messages WHERE processed = FALSE ORDER BY business_key, version ASC"); for(Message msg : messages) { String businessKey = msg.getBusinessKey(); int version = msg.getVersion(); // 检查是否有上一版本号未处理 boolean preVersionProcessed = DB.esists( "SELECT 1 FROM messages WHERE business_key = ? AND version = ? AND processed = TRUE", businessKey, version - 1 ); // 如果是version=1,直接处理;或者上一个版本已经处理了,也可以处理当前版本 if (version == 1 || preVersionProcessed) { processMessage(msg); // 标记消息已处理 DB.update("UPDATE message SET processed = TRUE WHERE id = ?", msg.getId()); } else { continue; } } sleep(5000); }

优化点:避免重复读取,可以使用分布式锁,或者加行级锁,FOR UPDATE。加上事务机制。

List<Message> messages = DB.query("SELECT * FROM messages WHERE processed = FALSE ORDER BY business_key, version ASC");
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/2/8 5:49:15

19.docker 图形化管理界面

文章目录 Docker 图形化管理及综合实验DockerUI 容器管理器的安装与使用 综合实验构建WordPress Docker 图形化管理及综合实验 DockerUI 容器管理器的安装与使用 简介&#xff1a; DockerUI是一个易用且轻量化的 Docker 管理工具&#xff0c;通过 Web 界面的操作&#xff0c…

作者头像 李华
网站建设 2026/2/6 12:28:54

OpenWRT源码下载

OpenWRT源码下载trunk&#xff1a;15.05 (Chaos Calmer):14.07 (Barrier Breaker):12.09 (Attitude Adjustment):lede相关17.01 &#xff08;稳定版&#xff09;lede-trunktrunk&#xff1a; git clone git://github.com/openwrt/openwrt.git 15.05 (Chaos Calmer): git clo…

作者头像 李华
网站建设 2026/2/6 9:11:20

掌握 `background-attachment: fixed`:打造固定背景滚动特效

background-attachment 是 CSS 中用于控制背景图像滚动行为的属性&#xff0c;其中 fixed 取值是最常用且最具视觉冲击力的选项——它能让背景图像固定在浏览器视口&#xff0c;不随页面滚动而移动&#xff0c;从而实现前景内容滚动、背景静止的高级视觉效果。 一、属性基础 …

作者头像 李华