内容简介：上篇文章：通过分析，我们知道了prefetch过大容易导致内存溢出，prefetch过小又会导致消费吞吐量过低，所以在实际项目中需要慎重测试和设置。这篇文章，我们转移到消息中间件的生产端，一起来看看如何保证投递到MQ的数据不丢失。
上篇文章： 《面试大杀器：消息中间件如何实现消费吞吐量的百倍优化？》 ，我们分析了RabbitMQ开启手动ack机制保证消费端数据不丢失的时候，prefetch机制对消费者的吞吐量以及内存消耗的影响。
通过分析，我们知道了prefetch过大容易导致内存溢出，prefetch过小又会导致消费吞吐量过低，所以在实际项目中需要慎重测试和设置。
这篇文章，我们转移到消息中间件的生产端，一起来看看如何保证投递到MQ的数据不丢失。
如果投递出去的消息在网络传输过程中丢失，或者在RabbitMQ的内存中还没写入磁盘的时候宕机，都会导致生产端投递到MQ的数据丢失。
而且丢失之后，生产端自己还感知不到，同时还没办法来补救。
下面的图就展示了这个问题。
所以本文呢，我们就来逐步分析一下。
2、保证投递消息不丢失的confirm机制
其实要解决这个问题，相信大家看过之前的消费端ack机制之后，也都猜到了。
很简单，就是生产端（比如上图的订单服务）首先需要开启一个confirm模式，接着投递到MQ的消息，如果MQ一旦将消息持久化到磁盘之后，必须也要回传一个confirm消息给生产端。
这样的话，如果生产端的服务接收到了这个confirm消息，就知道是已经持久化到磁盘了。
否则如果没有接收到confirm消息，那么就说明这条消息半路可能丢失了，此时你就可以重新投递消息到MQ去，确保消息不要丢失。
而且一旦你开启了confirm模式之后，每次消息投递也同样是有一个delivery tag的，也是起到唯一标识一次消息投递的作用。
这样，MQ回传ack给生产端的时候，会带上这个delivery tag。你就知道具体对应着哪一次消息投递了，可以删除这条消息。
此外，如果RabbitMQ接收到一条消息之后，结果内部出错发现无法处理这条消息，那么他会回传一个nack消息给生产端。此时你就会感知到这条消息可能处理有问题，你可以选择重新再次投递这条消息到MQ去。
或者另一种情况，如果某条消息很长时间都没给你回传ack/nack，那可能是极端意外情况发生了，数据也丢了，你也可以自己重新投递消息到MQ去。
通过这套confirm机制，就可以实现生产端投递消息不会丢失的效果。大家来看看下面的图，一起来感受一下。
3、confirm机制的代码实现
下面，我们再来看看confirm机制的代码实现：
4、confirm机制投递消息的高延迟性
这里有一个很关键的点，就是一旦启用了confirm机制投递消息到MQ之后，MQ是不保证什么时候会给你一个ack或者nack的。
因为RabbitMQ自己内部将消息持久化到磁盘，本身就是通过异步批量的方式来进行的。
正常情况下，你投递到RabbitMQ的消息都会先驻留在内存里，然后过了几百毫秒的延迟时间之后，再一次性批量把多条消息持久化到磁盘里去。
这样做，是为了兼顾高并发写入的吞吐量和性能的，因为要是你来一条消息就写一次磁盘，那么性能会很差，每次写磁盘都是一次fsync强制刷入磁盘的操作，是很耗时的。
所以正是因为这个原因，你打开了confirm模式之后，很可能你投递出去一条消息，要间隔几百毫秒之后，MQ才会把消息写入磁盘，接着你才会收到MQ回传过来的ack消息，这个就是所谓confirm机制投递消息的高延迟性。
大家看看下面的图，一起来感受一下。
5、高并发下如何投递消息才能不丢失
大家可以考虑一下，在生产端高并发写入MQ的场景下，你会面临两个问题：
1、你每次写一条消息到MQ，为了等待这条消息的ack，必须把消息保存到一个存储里。
并且这个存储不建议是内存，因为高并发下消息是很多的，每秒可能都几千甚至上万的消息投递出去，消息的ack要等几百毫秒的话，放内存可能有内存溢出的风险。
2、绝对不能以同步写消息 + 等待ack的方式来投递，那样会导致每次投递一个消息都同步阻塞等待几百毫秒，会导致投递性能和吞吐量大幅度下降。
针对这两个问题，相对应的方案其实也呼之欲出了。
首先，用来临时存放未ack消息的存储需要承载高并发写入，而且我们不需要什么复杂的运算操作，这种存储首选绝对不是 MySQL 之类的数据库，而建议采用kv存储。kv存储承载高并发能力极强，而且kv操作性能很高。
其次，投递消息之后等待ack的过程必须是异步的，也就是类似上面那样的代码，已经给出了一个初步的异步回调的方式。
消息投递出去之后，这个投递的线程其实就可以返回了，至于每个消息的异步回调，是通过在channel注册一个confirm监听器实现的。
收到一个消息ack之后，就从kv存储中删除这条临时消息；收到一个消息nack之后，就从kv存储提取这条消息然后重新投递一次即可；也可以自己对kv存储里的消息做监控，如果超过一定时长没收到ack，就主动重发消息。
大家看看下面的图，一起来体会一下：
6、消息中间件全链路100%数据不丢失能做到吗？
到此为止，我们已经把生产端和消费端如何保证消息不丢失的相关技术方案结合RabbitMQ这种中间件都给大家分析过了。
其实，架构思想是通用的， 无论你用的是哪一种MQ中间件，他们提供的功能是不太一样的，但是你都需要考虑如下几点：
生产端如何保证投递出去的消息不丢失：消息在半路丢失，或者在MQ内存中宕机导致丢失，此时你如何基于MQ的功能保证消息不要丢失？
MQ自身如何保证消息不丢失：起码需要让MQ对消息是有持久化到磁盘这个机制。
消费端如何保证消费到的消息不丢失：如果你处理到一半消费端宕机，导致消息丢失，此时怎么办？
目前来说，我们初步的借着RabbitMQ举例，已经把从前到后一整套技术方案的原理、设计和实现都给大家分析了一遍了。
但是此时真的能做到100%数据不丢失吗？恐怕未必，大家再考虑一下个特殊的场景。
生产端投递了消息到MQ，而且持久化到磁盘并且回传ack给生产端了。
但是此时MQ还没投递消息给消费端，结果MQ部署的机器突然宕机，而且因为未知的原因磁盘损坏了，直接在物理层面导致MQ持久化到磁盘的数据找不回来了。
这个大家千万别以为是开玩笑的，大家如果留意留意行业新闻，这种磁盘损坏导致数据丢失的是真的有的。
那么此时即使你把MQ重启了，磁盘上的数据也丢失了，数据是不是还是丢失了？
你说，我可以用MQ的集群机制啊，给一个数据做多个副本，比如后面我们就会给大家分析RabbitMQ的镜像集群机制，确实可以做到数据多副本。
但是即使数据多副本，一定可以做到100%数据不丢失？
比如说你的机房突然遇到地震，结果机房里的机器全部没了，数据是不是还是全丢了？
说这个，并不是说要抬杠。而是告诉大家，技术这个东西，100%都是理论上的期望。
应该说，我们凡事都朝着100%去做，但是理论上是不可能完全做到100%保证的，可能就是做到99.9999%的可能性数据不丢失，但是还是有千万分之一的概率会丢失。
当然，从实际的情况来说，能做到这种地步，其实基本上已经基本数据不会丢失了。
end
如有收获，请帮忙转发，您的鼓励是作者最大的动力，谢谢！
一大波微服务、分布式、高并发、高可用的原创系列文章正在路上
欢迎扫描下方二维码，持续关注：
石杉的架构笔记（id:shishan100）
十余年BAT架构经验倾囊相授
推荐阅读：
1、 拜托！面试请不要再问我Spring Cloud底层原理
2、 【双11狂欢的背后】微服务注册中心如何承载大型系统的千万级访问？
3、 【性能优化之道】每秒上万并发下的Spring Cloud参数优化实战
5、 兄弟，用大白话告诉你小白都能听懂的Hadoop架构原理
6、 大规模集群下Hadoop NameNode如何承载每秒上千次的高并发访问
7、 【性能优化的秘密】Hadoop如何将TB级大文件的上传性能优化上百倍
9、 【坑爹呀！】最终一致性分布式事务如何保障实际生产中99.99%高可用？
10、 拜托，面试请不要再问我 Redis 分布式锁的实现原理！
11、 【眼前一亮！】看Hadoop底层算法如何优雅的将大规模集群性能提升10倍以上？
16、 亿级流量系统架构之如何设计全链路99.99%高可用架构
17、 七张图彻底讲清楚ZooKeeper分布式锁的实现原理
18、 大白话聊聊 Java 并发面试问题之volatile到底是什么？
19、 大白话聊聊Java并发面试问题之Java 8如何优化CAS性能？
20、 大白话聊聊Java并发面试问题之谈谈你对AQS的理解？
21、 大白话聊聊Java并发面试问题之公平锁与非公平锁是啥？
22、 大白话聊聊Java并发面试问题之微服务注册中心的读写锁优化
23、 互联网公司的面试官是如何360°无死角考察候选人的？（上篇）
24、 互联网公司面试官是如何360°无死角考察候选人的？（下篇）
25、 Java进阶面试系列之一：哥们，你们的系统架构中为什么要引入消息中间件？
26、 【Java进阶面试系列之二】：哥们，那你说说系统架构引入消息中间件有什么缺点？
27、 【行走的Offer收割机】记一位朋友斩获BAT技术专家Offer的面试经历
28、 【Java进阶面试系列之三】哥们，消息中间件在你们项目里是如何落地的？
29、 【Java进阶面试系列之四】扎心！线上服务宕机时，如何保证数据100%不丢失？
30、 一次JVM FullGC的背后，竟隐藏着惊心动魄的线上生产事故！
31、 【高并发优化实践】10倍请求压力来袭，你的系统会被击垮吗？
32、 【Java进阶面试系列之五】消息中间件集群崩溃，如何保证百万生产数据不丢失？
33、 亿级流量系统架构之如何在上万并发场景下设计可扩展架构（上）？
34、 亿级流量系统架构之如何在上万并发场景下设计可扩展架构（中）？
35、 亿级流量系统架构之如何在上万并发场景下设计可扩展架构（下）？
37、 亿级流量系统架构之如何保证百亿流量下的数据一致性（上）
38、 亿级流量系统架构之如何保证百亿流量下的数据一致性（中）？
39、 亿级流量系统架构之如何保证百亿流量下的数据一致性（下）？
40、 互联网面试必杀：如何保证消息中间件全链路数据100%不丢失（1）
41、 互联网面试必杀：如何保证消息中间件全链路数据100%不丢失（2 ）
42、 面试大杀器：消息中间件如何实现消费吞吐量的百倍优化？
作者：石杉的架构笔记 链接： juejin.im/post/5c263a… 来源：掘金 著作权归作者所有，转载请联系作者获得授权！
以上就是本文的全部内容，希望本文的内容对大家的学习或者工作能带来一定的帮助，也希望大家多多支持 码农网
猜你喜欢:
本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。
在线进制转换器
各进制数互转换器
UNIX 时间戳转换
UNIX 时间戳转换