Java学习者

作者：微信小助手

<section> <section> 原创声明：本人所发内容及涉及源码，均为亲手所撸，如总结内容有误，欢迎指出 </section> <section data-id="131962" data-tools="速排小蚂蚁编辑器" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="text-align: center;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="display: inline-block;vertical-align: middle;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="display: flex;align-items: stretch;justify-content: flex-start;padding-left: 18px;margin-bottom: -4px;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="background-color: rgb(255, 208, 64);width: 7px;height: 8px;transform: skew(-30deg);" powered-by="xmyeditor.com" data-md5="59fa2"> </section> <section style="background-color: rgb(255, 208, 64);width: 7px;height: 8px;margin-right: 5px;margin-left: 5px;transform: skew(-30deg);" powered-by="xmyeditor.com" data-md5="59fa2"> </section> <section style="background-color: rgb(255, 208, 64);width: 7px;height: 8px;transform: skew(-30deg);" powered-by="xmyeditor.com" data-md5="59fa2"> </section> </section> <section style="padding-right: 23px;padding-left: 23px;background-color: rgb(92, 142, 254);border-radius: 18px;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="color: rgb(255, 255, 255);letter-spacing: 2px;margin-left: 2px;font-weight: bold;line-height: 36px;font-size: 16px;" powered-by="xmyeditor.com" data-md5="59fa2"> 唠嗑部分 </section> </section> </section> </section> </section> <section> <section> <p cid="n9" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">视频点播方案如下： <p cid="n10" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">1.播放器通过 http协议从http服务器上下载视频文件进行播放 <p cid="n11" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">问题：必须等到视频下载完才可以播放，不支持快进到某个时间点进行播放 <p cid="n12" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">2.播放器通过rtmp协议连接媒体服务器以实时流方式播放视频 <p cid="n13" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">使用rtmp协议需要架设媒体服务器，造价高，对于直播多采用此方案。 <p cid="n14" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">3.播放器使用HLS协议连接http服务器(Nginx、Apache等)实现近实时流方式播放视频 <p cid="n15" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">HLS协议规定：基于Http协议，视频封装格式为ts，视频的编码格式为H264,音频编码格式为MP3、AAC或者AC-3 <p cid="n17" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">什么是HLS？ <p cid="n24" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">HLS的工作方式是：将视频拆分成若干ts格式的小文件，通过m3u8格式的索引文件对这些ts小文件建立索引。一般10秒一个ts文件，播放器连接m3u8文件播放，当快进时通过m3u8即可找到对应的索引文件，并去下载对应的ts文件，从而实现快进、快退以近实时的方式播放视频。 <p cid="n25" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">IOS、Android设备、及各大浏览器都支持HLS协议。 <p cid="n29" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;font-size: 16px;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">今天我们使用SpringBoot+Nginx实现一下视频在线点播 </section> </section> <section style="color: rgb(0, 0, 0);"> <section style="font-family: 微软雅黑;font-size: 16px;letter-spacing: 1px;"> <section data-id="131962" data-tools="速排小蚂蚁编辑器" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="text-align: center;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="display: inline-block;vertical-align: middle;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="display: flex;align-items: stretch;justify-content: flex-start;padding-left: 18px;margin-bottom: -4px;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="background-color: rgb(255, 208, 64);width: 7px;height: 8px;transform: skew(-30deg);" powered-by="xmyeditor.com" data-md5="59fa2"> </section> <section style="background-color: rgb(255, 208, 64);width: 7px;height: 8px;margin-right: 5px;margin-left: 5px;transform: skew(-30deg);" powered-by="xmyeditor.com" data-md5="59fa2"> </section> <section style="background-color: rgb(255, 208, 64);width: 7px;height: 8px;transform: skew(-30deg);" powered-by="xmyeditor.com" data-md5="59fa2"> </section> </section> <section style="padding-right: 23px;padding-left: 23px;background-color: rgb(92, 142, 254);border-radius: 18px;" powered-by="xmyeditor.com" data-md5="59fa2"> <section style="color: rgb(255, 255, 255);letter-spacing: 2px;margin-left: 2px;font-weight: bold;line-height: 36px;" powered-by="xmyeditor.com" data-md5="59fa2"> 言归正传 </section> </section> </section> </section> </section> <section> <p cid="n5" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;letter-spacing: normal;text-align: start;">1、ffmpeg的使用 <p cid="n34" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">FFmpeg被许多开源项目采用，QQ影音、暴风影音、VLC等。 <p cid="n35" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">下载：FFmpeg  <span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">https://www.ffmpeg.org/download.html#build-windows <p cid="n36" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;letter-spacing: normal;text-align: start;"><span style="color: rgb(0, 0, 0);font-family: 微软雅黑;font-size: 14px;letter-spacing: 0.544px;orphans: 2;text-align: justify;word-spacing: 0px;background-color: rgb(255, 255, 255);float: none;display: inline !important;">将安装们目录配置于环境变量之中 <p cid="n37" mdtype="paragraph" style="line-height: 1.6rem;orphans: 4;margin-top: 0.8em;margin-bottom: 0.8em;white-space: pre-wrap;word-spacing: 0.05rem;color: rgb(51, 51, 51);font-family: "JetBrains Mono", Menlo, Consolas;letter-spacing: normal;text-align: start;"><span md-inline="image" src="https://gitee.com/cxs_git_com/imgs_repository/raw/master/imgs/image-20230714170506951.png" style="min-width: 10px;min-height: 10px;word-break: break-all;font-family: monospace;vertical-align: top;display: inline-block;width: 1080px;"><img class="rich_pages wxw-img" data-ratio="0.3748743718592965" src="/upload/4837f4e0b069514705d1d038435aa55e.png" data-type="png" data-w="995" style="border-width: 0px 4px 0px 2px;border-top-style: initial;border-right-style: solid;border-bottom-style: initial;border-left-style: solid;border-top-color: initial;border-right-color: transparent;border-bottom-color: initial;border-left-c

如何消化每天 150 亿条日志，让大查询保持在 1 秒内

作者：微信小助手

该数据仓库用例与规模有关。用户是中国联通，全球最大的电信服务提供商之一。使用 Apache Doris 在数十台机器上部署多个 PB 级集群，以支持 30 多个业务线每日添加的 150 亿条日志。如此庞大的日志分析系统是网络安全管理的一部分。出于实时监控、威胁追踪和警报的需求，用户需要一个能够自动收集、存储、分析和可视化日志和事件记录的日志分析系统。 <section style="text-align: left;margin-bottom: 8px;"> 从架构的角度来看，系统应该能够对各种格式的日志进行实时分析，当然还要具有可扩展性，以支持庞大且不断扩大的数据规模。本文关于用户的日志处理架构是什么样的，以及如何实现稳定的数据摄取、低成本存储和快速查询。 </section> <section style="margin-bottom: 8px;margin-top: 24px;text-align: left;"> 系统架构 </section> 这是用户的数据管道。日志被收集到数据仓库中，并经过多层处理。 <section style="text-align: left;margin-bottom: 0px;"> <img class="rich_pages wxw-img" data-backh="264" data-backw="554" data-galleryid="" data-ratio="0.47653429602888087" data-s="300,640" src="/upload/243f9d28d1a53dd18f8f14921b9cf355.png" data-type="png" data-w="554" style="width: 100%;height: auto;"> </section> <ul style="list-style-type: disc;" class="list-paddingleft-1"> <li style="font-size: 16px;">ODS：来自所有来源的原始日志和警报都收集到 Apache Kafka 中。同时，它们的副本将存储在HDFS中以供数据验证或重放。</li> <li style="font-size: 16px;">DWD：这是事实表所在的位置。Apache Flink 对数据进行清理、标准化、回填和去标识化，并将其写回 Kafka。这些事实表也将被放入 Apache Doris 中，以便 Doris 跟踪某个项目或用于仪表板和报告。由于日志不反对重复，因此事实表将按照Apache Doris 的Duplicate Key 模型进行排列。</li> <li style="font-size: 16px;">DWS：该层聚合来自DWD的数据，为查询和分析奠定基础。</li> <li style="font-size: 16px;">ADS：在这一层中，Apache Doris 使用其 Aggregate Key 模型自动聚合数据，并使用Unique Key 模型自动更新数架构 2.0 是从架构 1.0 发展而来的，由 ClickHouse 和 Apache Hive 支持。这种转变出于用户对实时数据处理和多表连接查询的需求。根据使用 ClickHouse 的经验，用户发现对并发和多表联接的支持不足，表现为仪表板频繁超时和分布式联接中的OOM 错误。</li> </ul> <img class="rich_pages wxw-img" data-backh="263" data-backw="554" data-galleryid="" data-ratio="0.4747292418772563" data-s="300,640" src="/upload/8108824b31dca564e75cdf74c72a4025.png" data-type="png" data-w="554" style="width: 100%;height: auto;"> 现在让我们看看用户使用架构2.0在数据摄取、存储和查询方面的实践。 <section style="margin-bottom: 8px;margin-top: 24px;text-align: left;"> 真实案例练习 </section> 每天稳定摄取 150 亿条日志 <section style="text-align: left;margin-bottom: 8px;"> 用户的业务每天会产生 150 亿条日志。快速稳定地摄取如此大的数据量是一个现实问题。对于 Apache Doris，推荐的方法是使用 Flink-Doris-Connector。它是由 Apache Doris 社区开发的，用于大规模数据写入。该组件需要简单的配置。实现了Stream Load，可以达到每秒200,000~300,000条日志的写入速度，而且不中断数据分析工作负载。 </section> <section style="text-align: left;margin-bottom: 8px;"> 得到的一个经验是，在使用Flink进行高频写入时，需要根据自己的情况找到合适的参数配置，避免数据版本积累。针对这种情况用户做了以下优化： </section> <ul style="list-style-type: disc;" class="list-paddingleft-1"> <li> <section> Flink Checkpoint：将检查点间隔从 15 秒增加到 60 秒，以减少写入频率和单位时间内 Doris 处理的事务数量。这样可以缓解数据写入压力，避免生成过多的数据版本。 </section></li> <li style="font-size: 16px;">数据预聚合：对于ID相同但来自不同表的数据，Flink会根据主键ID进行预聚合并创建扁平表，以避免多源数据写入造成过多的资源消耗。</li> <li style="font-size: 16px;">Doris Compaction：这里的技巧包括找到正确的Doris后端（BE）参数来分配适量的CPU资源进行数据压缩，设置适当数量的数据分区、桶和副本（过多的数据片会带来巨大的开销），并设置 max_tablet_version_num 以避免版本累积。</li> </ul> 这些措施共同确保了数据日常摄取的稳定性。过程中用户见证了Doris后端的稳定性能和较低的压缩分数。此外，Flink 中的数据预处理与Doris 中的Unique Key 模型相结合，来保证更快的数据更新。 <section style="margin-bottom: 8px;text-align: left;margin-top: 24px;"> 存储策略可降低成本 50% </section> <section style="text-align: left;margin-bottom: 8px;"> 日志的大小和生成率也给存储带来了压力。海量的日志数据中，只有一部分具有较高的信息价值，因此应差异化存储。用户采用三种存储策略来降低成本。 </section> <ul style="list-style-type: disc;" class="list-paddingleft-1"> <li style="font-size: 16px;"> <section style="text-align: left;margin-bottom: 8px;"> ZSTD（ZStandard）压缩算法：对于大于1TB的表，在建表时指定压缩方式为“ZSTD”，将实现10:1的压缩比。 </section></li> <li style="font-size: 16px;"> <section style="text-align: left;margin-bottom: 8px;"> 冷热数据分层存储：这是Doris新特性支持的。用户设置 7 天的数据“冷却”期。这意味着过去7天的数据（即热点数据）将存储在SSD中。随着时间的推移，热数据“冷却”（超过 7 天），它会自动转移到成本较低的HDD。随着数据变得更加“冷”，它将被转移到对象存储，以大大降低存储成本。另外，在对象存储中，数据将仅存储一份而不是三份。这进一步降低了成本和冗余存储带来的管理费用。 </section></li> <li style="font-size: 16px;"> <section style="text-align: left;margin-bottom: 8px;"> 不同数据分区的差异化副本数：用户按时间范围对数据进行分区。原则是为较新的数据分区提供更多的副本，为旧的数据分区提供更少的副本。在他们的应用中，过去 3 个月的数据被频繁访问，因此他们为此分区有 2 个副本。3~6个月前的数据有两个副本，6个月前的数据有一个副本。 </section></li> </ul> <section style="text-align: left;margin-bottom: 8px;"> 通过这三种策略，用户的存储成本降低了 50%。 </section> <section style="margin-bottom: 8px;margin-top: 24px;text-align: left;"> 根据数据大小差异化查询策略 </section> 有些日志必须立即追踪定位，例如异常事件或故障的日志。为了保证这些查询的实时响应，用户针对不同的数据大小有不同的查询策略： <ul style="list-style-type: disc;" class="list-paddingleft-1"> <li style="font-size: 16px;">小于100G：利用Doris的动态分区功能。小表将按日期分区，大表将按小时分区。这样可以避免数据倾斜。为了进一步确保分区内数据的平衡，使用snowflake ID 作为分桶字段。还设置了20天的起始偏移量，这意味着最近20天的数据将被保留。通过这种方式，找到了数据积压和分析需求之间的平衡点。</li> <li style="font-size: 16px;">100G~1T：这些表有其物化视图，是存储在Doris中的预先计算的结果集。因此，对这些表的查询速度更快而且资源消耗更少。Doris中物化视图的DDL语法与PostgreSQL、Oracle中的相同。</li> <li style="font-size: 16px;">超过100T：这些表被放入Apache Doris的Aggregate Key模型中并进行预聚合。这样就可以在1~2s内完成20亿条日志记录的查询。</li> </ul> <section style="margin-bottom: 8px;"> 这些策略缩短了查询的响应时间。例如，以前对特定数据项的查询需要几分钟，但现在可以在毫秒内完成。对于百亿条数据的大表，不同维度的查询都可以在几秒钟内完成。 </section> <section style="margin-bottom: 8px;margin-top: 24px;text-align: left;"> 正在进行的计划 </section> 用户正在 Apache Doris 中使用新添加的倒排索引进行测试。旨在加速字符串的全文搜索以及数字和日期时间的等价和范围查询。用户还对 Doris 中的自动分桶逻辑提供了宝贵的反馈：目前，Doris 根据前一个分区的数据大小来决定一个分区的分桶数量。问题在于，用户大部分新数据都是在白天输入，晚上则很少。因此，Doris 为夜间数据创建了太多的存储桶，但在白天创建的存储桶却太少，这与用户所需要的正好相反。用户希望增加一个新的自动分桶逻辑，参考前一天的数据大小和分布来决定分桶数量。我们正在致力于此优化。 原文作者：ApacheDoris <mp-style-type data-value="3"></mp-style-type>

接口响应慢该如何排查

作者：微信小助手

<section data-tool="mdnice编辑器" data-website="https://www.mdnice.com" style="font-size: 16px;color: black;line-height: 1.6;letter-spacing: 0px;word-break: break-word;text-align: left;font-family: Optima-Regular, Optima, PingFangSC-light, PingFangTC-light, "PingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;"> 不知道大家有没有遇到这种情况，接口业务逻辑写完后，用 postman 一调，发现接口响应时间好长，不得不对接口进行优化。但是此时接口的代码往往逻辑比较复杂，调用层次也比较多，很难定位到耗时较长的代码块 遇到这种情况大家都是如何定位耗时代码块的呢？ 我看到很多人都是直接用<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">System.currentTimeMillis()</code>对代码进行埋点 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">public static void main(String[] args) {     Long startTime = System.currentTimeMillis();     exec();     Long endTime = System.currentTimeMillis();     log.info("exec 方法执行耗时:{}ms", endTime - startTime); } </code></pre> 或者用<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">StopWatch</code>打印方法耗时 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">public static void main(String[] args) throws InterruptedException {     StopWatch stopWatch = new StopWatch();     stopWatch.start("exec");     exec();     stopWatch.stop();     System.out.println(stopWatch.prettyPrint()); } </code></pre> 这两种方法本质上是一样的，都是通过手动在代码块上进行埋点，打印出方法的耗时，该方法不仅费时费力，而且对代码有侵入，修复问题后删掉代码还是一个麻烦事 下面介绍如果通过<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">Arthas</code>定位耗时代码块 <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">Arthas 简介</h3> <code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">Arthas</code>是阿里开源的一款 Java 诊断工具，可以在无需重启 JVM 的情况下，实时查看应用 load、内存、gc、线程等状态信息，还能实时查看方法调用入参、出参、方法调用耗时等 <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">Arthas 快速开始</h3> 直接下载<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">Arthas</code>jar 包，然后用<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">java -jar</code>命令启动即可 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">$ curl -O https://arthas.aliyun.com/arthas-boot.jar $ java -jar arthas-boot.jar </code></pre> <code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">Arthas</code>启动的时候，会打印出当前运行的 java 进程 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">$ java -jar arthas-boot.jar [INFO] JAVA_HOME: /Library/Java/JavaVirtualMachines/jdk1.8.0_351.jdk/Contents/Home/jre [INFO] arthas-boot version: 3.6.9 [INFO] Found existing java process, please choose one and input the serial number of the process, eg : 1. Then hit ENTER. * [1]: 12512 com.huangxy.springstudy.SpringStudyApplication   [2]: 12511 org.jetbrains.jps.cmdline.Launcher </code></pre> 然后可以选择我们需要 attach 的 java 进程，这里我们选择 1，然后按回车。Arthas 会 attach 到目标进程上，并输出日志： <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">[INFO] arthas home: /Users/huangxiaoyu/.arthas/lib/3.6.9/arthas [INFO] Try to attach process 12512 [INFO] Attach process 12512 success. [INFO] arthas-client connect 127.0.0.1 3658   ,---.  ,------. ,--------.,--.  ,--.  ,---.   ,---.  /  O  \ |  .--. ''--.  .--'|  '--'  | /  O  \ '   .-' |  .-.  ||  '--'.'   |  |   |  .--.  ||  .-.  |`.  `-. |  | |  ||  |\  \    |  |   |  |  |  ||  | |  |.-'    | `--' `--'`--' '--'   `--'   `--'  `--'`--' `--'`-----' wiki       https://arthas.aliyun.com/doc tutorials  https://arthas.aliyun.com/doc/arthas-tutorials.html version    3.6.9 main_class com.huangxy.springstudy.SpringStudyApplication pid        12512 time       2023-07-25 09:14:22 </code></pre> 到这里，Arthas 已经 attach 到我们的目标进程上了，我们尝试使用<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">dashboad</code>命令，查看进程的信息 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">$ dashboard ID   NAME                           GROUP          PRIORITY  STATE     %CPU      DELTA_TIME TIME      INTERRUPT DAEMON 36   DestroyJavaVM                  main           5         RUNNABLE  0.0       0.000      0:1.748   false     false -1   C1 CompilerThread3             -              -1        -         0.0       0.000      0:0.761   false     true -1   VM Periodic Task Thread        -              -1        -         0.0       0.000      0:0.237   false     true 24   http-nio-8081-exec-1           main           5         WAITING   0.0       0.000      0:0.098   false     true -1   VM Thread                      -              -1        -         0.0       0.000      0:0.071   false     true 25   http-nio-8081-exec-2           main           5         WAITING   0.0       0.000      0:0.055   false     true 54   arthas-NettyHttpTelnetBootstra system         5         RUNNABLE  0.0       0.000      0:0.054   false     true -1   GC task thread#8 (ParallelGC)  -              -1        -         0.0       0.000      0:0.043   false     true -1   GC task thread#1 (ParallelGC)  -              -1        -         0.0       0.000      0:0.043   false     true -1   GC task thread#7 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true -1   GC task thread#6 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true -1   GC task thread#0 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true -1   GC task thread#9 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true -1   GC task thread#2 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true -1   GC task thread#3 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true -1   GC task thread#5 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true -1   GC task thread#4 (ParallelGC)  -              -1        -         0.0       0.000      0:0.042   false     true Memory                    used     total    max     usage    GC heap                      83M      432M     7282M   1.14%    gc.ps_scavenge.count           4 ps_eden_space             72M      212M     2688M   2.69%    gc.ps_scavenge.time(ms)        24 ps_survivor_space         0K       21504K   21504K  0.00%    gc.ps_marksweep.count          2 ps_old_gen                10M      199M     5461M   0.20%    gc.ps_marksweep.time(ms)       61 nonheap                   53M      56M      -1      94.71% code_cache                6M       7M       240M    2.87% metaspace                 40M      43M      -1      94.45% compressed_class_space    5M       5M       1024M   0.53% direct                    16K      16K      -       100.01% mapped                    0K       0K       -       0.00% Runtime os.name                                                      Mac OS X os.version                                                   13.0.1 java.version                                                 1.8.0_351 java.home                                                    /Library/Java/JavaVirtualMachines/jdk1.8.0_351.jdk/Contents/                                                              Home/jre systemload.average                                           3.80 processors                                                   12 </code></pre> 可以看到<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">dashboad</code>命令会展示一个实时的数据面板，列出了我们平时比较关心的数据指标，如内存使用量，gc 状态等 <blockquote data-tool="mdnice编辑器" style="border-top: none;border-right: none;border-bottom: none;font-size: 0.9em;overflow: auto;border-left-color: rgba(0, 0, 0, 0.4);background: rgba(0, 0, 0, 0.05);color: rgb(106, 115, 125);padding: 10px 10px 10px 20px;margin-bottom: 20px;margin-top: 20px;"> 更多命令的使用，可以参考官网的命令列表 </blockquote> <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">使用 Trace 命令统计方法耗时</h3> <code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">trace</code>命令能主动搜索<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">class-pattern</code>／<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">method-pattern</code>对应的方法调用路径，渲染和统计整个调用链路上的所有性能开销和追踪调用链路 比如下面接口 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">@RestController public class HelloController {     @GetMapping("/test")     public String test() throws InterruptedException {        one();        two();        return "hello";     }     private void two() throws InterruptedException {         Thread.sleep(20);         three();     }     private void three() throws InterruptedException {         Thread.sleep(1000);     }     private void one() throws InterruptedException {         Thread.sleep(100);     } } </code></pre> 启动<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">Arthas</code>进程，并 attach 到我们的 springboot 项目上，接着使用<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">trace</code>命令跟踪方法的调用情况 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">$ trace com.huangxy.springstudy.controller.HelloController test </code></pre> <code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">trace</code>方法第一个参数是要 attach 的类的路径，第二个参数是方法名称，接着我们调用一遍接口，就能看到 hello 方法的调用堆栈及其耗时<img class="rich_pages wxw-img" data-ratio="0.1638888888888889" src="/upload/ead2fef7c384d0dbe2e49908e959e7b7.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> 可以看到，这里耗时比较严重的是<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">tow()</code>方法，花了 1029ms，占了 90.73% 的比重 不过需要注意的是，trace 命令只会 trace 匹配到的函数里的子调用，并不会向下 trace 多层，如果需要 trace 多层，可以用正则匹配多个函数，如 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;"><code style="overflow-x: auto;padding: 16px;color: #383a42;background: #fafafa;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;border-radius: 0px;font-size: 12px;-webkit-overflow-scrolling: touch;">$ trace -E com.huangxy.springstudy.controller.HelloController test|two </code></pre> <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.2222222222222222" src="/upload/3d56a20fb319255f9ad195c51926f0e4.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> <figcaption style="margin-top: 5px;text-align: center;color: #888;font-size: 14px;"> image.png </figcaption> </figure> 这下更清晰的定位到，导致耗时过长的方法是<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">three()</code>方法，定位到方法后，针对性的优化耗时代码块即可 </section> <mp-style-type data-value="3"></mp-style-type>

一份接地气的Kubernetes日志方案

作者：微信小助手

<section data-tool="mdnice编辑器" data-website="https://www.mdnice.com" style="font-size: 16px;color: black;padding-right: 10px;padding-left: 10px;line-height: 1.6;letter-spacing: 0px;word-break: break-word;text-align: left;font-family: Optima-Regular, Optima, PingFangSC-light, PingFangTC-light, "PingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;"> <blockquote data-tool="mdnice编辑器" style="border-top: none;border-right: none;border-bottom: none;font-size: 0.9em;overflow: auto;border-left-color: rgba(0, 0, 0, 0.4);background: rgba(0, 0, 0, 0.05);color: rgb(106, 115, 125);padding: 10px 10px 10px 20px;margin-bottom: 20px;margin-top: 20px;"> 本文主要聊聊Kubernetes场景下收集微服务应用日志方案，相对来说更接地气，非常好落地。 </blockquote> 微服务应用的日志链路一般比较长，包含以下环节：日志收集 → 日志缓冲 → 日志过滤清洗 → 日志存储 → 日志展示。每个环节都有多种对应的组件去解决，这样的结果就是业内组合出了多种整体解决方案。 以前我的微服务部署在IDC机房虚拟机时，采用的是ELK（Elasticsearch、Logstash、Kibana）方案，这也是通用的微服务应用的日志解决方案。几年前我们的应用部署整体切到Kubernetes后，我依旧采用了这套方案。 下面介绍Kubernetes场景下基于ELK的日志解决方案。整体思路：Filebeat -> Kafka -> Logstash -> Elasticsearch -> Kibana。 <h2 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 22px;">1、日志数据流转</h2> 日志数据流转见下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.43425925925925923" src="/upload/e329806538f23ed0a4c64c9b32412037.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> </figure> <h2 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 22px;">2、日志采集</h2> <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">2.1、容器日志在哪儿</h3> 首先得有个概念：容器只是K8S集群Node上的一个进程。要在K8S集群机器上找到此Docker进程，然后进入到对应的文件夹里查看日志文件。 一般情况下，容器的日志存放在宿主机上的这个目录下<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">/var/lib/docker/containers/</code>： <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/rLpHsVF9HCUT8PxBH8unezaRoFBIkyhQRiaXSldmlicnzv31CoLY23KABkiaVcR0Qia8dqo7vQhgMiblG6I18SU5sukRWAxGJgNxv/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(40, 44, 52);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #abb2bf;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #282c34;border-radius: 5px;"># 日志在宿主机的这个文件夹下 cd /var/lib/docker/containers # 用这个命令可以查找对应的日志文件 find /var/lib/docker/containers -name "*-json.log" </code></pre> 进入到<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">/var/lib/docker/containers/</code>下，看到的是一堆毫无规律的文件夹。 <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.6194444444444445" src="/upload/8d07f62bc3615bfd05a660ad82f13319.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 看到这些毫无规律的文件夹名称，会一下子有点懵，但是仔细看看，其实这些码是对应的Docker容器的id。继续通过名称查看容器id。 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/rLpHsVF9HCUT8PxBH8unezaRoFBIkyhQRiaXSldmlicnzv31CoLY23KABkiaVcR0Qia8dqo7vQhgMiblG6I18SU5sukRWAxGJgNxv/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(40, 44, 52);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #abb2bf;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #282c34;border-radius: 5px;"># docker命令查看容器 docker ps -a </code></pre> <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.3574074074074074" src="/upload/52ab1d98e2d8d477f6d8364d1a3e1c3c.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 找到了容器id之后，可以看到用容器id的前几位，可以完全匹配到，日志文件夹名称的前几位。<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">docker ps</code> 显示的容器id只是显示了整个id的前几位。 <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img data-ratio="0.10925925925925926" src="/upload/38db2b7bd0d48689a35ce4dcbee7e34c.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> </figure> <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.21851851851851853" src="/upload/f66daab38429c5744577f9c0e4e939f1.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 进入到日志文件夹后，就可以看到具体的json日志文件了。 <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.1361111111111111" src="/upload/3d4d45a621074d75c61b076f56b29987.png" data-type="png" data-w="1080" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 至此已经知道日志文件存放的位置了。当然啦，要控制好日志级别，还要做好日志清理任务，否则大量的日志会导致磁盘空间不够。Pod销毁之后，日志文件也会被销毁的。 文件找到了接下来，就看怎么采集日志了。 <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">2.2、日志采集工具</h3> 日志采集工具有多种，本文采用<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">Filebeat</code>作为日志采集工具。 Filebeat是用于转发和汇总日志与文件的轻量级传送程序。作为服务器上的代理安装，Filebeat会监视你指定的日志文件或位置。然后收集日志事件，并将它们转发到Elasticsearch或Logstash或Kafka。官方文档显示的工作流程如下： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.7819148936170213" src="/upload/8dd64a7e49a53d98c3f83264c0bbbbaa.png" data-type="png" data-w="940" style="display: block;margin-right: auto;margin-left: auto;"> </figure> Filebeat的主要优势有： <ul data-tool="mdnice编辑器" style="margin-top: 8px;margin-bottom: 8px;padding-left: 25px;" class="list-paddingleft-1"> <li> <section style="margin-top: 5px;margin-bottom: 5px;line-height: 26px;color: rgb(1, 1, 1);"> 轻量级并且易使用 </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;line-height: 26px;color: rgb(1, 1, 1);"> 免费开源 </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;line-height: 26px;color: rgb(1, 1, 1);"> 资源使用率低 </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;line-height: 26px;color: rgb(1, 1, 1);"> 良好的性能 </section></li> </ul> <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">2.3、日志如何采集</h3> 日志采集工具选型确定之后，接下来就是如何采集了。 K8S部署的场景下，想要收集每台Node下的容器日志，需要采用<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">Deamonset控制器</code>自动部署，这样每次新增节点时，会自动部署Filebeat的Pod。每台Node自动安装好Filebeat后，每台Node上的日志会被自动采集，然后输出到Kafka。 Filebeat大致的编排yaml如下： <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/rLpHsVF9HCUT8PxBH8unezaRoFBIkyhQRiaXSldmlicnzv31CoLY23KABkiaVcR0Qia8dqo7vQhgMiblG6I18SU5sukRWAxGJgNxv/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(40, 44, 52);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #abb2bf;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #282c34;border-radius: 5px;">apiVersion: v1 kind: ConfigMap metadata:   name: filebeat-config   namespace: ops-monit   labels:     k8s-app: filebeat data:   filebeat.yml: |-     filebeat.inputs:     - type: container #因为是采集的容器日志，所以这里要用container 不能用 log，否则拿不到容器日志       enable: true       stream: stdout #只取stdout日志       paths:         - /var/log/containers/*demo*.log #采集了demo环境的所有日志       processors:         - add_kubernetes_metadata: # 增加kubernetes的属性             in_cluster: true             host: ${NODE_NAME}             matchers:             - logs_path:                 logs_path: "/var/log/containers/"         - drop_event:             when:               contains:                 message: "INFO"         - drop_event:             when:               contains:                 message: "DEBUG"       # 配置多行显示       multiline.type: pattern       multiline.pattern: '^[0-9]{4}-[0-9]{2}-[0-9]{2}'       multiline.negate: true       multiline.match: after       fields:         logtype: applog     output.kafka:       hosts: ['172.10.10.10:9092','172.10.10.11:9092','172.10.10.12:9092']       topic: 'topic-bizlog'       partition.round_robin:         reachable_only: false --- apiVersion: apps/v1 kind: DaemonSet metadata:   name: filebeat   namespace: ops-monit   labels:     k8s-app: filebeat spec:   selector:     matchLabels:       k8s-app: filebeat   template:     metadata:       labels:         k8s-app: filebeat     spec:       serviceAccountName: filebeat       terminationGracePeriodSeconds: 30       dnsPolicy: ClusterFirstWithHostNet       containers:         - name: filebeat           image: elastic/filebeat:7.12.1           args: [               "-c", "/etc/filebeat.yml",               "-e",           ]           env:             - name: ELASTICSEARCH_HOST               value: "172.10.20.10"             - name: ELASTICSEARCH_PORT               value: "9200"             - name: ELASTICSEARCH_USERNAME               value:             - name: ELASTICSEARCH_PASSWORD               value:             - name: ELASTIC_CLOUD_ID               value:             - name: ELASTIC_CLOUD_AUTH               value:             - name: NODE_NAME               valueFrom:                 fieldRef:                   fieldPath: spec.nodeName           securityContext:             runAsUser: 0             # If using Red Hat OpenShift uncomment this:             # privileged: true           resources:             limits:               cpu: 3000m               memory: 2000Mi             requests:               cpu: 500m               memory: 100Mi           volumeMounts:             - name: timezone               mountPath: /etc/localtime             - name: config               mountPath: /etc/filebeat.yml               readOnly: true               subPath: filebeat.yml             - name: data               mountPath: /usr/share/filebeat/data             - name: varlibdockercontainers               mountPath: /var/lib/docker/containers               readOnly: true             - name: varlog               mountPath: /var/log       volumes:         - name: timezone           hostPath:             path: /usr/share/zoneinfo/Asia/Shanghai         - name: config           configMap:             defaultMode: 0640             name: filebeat-config         - name: varlibdockercontainers           hostPath:             path: /var/lib/docker/containers         - name: varlog           hostPath:             path: /var/log         - name: data           hostPath:             path: /var/lib/filebeat-data             type: DirectoryOrCreate --- apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRoleBinding metadata:   name: filebeat   namespace: ops-monit subjects:   - kind: ServiceAccount     name: filebeat     namespace: ops-monit roleRef:   kind: ClusterRole   name: filebeat   apiGroup: rbac.authorization.k8s.io --- apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRole metadata:   name: filebeat   namespace: ops-monit   labels:     k8s-app: filebeat rules:   - apiGroups: [""] # "" indicates the core API group     resources:       - namespaces       - pods       - nodes     verbs:       - get       - watch       - list --- apiVersion: v1 kind: ServiceAccount metadata:   name: filebeat   namespace: ops-monit   labels:     k8s-app: filebeat --- </code></pre> <h2 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 22px;">3、日志缓冲、过滤清洗、存储、展示</h2> <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">3.1、缓冲</h3> Kafka是一个消息处理引擎，这里采用Kafka作为日志数据的缓冲工具。采用Kafka有2个用途： <ul data-tool="mdnice编辑器" style="margin-top: 8px;margin-bottom: 8px;padding-left: 25px;" class="list-paddingleft-1"> <li> <section style="margin-top: 5px;margin-bottom: 5px;line-height: 26px;color: rgb(1, 1, 1);"> 作为缓冲，防止日志量太大导致下游来不及消费，所以要加入消息缓冲这一层。这一层必不可少。 </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;line-height: 26px;color: rgb(1, 1, 1);"> Kafka消息可以被别的应用监听消费，过滤输出到一些告警信息到企微、钉钉、邮件等。 </section></li> </ul> <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">3.2、过滤清洗和转发</h3> Logstash 是一个日志收集和处理引擎，它带有各种各样的插件，能够从各种来源摄取数据。并且可以对数据进行转换，然后转发到目的地。我这里采用Logstash作为日志摄取、过滤、清洗、转发的工具。 这是一个大概的Logstash Conf文件，文件的内容分3块：<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">input</code> 、<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">filter</code> 、<code style="font-size: 14px;padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;color: rgb(30, 107, 184);background-color: rgba(27, 31, 35, 0.05);font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;">output</code>。 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/rLpHsVF9HCUT8PxBH8unezaRoFBIkyhQRiaXSldmlicnzv31CoLY23KABkiaVcR0Qia8dqo7vQhgMiblG6I18SU5sukRWAxGJgNxv/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(40, 44, 52);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #abb2bf;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #282c34;border-radius: 5px;">input {     kafka {         bootstrap_servers=>"172.10.7.79:9092"         topics=>["topic-bizlogs"]         codec => "json"     } } filter{     mutate{         split => ["message", "|"]         add_field => { "log_time" => "%{[message][0]}"}         add_field => { "level" => "%{[message][1]}"}         add_field => { "class" => "%{[message][2]}"}         add_field => { "line" => "%{[message][3]}"}         add_field => { "thread" => "%{[message][4]}"}         add_field => { "log_message" => "%{[message][5]}"}         add_field => { "env" => "%{[kubernetes][namespace]}"}         add_field => { "podName" => "%{[kubernetes][pod][name]}"}         add_field => { "podId" => "%{[kubernetes][pod][uid]}"}         add_field => { "image" => "%{[container][image][name]}"}         add_field => { "imageId" => "%{[container][id]}"}         add_field => { "nodeId" => "%{[kubernetes][node][uid]}"}         add_field => { "nodeName" => "%{[kubernetes][node][name]}"}         add_field => { "nodeHostName" => "%{[kubernetes][node][hostname]}"}         add_field => { "logPath" => "%{[log][file][path]}"}         add_field => { "appName" => "%{[kubernetes][labels][app]}"}         remove_field => ["agent","fields","input","ecs","host","@version","kubernetes","stream","log","container"]     } } output{         elasticsearch{                 hosts=>["172.11.4.82:9200"]                 index => "%{appName}‐%{+YYYY.MM.dd}"         } } </code></pre> <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">3.3、存储和搜索</h3> Elasticsearch是一个可扩展的搜索引擎，这里采用Elasticsearch作为日志存储搜索工具。 <h3 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 20px;">3.4、展示</h3> 采用Kibana为日志构建可视化的UI。 <h2 data-tool="mdnice编辑器" style="margin-top: 30px;margin-bottom: 15px;font-weight: bold;font-size: 22px;">4、总结</h2> 本文主要介绍Kubernetes场景下比较接地气好落地的，基于ELK的日志解决方案。整体思路：Filebeat -> Kafka -> Logstash -> Elasticsearch -> Kibana。 本文没有介绍Kafka、Logstash、Elasticsearch、Kibana的安装，只提及了一些配置文件，安装过程读者自行查阅资料搭建。 本篇完结！感谢你的阅读，欢迎点赞  关注  收藏  私信！！！ <section class="mp_profile_iframe_wrp"> <mp-common-profile class="js_uneditable custom_select_card mp_profile_iframe" data-pluginname="mpprofile" data-id="MzI3OTA2MDQyOQ==" data-headimg="http://mmbiz.qpic.cn/sz_mmbiz_png/iaKiaGaGnVlcHDFk7YlZ6MLUftpPmuiaXDXcHh5EJWGjuByb7x8ZibwsAPKMhvUODRSOXGN4vOQ8VN2uou3etA8mAQ/0?wx_fmt=png" data-nickname="不焦躁的程序员" data-alias="yclxiaobjzcxy" data-signature="13年IT行业经验，做过架构创过业，一起交流学习。专注于软件开发、云原生、大数据领域。关注我职业发展不焦虑。" data-from="0" data-is_biz_ban="0"></mp-common-profile> </section> </section> <mp-style-type data-value="3"></mp-style-type>

货拉拉流量回放体系搭建与应用

作者：微信小助手

<blockquote style="margin-top: 0px;margin-bottom: 1.2em;padding: 15px 15px 15px 1rem;color: rgb(129, 145, 152);border-left-width: 6px;border-left-color: rgb(96, 125, 139);font-size: 14px;line-height: 22px;background: rgb(242, 247, 251);letter-spacing: normal;text-align: start;text-wrap: wrap;"> 作者简介 <ul style="padding-left: 30px;list-style-position: initial;list-style-image: initial;margin-top: 6px !important;list-style-type: square !important;" class="list-paddingleft-1"> <li style="margin-top: 6px !important;">伍菊红，来自货拉拉/技术中心/质量保障部，主要负责营销活动相关质量保障以及流量回放开发工作。</li> <li style="margin-top: 6px !important;">史浩，来自货拉拉/技术中心/质量保障部，主要负责交易引擎相关质量保障以及流量回放开发工作。</li> </ul> </blockquote> <h2 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 24px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">一、背景与挑战</h2> 货拉拉是一家正在快速发展的公司，在业务不断丰富的同时，对技术部门所带来的是快速迭代的奔跑和越来越复杂的业务链路，服务稳定性和人效均面临巨大挑战。初期都是通过补齐接口自动化这种传统模式保障，该模式虽然简单便捷，但存在成本高、覆盖场景有限、标准化难度高等问题。基于此，我们希望搭建一个流量回放平台，利用海量的流量自动构建丰富的测试场景保障测试范围和节省人力。 <h2 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 24px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">二、LLRepeater</h2> 流量回放是一种通过复制线上/测试环境的实际流量(录制)，然后在测试环境中进行模拟请求(回放)来验证代码逻辑正确性的方法。目前，市面上有许多开源产品都提供这种功能，其中包括阿里开源的工具jvm-sandbox-repeater，基于Go语言的GoReplay，以及TcpXCopy等。考虑到我们公司主要技术栈还是以java为主，并且我们注意到一些公司，如vivo、得物、酷家乐等，都在使用jvm-sandbox-repeater，综合考虑，我们决定选择jvm sandbox repeater作为我们的底层框架，来设计货拉拉的流量回放平台LLRepeater。 接下来将为大家展开介绍流量回放体系在货拉拉的平台设计、实现、挑战以及效果。 <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.1 平台架构设计</h3> 平台设计 共有以下5大块： 插件管理 -负责插件的安装、卸载、心跳、启动、冻结、配置推送等一系列与jvm sandbox agent相交互的事情； 流量中心 -打造流量库，提供流量查询、存储、分析、构造等一系列功能，为自动化、压测模型等赋能； 录制服务 -负责录制流量存储、打标、过滤等相关工作； 回放服务 -负责实时/手动/自动回放/回放速率/回放结果汇聚等工作； 对比服务 -负责降噪配置，结果比对，diffy分析等； <img class="rich_pages wxw-img" data-ratio="0.4925925925925926" src="/upload/80ce350118a2fea258910e160a88f18a.jpg" data-type="jpeg" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.2 核心功能实现</h3> 核心功能共有以下3大块： 挂载-控制台下发挂载命令至被测服务，挂载命令会触发jvm sandbox repeater 挂载； 录制-agent录制流量转发至控制台，控制台将流量转发至录制kafka，录制服务消费该消息流量存储至es； 回放-发起回放，回放结果转发至控制台，控制台将流量转发至回放kafka，回放服务消费该消息，再调用对比服务进行比对降噪，处理结果存储至es&db； <img class="rich_pages wxw-img" data-ratio="0.6111111111111112" src="/upload/9dd43102c2e5070234bf9d563466112f.jpg" data-type="jpeg" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.3 平台挑战</h3> <h4 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 18px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.3.1 底层插件适配</h4> 货拉拉的业务种类非常多，各个部门使用姿势也不尽相同，为适配现有业务，插件需要不断进行适配，目前已经适配插件如下： <table width="659"> <thead> <tr> <th style="padding: 0.5rem 1rem;text-align: left;border-top-width: 1px;border-color: rgb(233, 235, 236);">组件类型</th> <th style="padding: 0.5rem 1rem;text-align: left;border-top-width: 1px;border-color: rgb(233, 235, 236);">描述</th> <th style="padding: 0.5rem 1rem;text-align: left;border-top-width: 1px;border-color: rgb(233, 235, 236);">录制</th> <th style="padding: 0.5rem 1rem;text-align: left;border-top-width: 1px;border-color: rgb(233, 235, 236);">回放</th> <th style="padding: 0.5rem 1rem;text-align: left;border-top-width: 1px;border-color: rgb(233, 235, 236);">入口流量</th> </tr> </thead> <tbody> <tr> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">http</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">http请求</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> </tr> <tr style="background-color: rgb(248, 248, 248);"> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">rpc</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">自研rpc请求</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> </tr> <tr> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">apollo</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">服务配置组件</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr style="background-color: rgb(248, 248, 248);"> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">feign</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">easyOpen组件</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">ibatis</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">ibatis组件</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr style="background-color: rgb(248, 248, 248);"> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">mybatis</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">mybatis组件</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">redis</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">redis组件</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr style="background-color: rgb(248, 248, 248);"> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">lala-redis</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">Lala redis组件</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">guava-cache</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">guava缓存</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr style="background-color: rgb(248, 248, 248);"> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">en-cache</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">ehcache缓存</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">caffeine-cache</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">caffeine缓存</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">❌</td> </tr> <tr style="background-color: rgb(248, 248, 248);"> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">kafka</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">kafka组件</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> <td style="padding: 0.5rem 1rem;border-color: rgb(233, 235, 236);">✅</td> </tr> </tbody> </table> <h4 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 18px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.3.2 频繁Full GC</h4> 系统在初期推广频繁触发Full GC，服务超时等问题，经过分析主要有以下几点原因： <ul style="padding-left: 30px;list-style-position: initial;list-style-image: initial;color: rgb(80, 97, 109);font-size: 15px;letter-spacing: normal;text-align: start;text-wrap: wrap;margin-top: 6px !important;list-style-type: square !important;" class="list-paddingleft-1"> <li style="margin-top: 6px !important;">部分子调用反复被调用，比较明显的是配置中心apollo以及guava cache这两个子调用，单条流量中相同请求多达10次以上，这样的流量一旦过多，会导致内存中大对象变多，容易触发FULL GC；</li> <li style="margin-top: 6px !important;">序列化对象偏大，存在部分非业务代码导致的序列化字节数特别大的请求，如服务发现等；</li> </ul> 针对这些问题，进行了如下优化： 1）apollo以及guava 重复请求只录制一次； <img class="rich_pages wxw-img" data-ratio="0.33425925925925926" src="/upload/9e1ba619a8ca96eb4f7b06e2b5ec9279.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> 2）非业务代码导致的序列化字节超大的请求，skip掉； <img class="rich_pages wxw-img" data-ratio="0.6268518518518519" src="/upload/f6f2594b16beb21f74f1eca844c22029.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> 3）对录制过程进行监控/异常降级； <h4 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 18px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.3.3 流量录制不均、筛选困难</h4> 流量回放的主要优势在于能够收集线上的真实流量，然而在生产环境中收集流量时，会遇到两个问题。首先，由于服务的qps很高，全面收集流量可能影响业务服务的性能，也会造成资源浪费(存储一堆流量)，其次许多流量都是重复的，这些重复流量对业务测试帮助不大，全面收集并没有太大的意义。因此，生产采集流量，全局采样率配置一般不会太高。但是这种模式可能导致大部分收集到的流量都来自于qps较高的接口，而请求量小的接口很难被收集到。为了解决这些问题，我们采用接口维度进行流量录制的配置，具体措施如下： 1) 录制不均 ： 支持接口配置，接口优先级高于全局采样率，可以灵活调整各个接口的比例； <img class="rich_pages wxw-img" data-ratio="0.9222222222222223" src="/upload/fb696f44ba31f5529193da6c33958fc5.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"><img class="rich_pages wxw-img" data-ratio="0.6509259259259259" src="/upload/cdcd0f4bf91b06ba9ba609e58ae7bcee.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> 2) 筛选 困难： 可以从多个维度，针对单条流量进行打标，方便用户筛选出自己需要的流量； <img class="rich_pages wxw-img" data-ratio="0.3435185185185185" src="/upload/dfc8e6098c21f3a09478fe0a69f8cafd.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"><img class="rich_pages wxw-img" data-ratio="0.45" src="/upload/f361e7b26c53f85bebf232ac92eea1ce.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <h4 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 18px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.3.4 回放排查成本高</h4> 流量回放老大难的问题就是排查成本高，整个录制和回放都是非常复杂的过程，特别是碰到一些子调用高达上百条的流量，回放失败后，使用者无从下手。为了提升排查效率，我们也做了非常多的事情： <ul style="padding-left: 30px;list-style-position: initial;list-style-image: initial;color: rgb(80, 97, 109);font-size: 15px;letter-spacing: normal;text-align: start;text-wrap: wrap;margin-top: 6px !important;list-style-type: square !important;" class="list-paddingleft-1"> <li style="margin-top: 6px !important;">与公司的监控链路打通，可以查看整个录制以及回放trace 链路；</li> <li style="margin-top: 6px !important;">agent优化，子调用排序，回放详情会打上对应的match标签，方便用户找到排查的入口；</li> <li style="margin-top: 6px !important;">批量详情支持按失败原因汇聚，减少重复排查；</li> <li style="margin-top: 6px !important;">常见失败排查策略推荐，领头羊培养等；</li> </ul> <img class="rich_pages wxw-img" data-ratio="0.4925925925925926" src="/upload/c18f404ea7bf6ab63f1f6eeb3d7490c8.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"><img class="rich_pages wxw-img" data-ratio="0.43796296296296294" src="/upload/ffafad41b92da21787e4d14b5c0a14ae.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">2.4 平台效果</h3> 为了更方便用户使用，平台设计重点主要围绕"使用成本"、"有抓手"、"能力多样化"、"智能化"等多个角度展开， 接下来将从平台优势和特色效果来展开阐述： 1)平台优势 接入成本低 : 从接入、配置、录制、回放整个过程，新手大概30 min内完成； 使用便捷高效: 流量支持多规则打标、智能降噪、回放结果汇聚等能力，降低排查成本； 结果透明化: 与公司覆盖率打通，智能生成回放报告； 个性化支持 : 支持定时、实时、手动等多种回放姿势； <img class="rich_pages wxw-img" data-ratio="0.42962962962962964" src="/upload/6fa9aab79d559971989853bdd792d7d5.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"><img class="rich_pages wxw-img" data-ratio="1.5638888888888889" src="/upload/40152ea79591ac9cd3b1a34180712c5a.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <img class="rich_pages wxw-img" data-ratio="0.3416666666666667" src="/upload/c69c75cc9470594af6d13c0f24c821d3.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <img class="rich_pages wxw-img" data-ratio="0.29444444444444445" src="/upload/fc7f849e324cffec18e510d6bd4272a2.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> 2)平台特色 <ul style="padding-left: 30px;list-style-position: initial;list-style-image: initial;color: rgb(80, 97, 109);font-size: 15px;letter-spacing: normal;text-align: start;text-wrap: wrap;margin-top: 6px !important;list-style-type: square !important;" class="list-paddingleft-1"> <li style="margin-top: 6px !important;">自动回放</li> </ul> 自动回放是指针对只读接口，采用手动/定时触发的方式，使用实时录制的指定/随机流量进行非mock的降噪回放，汇总结果数据，进而实现“0”测试人力成本完整的查询接口测试。此方式误报率极低，不用担心代码链路变动用不了，也能更全面的覆盖线上场景。 <img class="rich_pages wxw-img" data-ratio="0.9518518518518518" src="/upload/b34be5b673703989ee4dbc286bdb01d6.jpg" data-type="jpeg" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <ul style="padding-left: 30px;list-style-position: initial;list-style-image: initial;color: rgb(80, 97, 109);font-size: 15px;letter-spacing: normal;text-align: start;text-wrap: wrap;margin-top: 6px !important;list-style-type: square !important;" class="list-paddingleft-1"> <li style="margin-top: 6px !important;">链路回放</li> </ul> 在多个大型核心系统架构升级背景下，基于现有单服务录制能力、货拉拉全局Trace能力、业务场景代码插桩能力，与研发团队共建了链路级流量回放能力，经过重构项目的应用，链路录制回放探索落地已取得初步胜利。 <img class="rich_pages wxw-img" data-ratio="0.9101851851851852" src="/upload/10fe73ad3ac079d69f00c2c2f3307380.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <ul style="padding-left: 30px;list-style-position: initial;list-style-image: initial;color: rgb(80, 97, 109);font-size: 15px;letter-spacing: normal;text-align: start;text-wrap: wrap;margin-top: 6px !important;list-style-type: square !important;" class="list-paddingleft-1"> <li style="margin-top: 6px !important;">接收外部流量输入并在平台内进行回放</li> </ul> 当前的流量录制与回放仅支持java系统，但对于服务语言（其他语言转java）重构的项目，此平台就无任何用武之地。为了能在此种项目中发挥效果，故将平台本身的录制模块进行灵活化改造，可以录制java服务流量，也可自定义流量输入。 <img class="rich_pages wxw-img" data-ratio="0.7546296296296297" src="/upload/637665b0cfd64751b59f33bbc2bf7359.png" data-type="png" data-w="1080" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <h2 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 24px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">三、实践落地</h2> 流量回放虽然具备自我录制和回放的完整能力，但因微服务的大流行，后端架构变的越来越复杂，市面上很多公司都没有有效的应用起来，原因主要有2个： <ul style="padding-left: 30px;list-style-position: initial;list-style-image: initial;color: rgb(80, 97, 109);font-size: 15px;letter-spacing: normal;text-align: start;text-wrap: wrap;margin-top: 6px !important;list-style-type: square !important;" class="list-paddingleft-1"> <li style="margin-top: 6px !important;">使用此平台对测试人员要求极高，需要十分了解代码逻辑与链路交互；</li> <li style="margin-top: 6px !important;">代码链路有一点变更，回放则会受到影响，导致失败率极高；</li> </ul> 基于此历史经验，并结合货拉拉的目前现状特点(业务复杂、服务语言切换php转java重构、核心链路架构升级等)，如何更好的应用此平台给测试人员减负和为系统增稳，主要从以简到难的应用思路去落地，逐步建立用户信心，最终达到用户依赖并信任平台的效果。 截止目前的应用数据： <img class="rich_pages wxw-img" data-ratio="0.48722986247544203" src="/upload/5c221b9f7c79830e449015b5ddeb29ff.png" data-type="png" data-w="1018" style="border-width: 2px;border-style: solid;border-color: rgb(238, 238, 238);border-radius: 6px;"> <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">3.1 非Mock回放</h3> 非mock回放的好处在于它不会受代码链路变更影响，但此种方式需确保录制与回放处于同一环境内、共用底层存储并不能变更数据，也就是指在同一环境内对读接口进行录制与回放。此种应用类型的失败只有一种，即返回值差异，降噪处理起来十分清晰与简易。目前平台共支持2种模式，java录制java回放、php录制java回放，可进行手动/自动回放。 累计回放次数5k次，流量数60w+，拦截问题200+ 。 <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">3.2 Mock回放</h3> mock回放的弊端是受代码链路变更影响和验证不到底层中间件部分，所以它比较适合技术架构比较稳定的业务线。基于此分析我们在具有此类业务线特性的团队进行推广应用，串入到项目流程的准入（提测）和准出（回归）环节使用。 累计回放次数1k次，流量数10w+，拦截问题10+ 。 <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">3.3 链路回放</h3> 链路回放的接入成本较高，主要耗费在业务场景代码插桩上，但它很好的补充了单服务录制回放的短板，适合于大型链路升级与重构。 此能力目前应用于货拉拉的一个大型核心履约链路架构升级项目，拦截问题180+ ，协助项目做到万无一失。 <h2 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 24px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">四、未来规划</h2> 经过长期的迭代优化，我们已经在3种不同的应用（非mock回放、mock回放、链路回放）取得了阶段性的正向收益，这使我们能更好地应对业务快速迭代和系统架构升级的挑战。对于下一个阶段目标，主要从高效、流程管控、智能、拓展四个方面展开。 <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">4.1 结合精准智能筛选流量回归</h3> 公司已有的精准平台具有能提供每次提测分支受影响的方法以及该方法影响到的所有接口的能力。此能力可帮助LLRepeater进行精准回放无需人工介入，这样无论是对资源还是人力成本上都具有提效的效果。 <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">4.2 CI/CD集成</h3> 需要完善流程管控，未来将会与公司的准入准出流水线进行结合，避免受人的影响，导致执行不一的情况发生。 <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">4.3 智能分析</h3> 基于回放对比知识库的数据沉淀，利用智能化技术帮助使用人员分析解决问题，降低使用门槛，吸引更多的用户。 <h3 style="margin-top: 2rem;margin-bottom: 0.5rem;font-weight: 700;color: rgb(248, 95, 72);line-height: 1.35;font-size: 20px;letter-spacing: normal;text-align: start;text-wrap: wrap;font-family: Menlo, Monaco, "Source Code Pro", Consolas, Inconsolata, "Ubuntu Mono", "DejaVu Sans Mono", "Courier New", "Droid Sans Mono", "Hiragino Sans GB", 微软雅黑, monospace !important;">4.4 支持多语言的流量录制和回放，覆盖更多更广的业务领域</h3> Java是目前后端架构的主流语言，但是像go、php等语言也有很多，未来会在LLRepeater上兼容更多语言，做大做强。 <mp-style-type data-value="3"></mp-style-type>

HBase 工具｜HydraQL: Easy to use HBase

作者：微信小助手

<h1 data-tool="mdnice编辑器" style="font-weight: bold;margin: 1em 0px;font-size: 1.4em;padding-bottom: 0.3em;border-bottom: 1px solid rgb(223, 226, 229);text-align: justify;line-height: 1.6 !important;">目录导读</h1> <section style="padding-right: 10px;padding-left: 10px;line-height: 1.6;letter-spacing: 0px;word-break: break-word;text-align: left;font-size: 16px;margin-top: -1em;color: rgb(51, 51, 51);font-family: Optima-Regular, Optima, PingFangSC-light, PingFangTC-light, "PingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;margin-left: 0px;margin-right: 0px;"> <figure data-tool="mdnice编辑器" style="display: flex;flex-direction: column;justify-content: center;align-items: center;margin-top: 1em;margin-bottom: 1em;line-height: 1.6 !important;"> <img class="rich_pages wxw-img" data-ratio="0.46296296296296297" data-type="png" data-w="1080" style="display: block;width: auto;margin-right: auto;margin-left: auto;line-height: 1.6 !important;height: auto !important;" src="/upload/f845443e339251368fc020cad0a55fa0.png"> </figure> </section> <h1 data-tool="mdnice编辑器" style="font-weight: bold;margin: 1em 0px;font-size: 1.4em;padding-bottom: 0.3em;border-bottom: 1px solid rgb(223, 226, 229);text-align: justify;line-height: 1.6 !important;">HydraQL 简介</h1> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> HydraQL [ˈhaɪdrəQL]，是基于 HBase 原生客户端 API 设计的一款 SQL 查询器，通过使用类 SQL 语法或更精简的 API，用户就可以轻松读写 HBase 表中的数据，而无需深入了解和编写复杂的方法调用。 </section> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 与 Phoenix 相比， <code style="padding: 2px 4px;border-radius: 4px;margin-right: 2px;margin-left: 2px;font-family: "Operator Mono", Consolas, Monaco, Menlo, monospace;word-break: break-all;color: rgb(228, 105, 24);background-color: rgb(239, 239, 239);font-size: 0.875em;line-height: 1.6 !important;">HydraQL</code>中的 SQL 语法更轻量，无需引入额外的组件和配置即可使用，且对 HBase 无倾入性，但目前还不支持聚合查询、表关联、以及二级索引等高阶功能。 </section> <h1 data-tool="mdnice编辑器" style="font-weight: bold;margin: 1em 0px;font-size: 1.4em;padding-bottom: 0.3em;border-bottom: 1px solid rgb(223, 226, 229);text-align: justify;line-height: 1.6 !important;">HBase 简介和应用场景</h1> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 在开始隆重介绍 HydraQL 之前，可以先简单认识下什么是 HBase，以及 HBase 的使用场景。 </section> <blockquote data-tool="mdnice编辑器" style="border-top: none;border-right: none;border-bottom: none;font-size: 0.9em;overflow: auto;color: rgb(106, 115, 125);margin-bottom: 20px;margin-top: 20px;background-image: none;background-position: initial;background-size: initial;background-repeat: initial;background-attachment: initial;background-origin: initial;background-clip: initial;border-left-width: 4px;border-left-color: rgb(221, 221, 221);padding-top: 0px;padding-right: 1em;padding-left: 1em;"> <section style="font-size: inherit;color: rgb(102, 102, 102);text-align: justify;margin-left: 0px;margin-right: 0px;line-height: 1.6 !important;"> HBase 是 Apache 的顶级项目之一，是一款开源的、分布式的、面向列的 NoSQL 数据库系统。它基于 Hadoop 的分布式文件系统（HDFS）构建，并且在 Hadoop 生态系统中充当高可靠、高性能和可伸缩性的实时数据存储和处理解决方案。 </section> </blockquote> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> HBase 适用于需要大规模数据存储和实时访问的场景。其主要应用场景包括： </section> <ul data-tool="mdnice编辑器" style="padding-left: 25px;margin: 1em 0px;line-height: 1.6 !important;" class="list-paddingleft-1"> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> 存储海量实时数据，如社交网络的消息、实时日志数据、在线游戏的玩家数据等。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> 适用于需要高可靠性的应用，HBase 的设计使得数据可以以冗余的方式存储在分布式环境中，从而保证数据的持久性和可靠性。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> 用于在线分析处理（OLAP）和实时查询分析（OLTP）的场景。唔，OLAP 还是不太适合 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> HBase 提供对大规模数据的低延迟随机读写操作，使得它成为处理实时分析和查询的理想选择。 </section></li> </ul> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> HBase 具有以下架构特点： </section> <ul data-tool="mdnice编辑器" style="padding-left: 25px;margin: 1em 0px;line-height: 1.6 !important;" class="list-paddingleft-1"> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> 分布式架构：HBase 以集群的方式部署，数据分布在多个节点上，从而实现数据的高可用性和负载均衡。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> 列式存储：HBase 将数据存储在列族中，每个列族可以包含单独定义的列，并将数据按照列进行存储，从而提高查询效率。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> 强一致性：HBase 通过强一致性保证数据的正确性，即在写入和读取操作过程中，始终保证数据的一致性。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;text-align: justify;"> 高可扩展性：HBase 支持水平扩展，即可以通过添加更多的节点来增加存储容量和处理能力。关于数据量规模，HBase 可以存储海量级别的数据。它可以通过添加更多的 RegionServer 节点来水平扩展，以存储和处理更大规模的数据。 </section></li> </ul> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> HBase 被许多大型公司广泛应用，其中一些典型的大型公司包括： </section> <ul data-tool="mdnice编辑器" style="padding-left: 25px;margin: 1em 0px;line-height: 1.6 !important;" class="list-paddingleft-1"> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;"> Facebook：Facebook 使用 HBase 来存储和处理用户的消息、通知、实时新闻源等实时数据，提供实时的社交网络服务。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;"> Twitter：Twitter 使用 HBase 作为其实时分析和查询引擎的后端存储，用于存储和处理大规模的社交网络数据、实时推文和用户行为数据等。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;"> Airbnb：Airbnb 使用 HBase 来存储和处理其大规模的实时用户数据，包括订房信息、用户行为数据和实时推荐。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;"> Yahoo：Yahoo 使用 HBase 作为其广告平台的后端存储，用于存储和处理广告投放相关的海量数据。 </section></li> <li style="line-height: 1.6 !important;"> <section style="color: rgb(1, 1, 1);margin-top: 0.3em;margin-bottom: 0.3em;line-height: 1.6 !important;"> Spotify：Spotify 使用 HBase 来存储和处理音乐流媒体服务中的海量用户数据，包括播放历史、音乐推荐和用户互动数据等。 </section></li> </ul> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 这些大型公司选择使用 HBase 的原因主要是因为 HBase 提供了可靠性、可伸缩性和高性能的实时数据存储和查询能力，适用于处理大规模数据的场景。同时，HBase 具有强一致性和分布式架构的优势，能够应对企业级应用的高要求。 </section> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 以上内容摘抄自 ChatGPT。 </section> <h1 data-tool="mdnice编辑器" style="font-weight: bold;margin: 1em 0px;font-size: 1.4em;padding-bottom: 0.3em;border-bottom: 1px solid rgb(223, 226, 229);text-align: justify;line-height: 1.6 !important;">HydraQL 尝鲜示例</h1> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 针对如下数据集： </section> <section style="margin-left: 0px;margin-right: 0px;"> <figure data-tool="mdnice编辑器" style="display: flex;flex-direction: column;justify-content: center;align-items: center;margin-top: 1em;margin-bottom: 1em;line-height: 1.6 !important;"> <img class="rich_pages wxw-img" data-ratio="0.8268518518518518" data-type="png" data-w="1080" style="display: block;width: auto;margin-right: auto;margin-left: auto;line-height: 1.6 !important;height: auto !important;" src="/upload/c3f2eb0a138af120fc46b5245200b1eb.png"> <figcaption style="margin-top: 5px;text-align: justify;color: rgb(136, 136, 136);font-size: 14px;line-height: 1.6 !important;"> 数据集合 </figcaption> </figure> </section> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 现有一查询场景： </section> <blockquote data-tool="mdnice编辑器" style="border-top: none;border-right: none;border-bottom: none;font-size: 0.9em;overflow: auto;color: rgb(106, 115, 125);margin-bottom: 20px;margin-top: 20px;background-image: none;background-position: initial;background-size: initial;background-repeat: initial;background-attachment: initial;background-origin: initial;background-clip: initial;border-left-width: 4px;border-left-color: rgb(221, 221, 221);padding-top: 0px;padding-right: 1em;padding-left: 1em;"> <section style="font-size: inherit;color: rgb(102, 102, 102);text-align: justify;margin-left: 0px;margin-right: 0px;line-height: 1.6 !important;"> 筛选 rowKey 范围在('a1000', 'g1005']，年龄>=18 岁，得有工作或者薪酬大于 1 万，有交通工具，而且交通工具不能是公交、自行车和地铁的人员信息。 </section> </blockquote> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 在没有 HydraQL 之前，我们需要这样做，才能过滤出来我们需要的结果 </section> <section style="margin-left: 0px;margin-right: 0px;"> <figure data-tool="mdnice编辑器" style="display: flex;flex-direction: column;justify-content: center;align-items: center;margin-top: 1em;margin-bottom: 1em;line-height: 1.6 !important;"> <img class="rich_pages wxw-img" data-ratio="1.4435185185185184" data-type="png" data-w="1080" style="display: block;width: auto;margin-right: auto;margin-left: auto;line-height: 1.6 !important;height: auto !important;" src="/upload/5c16c65706b2a1cfa5dca1f5a4b18c5.png"> <figcaption style="margin-top: 5px;text-align: justify;color: rgb(136, 136, 136);font-size: 14px;line-height: 1.6 !important;"> 原生Scan </figcaption> </figure> </section> <section style="margin: 1em 0px;font-size: inherit;text-align: justify;line-height: 1.6 !important;"> 上述代码的输出结果 </section> <section style="margin-left: 0px;margin-right: 0px;"> <figure data-tool="mdnice编辑器" style="display: flex;flex-direction: column;justify-content: center;align-items: center;margin-top: 1em;margin-bottom: 1em;line-height: 1.6 !important;"> <img class="rich_pages wxw-img" data-ratio="0.13333333333333333" data-type="png" data-w="1080" style="display: block;width: auto;margin-right: auto;margin-left: auto;line-height: 1.6 !important;height: auto !important;" src="/upload/aad0be7ebf751e5a1a1be754a375fa7b.png"> <figcaption style="margin-top: 5px;text-align: justify;color: rgb(136, 136, 136);font-size: 14px;line-height: 1.6 !i

详解 Redis 分布式锁的 5 种方案

作者：微信小助手

消息队列技术选型：这 7 种消息场景一定要考虑！

作者：微信小助手

<section data-tool="mdnice编辑器" data-website="https://www.mdnice.com" style="font-size: 16px;padding-right: 10px;padding-left: 10px;line-height: 1.6;letter-spacing: 0px;word-break: break-word;text-align: left;color: rgb(51, 51, 51);font-family: Optima-Regular, Optima, PingFangSC-light, PingFangTC-light, "PingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;margin-bottom: 24px;" data-mpa-powered-by="yiban.io"> 我们在做消息队列的技术选型时，往往会结合业务场景进行考虑。今天来聊一聊消息队列可能会用到的 7 种消息场景。 <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">1 普通消息</h2> 消息队列最基础的功能就是生产者发送消息、Broker 保存消息，消费者来消费消息，以此实现系统解耦、削峰填谷的作用。 <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.33947772657450076" src="/upload/9f724b7deaea6a839dc79a04b9e66d59.png" data-type="png" data-w="651" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 普通消息是消息队列必备的消息类型，也是系统使用场景最多的一种消息。 <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">2 顺序消息</h2> 顺序消息是指生产者发送消息的顺序和消费者消费消息的顺序是一致的。比如在一个电商场景，同一个用户提交订单、订单支付、订单出库，这三个消息消费者需要按照顺序来进行消费。如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.16164817749603805" src="/upload/5fed68509772c292567be6f779bc4332.png" data-type="png" data-w="631" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 顺序消息的实现并不容易，原因如下： <ul data-tool="mdnice编辑器" style="margin-top: 8px;margin-bottom: 8px;padding-left: 25px;color: black;" class="list-paddingleft-1"> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 生产者集群中，有多个生产者发送消息，网络延迟不一样，很难保证发送到 Broker 的消息落盘顺序是一致的； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 如果 Broker 有多个分区或队列，生产者发送的消息会进入多个分区，也无法保证顺序消费； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 如果有多个消费者来异步消费同一个分区，很难保证消费顺序跟生产者发送顺序一致。 </section></li> </ul> 要保证消息有序，需要满足两个条件： <ul data-tool="mdnice编辑器" style="margin-top: 8px;margin-bottom: 8px;padding-left: 25px;color: black;" class="list-paddingleft-1"> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 同一个生产者必须同步发送消息到同一个分区； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 一个分区只能给同一个消费者消费。 </section></li> </ul> 如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.41851368970013036" src="/upload/47b7ee1bfa546cfcdcae6d625c8386d7.png" data-type="png" data-w="767" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 上面第二个条件是比较容易实现的，一个分区绑定一个消费者就可以，主要是第一个条件。 在主流消息队列的实现中，Kafka 和 Pulsar 的实现方式类似，生产者给消息赋值一个 key，对 key 做 Hash 运算来指定消息发送到哪一个分区。比如上面电商的例子，对同一个用户的一笔订单，提交订单、订单支付、订单出库这三个消息赋值同一个 key，就可以把这三条消息发送到同一个分区。 对于 RocketMQ，生产者在发送消息的时候，可以通过 MessageQueueSelector 指定把消息投递到那个 MessageQueue，如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.17079530638852672" src="/upload/d66bf8ef9bfd1c7dc6b8edae928c3768.png" data-type="png" data-w="767" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 示例代码如下： <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/7N2JRaWooRA2IUibHI1SdC7oLTSHGZfskWPRJStpvb0icIn4QUFtC9JMwiatAHVpKvTYXSzY8LvColYRdH0rENCO5yUCicOic7hxt/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(30, 30, 30);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #DCDCDC;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #1E1E1E;border-radius: 5px;">public static void main(String[] args) throws UnsupportedEncodingException {  try {   DefaultMQProducer producer = new DefaultMQProducer("please_rename_unique_group_name");   producer.start();   String[] tags = new String[] {"TagA", "TagB", "TagC", "TagD", "TagE"};   for (int i = 0; i < 100; i++) {    int orderId = i % 10;    Message msg =     new Message("TopicTestjjj", tags[i % tags.length], "KEY" + i,      ("Hello RocketMQ " + i).getBytes(RemotingHelper.DEFAULT_CHARSET));    SendResult sendResult = producer.send(msg, new MessageQueueSelector() {     @Override     public MessageQueue select(List<MessageQueue> mqs, Message msg, Object arg) {      Integer id = (Integer) arg;      int index = id % mqs.size();      return mqs.get(index);     }    }, orderId);    System.out.printf("%s%n", sendResult);   }   producer.shutdown();  } catch (MQClientException | RemotingException | MQBrokerException | InterruptedException e) {   e.printStackTrace();  } } </code></pre> RabbitMQ 的实现是 Exchange 根据设置好的 Route Key 将数据路由到不同的 Queue 中。示例代码如下： <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/7N2JRaWooRA2IUibHI1SdC7oLTSHGZfskWPRJStpvb0icIn4QUFtC9JMwiatAHVpKvTYXSzY8LvColYRdH0rENCO5yUCicOic7hxt/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(30, 30, 30);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #DCDCDC;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #1E1E1E;border-radius: 5px;">@Resource private AmqpTemplate rabbitTemplate; public void send1(String message) {  rabbitTemplate.convertAndSend("testExchange", "testRoutingKey", message); } </code></pre> <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">3 延时消息</h2> 或者也叫定时消息，是指消息发送后不会立即被消费，而是指定一个时间，到时间后再消费。经典的场景比如电商购物时，30 分钟未支付订单，让订单自动失效。 <h3 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);">3.1 RocketMQ 实现</h3> RocketMQ 定义了 18 个延时级别，每个延时级别对应一个延时时间。下面如果延迟级别是 3，则消息会延迟 10s 才会拉取。 <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/7N2JRaWooRA2IUibHI1SdC7oLTSHGZfskWPRJStpvb0icIn4QUFtC9JMwiatAHVpKvTYXSzY8LvColYRdH0rENCO5yUCicOic7hxt/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(30, 30, 30);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #DCDCDC;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #1E1E1E;border-radius: 5px;">//MessageStoreConfig类 private String messageDelayLevel = "1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h"; </code></pre> RocketMQ 的延时消息如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.31278890600924497" src="/upload/897bb0006be1bf54ca116a3bbbc85125.png" data-type="png" data-w="649" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 生产者把消费发送到 Broker 后，Broker 首先把消息保存到 SCHEDULE_TOPIC_XXXX 这个 Topic，然后调度任务会判断是否到期，如果到期，会把消息从 SCHEDULE_TOPIC_XXXX 取出投递到原始的 queue，这样消费者就可以消费到了。 RocketMQ 的延时消息只支持最大两个小时的延时，不过 RocketMQ5.0 基于时间轮算法实现了定时消息，解决了这个问题。 <h3 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);">3.2 Pulsar 实现</h3> Pulsar 的实现如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.31278890600924497" src="/upload/5286fc026079363ba868fe9b13cfa0b9.png" data-type="png" data-w="649" style="display: block;margin-right: auto;margin-left: auto;"> </figure> Pulsar 的延时消息首先会写入一个 Delayed Message Tracker 的数据结构中，Delayed Message Tracker 根据延时时间构建 delayed index 优先级队列。消费者拉取消息时，首先去 Delayed Message Tracker 检查是否有到期的消息。如果有则直接拉取进行消费。 <h3 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);">3.3 RabbitMQ 实现</h3> RabbitMQ 的实现方式有两种，一种是投递到普通队列都不消费，等消息过期后被投递到死信队列，消费者消费死信队列。如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.17411402157164868" src="/upload/1ca2ca3f00b7e4e0463d0f8991a89ff0.png" data-type="png" data-w="649" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 第二种方式是生产者发送消息时，先发送到本地 Mnesia 数据库，消息到期后定时器再将消息投递到 broker。 <h3 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);">3.4 Kafka 实现</h3> Kafka 本身并没有延时队列，不过可以通过生产者拦截器来实现消息延时发送，也可以定义延时 Topic，利用类似 RocketMQ 的方案来实现延时消息。 <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">4 事务消息</h2> 事务消息是指生产消息和消费消息满足事务的特性。 RabbitMQ 和 Kafka 的事务消息都是只支持生产消息的事务特性，即一批消息要不全部发送成功，要不全部发送失败。 RabbitMQ 通过 Channel 来开启事务消息，代码如下： <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/7N2JRaWooRA2IUibHI1SdC7oLTSHGZfskWPRJStpvb0icIn4QUFtC9JMwiatAHVpKvTYXSzY8LvColYRdH0rENCO5yUCicOic7hxt/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(30, 30, 30);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #DCDCDC;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #1E1E1E;border-radius: 5px;">ConnectionFactory factory=new ConnectionFactory(); connection=factory.newConnection(); Channel channel=connection.createChannel(); //开启事务 channel.txSelect(); channel.basicPublish("directTransactionExchange","transactionRoutingKey",null,message.getBytes("utf-8")); //提交事务 或者 channel.txRollback()回滚事务 channel.txCommit(); </code></pre> <p data-tool="mdnice编辑器" style="padding: 8px 10px;color: black;line-height: 2;font-size: 16px;letter-spacing: 0px;word-break: break-word;text-align: left;font-family: Optima-Regular, Optima, PingFangSC-light, PingFangTC-light, "PingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;">Kafka 可以给多个生产者设置同一个事务 ID ，从而把多个 Topic 、多个 Partition 放在一个事务中，实现原子性写入。 Pulsar 的事务消息对于事务语义的定义是：允许事件流应用将消费、处理、生产消息整个过程定义为一个原子操作。可见，Pulsar 的事务消息可以覆盖消息流整个过程。 RocketMQ 的事务消息是通过 half 消息来实现的。以电商购物场景来看，账户服务扣减账户金额后，发送消息给 Broker，库存服务来消费这条消息进行扣减库存。如下图: <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="1.0736497545008183" src="/upload/d5401e51662b94fc3468d0076593b470.png" data-type="png" data-w="611" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 可见，RocketMQ 只能保证生产者发送消息和本地事务的原子性，并不能保证消费消息的原子性。 <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">5 轨迹消息</h2> 轨迹消息主要用于跟踪消息的生命周期，当消息丢失时可以很方便地找出原因。 轨迹消息也跟普通消息一样，也需要存储和查询，也会占用消息队列的资源，所以选择轨迹消息要考虑下面几点： <ul data-tool="mdnice编辑器" style="margin-top: 8px;margin-bottom: 8px;padding-left: 25px;color: black;" class="list-paddingleft-1"> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 消息生命周期的关键节点一定要记录； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 不能影响正常消息的发送和消费性能； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 不能影响 Broker 的消息存储性能； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 要考虑消息查询维度和性能。 </section></li> </ul> RabbitMQ Broker 实现了轨迹消息的功能，打开 Trace 开关，就可以把轨迹消息发送到 amq.rabbitmq.trace 这个 exchange，但是要考虑轨迹消息会不会给 Broker 造成压力进而导致消息积压。RabbitMQ 的生产者和消费者都没有实现轨迹消息，需要开发者自己来实现。 RocketMQ 生产者、Broker 和消费者都实现了轨迹消息，不过默认是关闭的，需要手工开启。 使用轨迹消息，需要考虑记录哪些节点、存储介质、性能、查询方式等问题。 <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">6 死信队列</h2> 在消息队列中，死信队列主要应对一些异常的情况，如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.5633270321361059" src="/upload/f5080add0a8d3e29a3c6b3c64ae40748.png" data-type="png" data-w="529" style="display: block;margin-right: auto;margin-left: auto;"> </figure> RocketMQ 实现了消费端的死信队列，当消费者消费失败时，会进行重试，如果重试 16 次还是失败，则这条消息会被发送到死信队列。 RabbitMQ 实现了生产者和 Broker 的死信队列，下面三种情况，消息会被发送到死信队列： <ul data-tool="mdnice编辑器" style="margin-top: 8px;margin-bottom: 8px;padding-left: 25px;color: black;" class="list-paddingleft-1"> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 生产者发送消息被拒绝，并且 requeue 参数设置为 false； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> Broker 消息过期了； </section></li> <li> <section style="margin-top: 5px;margin-bottom: 5px;color: rgb(1, 1, 1);line-height: 2;"> 队列达到最大长度。 </section></li> </ul> RabbitMQ 消息变成死信消息后，会被发送到死信交换机（Dead-Letter-Exchange）。 <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">7 优先级消息</h2> 有一些业务场景下，我们需要优先处理一些消息，比如银行里面的金卡客户、银卡客户优先级高于普通客户，他们的业务需要优先处理。如下图： <figure data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;display: flex;flex-direction: column;justify-content: center;align-items: center;"> <img class="rich_pages wxw-img" data-ratio="0.1828793774319066" src="/upload/1e03af290317d97a8164ff9a8c0733c1.png" data-type="png" data-w="771" style="display: block;margin-right: auto;margin-left: auto;"> </figure> 主流消息队列中，RabbitMQ 是支持优先级队列的，代码如下： <pre data-tool="mdnice编辑器" style="margin-top: 10px;margin-bottom: 10px;border-radius: 5px;box-shadow: rgba(0, 0, 0, 0.55) 0px 2px 10px;"><span style="display: block;background: url("https://mmbiz.qpic.cn/mmbiz_svg/7N2JRaWooRA2IUibHI1SdC7oLTSHGZfskWPRJStpvb0icIn4QUFtC9JMwiatAHVpKvTYXSzY8LvColYRdH0rENCO5yUCicOic7hxt/640?wx_fmt=svg") 10px 10px / 40px no-repeat rgb(30, 30, 30);height: 30px;width: 100%;margin-bottom: -7px;border-radius: 5px;"><code style="overflow-x: auto;padding: 16px;color: #DCDCDC;display: -webkit-box;font-family: Operator Mono, Consolas, Monaco, Menlo, monospace;font-size: 12px;-webkit-overflow-scrolling: touch;padding-top: 15px;background: #1E1E1E;border-radius: 5px;">ConnectionFactory factory=new ConnectionFactory(); connection=factory.newConnection(); Channel channel=connection.createChannel(); Map<String, Object> args = new HashMap<String, Object>(); //设置优先级为 5 args.put("x-max-priority", 5); channel.queueDeclare("my-priority-queue", true, false, false, args); </code></pre> <h2 data-tool="mdnice编辑器" style="font-weight: bold;padding-top: 30px;padding-bottom: 30px;color: rgb(19, 92, 224);font-size: 20px;">8 总结</h2> 消息队列技术选型，要考虑的因素很多，本文主要从业务场景来分析需要考虑的因素，同时技术上也需要考虑运维复杂度、业务规模、社区活跃度、学习成本等因素。希望本文对你使用消息队列有所帮助。 </section>

文章列表