服务调用超时与重试配置
一个服务挂了，因为重试风暴，整个系统都被拖垮。超时和重试配置不当，是分布式系统中 80% 雪崩的元凶。
一、超时配置的层次
- 1.1 连接超时（Connect Timeout）——建立连接的超时
- 1.2 读取超时（Read Timeout）——等待响应的超时
- 1.3 请求超时（Request Timeout）——整个请求的总体超时
- 1.4 链路上各层超时的关系——Nginx → Gateway → RPC → DB
二、超时时间的计算
- 2.1 基于 P99 响应时间 + 一定 buffer
- 2.2 上下游超时的关系——下游超时 < 上游超时
- 2.3 Dubbo 的超时配置——
timeout属性 - 2.4 Feign 的超时配置——
connectTimeout/readTimeout
三、重试机制的设计
- 3.1 什么时候需要重试——网络抖动、临时故障
- 3.2 什么时候不能重试——非幂等写操作
- 3.3 重试次数——3 次是常见的上限
- 3.4 重试间隔——固定间隔 vs 指数退避
- 3.5 退避算法——
Base * 2^(attempt-1) + random
四、Dubbo 的重试机制
- 4.1
retries属性配置 - 4.2 幂等性判断——
@DubboService(retries = 0)用于非幂等 - 4.3 重试可能导致的超时雪崩
五、超时风暴与解决方案
- 5.1 超时风暴的形成——A 超时 → B 重试 → B 压力大 → B 也超时
- 5.2 限流保护——Sentinel / Hystrix
- 5.3 熔断机制——失败率达到阈值直接熔断
- 5.4 快速失败 vs 兜底逻辑
六、超时配置的最佳实践
- 6.1 Nginx 层：
proxy_connect_timeout+proxy_read_timeout - 6.2 Gateway 层：
spring.cloud.gateway.httpclient.response-timeout - 6.3 RPC 层：Dubbo
timeout+retries - 6.4 DB 层：
spring.datasource.hikari.connection-timeout - 6.5 一个完整的超时配置参考值
七、总结
- 超时是分布式系统的第一道防线
- “快速失败”优于”无限等待”
本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 谜思录！
相关推荐
2015-01-17
Spring 事务失效场景与原因分析
“@Transactional 怎么不生效？” 这个问题被问了无数遍。本文总结 8 个事务失效场景，每个都有代码复现和修正方案。 一、事务不生效的总根源 1.1 Spring 事务是 AOP 代理实现的 1.2 所有失效原因最终都归结为”代理没有生效”或”异常没有触发回滚” 二、场景 1：非 public 方法 2.1 原理——CGLIB 无法代理 private/protected 方法 2.2 错误示例与修正 三、场景 2：自调用问题 3.1 同类中方法 A 调用方法 B，B 的事务失效 3.2 解决方案——AopContext.currentProxy() 或拆分...
2026-06-13
大模型应用性能优化
大模型 API 调用慢（2-5 秒）、贵（按 Token 计费），如何在保证效果的前提下优化性能和成本？ 一、大模型应用的性能瓶颈 1.1 延迟——大模型推理本身慢 1.2 成本——每次都调 API 很贵 1.3 吞吐——API 有并发限制 二、语义缓存（Semantic Cache） 2.1 原理——相似的问题，答案也相似 2.2 不是精确匹配——余弦相似度 > 0.95 就复用 2.3 Redis + Embedding 实现 2.4 Spring AI 的缓存支持 2.5 缓存命中率和成本节省 三、SSE 流式响应 3.1 普通调用——等 5 秒，一次性返回 3.2 ...
2020-11-28
MongoDB 聚合管道实践
订单统计：按天/按商品/按地区多维分析。用 MySQL 需要复杂的 GROUP BY 和多表 JOIN，MongoDB 聚合管道一行搞定。 一、聚合管道简介 1.1 管道的概念——文档流经多个阶段，逐步处理 1.2 常用阶段——$match / $group / $sort / $project / $lookup 1.3 与传统 SQL 的对应关系 二、$match——过滤 2.1 等价于 WHERE 2.2 尽量放在管道最前面——减少后续处理量 2.3 支持索引 三、$group——分组聚合 3.1 等价于 GROU...
2025-08-30
LangChain4j Agent 开发实践
Agent 是大模型的下一个进化——不只是回答问题，还能执行任务。用 LangChain4j 构建一个能查订单、能退款、能转人工的智能客服。 一、Agent 的核心组件 1.1 LLM——大脑，决策和生成 1.2 Tools——工具，与外部系统交互 1.3 Memory——记忆，记住对话历史 1.4 Planner——规划，拆解复杂任务 二、LangChain4j 介绍 2.1 Java 版的 LangChain 2.2 核心——AiServices / Tool / ChatMemory 2.3 与 Spring Boot 集成 三、定义 Tools 3.1...
2018-09-01
MySQL EXPLAIN 字段解读
EXPLAIN 是 SQL 优化的第一工具。本文完整解读每个字段，并附 10 个生产案例。 一、EXPLAIN 基础 1.1 EXPLAIN 的作用——查看执行计划 1.2 EXPLAIN FORMAT=JSON——更详细的信息 1.3 EXPLAIN ANALYZE（MySQL 8.0.18+）——实际执行时间 二、id——查询的序号 2.1 id 相同——从上到下执行 2.2 id 不同——id 越大越先执行 2.3 子查询和联合查询的 id 表现 三、select_type——查询类型 3.1 SIMPLE——简单查询 3.2 PRIMARY——最外层查询 3.3 SUBQ...
2013-11-16
ThreadLocal 内存泄露与最佳实践
几乎所有 Java 项目都在用 ThreadLocal 存储上下文信息，但很多人不知道它可能造成内存泄漏——而且是在你”原本以为不会”的场景下。 一、ThreadLocal 的设计初衷 1.1 线程隔离的数据存储——每个线程一份独立副本 1.2 典型使用场景——数据库连接、Session、事务上下文、链路追踪 TraceId 二、ThreadLocal 的底层结构 2.1 Thread → ThreadLocalMap → Entry（弱引用包装的 ThreadLocal 作为 key） 2.2 ThreadLocalMap 的数据结构——线性探测法解决哈希冲突 2.3 Entry...