运维 · 2026-10-28

从频繁 502 到 95% 命中率

那个星期每天下午三点,监控都会准时报警:502 二十几次。奇怪的是流量并没有涨,源站 CPU 也只有 20%。

先修现象,再找原因

第一反应是上游扛不住,于是把 nginx 的 proxy_next_upstream 加上 error timeout http_502,让失败的请求重试一次。报警立刻少了一半——但只是把错误藏到了重试里,并没有解决。

报警消失不等于问题解决,它只说明你换了一个地方丢东西。

真正的原因是缓存键

打开 proxy_cache_key 一看,默认值是 $scheme$proxy_host$request_uri,听起来没问题。但这套站点会根据 Accept-Encoding 返回不同的压缩格式,而缓存键里没有区分,于是同一个 URL 有时返回 gzip、有时返回未压缩的内容,客户端解压失败,网关把它当成坏响应。

加上 $http_accept_encoding 之后,命中率从 61% 升到 93%。同时把 Vary 头补回去——当初为了「省字节」把它删掉了,结果所有共享缓存都失去了判断依据。

三个参数

  1. proxy_cache_lock on:同一个键只放一个请求回源,其余等待,避免缓存穿透瞬间打爆上游。
  2. proxy_cache_use_stale error timeout updating:上游挂了也能返回旧内容,别急着报错。
  3. proxy_cache_background_update on:过期后先返回旧内容,后台再刷新。

第三条尤其重要。它意味着「缓存过期」不再是一次同步等待,而是一次异步更新,用户感知到的延迟稳定在几十毫秒。

复盘

这次问题从头到尾都不是容量问题,而是「缓存的身份定义错了」。命中率低的时候,人容易去加机器;但缓存不命中,往往是键设计的问题——它决定了系统认为「什么算同一个东西」。

后来我把这套配置写成了模板,新站直接套用。半年过去,502 只出现过两次,都是上游真的挂了。

← 返回首页