高峰期AB页跳转请求的限流阈值怎么定、排队降级按什么顺序配?一份从准备到复盘的工程决策清单

高峰期AB页跳转请求的限流阈值怎么定、排队降级按什么顺序配?一份从准备到复盘的工程决策清单
高峰期AB页跳转请求的限流阈值怎么定、排队降级按什么顺序配?一份从准备到复盘的工程决策清单

前阵子有个做竞价投放的客户跑来找我们聊,说他们AB页跳转服务在大促预热那几天,晚上八点到十点跳转耗时从两百多毫秒涨到一秒以上,中间偶尔还整段请求卡死。约束条件挺具体:日均跳转请求十几万次,峰值就集中在那两个小时里,部署是两台4核8G源站加一层CDN,验收线是峰值时段跳转成功率不低于九成九、P95耗时不超过八百毫秒。这几个条件摆一块儿,问题其实不难判断——机器本身没到瓶颈,是限流阈值和排队策略压根没按流量结构算过,高峰所有请求挤一个池子,慢的把快的全拖下水。

限流阈值和排队降级这两块得一起设计,虽然它们是两件事。阈值解决的是"放多少进来",排队和降级管的是"进不来的那部分怎么办"。光限流不排队,超阈值的请求直接被拒,跳转成功率掉得没法看;反过来只排队不降级,队列堆满以后延迟能拉到你怀疑人生,体验还不如直接拒掉。下面按准备、执行、复盘三段拆开讲,每段把输入、操作和验收标准说清楚。

准备阶段:先把流量结构和容量基线摸清楚

阈值定不准,十有八九是准备阶段偷了懒。拿历史峰值乘个系数就当阈值,看着好像有依据,其实是把正常波动和异常突增搅在一起,高峰期不是误限流就是限不住。

流量结构摸底要拆到哪几层

AB页跳转的流量结构跟普通页面请求不一样,它有两个特点:请求本身很轻,判定加跳转的耗时主要花在规则匹配和目标页响应上;流量来源的构成又直接决定阈值该按什么维度分档。摸底至少拆三层:

  • 时间分布层:按小时统计过去四到八周的跳转请求量,把日常峰值、周期性峰值(比如每周固定某几天)和活动峰值标出来。日常峰值和活动峰值得分开建模,前者定基础阈值,后者定弹性阈值。
  • 来源构成层:
  • 请求按来源渠道、设备类型、是否命中规则集分组。不同来源在规则匹配阶段的耗时差异可能很大,混在一起算平均耗时没意义。
  • 结果分布层:
  • 统计跳转成功、规则未命中走兜底、目标页超时、请求被拒这四类结果的比例。这个比例后面定降级顺序时要直接用到。

这层的验收标准很朴素:能画出至少四周的分时请求量曲线,峰值时段里各类来源的占比也能说清楚。画不出来,说明日志字段不全,先去补采集,阈值的事往后放。

容量基线怎么测才算数

容量基线不是压到机器跑满,是要找到"跳转成功率开始明显下滑"和"P95耗时开始陡增"这两个拐点。操作上用阶梯加压比较稳:从日常峰值的五成起步,每档加两成,每档稳定跑十分钟,记录成功率、P95耗时、队列长度和源站CPU。

有两个限制条件得提前讲明白。压测流量要走真实链路,CDN回源和规则匹配都算上,只在源站单机压没有参考价值。压测期间还得盯住下游目标页的响应时间,跳转服务的容量上限很多时候不取决于自己,取决于目标页扛不扛得住。拐点找到以后,把拐点对应请求量的七成到八成拿来当基础限流阈值,剩下两成留给突发。

执行阶段:限流阈值分档与排队参数设定

阈值分档的关键在于按请求的价值和代价分层,让所有请求共用一个上限的做法行不通。AB页跳转场景里,请求至少分三类:命中规则集且目标页健康的正常跳转、规则未命中走兜底的请求、目标页响应已经变慢的请求。三类的阈值得分开设。

  1. 全局并发阈值:控制同时在处理的请求总数,按准备阶段测出的拐点七到八成设定。这是最外层保护,防止整体过载。
  2. 单来源阈值:
  3. 按来源渠道或设备类型设上限,防止单一渠道流量突增把全局配额吃光。一般设成该来源日常峰值的百分之一百二到一百五。
  4. 慢请求阈值:
  5. 目标页响应时间超过某个值的请求单独计数,超过一定比例就触发对该目标页的降级,而不是继续放行。这个维度最容易被忽略,偏偏它是高峰期雪崩的常见起点。

三个维度的阈值写进配置,别硬编码,优先级也要明确:全局阈值压过单来源阈值,单来源阈值压过慢请求阈值。命中任何一层就执行对应动作,动作可以是排队、降级或者拒绝,具体怎么选下一节说。

排队队列的参数怎么定

排队不是无限缓冲,队列本身就是资源,参数定错了等于把过载往后推。要定的参数有四个:

  • 队列容量:按峰值时段每秒请求量乘以可接受等待时长来估。比如峰值每秒三百次请求、可接受等待五百毫秒,队列容量大致一百五到两百之间。再大,排进来的请求大概率也等不到处理。
  • 排队超时:
  • 单个请求在队列里最长等多久,超过就转降级。这个值要小于前端超时设置,否则前端都放弃了,后端还在傻排队。
  • 出队策略:
  • 先进先出最简单,但对跳转场景不一定最优。可以考虑给命中规则集且目标页健康的请求更高出队权重,让能快速完成的请求先走,缩短整体队列占用时间。
  • 队列水位告警:
  • 设两级水位,一级触发弹性扩容或降级预案预热,二级触发强制降级。水位阈值按队列容量的六成和八成设比较稳妥。

这阶段的验收标准是:用压测流量模拟峰值的一点二倍和一点五倍,看排队和降级是不是按预期触发,跳转成功率还能不能守住验收线。守不住就回调阈值或队列参数,别带着问题上生产。

降级链路设计:降级顺序比降级手段更重要

降级手段本身没什么复杂,静态兜底页、缓存目标页、关闭非核心规则集,都是常规操作。真正决定高峰期表现的是降级顺序——先降什么、后降什么,必须有明确排序,不然多个降级动作同时触发会互相干扰。

排序原则按"对转化路径的影响从小到大"来。第一级通常是关掉非核心的规则集匹配,比如一些实验性分流规则,只留主规则;第二级是目标页响应慢时切缓存版本或静态兜底页;第三级是队列二级水位触发时,对低优先级来源直接返回兜底页;最后一級才是全局拒绝并返回统一提示页。每一级降级都得有独立的触发条件和恢复条件,恢复条件不能只看水位回落,还要看P95耗时是否回到基线附近。

降级链路的验证建议用故障注入:人为把目标页响应时间拉长,看各级降级是否按顺序触发、恢复是否干净。这里有个坑挺常见,降级触发后没有自动恢复机制,水位回落了但降级状态还挂着,第二天才发现流量一直走兜底页。

实战复盘:一个竞价团队的限流改造过程

说回开头那个客户。他们做家居类目的竞价投放,AB页跳转主要用来做不同落地页版本的分流。改造前的状态:限流阈值设了个固定值,按运维经验拍的;没有排队,超阈值直接返回错误页;降级就一个开关,出事整体切静态页。

踩的坑有三个。固定阈值在活动期明显偏低,晚上八点开始大量请求被拒,跳转成功率掉到八成出头,可源站CPU其实只用了六成。没有排队,被拒请求直接暴露给用户,落地页打不开。整体切静态页的开关一开,所有分流实验全部停摆,投放团队第二天拿不到任何版本对比数据。

调整过程分三步。第一步补了四周的分时流量统计,按来源和设备拆开,发现峰值时段移动端请求占了七成多,而且移动端目标页响应明显更慢。第二步按前面说的三个维度重设阈值,全局并发按压测拐点的七成五设,移动端单独设来源阈值,慢请求比例超过一成五就触发对相应目标页的降级。第三步加队列,容量按峰值每秒请求量估,排队超时设得比前端超时短两百毫秒,同时把原来的一键降级拆成三级。

调整后的状态:下一个活动期峰值时段跳转成功率稳在九成九以上,P95耗时六百毫秒上下,队列二级水位触发过两次,都是自动降级后几分钟内恢复。整体切静态页的情况没再出现,分流实验的数据也保住了。这个案例里没什么高深技术,就是把阈值从经验值改成按流量结构和压测拐点算出来的值,再把排队和降级顺序补上。

复盘阶段:观测指标与阈值回调的触发条件

高峰期过去不等于事情结束。复盘阶段要回答两个问题:这次峰值期间限流和降级各触发了几次、触发得对不对;下一轮阈值要不要调、往哪个方向调。

必须盯的观测指标

  • 跳转成功率与P95耗时,按小时和按来源分组看,只看全局平均会掩盖单来源的问题。
  • 限流触发次数与拒绝比例,拒绝比例突然升高要么是阈值偏低,要么是真的有异常流量。
  • 队列水位曲线与排队超时次数,水位长期贴着二级线说明容量该扩了。
  • 各级降级的触发次数与持续时长,某一级频繁触发说明它上一级的阈值或容量有问题。
  • 目标页响应时间分布,这是慢请求阈值的直接输入,也是判断降级该不该恢复的依据。

阈值回调的触发条件

阈值不是定一次就完事。建议设三条回调规则:连续两周峰值时段拒绝比例超过百分之二,上调全局阈值或扩容;队列水位连续多天在高峰期触及二级线,优先扩容而不是继续上调阈值;某一级降级在非峰值时段也被触发,说明触发条件设得太松,要收紧。回调动作要记录变更时间和依据,方便下一轮复盘对照。

配置落地时的几个边界问题

最后说几个配置层面容易出问题的地方。限流和排队参数要放在配置中心统一管理,不能一部分在代码里一部分在配置文件里,高峰期想临时调个参数结果发现要发版,这是最常见的运维事故来源。阈值变更要走灰度,先在部分节点或部分来源上生效,观察半小时再全量,下调阈值尤其要这样。降级页面的内容得和正常跳转的目标页保持信息一致,不能降级之后落地页承诺的东西变了,那会引出另一类问题。排队和降级的日志要单独打标,复盘时才能把"被限流的请求"和"正常请求"分开统计,否则指标口径永远对不上。

这四件事做在配置落地阶段,后面高峰期的大部分问题都能在观测面板上提前看到苗头,而不是等用户反馈才反应过来。

AB
关于作者:ABcloakPro 技术团队

ABcloakPro 技术团队拥有 5 年以上 Cloak 技术实战经验,专注研究百度斗篷、谷歌斗篷、AB 页跳转、页面跳转等领域,累计服务超过 1000+ 用户。团队持续跟踪各大广告平台审核规则变化,提供真实可落地的防封策略与配置方案。

本文内容由 ABcloakPro 技术团队原创撰写,基于真实实战经验整理,转载请注明出处:关于我们