高峰期网关限流方案
-
在线教育API网关高峰期怎么限流?,API网关限流方案有哪些
在线教育API网关在高峰期应对突发流量,最可靠的办法是限流与排队组合使用,通过令牌桶算法控制进入请求量,用有界队列吸收溢出并平滑处理延时请求,在线直播课开课前的30秒,往往是网关压力最大的时候,成千上万名学生同时点击“进入教室”,请求量瞬间飙升到平时的几百倍,如果网关只做限流,大量请求会被直接拒绝,学生看到的就……
在线教育API网关在高峰期应对突发流量,最可靠的办法是限流与排队组合使用,通过令牌桶算法控制进入请求量,用有界队列吸收溢出并平滑处理延时请求,在线直播课开课前的30秒,往往是网关压力最大的时候,成千上万名学生同时点击“进入教室”,请求量瞬间飙升到平时的几百倍,如果网关只做限流,大量请求会被直接拒绝,学生看到的就……