高并发系统设计-限流

Fri, 11 Jul 2025 20:46:01 +0800

高并发系统设计-限流

一、什么是限流

限流（Rate Limiting）是指限制单位时间内允许进入系统的请求数量。

简单来说，就是：

控制流量进入系统的速度，而不是等系统崩溃之后再处理。

例如：

某接口限制：1000 Request / Second

如果一秒钟来了：1500 Request

那么：1000正常处理，500拒绝访问

通常返回：HTTP 429 Too Many Requests

限流的本质就是：

宁可拒绝一部分请求，也不要让整个系统崩溃。

二、为什么需要限流

因为系统资源是有限的。

例如：

服务器配置：

CPU：8 Core
Memory：16GB
MySQL连接池：100
Redis连接池：200

这些资源都存在上限。

假设数据库最大只能处理： 5000 QPS

如果突然来了：30000 QPS

没有限流：30000全部访问MySQL->连接池耗尽->CPU100%->慢SQL->超时->…->系统崩溃

有了限流：30000->Gateway->允许5000->25000直接拒绝->系统稳定

虽然部分用户会收到"系统繁忙"的提示，但系统整体仍然保持可用。

这正是限流存在的意义

三、典型应用场景

限流几乎存在于所有互联网系统中。

1、登录接口

例如：POST /login

限制：每个IP 5次/分钟

防止：

暴力破解密码
恶意攻击
短时间大量登录

2、短信验证码

3、支付接口

4、秒杀系统

5、开放API

四、限流的位置

限流通常不是只有一层。

一般有四层。

第一层：CDN

例如： Cloudflare->限制恶意流量

主要抵御：

CC攻击
DDoS
Bot

第二层：Nginx / Gateway

例如： Client->Gateway->Application

nginx示例

限流 on Leanku 的博客

高并发系统设计-限流

高并发系统设计-限流

一、什么是限流

二、为什么需要限流

三、典型应用场景

1、登录接口

2、短信验证码

3、支付接口

4、秒杀系统

5、开放API

四、限流的位置

第一层：CDN

第二层：Nginx / Gateway