40 动态令牌桶：让分布式限流从“硬限制”进化到“软管控”开篇故事去年双十一，我们团队负责的RT-DETR推理服务在凌晨2点突然崩溃。监控显示，某个大客户用脚本以2000 QPS的速率疯狂调用接口，直接冲垮了GPU集群。更讽刺的是，这个客户前一天刚升级到“企业版”套餐，按理说应该获得更高优先级——但我们的限流器一视同仁，把付费用户的请求和免费用户的请求一起丢进了垃圾桶。事后复盘时，运维老张拍着桌子说：“我们用的是固定窗口计数器啊，窗口一满直接拒绝，连个缓冲期都不给。要是换成动态令牌桶，至少能按用户等级分配余量，不至于让金主爸爸也跟着挨饿。”这个场景让我意识到：限流不是简单的“拒绝请求”，而是对资源的精细化管控。尤其是多租户场景下，不同用户组的速率限制需要动态调整，甚至要能根据负载自动伸缩。今天，我们就来拆解如何用动态令牌桶替代固定窗口，让限流从“硬限制”进化到“软管控”。痛点拆解常见误区：把“限流”等同于“拒绝”很多同学写限流代码时，第一反应就是“超过阈值就返回429”。比如这个经典的反例：importtimeclassFixedWi