客服电话
APP下载
迪恩网络APP
随时随地掌握行业动态
官方微信
扫描二维码
关注迪恩网络微信公众号
|
主要是依靠 redis + lua 来实现限流器, 使用 lua 的原因是将多条命令合并在一起作为一个原子操作, 无需过多考虑并发. 计数器模式 原理 计数器算法是指在一段窗口时间内允许通过的固定数量的请求, 比如10次/秒, 500次/30秒. 如果设置的时间粒度越细, 那么限流会更平滑. 实现 所使用的 Lua 脚本
-- 计数器限流
-- 此处支持的最小单位时间是秒, 若将 expire 改成 pexpire 则可支持毫秒粒度.
-- KEYS[1] string 限流的key
-- ARGV[1] int 限流数
-- ARGV[2] int 单位时间(秒)
local cnt = tonumber(redis.call("incr", KEYS[1]))
if (cnt == 1) then
-- cnt 值为1说明之前不存在该值, 因此需要设置其过期时间
redis.call("expire", KEYS[1], tonumber(ARGV[2]))
elseif (cnt > tonumber(ARGV[1])) then
return -1
end
return cnt
key 可以但不限于以下的情况
优点
缺点
注意
场景分析 eg. 1000/3s 的限流 极端情况1: 第1秒请求数 10 第2秒请求数 10 第3秒请求数 980 第4秒请求数 900 第5秒请求数 100 第6秒请求数 0 此时注意第3~5秒内的总请求数高达 1980 极端情况2: 第1秒请求数 1000 第2秒请求数 0 第3秒请求数 0 此时后续的第2~3秒会出现大量拒绝请求 令牌桶模式 原理 令牌桶的
桶的实现还分为: 可预消费
不可预消费
实现 此处实现的不可预消费的令牌桶, 具体Lua代码:
-- 令牌桶限流: 不支持预消费, 初始桶是满的
-- KEYS[1] string 限流的key
-- ARGV[1] int 桶最大容量
-- ARGV[2] int 每次添加令牌数
-- ARGV[3] int 令牌添加间隔(秒)
-- ARGV[4] int 当前时间戳
local bucket_capacity = tonumber(ARGV[1])
local add_token = tonumber(ARGV[2])
local add_interval = tonumber(ARGV[3])
local now = tonumber(ARGV[4])
-- 保存上一次更新桶的时间的key
local LAST_TIME_KEY = KEYS[1].."_time";
-- 获取当前桶中令牌数
local token_cnt = redis.call("get", KEYS[1])
-- 桶完全恢复需要的最大时长
local reset_time = math.ceil(bucket_capacity / add_token) * add_interval;
if token_cnt then -- 令牌桶存在
-- 上一次更新桶的时间
local last_time = redis.call('get', LAST_TIME_KEY)
-- 恢复倍数
local multiple = math.floor((now - last_time) / add_interval)
-- 恢复令牌数
local recovery_cnt = multiple * add_token
-- 确保不超过桶容量
local token_cnt = math.min(bucket_capacity, token_cnt + recovery_cnt) - 1
if token_cnt < 0 then
return -1;
end
-- 重新设置过期时间, 避免key过期
redis.call('set', KEYS[1], token_cnt, 'EX', reset_time)
redis.call('set', LAST_TIME_KEY, last_time + multiple * add_interval, 'EX', reset_time)
return token_cnt
else -- 令牌桶不存在
token_cnt = bucket_capacity - 1
-- 设置过期时间避免key一直存在
redis.call('set', KEYS[1], token_cnt, 'EX', reset_time);
redis.call('set', LAST_TIME_KEY, now, 'EX', reset_time + 1);
return token_cnt
end
令牌桶的关键是以下几个参数:
令牌桶的实现不会出现计数器模式中单位时间内双倍流量的问题. 总结 以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，谢谢大家对极客世界的支持。 |
请发表评论