mirror of
https://github.com/fawney19/Aether.git
synced 2026-09-02 17:30:23 +08:00
refactor: 自适应 RPM 从边界记忆改为多次观察确认 + 置信度衰减
将自适应 RPM 限制算法从"单次 429 即设限"重构为基于置信度的学习机制: - 收到 429 时仅记录观察(本地 RPM + 上游 header 限制值),不立即设限 - 有 header 的观察需 2 次一致确认,无 header 需 3 次一致确认 - confidence 随时间自然衰减,确保限制永远不会固化 - confidence 低于阈值时停止本地 RPM 限制,429 直接透传客户端 - 统一 get_effective_limit 入口,消除多处重复的限制获取逻辑 - Admin API 增加置信度、观察数量等诊断字段
This commit is contained in:
@@ -525,9 +525,14 @@ class ErrorClassifier:
|
||||
logger.warning(f" [{request_id}] 并发限制触发(不调整RPM)")
|
||||
return "concurrent"
|
||||
elif rate_limit_info.limit_type == RateLimitType.RPM:
|
||||
logger.warning(
|
||||
f" [{request_id}] 自适应调整: Key {key.id[:8]}... RPM限制 -> {new_limit}"
|
||||
)
|
||||
if new_limit is not None:
|
||||
logger.warning(
|
||||
f" [{request_id}] 自适应调整: Key {key.id[:8]}... RPM限制 -> {new_limit}"
|
||||
)
|
||||
else:
|
||||
logger.info(
|
||||
f" [{request_id}] 学习中: Key {key.id[:8]}... 观察已记录,暂不设限"
|
||||
)
|
||||
return "rpm"
|
||||
else:
|
||||
return "unknown"
|
||||
|
||||
Reference in New Issue
Block a user