fawney19
|
099653f732
|
Cap Codex pool cooldowns and add key circuit breaker
|
2026-05-04 02:15:32 +08:00 |
|
Kayphoon
|
fe27fb17fb
|
feat: add provider-key concurrent limit (#352)
* feat: add provider-key concurrent limit
* Fix provider key concurrent limit checks
---------
Co-authored-by: fawney19 <elky0401@gmail.com>
|
2026-05-03 01:55:23 +08:00 |
|
fawney19
|
07a319259b
|
Normalize canonical API formats
|
2026-04-29 10:20:41 +08:00 |
|
fawney19
|
c1b9d94c84
|
feat(adaptive): 完善自适应 RPM 学习并将 Pool 调度状态与健康分解耦
- orchestration 新增 AdaptiveSuccess 效果，在成功回报路径上根据利用率窗口扩张 learned_rpm_limit
- 429 路径改用 429_observation/adjustment 记录以及基于历史的置信度评估，新增 last_rpm_peak 边界字段
- Pool 调度状态不再因 health_score 低或熔断而降级/拦截，前端同步移除相关按钮与文案兜底
- 新增前端 poolTrace 工具（附测试）承接原 HorizontalRequestTimeline 内的候选合并逻辑
|
2026-04-20 00:27:48 +08:00 |
|
fawney19
|
5014e2f5fd
|
refactor: 抽离 AI pipeline 与调度共享能力逻辑
|
2026-04-10 01:46:14 +08:00 |
|
fawney19
|
5d96d6673b
|
refactor: 大规模模块拆分与代码精简，新增 ai-pipeline/data-contracts 独立 crate
- 新增 aether-ai-pipeline 和 aether-data-contracts crate，将 pipeline 逻辑与数据契约从 gateway 中解耦
- 重构 admin handlers：拆分单体模块为 auth/billing/endpoint/features/model/observability/provider/system 等独立子模块
- 合并 chat/cli 重复代码路径：精简 conversion、finalize、planner 中的 sync/chat/cli 分支
- 重构 scheduler/executor/data 层，引入 facade 模式降低模块间耦合
- 移除冗余的 intent 模块，将 plan_fallback/policy/stream_path/sync_path 迁移至 executor
- 前端适配：调整 admin API 调用和 provider 模型测试对话框
|
2026-04-07 02:50:19 +08:00 |
|
fawney19
|
763ff03a7b
|
refactor: 拆分 gateway 单体为独立 crate，新增 systemd 部署方案
将 gateway 内部的 model-fetch、provider-transport、scheduler-core、
usage-runtime、video-tasks-core 模块提取为独立 crate；重构 gateway
内部模块结构（state/router/cache/data/query 等）；移除大量遗留模块
文件；新增 systemd 二进制部署骨架及相关文档；更新前端 usage 相关
API 和组件。
|
2026-04-05 20:23:16 +08:00 |
|