i/Aether
1
0
Fork 0
mirror of https://github.com/fawney19/Aether.git synced 2026-09-02 01:10:23 +08:00
Code Issues Packages Projects Releases Wiki Activity
813 Commits 5 Branches 174 Tags
3384c6d66635deebc6ac4c02e1b9b3e1c186c293
Commit Graph

482 Commits

Author SHA1 Message Date
fawney19
d6597121f5 feat: Provider 签到任务时间可配置 
- 前端添加签到时间选择器（HH:MM 格式）
- 后端支持动态更新调度器执行时间
- 新增 reschedule_cron_job 方法支持运行时重调度
 2026-02-03 19:03:55 +08:00
fawney19
ddf3f5c107 feat: 添加请求体规则功能和 UI 优化 
- 添加 body_rules 支持（set/drop/rename 操作）
- 后端 apply_body_rules 函数处理请求体修改
- 保护 model/stream 字段不被修改
- 前端 UI 重构：合并请求头/请求体规则为统一区域
- 使用左边框颜色区分规则类型（H=主题色，B=灰色）

Closes #139

Co-authored-by: CC <81609553+hemo94931@users.noreply.github.com>
 2026-02-03 18:49:17 +08:00
fawney19
00442c41fa feat: 视频计费增强与影子计费系统 2026-02-03 18:48:39 +08:00
fawney19
ed68aebfb0 refactor: 统一任务框架 Phase 3 - 用 TaskService/FailoverEngine 替代 FallbackOrchestrator 
核心重构：
- 移除 FallbackOrchestrator，用 TaskService + FailoverEngine 替代
- TaskService 作为统一入口，支持 SYNC/ASYNC 两种任务模式
- FailoverEngine 实现候选遍历、重试、故障转移逻辑
- 新增 AttemptFunc/AttemptResult 协议，统一尝试结果表示

功能改进：
- 流式响应首字节探测（30s 超时，空流触发故障转移）
- 流式取消归因优化（区分客户端断连 vs 服务端中断）
- 新增 OpenAI Sora 视频取消路由 POST /v1/videos/{task_id}/cancel
- OpenAI 流式请求自动添加 stream_options.include_usage

代码规范：
- 修复 loguru 日志格式（%s → {}）
- 新增 FORMAT_CONVERSION_ENABLED 环境变量说明

测试覆盖：
- test_failover_engine.py: FailoverEngine 单元测试
- test_task_service_async_execute.py: TaskService ASYNC 模式测试
- test_video_cancel_e2e.py: 视频取消端到端测试
 2026-02-02 21:16:28 +08:00
fawney19
9e31efe26c refactor: 重构异步任务系统和计费服务架构 
- 重构任务系统：新增 lifecycle (TaskStatus/BillingStatus)、context、application 模块
- 将 video tasks 泛化为 async tasks，支持更通用的异步任务管理
- 新增 Gemini Files 管理模块和管理界面
- 重构 billing 服务：拆分 schema.py 和 service.py
- 新增 candidate 服务模块用于请求候选管理
- 数据库迁移：添加 billing_status、request_id、gemini_file_mappings 表和索引
- 移除废弃的 video_telemetry、task orchestrator 等模块
 2026-02-02 03:16:52 +08:00
fawney19
4ac8e63c94 feat: 添加视频生成功能增强和多维度计费系统适配 
- 视频生成: 增强 video_handler，重构 task_poller，新增 telemetry
- 计费系统: 适配新的 signature 格式，支持 video 任务类型回退
- 数据库迁移: 添加 api_family/endpoint_kind 字段和 video_formats
 2026-02-01 17:28:27 +08:00
fawney19
7b66505634 refactor: 全局适配 ApiFamily/EndpointKind 结构化标识体系 
将新的 (ApiFamily, EndpointKind) / `family:kind` 签名体系应用到整个代码库：
- API Handlers: 所有 adapter/handler 使用新的签名格式
- Services: provider, model, usage, cache, auth 等服务层适配
- Database: ProviderEndpoint 新增 api_family/endpoint_kind 字段
- Frontend: Provider 管理、Usage 表格等组件适配
- Tests: 更新所有相关测试用例
 2026-02-01 17:28:00 +08:00
fawney19
c246ccfc91 refactor(api_format): 重构为结构化的 (ApiFamily, EndpointKind) 标识体系 
将扁平的 APIFormat 枚举 (CLAUDE, OPENAI, GEMINI, *_CLI) 重构为二维结构：
- ApiFamily: 协议族 (openai, claude, gemini)
- EndpointKind: 端点变体 (chat, cli, video, image)

新增 EndpointSignature 数据类和 `family:kind` 签名键工具函数，
统一 JSON dict/metrics/logs 中的字符串标识格式。
 2026-02-01 17:25:28 +08:00
fawney19
2101a957ce fix: 优化 Redis 连接超时的错误日志输出 
将 Redis 超时和连接错误改为 WARNING 级别的简短日志，
避免系统休眠恢复时打印大量堆栈信息。
 2026-01-31 20:10:42 +08:00
fawney19
97b15afe7c feat: 添加多维度计费系统和视频任务管理功能 
计费系统:
- 新增 BillingRule 和 DimensionCollector 数据模型
- 实现 FormulaEngine 安全表达式求值引擎 (AST 白名单)
- 支持 dimension/matrix/tiered/constant 多种维度映射
- BillingRuleService 支持 Provider Model -> GlobalModel 规则回退
- CLI task_type 在计费域自动映射为 chat

视频任务增强:
- 添加 request_metadata 字段记录候选 key 和计费规则快照
- 后台轮询支持并发控制 (Semaphore + 独立 session)
- 任务终态自动写入 Usage 记录并计算成本
- 新增视频任务管理 API 和前端界面

其他改进:
- UsageService 新增 record_usage_with_custom_cost 方法
- StandardizedUsage 支持 dimensions 字段 (兼容 extra)
- 配置新增 BILLING_REQUIRE_RULE 和 BILLING_STRICT_MODE
 2026-01-31 19:11:25 +08:00
fawney19
dc4bb25cc2 feat: 添加 Vertex AI Claude 模型支持和动态格式识别 
- 新增 get_vertex_ai_effective_format 函数，根据模型名自动判断 API 格式
- 支持通过 auth_config.model_format_mapping 自定义模型格式映射
- 修改 Vertex AI URL 构建逻辑，Claude 模型使用 anthropic publisher 和 rawPredict
- 修复 auth_config 可能是未加密 dict 的兼容性问题
 2026-01-31 00:30:07 +08:00
fawney19
772cb90f64 feat: 添加视频生成 API 支持和认证抽象层重构 
- 新增 Video Generation API 路由和处理器（支持 Gemini Veo 和 OpenAI Sora 兼容格式）
- 新增 AuthHandler 策略模式，统一 API key 提取逻辑（Bearer/ApiKey/GoogApiKey/OAuth2/QueryKey）
- 新增 RequestContext 三维度检测（数据格式/端点类型/认证方式）
- 新增 EndpointType 和 AuthMethod 枚举
- Gemini/OpenAI normalizer 添加视频格式转换（InternalVideoRequest/Task/PollResult）
- 新增视频任务轮询服务和数据库迁移（video_tasks 表）
- 代码格式化：修复 black 行宽限制，调整 import 排序，target-version 降级至 py313
 2026-01-30 22:41:42 +08:00
fawney19
5603c72f40 fix: 修复 mypy 类型检查错误并升级到 Python 3.14 
主要变更：
- 修复 1483 个 mypy 类型检查错误
- 添加缺失的类型注解 (Any, Callable, Session 等)
- 修复隐式 Optional 类型 (param: Type = None -> param: Type | None = None)
- 修复 __new__ 单例模式返回类型
- 添加 type: ignore 注释处理第三方库类型问题
- 更新 pyproject.toml 依赖到 Python 3.14 兼容版本
- 更新 mypy/black 配置为 Python 3.14
 2026-01-30 14:30:57 +08:00
fawney19
7066166757 style: 统一使用 PEP 604/585 现代类型语法 
- Optional[X] → X | None
- Dict[X, Y] → dict[X, Y]
- List[X] → list[X]
- Tuple[X, Y] → tuple[X, Y]
- Set[X] → set[X]

涉及 10 个文件，共约 50 处改动。
 2026-01-30 13:06:34 +08:00
fawney19
041a61f89c fix: 补充合并后遗漏的 from __future__ import annotations 
合并 fix/python314-upgrade 后，部分文件仍使用 Optional/Dict 等旧式类型
但未添加 future annotations 导入，导致运行时 NameError。
 2026-01-30 13:01:50 +08:00
fawney19
cd1b103223 Merge branch 'fix/python314-upgrade' 
# Conflicts:
#	src/api/handlers/base/base_handler.py
#	src/api/handlers/base/request_builder.py
#	src/models/endpoint_models.py
#	src/services/orchestration/candidate_resolver.py
#	src/services/orchestration/fallback_orchestrator.py
 2026-01-30 12:59:52 +08:00
fawney19
f8ca3773be fix: 恢复被误删的 database_extensions 导入 
原 PR 误删了 database.py 末尾的导入语句，导致 ApiKeyProviderMapping
和 ProviderUsageTracking 模型不再被加载到 SQLAlchemy 注册表中。
 2026-01-30 12:48:46 +08:00
fawney19
13487fe4e5 fix: 添加 from __future__ import annotations 修复运行时类型错误 
原 PR 将 Optional[X] 改为 X | None 后，如果 X 在 TYPE_CHECKING 块中导入，
会导致运行时 NameError。添加 future annotations 使类型注解延迟求值。

影响文件：
- src/services/auth/service.py
- src/core/api_format/utils.py
- src/core/api_format/detection.py
- 及其他 15 个使用 TYPE_CHECKING 的文件
 2026-01-30 12:43:08 +08:00
fawney19
c33cd07ea9 feat: add Gemini Files API proxy with key capability support 
- Add gemini_files_api capability for key-level Files API support
- Implement Gemini Files API proxy endpoints (upload/list/get/delete)
- Add file-to-key mapping cache for correct key routing
- Support preferred_key_ids to prioritize keys that uploaded files
- Enhance logging for file mapping diagnostics
 2026-01-30 11:37:34 +08:00
AAEE86
897ea2e7a4 perf: 优化 Provider 预加载和 bcrypt 密码验证性能 
- 使用 selectinload 预加载 endpoints 避免 N+1 查询
- 将 bcrypt 密码验证移至线程池执行，避免阻塞事件循环
 2026-01-30 10:55:30 +08:00
AAEE86
d0ecdcd8aa feat: 增加签到状态识别关键词"已经签到" 2026-01-30 08:42:36 +08:00
AAEE86
24d24f6829 chore: 升级到 Python 3.14 并现代化代码 
- 升级 Docker 基础镜像从 Python 3.12 到 3.14
- 更新 pyproject.toml 支持 Python 3.13/3.14
- 移除 Python 3.8/3.9/3.10/3.11 分类器
- 更新 black 和 mypy 配置目标版本
- 将 get_event_loop() 替换为 get_running_loop() 加上 RuntimeError 处理
- 简化 compute_cost_sync 中的 asyncio.run 使用
- Dict/List/Tuple/Set → dict/list/tuple/set (PEP 585)
- Optional[T] → T | None (PEP 604)
- Union[A, B] → A | B (PEP 604)
- 移除废弃的 typing 导入
- 移除不必要的字符串引号注解
 2026-01-30 03:10:21 +08:00
fawney19
32b293ef3e feat: add Vertex AI authentication support for provider API keys 
- Add auth_type field to ProviderAPIKey model (api_key or vertex_ai)
- Implement Vertex AI OAuth token generation with service account
- Update transport layer to handle Vertex AI authentication
- Add Vertex AI endpoint URL generation in request builder
- Update frontend KeyFormDialog to support auth_type selection
- Add migration for auth_type column in provider_api_keys table
 2026-01-30 02:43:50 +08:00
fawney19
4487c35486 Merge pull request #127 from NyaDoo/master 
fix: CLI 模型测试请求添加 x-app: cli 头部
 2026-01-29 23:05:25 +08:00
fawney19
61abb47d22 refactor: 重构上游模型获取与展示逻辑 
- 后端支持遍历所有活跃 API Key 聚合模型，按 model id 合并 api_formats
- 前端移除按 API 格式分组，改为统一展示并内联显示格式标签
- 改进 401 错误处理，账户异常时清除认证并重定向首页
 2026-01-29 22:58:37 +08:00
LewisPen
ed2f4c1c34 fix: CLI 模型测试请求添加 x-app: cli 头部 
CLI adapter 的 check_endpoint 测试请求缺少 x-app: cli 头部，
导致上游 Aether 节点选择了错误的 adapter 提取 API Key，
返回 401 认证失败。
 2026-01-29 14:35:10 +08:00
fawney19
557e64c77f fix: 响应中保留用户请求的原始模型名 
- 非流式响应：通过 requested_model 参数传递用户请求的模型名
- 流式响应：StreamState 初始化时使用 ctx.model 而非 ctx.mapped_model
- 流式转换：normalizers 保留初始 model 值，不被上游事件覆盖
- parsed_chunks：格式转换时记录转换后数据，确保与客户端收到的一致
 2026-01-29 10:32:36 +08:00
fawney19
2e9c9e80d1 fix: 修复响应解析器中 usage 为 null 时的处理问题 
将 response.get("usage", {}) 改为 response.get("usage") or {}，
避免 usage 显式为 None 时导致后续属性访问失败。
 2026-01-29 09:44:12 +08:00
fawney19
ac73f6fbac chore: 提升请求/响应体记录大小限制至 5MB 2026-01-29 09:33:11 +08:00
fawney19
06a46383a1 perf: 优化同步方法性能，避免事件循环开销 
- pipeline.py: 日志格式改为 %-style 懒惰计算
- cost.py: get_model_price/get_tiered_pricing 改用直接数据库查询
- usage/service.py: 批量记录改为并行准备，提取 build_params 减少重复代码
 2026-01-29 02:00:00 +08:00
fawney19
b4bbf4eeb1 feat: 添加 NekoCode 中转站架构支持 
- 使用 Cookie 认证（session）
- 支持余额查询和每日配额显示
- 显示订阅状态和有效期
 2026-01-28 23:51:06 +08:00
fawney19
6b34a7e3f5 feat: 多项功能优化与问题修复 
- 添加高频轮询端点日志抑制，减少 debug 日志噪音
- Gemini 格式转换支持 responseModalities、thinkingConfig 透传和图片生成输出
- OpenAI 格式转换支持流式图片内容块，区分 URL 引用和 base64 内嵌图片
- Provider 余额缓存认证失败时使用短 TTL，避免前端无限加载中
- Usage 服务支持更新 pending/streaming 记录，处理重复 request_id 冲突
- Usage 超时检测增强，避免错误标记已完成请求为超时
 2026-01-28 23:07:58 +08:00
fawney19
91986baa57 feat: 添加流式请求客户端断连检测 
在等待上游首字节期间检测客户端是否已断开连接，若检测到断连则及时取消请求并清理资源，避免资源浪费。

- 新增 ClientDisconnectedException 和 wait_for_with_disconnect_detection 工具函数
- ChatHandlerBase 和 CliMessageHandlerBase 均支持 http_request 参数用于断连检测
- 流式传输期间使用后台任务主动检测断连状态
- 断连时设置状态码 499 并记录日志
 2026-01-28 17:10:21 +08:00
fawney19
bae278a0c1 feat: 添加提供商格式转换优先级保持配置 
- 新增 Provider.keep_priority_on_conversion 字段，控制格式转换时是否保持优先级
- 新增全局配置 KEEP_PRIORITY_ON_CONVERSION，可全局启用优先级保持
- 调度器根据配置决定是否降级需要格式转换的候选
- 前端 Provider 表单添加"保持优先级"开关
- 调整 HTTP 读写超时默认值为 3600 秒
 2026-01-28 15:53:33 +08:00
fawney19
e7fda0eadd fix: 统一格式兼容性检查，透传格式也需开关启用 
- 同族格式（如 CLAUDE/CLAUDE_CLI）现在也需要全局开关和端点开关启用才能透传
- 格式转换关闭时，Models API 只返回客户端格式本身
- 添加测试用例验证透传格式受开关限制
 2026-01-28 13:08:14 +08:00
fawney19
95fc848e59 feat: 配置导出/导入支持 LDAP 和 OAuth Provider 
- 新增配置格式 v2.1，支持导出/导入 LDAP 配置和 OAuth Providers
- 导出时解密敏感字段（bind_password, client_secret, provider_ops credentials）
- 导入时加密敏感字段后存储
- 前端支持预览和显示 LDAP/OAuth 导入结果
 2026-01-28 12:56:37 +08:00
fawney19
4cd196f665 fix: 隐藏普通用户的模型映射信息 
对普通用户隐藏使用记录中的 target_model 字段，只有管理员可见。
避免向普通用户暴露内部模型映射策略。
 2026-01-28 12:41:29 +08:00
fawney19
40e54097b0 feat: 添加 Zeabur 部署文档，Models API 支持 CLI 格式 
- 新增 Zeabur 平台部署指南文档
- Models API 格式列表增加对应的 CLI 格式支持
 2026-01-28 12:06:48 +08:00
fawney19
bd843bca61 feat: 使用量轮询接口添加 API 格式转换字段 
- 前端：添加 api_format、endpoint_api_format、has_format_conversion 类型定义
- 前端：轮询时同步更新格式转换相关字段
- 后端：查询时返回格式转换字段，包含历史数据兼容逻辑
- 后端：优化 import 位置提升性能
 2026-01-28 11:24:37 +08:00
fawney19
5c80be92c9 refactor: 使用 data_format_id 重构格式兼容性判断逻辑 
- 在 ApiFormatDefinition 中新增 data_format_id 字段标识数据格式
- 新增 can_passthrough() 函数判断格式间是否可透传
- 重构 compatibility.py 使用 data_format_id 替代 get_base_format()
- 使用量记录支持从 endpoint 回填格式信息（兼容历史数据）
- 前端优化格式转换显示逻辑，区分跨格式转换和同族格式差异
- 首页 header 响应式布局优化
 2026-01-28 11:07:23 +08:00
fawney19
c1d7b13e7a feat: 使用量记录添加格式转换字段 
- cli_handler_base 添加 needs_conversion 变量跟踪格式转换状态
- 用户使用量查询响应新增 endpoint_api_format 和 has_format_conversion 字段
 2026-01-28 10:01:19 +08:00
fawney19
865be3a6bf feat: 添加异步使用量记录队列系统 
- 新增 QueueTelemetryWriter 支持通过内存队列异步记录使用量
- 新增 UsageQueueConsumer 消费者，支持批量处理和流式消费
- 重构 StreamTelemetryRecorder 支持队列写入模式
- UsageService 新增 record_usage_batch 批量记录方法
- 新增 USAGE_QUEUE_ENABLED 和 USAGE_QUEUE_INCLUDE_BODIES 配置项
- 状态值新增 cancelled 类型支持
 2026-01-28 09:54:18 +08:00
fawney19
b97e029c82 refactor: 重构 CleanupScheduler 为 MaintenanceScheduler，新增 Provider 自动签到任务 
- 将 cleanup_scheduler.py 重命名为 maintenance_scheduler.py
- CleanupScheduler 重命名为 MaintenanceScheduler，保留向后兼容别名
- 新增 Provider 自动签到定时任务（每天凌晨 1:05 执行）
- 前端新增定时任务配置区域，支持开关 Provider 自动签到
- 新增 enable_provider_checkin 系统配置项

Close #112
 2026-01-28 02:04:45 +08:00
fawney19
91a30adfc4 feat: 用户模型目录支持格式转换 
为 /api/users/me/available-models 端点添加格式转换支持，
确保显示所有可通过任意客户端格式访问的模型。

- 新增 _get_all_available_provider_ids 方法
- 检查 OPENAI/CLAUDE/GEMINI 三种格式的兼容性
- 优化 DB 查询从 6 次减少到 2 次
- 与 /v1/models API 逻辑保持一致
 2026-01-28 01:45:19 +08:00
fawney19
af0daa91ad refactor: 将格式转换全局开关迁移到环境变量配置 
- 新增 FORMAT_CONVERSION_ENABLED 环境变量（默认开启）
- 移除数据库中的 format_conversion_enabled 系统配置
- 移除前端系统设置页面的格式转换开关 UI
- 统一同族格式转换（OPENAI/OPENAI_CLI）逻辑，也需检查全局开关和端点配置
- 流生成器使用 ctx.needs_conversion 替代 _needs_format_conversion 方法调用
- 更新测试用例适配新逻辑
- 清理 .env.example 中过时的超时和连接池配置注释
 2026-01-28 01:22:39 +08:00
fawney19
1e0255d0ed feat: 优化批量余额查询和用户模型权限检查 
- 添加批量余额查询并发限制，避免数据库连接池耗尽
- 支持余额加载 pending 状态和前端自动重试机制
- 添加用户可用模型 API，统一使用 AccessRestrictions
- 修复用户表单编辑时数组引用共享导致的数据覆盖问题
- 添加数据库连接池配置说明到 .env.example
 2026-01-28 01:01:05 +08:00
fawney19
8e0695e9d9 Merge branch 'NyaDoo/master' 2026-01-28 00:10:00 +08:00
fawney19
c732a03263 feat: 添加格式转换追踪、模型过滤规则和 Provider 超时配置 
1. Usage 格式转换追踪
   - 新增 endpoint_api_format 和 has_format_conversion 字段
   - 在用量记录中显示格式转换信息（请求格式 → 端点格式）
   - 兼容历史数据的回填逻辑

2. Provider API Key 模型过滤规则
   - 新增 model_include_patterns 和 model_exclude_patterns 字段
   - 支持 * 和 ? 通配符，不区分大小写
   - 自动获取模型时应用过滤规则

3. Provider 超时配置
   - 新增 stream_first_byte_timeout 和 request_timeout 字段
   - 支持每个 Provider 单独配置超时时间
   - 优先使用 Provider 配置，否则回退到全局配置

Close #122, Close #123

Co-Authored-By: AAEE86 <33052466+AAEE86@users.noreply.github.com>
 2026-01-28 00:06:49 +08:00
fawney19
3c0bf5fdae fix: 修复同族 API 格式转换判断逻辑 
- OPENAI 和 OPENAI_CLI 使用不同协议（Chat Completions vs Responses API），需要转换
- CLAUDE/CLAUDE_CLI、GEMINI/GEMINI_CLI 格式相同仅认证不同，可透传
- 添加 max_completion_tokens 参数支持（OpenAI 新参数名）
- 移除登录表单冗余的 keyup.enter 事件处理
 2026-01-27 21:59:12 +08:00
NyaDoo
0c8c774642 Merge branch 'fawney19:master' into master 2026-01-27 14:03:06 +08:00