mirror of
https://github.com/fawney19/Aether.git
synced 2026-09-02 17:30:23 +08:00
1d9c77522a
- 删除全部 Python 源码 (src/) 及 Alembic 迁移脚本，归档至 _deprecated_py_src/ - 重构 Rust gateway ai_pipeline: 拆分 planner/finalize 模块，新增 contracts/adaptation 层 - 重组 handlers 模块为 admin/public/proxy/internal/shared 子模块结构 - 新增 executor 模块，引入 Rust 原生数据库迁移 (aether-data/migrations) - 简化 CI/Docker 构建流程，移除 base image 二级构建，统一为单一 app image - 移除 Python 相关基础设施文件 (entrypoint.sh, gunicorn_conf.py, Dockerfile.base)
128 lines
3.6 KiB
Python
128 lines
3.6 KiB
Python
"""
|
||
OpenAI Chat Handler - 基于通用 Chat Handler 基类的简化实现
|
||
|
||
继承 ChatHandlerBase，只需覆盖格式特定的方法。
|
||
代码量从原来的 ~1315 行减少到 ~100 行。
|
||
"""
|
||
|
||
from __future__ import annotations
|
||
|
||
from typing import Any
|
||
|
||
from starlette.requests import Request
|
||
|
||
from src.api.handlers.base.chat_handler_base import ChatHandlerBase
|
||
from src.core.api_format import ApiFamily, EndpointKind
|
||
|
||
|
||
class OpenAIChatHandler(ChatHandlerBase):
|
||
"""
|
||
OpenAI Chat Handler - 处理 OpenAI Chat Completions API 格式的请求
|
||
|
||
格式特点：
|
||
- 使用 prompt_tokens/completion_tokens
|
||
- 不支持 cache tokens
|
||
- 请求格式：OpenAIRequest
|
||
"""
|
||
|
||
FORMAT_ID = "openai:chat"
|
||
API_FAMILY = ApiFamily.OPENAI
|
||
ENDPOINT_KIND = EndpointKind.CHAT
|
||
|
||
def extract_model_from_request(
|
||
self,
|
||
request_body: dict[str, Any],
|
||
path_params: dict[str, Any] | None = None, # noqa: ARG002
|
||
) -> str:
|
||
"""
|
||
从请求中提取模型名 - OpenAI 格式实现
|
||
|
||
OpenAI API 的 model 在请求体顶级字段。
|
||
|
||
Args:
|
||
request_body: 请求体
|
||
path_params: URL 路径参数（OpenAI 不使用）
|
||
|
||
Returns:
|
||
模型名
|
||
"""
|
||
model = request_body.get("model")
|
||
return str(model) if model else "unknown"
|
||
|
||
def apply_mapped_model(
|
||
self,
|
||
request_body: dict[str, Any],
|
||
mapped_model: str,
|
||
) -> dict[str, Any]:
|
||
"""
|
||
将映射后的模型名应用到请求体
|
||
|
||
OpenAI API 的 model 在请求体顶级字段。
|
||
|
||
Args:
|
||
request_body: 原始请求体
|
||
mapped_model: 映射后的模型名
|
||
|
||
Returns:
|
||
更新了 model 字段的请求体
|
||
"""
|
||
result = dict(request_body)
|
||
result["model"] = mapped_model
|
||
return result
|
||
|
||
async def _convert_request(self, request: Request) -> None:
|
||
"""
|
||
将请求转换为 OpenAI 格式的 Pydantic 对象
|
||
|
||
注意：此方法只做类型转换（dict → Pydantic），不做跨格式转换。
|
||
跨格式转换由调度/执行层（TaskService + RequestDispatcher）在选中候选后、发送请求前执行，
|
||
并受全局开关和端点配置控制。
|
||
|
||
Args:
|
||
request: 原始请求对象（应已是 OpenAI 格式）
|
||
|
||
Returns:
|
||
OpenAIRequest 对象
|
||
"""
|
||
from src.models.openai import OpenAIRequest
|
||
|
||
# 如果已经是 OpenAI 格式 Pydantic 对象，直接返回
|
||
if isinstance(request, OpenAIRequest):
|
||
return request
|
||
|
||
# 如果是字典，转换为 Pydantic 对象（假设已是 OpenAI 格式）
|
||
if isinstance(request, dict):
|
||
return OpenAIRequest(**request)
|
||
|
||
return request
|
||
|
||
def _extract_usage(self, response: dict) -> dict[str, int]:
|
||
"""
|
||
从 OpenAI 响应中提取 token 使用情况
|
||
|
||
OpenAI 格式使用：
|
||
- prompt_tokens / completion_tokens
|
||
- 不支持 cache tokens
|
||
"""
|
||
usage = response.get("usage", {})
|
||
|
||
return {
|
||
"input_tokens": usage.get("prompt_tokens", 0),
|
||
"output_tokens": usage.get("completion_tokens", 0),
|
||
"cache_creation_input_tokens": 0,
|
||
"cache_read_input_tokens": 0,
|
||
}
|
||
|
||
def _normalize_response(self, response: dict) -> dict:
|
||
"""
|
||
规范化 OpenAI 响应
|
||
|
||
Args:
|
||
response: 原始响应
|
||
|
||
Returns:
|
||
规范化后的响应
|
||
"""
|
||
# 作为中转站，直接透传响应，不做标准化处理
|
||
return response
|