fawney19
|
53bf74429e
|
refactor: 重构流式处理模块，提取 StreamContext/Processor/Telemetry
- 将 chat_handler_base.py 中的流式处理逻辑拆分为三个独立模块：
- StreamContext: 类型安全的流式上下文数据类，替代原有的 ctx dict
- StreamProcessor: SSE 解析、预读、嵌套错误检测
- StreamTelemetryRecorder: 统计记录（Usage/Audit/Candidate）
- 将硬编码配置外置到 settings.py，支持环境变量覆盖：
- HTTP 超时配置（connect/write/pool）
- 流式处理配置（预读行数、统计延迟）
- 并发控制配置（槽位 TTL、缓存预留比例）
|
2025-12-12 15:42:45 +08:00 |
|