+25
-9
@@ -167,21 +167,37 @@ Codex 工具兼容现状:
|
||||
|
||||
### 超大流式请求
|
||||
|
||||
上游流式断流有两个独立触发维度,状态不同:
|
||||
|
||||
> [!WARNING]
|
||||
> 2026-07 实测:OCI xAI 兼容面对**完整请求体超过约 82 KB** 的流式请求,
|
||||
> 可能在推理阶段提前断流;该现象由请求体积触发,与工具构成或字符集无关,
|
||||
> 同一请求改为非流式可正常完成。
|
||||
> **instructions + tools 合计超过约 64.5 KB** 的流式请求,上游会在推理阶段
|
||||
> 静默断连(纯 EOF,无 error / 终态事件);同请求非流式总是成功,`input`
|
||||
> 正文完全不计入。2026-07-13 定位(字节级二分),**2026-07-16 复测仍存在**
|
||||
> (70.4 KB 断 / 59.7 KB 过,Chicago,API Key 与签名行为一致)。
|
||||
|
||||
网关按协议采取不同保护:
|
||||
> [!NOTE]
|
||||
> **完整请求体超过约 82 KB**(含 input)的纯体积断流(2026-07-15 定位)
|
||||
> **已被上游修复**:2026-07-16 复核 83 KB、真实 codex 形态 104.5 KB、200 KB、
|
||||
> 400 KB 流式均正常完成(Chicago 与 Phoenix 两区、签名与 API Key 两路径对照)。
|
||||
|
||||
网关当前行为:
|
||||
|
||||
- **Responses**:兼容改写后的请求体超过 **76 KB** 时,预防性改为非流式上游
|
||||
请求,再合成最小 SSE 序列(`response.created` →
|
||||
`response.output_item.done` → `response.completed`);结果语义保留,但没有增量输出
|
||||
- **Chat Completions / Messages**:若上游在客户端收到任何内容前断流,自动用
|
||||
非流式重做,并合成对应 chunk / event 序列
|
||||
非流式重做,并合成对应 chunk / event 序列(可兜住 64.5 KB 断流)
|
||||
- **Responses**:直通协议中途无法透明重试(客户端已收到事件)。流式保险丝按
|
||||
`instructions + tools` 字节和判定:超过阈值时预防性改非流式上游 + 合成最小
|
||||
SSE 事件序列(`response.created` → `response.output_item.done` →
|
||||
`response.completed`),语义保留但无增量输出。默认开、60 KB,可在
|
||||
**设置 → AI → 流式保险丝** 调整或关闭
|
||||
- **已开始输出的流**:不能透明重试;调用日志会记录提前终止,客户端可能只拿到
|
||||
部分事件
|
||||
|
||||
### grok 服务端搜索工具默认注入
|
||||
|
||||
对 `xai.` 前缀模型的 Responses 请求,网关按开关默认注入 `web_search` /
|
||||
`x_search` 工具;请求 tools 已包含同名工具时保持原样,不覆盖参数。默认双开,
|
||||
可在 **设置 → AI → grok 服务端搜索工具** 关闭。
|
||||
|
||||
### ZDR 与文件输入
|
||||
|
||||
Responses 的 `input_file` 内容块(`file_url` / `file_data`)实测会被上游拒绝:
|
||||
@@ -239,7 +255,7 @@ Codex 工具兼容改写。请求会重新编码,不承诺字节级原样转
|
||||
| `reasoning` | ➡️ | 整个对象保留;`effort` 不校验档位 |
|
||||
| `tool_choice` | ◐ | 普通形态保留;namespace 对象会重限定,全部工具被剥离时删除 |
|
||||
| `store` | 🔄 | 无论客户端传什么,上游请求都强制改写为 `false` |
|
||||
| `stream` | ◐ | 支持 SSE;请求体超过 76 KB 时改为非流式上游并合成 SSE |
|
||||
| `stream` | ◐ | 支持 SSE;网关按 instructions+tools 字节和触发预防性非流式回退(保险丝,默认开 60 KB,见[已知限制](#limitations)) |
|
||||
| 其余标准与未知顶层字段 | ➡️ | `context_management`、`include`、`metadata`、`prompt`、`prompt_cache_key`、`service_tier`、`truncation`、`user` 等均保留,由 OCI 决定是否接受 |
|
||||
|
||||
</details>
|
||||
|
||||
Reference in New Issue
Block a user