溢出图像恢复使用固定的 16 MiB 预算,超出了较小的提供者请求限制

发生了什么事?

在 pi 0.85.1 中,一个拥有 6 MiB 请求- body 限制返回“ request too group” 的提供者。 过度流量检测会触发收缩,但重试仍然超大小. `CapImages ToByteBudget ()' 使用由 Anthropic 32 MiB 限制产生的固定的16 MiB 图像预算,因此它可能不会对限制较小的提供者丢出图像。 本届会议仍然无法继续。

这似乎是继"2734"和"5369"后仍然存在的供货商-独立漏洞. 在大赦国际协助下编写,并根据观察到的错误和当前来源进行审查。

• 复制步骤

1. 配置一个兼容的OpenAI供应商,其HTTP请求限制为6 MiB.
2. 构建一个会话,其保留文本加图像数据超过6个米B,但其图像仍低于16个米B。
3. 发出转弯并接收 " 请求太大 " 。
4. Pi 紧凑和重试,但重建请求仍然超过6 MiB.

观察到的提供者错误报告 " 请求体的最大字节上限:6291456 " 。

预期行为

过度流量回收应使用提供者/模型-意识请求字节预算,或逐步减少串行有效载荷,直至其小于失败的请求限制. 固定的16个MIB图像预算无法保证各供应商的恢复。

翻译:

0.85.1 (单位:千美元)