#38153·openvino

[性能]:[GPU] 每个序列有 2-4 个查询标记的 PagedAttention(预测性解码验证)的速度比在相同上下文中单标记解码慢约 8 倍

作者: jason11489创建于 2026年9月15日更新于 2026年9月18日
标签performancesupport_request

OpenVINO 版本

内容来源: openvinotoolkit/openvino