lmdeploy · Issues· 597 开放

[功能] 现在是否可以支持模型 GLM-5.3-Flash-W4A16-MTP 的运行？

[错误]

[错误] 代理连接预热可能累积无限的 PD 连接等待任务和内存不足

[错误] DistServe 代理请求可能会泄露预填调度器元数据并导致预填引擎内存耗尽

[错误] 可信度低的 `migration_request` 可能会终止 DistServe 解码引擎循环,从而导致持续拒绝服务

[错误] 月饼异步迁移可能永远卡死,导致 Decode 不可用

[错误] /update_weights 在验证之前解序列化了请求控制的 pickle 数据

[错误] 与 v0.14 相比, v0.17 的解码速度较慢

[增强] 不应将控制令牌视为用户消息中的特殊令牌

[错误] 从前缀缓存中省略了 input_embeddings,导致错误的 KV 重用

[功能] 我们最新版本的 lmdeploy 是否可以加载这个 Qwen3.8-Flash？

[错误] TurboMind SIGSEGV 死循环是由 session_len 裁减路径引发的 (在 3 次崩溃中确定的 libc 偏移量)

[错误] 月饼外部 KV 密钥未包含 KV 格式和权重来源,且没有默认租户隔离

[特性] DeepSeek-V4 MoE 仅通过 DeepGEMM 使用 Blackwell - 是否需要非 Blackwell 路径?

[功能] 支持 DFlash: 闪存推测解码的区块扩散