#221·nano-vllm

[讨论] 由于 vLLM-Omni 也很复杂,我尝试根据 nano-vllm 构建一个最小版本(约 1k 行代码)

作者: Rising0321创建于 2026年5月1日更新于 2026年5月1日

受 nano-vLLM 的启发,我构建了 **nano-vLLM-omni** - 一个使用约 1,079 行 Python 编写的最小 vLLM-Omni 式扩散引擎。它保留了核心思想(请求/调度器/运行程序/流程 + 分步扩散执行),但将其简化,使执行流程更易于跟踪和修改。 目前支持在单个 RTX 3090 上运行的 Wan2.2-TI2V-5B。在一个简单的基准测试中,它的执行速度比官方的 vllm-omni 路径快约 9.1%。

内容来源: GeeeekExplorer/nano-vllm