vLLM (0.11.0>=) 与 Dolphin 无法兼容。遇到以下问题: ModuleNotFoundError: 没有名为 'vllm.model_executor.models.bart' 的模块

我按照使用 vllm 与 Dolphin 的步骤进行了操作。我按照这里的文档中所述安装了插件:。我将尝试降级 vllm,希望它会正常工作 - 但我只是想提一下。https://GitHub.com/bytedance/Dolphin/tree/master/deployment/vllm。