[FEAT]: 本地模型加载状态

作者: shatfield4创建于 2026年9月17日更新于 2026年9月17日
标签enhancementfeature request

您想看到什么? 对于本地提供商如 Ollama、LMStudio、Lemonade 来说,有一种方法可以轻松检测我们即将开始运行推理的模型是否已加载。 在新的代理会话中,当我们知道模型尚未加载时,我们应该在活动链 UI 中报告"将模型加载到内存"的状态。 在某些系统上,此加载可能需要很长时间,因此至少要提醒用户此延迟或加载状态,我们应该报告此项。 如果模型已加载,则不要推送任何内容。

内容来源: Mintplex-Labs/anything-llm