显示每个模型的内存使用情况(每进程的 VRAM 遍历已经计算出来,然后丢弃了分割结果)
作者: YourYoungerBrothersPug创建于 2026年9月10日更新于 2026年9月13日
标签enhancement
Describe the solution you'd like
Per-model resident memory on /system, as optional per-entry fields:
内容来源: mudler/LocalAI
Describe the solution you'd like
Per-model resident memory on /system, as optional per-entry fields:
内容来源: mudler/LocalAI